В Казахстане намерены запретить системы искусственного интеллекта, которые исключают вмешательство в них человека. Об этом идет речь в проекте закона «Об искусственном интеллекте» и сопутствующих поправках, которые 3 марта презентовали в Мажилисе (нижней палате парламента).
Из них следует, что на территории Казахстана будет запрещено создание и внедрение систем, принимающих решения без возможности вмешательства человека, что «снизит вероятность неконтролируемых последствий». Кроме того, документ устанавливает требования к владельцам и разработчикам искусственного интеллекта предупреждать пользователей о том, что они взаимодействуют с ИИ, а также разъяснять принципы его работы, передает Vласть.kz.
Системы искусственного интеллекта в республике, согласно поправкам, будут классифицировать по степени риска. «Система низкого риска сегодня регуляторов не особо интересует, она будет развиваться в рынке. А система высокого и среднего риска будут регулироваться законопроектом, и эти механизмы заложены. Это системы, которые связаны с жизнью и здоровью человека, госуправлением и принятием решения», - пояснила депутат Мажилиса Екатерина Смышляева.
Еще один блок поправок касается усиленной защиты персональных данных и предотвращения манипуляций. В частности, вводятся строгие ограничения на использование искусственного интеллекта для оценки людей по социальным, биометрическим и поведенческим характеристикам, а также запрет на создание и использование ИИ, способного манипулировать поведением человека.
Наконец, документ готовит нормативную базу для создания национальной платформы ИИ. О ее необходимости говорят в республике не первый год. В 2023-м президент Касым-Жомарт Токаев заявил, что от успеха данной работы «зависит будущее Казахстана и его место в международном сообществе», пообещав лично курировать это направление.