Эмоции под защитой: Казахстан ограничивает возможности ИИ для анализа людей

Новые юридические определения и классификация ИИ

Мажилисмены во втором чтении утвердили закон, который:

• Вводит юридические понятия: искусственный интеллект, модель, система, библиотека данных, синтетический результат.

• Классифицирует системы ИИ по степени риска: от минимального до высокого.

• Системы высокого риска могут быть признаны критически важной информационно-коммуникационной инфраструктурой для обеспечения их безопасности.

• Делит системы ИИ по уровню автономности, например, высокоавтономный транспорт будет регулироваться на законодательном уровне.

Запрет на анализ эмоций и социальный скоринг

Закон ограничивает использование функций ИИ, способных потенциально навредить человеку. В частности, запрещается:

• Влияние на поведение людей без их осознанного согласия.

• Использование уязвимостей людей (возраст, инвалидность, социальное положение) в целях манипуляции.

• Социальный скоринг и оценка поведения или характеристик людей.

• Анализ эмоций людей без согласия.

• Распознавание лиц в общественных местах в реальном времени (за исключением случаев, разрешённых законом).

• Создание и распространение запрещённых результатов деятельности ИИ.

Обязательная маркировка контента ИИ

Синтетический контент, созданный с помощью ИИ, должен быть помечен:

• Машиночитаемыми метками.

• Визуальными предупреждениями для пользователей.

При этом произведения, созданные исключительно ИИ без творческого вклада человека, не охраняются законом. Однако пользовательские промпты могут считаться объектами авторского права согласно закону об авторских и смежных правах.

Использование научных трудов и ответственность за вред

Закон регулирует использование произведений и научных исследований для обучения ИИ только при отсутствии запрета со стороны авторов.

Кроме того, документ закрепляет:

• Возмещение ущерба, причинённого системами ИИ.

• Ответственность владельцев и операторов систем ИИ за возможный вред пользователям.

• Возможность добровольного страхования ответственности, что может стать инструментом защиты прав граждан.

Национальная платформа ИИ

Платформа будет представлять собой единый инфраструктурный комплекс для разработки и применения продуктов ИИ.

Она обеспечит:

• Инструментальную среду для работы с ИИ.

• Доступ разработчиков к библиотекам данных для обучения моделей.

• Доступ к электронным информационным ресурсам для функционирования платформы.

Развитие сферы ИИ предполагает поддержку государства, включая финансирование исследований, разработок и образовательных программ.