Новый закон в Казахстане: изменения затронут всех жителей страны

Высшая ценность человека и сохранение автономии

Главный принцип нового закона — человек и его свобода воли остаются высшей ценностью. Любые системы искусственного интеллекта не должны ограничивать способность граждан принимать осознанные решения. Автономия человека должна сохраняться на всех этапах взаимодействия с ИИ.

Министерство подчеркивает: технологии должны быть помощником, а не заменой для критического мышления и личной инициативы.

Принципы безопасного и справедливого ИИ

Закон закрепляет ключевые принципы применения искусственного интеллекта:

• Справедливость и равенство — алгоритмы не должны создавать дискриминацию.

• Прозрачность и объяснимость — пользователи должны понимать, как работают ИИ-системы.

• Ответственность и подконтрольность — все участники жизненного цикла системы несут ответственность за её действия.

• Защита данных и конфиденциальности — персональная информация должна быть надежно защищена.

• Безопасность и надежность — системы должны быть проверены на корректность и минимизацию рисков.

Каждому гражданину предоставляется информация о возможностях и ограничениях ИИ, а также о последствиях автоматизированной обработки данных и способах защиты своих прав.

Распределение ответственности и контроль

Закон четко разделяет ответственность между:

• владельцами систем ИИ,

• операторами и разработчиками,

• конечными пользователями.

Все они обязаны:

• постоянно контролировать работу систем,

• управлять рисками,

• нести ответственность за результаты применения ИИ в соответствии с законодательством Казахстана.

Экологическая и энергоэффективная эксплуатация

Создание и эксплуатация ИИ-систем должны соответствовать требованиям энергоэффективности и минимизировать негативное воздействие на окружающую среду.

При этом соблюдение правил защиты персональных данных и конфиденциальной информации обязательно: системы должны предотвращать несанкционированный доступ, использовать качественные данные и обеспечивать надежность.

Классификация ИИ по рискам и автономности

Закон вводит две важные классификации систем искусственного интеллекта:

1. По уровню риска:

   • минимальный,

   • средний,

   • высокий.

Системы высокого риска, особенно используемые в критически важных сферах или государственных информационных ресурсах, приравниваются к государственным по стандартам информационной безопасности.

2. По уровню автономности:

   • системы с участием человека,

   • полностью автономные решения.

Запретные практики и ограничения

На территории Казахстана запрещено создание и использование ИИ-систем, которые:

• манипулируют людьми подсознательно;

• используют уязвимость по возрасту, состоянию здоровья или социальному положению;

• проводят социальную или биометрическую дискриминацию;

• определяют эмоции без согласия человека;

• нарушают законодательство о персональных данных;

• создают и распространяют запрещённый контент.

Прозрачность и синтетический контент

Все товары, услуги или произведения, созданные с помощью ИИ, должны быть помечены и сопровождаться понятным предупреждением для пользователей.

Произведения, созданные с ИИ, охраняются авторским правом только при наличии творческого вклада человека. Текстовые запросы (промпты), созданные человеком, также защищены законом. Использование этих произведений для обучения моделей допустимо только при отсутствии запрета со стороны автора.

Важный шаг к безопасной цифровой экономике

Вступление закона в силу обозначает новый этап формирования безопасной, ответственной и ориентированной на человека модели развития искусственного интеллекта в Казахстане. Документ обеспечивает баланс между инновациями, защитой прав граждан и устойчивым развитием цифровой экономики страны.