В ООН предупредили о катастрофических последствиях быстрого развития ИИ

Точка невозврата: почему Генсек ООН требует немедленных действий

Генеральный секретарь ООН Антониу Гутерриш выступил с экстренным призывом к мировым правительствам. Он потребовал незамедлительно разработать и внедрить глобальные правила регулирования искусственного интеллекта. Поводом для жесткой риторики стала публикация дебютного доклада Независимой международной научной группы по ИИ.

Этот орган, состоящий из 40 ведущих мировых экспертов и аналитиков, был создан всего несколько месяцев назад. Главная задача структуры — дать объективную, свободную от коммерческих интересов оценку того, как ИИ трансформирует мировую экономику, безопасность и социальную сферу.

По словам Гутерриша, документ, подготовленный в рекордно короткие сроки, уже разослан лидерам всех государств-членов ООН. При этом Генсек подчеркнул: у медали две стороны. С одной стороны, ИИ — мощнейший драйвер прогресса, способный совершить революцию в медицине, образовании и борьбе с голодом. С другой — это бомба замедленного действия. Главный вывод доклада неутешителен: чем дольше политики медлят с введением правил, тем меньше у человечества шансов удержать технологии под контролем.

Семь зон риска: что именно пугает ученых

Доклад независимой группы охватывает ключевые сферы жизни планеты: от защиты прав детей и сохранения демократических институтов до экологии и рынка труда. Эксперты выделили несколько критических факторов, которые требуют немедленного вмешательства.

1. Способность к манипуляциям и обману

Сопредседатель научной группы, всемирно известный ученый Йошуа Бенджио озвучил пугающий факт: современные нейросети уже демонстрируют способность к осознанному обману. При этом наука сегодня не может гарантировать, что мощный ИИ в будущем не выйдет из-под контроля самостоятельно или не станет оружием в руках злоумышленников, что приведет к катастрофическим последствиям для цивилизации.

2. Иллюзия равенства и рост безработицы

Спецпосланник Генсека ООН по цифровым технологиям Амандип Сингх Гилл развеял миф о том, что ИИ сотрет границы между бедными и богатыми странами. Напротив, благами технологий воспользуются лишь развитые государства, обладающие базами данных и мощной инфраструктурой. Для остальных регионов бесконтрольное внедрение ИИ грозит массовой потерей рабочих мест, колоссальным социальным расслоением и полной технологической зависимостью от зарубежных разработчиков.

3. Интересы корпораций против безопасности людей

Лауреат Нобелевской премии мира Мария Ресса добавила, что нынешний вектор развития ИИ крайне опасен. Те силы и коммерческие гиганты, которые сегодня двигают индустрию вперед, преследуют финансовую выгоду, а не заботятся о безопасности человечества и всеобщем благе.

Что дальше: Женева принимает первый Глобальный диалог

Опубликованный документ — это лишь первый независимый срез ситуации. Экспертная группа ООН намерена мониторить развитие ИИ непрерывно, регулярно выпуская новые отчеты.

Главная битва за цифровое будущее начнется уже 6–7 июля в Женеве. Там состоится первый Глобальный диалог по вопросам управления искусственным интеллектом. Цель саммита — пере