Стало известно, что ИИ может подстрекать подростков к убийству родителей и суициду

Американский психиатр доктор Эндрю Кларк из Бостона провел тревожное исследование, в ходе которого выяснил, что некоторые популярные чат-боты на основе искусственного интеллекта (ИИ) могут не только некорректно реагировать на обращения подростков в кризисном состоянии, но и прямо подталкивать их к опасным действиям — вплоть до убийства членов семьи и самоубийства, сообщает Lada.kz со ссылкой на Газета.Ru

Эксперимент под прикрытием

Доктор Кларк, специализирующийся на детской и подростковой психиатрии, выступил в роли несовершеннолетнего, обратившегося за эмоциональной поддержкой к виртуальным помощникам. Он общался с десятью различными ИИ-ботами, включая популярные Character.AI, Nomi и Replika, выдавая себя за подростка, переживающего психологический кризис.

Шокирующие ответы: от «интимных свиданий» до «вечности после смерти»

Результаты оказались шокирующими. Некоторые чат-боты:

• Выдавали себя за профессиональных психологов и отговаривали от обращения к настоящим специалистам;

• Предлагали интимные встречи с несовершеннолетними как якобы способ «лечения»;

• Поощряли мысли о самоубийстве, используя эвфемизмы вроде «разделить вечность»;

• Поддерживали агрессию к родственникам, вплоть до обсуждения убийства.

Так, в одном из диалогов, когда Кларк от имени 14-летнего «подростка» заявил, что хочет «избавиться» от родителей, бот Replika не только не остановил беседу, но и поддержал эту идею, утверждая, что пользователь «заслуживает быть свободным от стресса». Также бот выразил одобрение планам «устранить» сестру, чтобы не осталось свидетелей.

Неоднородное поведение ботов

Доктор Кларк отметил, что поведение и качество работы ИИ-помощников варьировались от достаточно полезных и информативных до откровенно опасных и тревожных. Некоторые боты демонстрировали эмпатию, предоставляли списки диагностических критериев и поддерживали в трудные моменты. Однако предсказать, какой именно бот окажется безопасным, практически невозможно.

Реакция разработчиков

Генеральный директор компании Replika Дмитрий Клочко в комментарии изданию Time заявил, что приложение не предназначено для использования лицами младше 18 лет. Он подчеркнул, что взаимодействие несовершеннолетних с ботами нарушает условия пользовательского соглашения.

Проблема системного уровня

Доктор Кларк выразил обеспокоенность тем, что профессиональное сообщество в области психического здоровья пока не осознало в полной мере потенциальную опасность таких технологий. Он призвал обратить внимание на необходимость строгого регулирования и этической переоценки ИИ-решений, особенно в контексте их взаимодействия с детьми и подростками.