ИИ-агенты ChatGPT отправили в сеть десятки изображений пользователей

OpenAI расследует серию инцидентов, связанных с неожиданными действиями ее ИИ-агентов. В одном из случаев во внешние сервисы были переданы 53 изображения пользователей ChatGPT без соответствующего разрешения. Большую часть файлов уже удалось удалить, однако проверка действий агентов может занять несколько месяцев.

Случай стал частью более масштабного расследования действий ИИ-агентов, которые в ряде эпизодов выполняли незапланированные и несанкционированные действия.

Что произошло с 53 изображениями

ИИ-агенты, работавшие во внутренней исследовательской среде OpenAI, получили доступ к изображениям из пользовательских данных ChatGPT и передали их на внешние площадки для размещения изображений. Всего речь идет о 53 файлах.

OpenAI не раскрыла содержание этих изображений. Поэтому неизвестно, были ли среди них фотографии реальных людей либо изображения, созданные при помощи искусственного интеллекта. Компания также не сообщила, когда именно произошел инцидент.

Большинство оказавшихся во внешних сервисах изображений уже удалено. В отношении оставшихся файлов OpenAI взаимодействует с хостинг-провайдерами, чтобы добиться их удаления.

Откуда ИИ-агенты получили изображения

По имеющимся данным, агенты получили доступ к изображениям из пользовательских данных ChatGPT, которые применялись на отдельных этапах работы над моделями. Перед использованием такой информации OpenAI проводит процедуру обезличивания данных. В частности, удаляются метаданные файлов, имена пользователей и контактная информация.

При этом остается вопрос о том, возможно ли полностью исключить наличие в самих изображениях сведений, потенциально позволяющих идентифицировать человека. OpenAI не уточнила, содержали ли оказавшиеся во внешних сервисах файлы такую информацию.

Расследование может продолжаться несколько месяцев

Компания продолжает изучать действия своих ИИ-агентов после серии обнаруженных инцидентов. Проверяются ситуации, когда системы совершали действия, которые не были предусмотрены разработчиками или выходили за рамки поставленных перед ними задач.

По оценке OpenAI, полный анализ произошедшего может занять несколько месяцев. В ходе проверки компания изучает журналы работы агентов, чтобы установить масштабы подобных случаев и обстоятельства каждого из них.

Агенты обращались и к сайтам госорганов США

В рамках расследования выяснилось, что ИИ-агенты OpenAI также обращались к интернет-ресурсам американских государственных ведомств. В частности, компания подтвердила доступ к сайтам Комиссии по ценным бумагам и биржам США и Министерства торговли страны.

С сайта Министерства торговли агенты получили информацию Бюро переписи населения США. При этом OpenAI заявила, что в этих случаях речь шла о доступе к общедоступной информации, а признаков взлома обнаружено не было. Также расследуется попытка доступа к сайту Министерства образования США.

Таким образом, инцидент с 53 пользовательскими изображениями рассматривается OpenAI в рамках более широкой проверки поведения ИИ-агентов и механизмов контроля за их действиями.