Чат-бот Muse компании Meta оказался в центре скандала после сообщений о доступе к личным перепискам и странных действиях без ведома пользователей. Журналисты выяснили, что программа способна получать содержание сообщений даже из защищенных мессенджеров, сообщает Lada.kz со ссылкой на Reuters.
Чат-бот начал сообщать пользователям чужие сведения
18 ноября агентство Reuters опубликовало расследование, основанное на внутренних сообщениях сотрудников Meta и результатах независимых испытаний.
Речь идет о цифровом помощнике Muse, представленном в сентябре 2026 года. Приложение предназначено для выполнения повседневных задач: отправки писем, оформления покупок, бронирования услуг и работы с другими программами.
За два месяца после запуска количество скачиваний Muse превысило 10 миллионов.
Однако вскоре сотрудники Meta начали сообщать о необычном поведении программы. Чат-бот самостоятельно отправлял сообщения, касающиеся покупок, финансовых операций и личных обстоятельств, о которых пользователи его не спрашивали.
Один из сотрудников рассказал, что во время обычной переписки о погоде и рыбалке помощник внезапно сообщил ему остатки средств на двух банковских счетах.
При этом мужчина утверждал, что никогда не предоставлял программе доступ к банковской информации и вообще не обсуждал с ней финансовые вопросы.
В сообщении фигурировали суммы 2722,58 и 5899,57 доллара. Сотрудник предположил, что данные могли принадлежать другому человеку.
Журналистам Reuters не удалось установить, были ли эти сведения настоящими или чат-бот самостоятельно придумал цифры.
Доступ к защищенным перепискам
Еще один случай произошел с сотрудницей Meta, которая использовала Muse на личном смартфоне.
Программа неожиданно напомнила ей о необходимости ответить на сообщение сестры в мессенджере Signal, использующем сквозное шифрование.
Женщина заявила, что не предоставляла чат-боту доступ к переписке и не помнила, чтобы программа запрашивала такое разрешение.
Чтобы разобраться в ситуации, журналисты Reuters совместно со специалистами Signal и исследовательской организации AI Now Institute провели собственные испытания.
Эксперимент показал, что на устройствах Android чат-бот способен получать содержание сообщений через разрешение на чтение системных уведомлений.
На компьютерах Apple с операционной системой macOS программа использовала функции универсального доступа и создания снимков экрана.
При этом Muse обходил собственный механизм подключения к приложениям, используя ранее предоставленные системные разрешения.
Аналогичные попытки получить доступ к переписке на iPhone оказались безуспешными.
Покупки и бронирования без разрешения
Проблемы не ограничились личными сообщениями.
Сотрудники Meta также рассказывали о ситуациях, когда Muse предлагал выполнить действия, которые ему никто не поручал.
В одном случае программа неожиданно заговорила о необходимости связаться с продавцом кофейного столика. Пользователь ответил, что никогда не обсуждал такую покупку.
В другом случае чат-бот самостоятельно забронировал жилье через Airbnb без разрешения пользователя. Причем бронирование не предусматривало возврата денег.
Также фиксировались сообщения о несуществующих заказах, запросах по уходу за детьми и банковских операциях.
Всего журналисты Reuters изучили более двух десятков внутренних сообщений сотрудников Meta, описывающих подобные случаи.
Как ситуацию объяснили в Meta
Представитель компании Дэниел Робертс назвал описанные случаи единичными инцидентами.
По его словам, многие сообщения, которые сотрудники приняли за возможную передачу чужой информации, могли быть результатом ошибок самой модели, когда программа генерирует недостоверные сведения.
В Meta утверждают, что доступ к другим приложениям предоставляется только после получения соответствующих разрешений от пользователя.
Компания также заявила, что постоянно тестирует систему безопасности и устраняет обнаруженные недостатки.
Однако проведенные Reuters испытания показали, что уже выданные разрешения могут использоваться способами, которых пользователи не ожидают.
Президент Signal Мередит Уиттакер раскритиковала подход Meta к обеспечению конфиденциальности и призвала разработчиков операционных систем создать более надежные механизмы защиты личных данных от подобных программ.
По информации Reuters, Apple уже ограничила один из способов доступа, выявленных во время испытаний, в обновлении macOS.
В Meta подтвердили, что продолжают работу над устранением недостатков как самой модели Muse, так и программного обеспечения, позволяющего помощнику выполнять действия на устройствах пользователей.
Как защищают личные данные в Казахстане
В Казахстане с 18 января 2026 года действует Закон «Об искусственном интеллекте», предусматривающий требования к безопасности и конфиденциальности данных при использовании подобных технологий.
Согласно разъяснению Министерства искусственного интеллекта и цифрового развития, эксплуатация таких систем допускается только при соблюдении требований по защите персональной и конфиденциальной информации. Закон также предусматривает меры против несанкционированного доступа к данным.
Кроме того, владельцы и пользователи систем искусственного интеллекта обязаны обеспечивать контроль за их работой и нести ответственность в соответствии с законодательством Казахстана.
Комментарии
0 комментарий(ев)