Ваши тайны под угрозой: как чат-боты могут сдать вас корпорациям

Опасность утечки личной информации

Одним из главных рисков Орлова назвала уязвимость персональных данных. Пациенты, делящиеся с нейросетью своими сокровенными переживаниями, травмами и страхами, могут даже не подозревать, что их информация может быть использована во вред.

«Даже если данные обезличены, их в отдельных случаях можно деанонимизировать. Это открывает путь к манипуляциям, дискриминации или недобросовестному использованию со стороны третьих лиц или корпораций», — подчеркнула специалист.

ИИ не способен по-настоящему «почувствовать»

Еще один серьезный недостаток, по мнению Орловой, — неспособность искусственного интеллекта понимать тонкие эмоциональные сигналы.

«ИИ не чувствует и не сопереживает. Он не способен уловить невербальные проявления, такие как интонация, мимика или жесты. А ведь именно эти нюансы часто говорят о глубине эмоционального состояния пациента», — пояснила она.

Такой «цифровой психолог» может попросту не заметить тревожные сигналы, например, признаки острого эмоционального кризиса или суицидального состояния. В худшем случае он может выдать опасный совет, за который никто не понесет ответственности.

Алгоритмы тоже могут быть предвзяты

Несмотря на технологичность, алгоритмы, на которых работает ИИ, не лишены искажений.

«ИИ обучается на человеческих данных — а значит, унаследует и человеческие предубеждения. Это может приводить к неосознанной дискриминации по полу, возрасту, расе, а также к стигматизации психических состояний», — добавила Орлова.

Иллюзия замены: отложенный визит к врачу

Среди прочих опасностей — формирование у человека ложного убеждения, что ИИ может полностью заменить живого специалиста.

«Когда человек привыкает получать советы от чат-бота, он может откладывать визит к реальному врачу, даже если состояние требует срочной профессиональной помощи. Это особенно опасно при затяжных депрессиях, тревожных расстройствах и других психических нарушениях», — отметила психолог.

Кроме того, многие пациенты не осознают, как именно используются их откровения и кому они могут быть доступны в будущем.

ИИ — не враг, но и не лекарство

В заключение Екатерина Орлова подчеркнула: важно не противопоставлять технологии и человека, а научиться их разумно сочетать.

«Искусственный интеллект может быть полезным инструментом, но только в тандеме с профессиональной психологической помощью. Он не должен подменять живое участие, человеческое сопереживание и клинический опыт», — резюмировала эксперт.