ИИ все ближе к оружию: военные из 100 стран предупредили о новой угрозе

Около двух тысяч участников из 100 стран

Риски использования искусственного интеллекта в военной сфере стали одной из центральных тем Пекинского Сяншаньского форума по безопасности, который проходил с 15 по 17 сентября.

В трехдневной конференции приняли участие около двух тысяч военных, дипломатов, представителей оборонных ведомств и ученых из 100 стран.

Среди участников были представители оборонных структур стран региона, высокопоставленный представитель Пентагона, российские ученые, делегат из Северной Кореи и представители движения «Талибан».

На форуме обсуждались международная безопасность, региональные конфликты и стремительное развитие новых технологий. Отдельная дискуссия была посвящена рискам военного применения новых технологий и возможным механизмам контроля.

ИИ оставляет все меньше времени на решение

Одним из главных опасений стало резкое ускорение принятия решений.

Современные системы искусственного интеллекта способны за короткое время обрабатывать огромные объемы информации, анализировать ситуацию и помогать военным принимать решения. Однако в условиях вооруженного конфликта такая скорость может создавать дополнительные риски.

Секретарь Министерства обороны Пакистана Мухаммад Али обратил внимание на то, что технологическое развитие сокращает время, которое остается государствам для оценки происходящего и принятия стратегических решений.

По его словам, искусственный интеллект ускоряет принятие решений, тогда как дезинформация способна подорвать общественное доверие еще до того, как власти успеют эффективно отреагировать.

Опасения по поводу влияния ИИ также высказали представители Бангладеш, Малайзии и Лаоса.

Оружие становится все более самостоятельным

Еще одна проблема связана с развитием автономных систем вооружения — техники, способной выполнять все больше задач без непосредственного участия человека.

Вице-президент Международного комитета Красного Креста Юрг Лаубер отметил, что по мере роста автономности вооружений все более важным становится сохранение человеческого контроля над применением силы.

При этом специалисты не отрицают преимуществ новых технологий. Искусственный интеллект способен ускорять обработку разведывательной информации, помогать обнаруживать объекты и выполнять задачи в условиях, в которых возможности человека ограничены.

Однако вопрос о том, какие решения можно доверить алгоритмам и где участие человека должно оставаться обязательным, становится все острее.

Дешевые дроны уже меняют характер войны

Отдельное внимание участники форума уделили беспилотникам.

По словам Лаубера, массовое использование относительно недорогих дронов уже меняет характер современных вооруженных конфликтов. Линия фронта становится менее четкой, а зона, в которой может применяться оружие, фактически растягивается на огромные расстояния.

Развитие искусственного интеллекта способно еще больше усилить эту тенденцию, поскольку беспилотные системы получают возможности самостоятельно ориентироваться, анализировать окружающую обстановку и выполнять все более сложные задачи.

Именно поэтому эксперты считают принципиально важным определить пределы самостоятельности таких систем.

Особую тревогу вызывают ядерные системы

Вопрос военного применения искусственного интеллекта приобретает особое значение на фоне технологического соперничества США и Китая — двух крупнейших мировых центров развития ИИ.

Вашингтон и Пекин признают потенциальные риски технологии, однако пока расходятся во взглядах на способы ее регулирования и использования в военной сфере, в том числе применительно к ядерному оружию.

Эксперты двух стран ранее предложили установить своеобразные «красные линии». Среди обсуждаемых мер — сохранение человеческого контроля над критически важными военными кибероперациями, ограничения на вмешательство ИИ в системы ядерного управления и создание специального канала связи на случай инцидентов с автономными системами.

Причина таких опасений заключается в скорости развития событий. Если система искусственного интеллекта вмешается в работу сети ядерного командования или самостоятельно инициирует серьезную кибероперацию, у другой стороны могут остаться считаные минуты, чтобы определить, была ли произошедшая атака намеренной.

Ошибка в такой ситуации способна иметь крайне серьезные последствия.

Главный вопрос — кто должен принимать последнее решение

Министр обороны Таиланда Адул Бунтумчароен заявил на форуме, что мир находится в критической точке: соперничество крупных держав усиливается, а конфликты продолжаются сразу в нескольких регионах.

На фоне того, как искусственный интеллект и другие технологии меняют характер войны, главным становится уже не только вопрос технологического превосходства государств, но и создание международных правил использования новых систем.

Эксперты призывают страны выработать общие ограничения для применения искусственного интеллекта в военной сфере и определить решения, которые машины не должны принимать самостоятельно.

Одним из ключевых принципов предлагается сохранить контроль человека над применением силы, особенно когда речь идет о системах, способных привести к масштабным последствиям.

Пока единых международных правил в этой области нет. При этом стремительное развитие ИИ и автономных вооружений делает вопрос их регулирования все более актуальным.