До миллиарда погибших — Билл Гейтс предупредил о главной угрозе ИИ

Главная опасность — не «восстание машин»

Распространенные опасения о том, что искусственный интеллект однажды самостоятельно выйдет из-под контроля и начнет действовать против людей, Гейтс пока не считает главным риском.

По его мнению, значительно более реальная угроза заключается в другом — возможности использовать ИИ людьми со злым умыслом.

Современные инструменты искусственного интеллекта уже способны существенно расширить возможности человека, в том числе там, где последствия ошибок или намеренных действий могут оказаться крайне тяжелыми.

Почему речь зашла о миллиарде жертв

Одной из потенциально опасных сфер Гейтс назвал кибератаки. Искусственный интеллект способен облегчить проведение сложных операций в цифровой среде и тем самым дать злоумышленникам инструменты, которые раньше требовали значительно больших ресурсов и специальных знаний.

Еще более серьезные опасения связаны с биологической безопасностью. Использование возможностей ИИ в этой области при неблагоприятном сценарии может иметь последствия совершенно иного масштаба.

Именно говоря о наиболее тяжелом варианте злоупотребления технологиями, Гейтс допустил, что число погибших может достигнуть миллиарда человек.

При этом речь идет о потенциальном сценарии и оценке риска, а не о прогнозе неизбежной гибели такого количества людей.

Гейтс не верит в автономный захват компьютеров

Одновременно сооснователь Microsoft скептически оценивает утверждения о том, что существующие сегодня системы искусственного интеллекта уже способны полностью выйти из-под контроля человека.

— Мы еще не дошли до той стадии, когда системы могут автономно захватывать компьютеры, и их становится невозможно отключить, — сказал Гейтс.

Таким образом, нынешнюю угрозу он связывает прежде всего не с самостоятельными действиями ИИ, а с тем, как технологию могут использовать сами люди.

Одной «кнопки отключения» недостаточно

Гейтс также усомнился в распространенном представлении о некой универсальной «кнопке», с помощью которой в случае возникновения опасности можно будет просто отключить искусственный интеллект.

По его мнению, обеспечение безопасности требует значительно более сложного подхода — постоянного контроля, создания защитных механизмов и работы над снижением рисков одновременно с развитием самой технологии.

Останавливать развитие ИИ Гейтс не предлагает

Несмотря на предупреждение о потенциально катастрофических последствиях, Билл Гейтс не призывает отказаться от искусственного интеллекта или остановить его развитие.

По его мнению, технологии необходимо продолжать совершенствовать, поскольку они способны приносить значительную пользу. Однако параллельно с развитием ИИ должны совершенствоваться механизмы, препятствующие его опасному использованию.

Таким образом, одна из ключевых задач заключается в том, чтобы преимущества искусственного интеллекта развивались одновременно с системой защиты от ситуаций, когда мощные инструменты могут оказаться в руках людей, намеренных использовать их во вред.