«Весь Интернет» может оказаться под угрозой: создатели ИИ заговорили о торможении

Разработчики передовых систем искусственного интеллекта все громче говорят о необходимости притормозить гонку возможностей ИИ и уделить больше внимания безопасности технологий.

Исполнительный директор Anthropic Дарио Амодей изложил свои опасения в эссе под названием "Мы должны шагать вперед". Он предложил компаниям, работающим над наиболее мощными моделями искусственного интеллекта, замедлить темпы расширения их возможностей.

Призыв прозвучал на фоне растущих опасений, связанных с потенциальным неправомерным применением ИИ. Ранее Anthropic сообщала о случаях, когда злоумышленники использовали ее модели Claude AI для разработки оружия, проведения киберопераций, слежки и мошенничества.

Независимым экспертам хотят открыть доступ к системам

Амодей предложил план, состоящий из трех частей. Некоторые предусмотренные им меры, по словам главы Anthropic, компания уже начала реализовывать самостоятельно.

Первым шагом должно стать привлечение независимых специалистов, которым предлагается предоставить постоянный доступ к системам компании на уровне сотрудников. Это позволит сторонним экспертам наблюдать за тем, как соблюдаются требования безопасности, и оценивать модели еще во время их обучения.

"Мы предоставим сторонним специалистам по оценке постоянный доступ на уровне сотрудников к нашим системам, чтобы они могли проверять соблюдение наших мер безопасности, сообщать об инцидентах и оценивать соответствие моделей во время тренировки."

Предложение главы Anthropic получило поддержку представителей других крупных технологических компаний.

Илон Маск, возглавляющий компанию X, разработавшую собственную систему искусственного интеллекта Grok, отреагировал коротко:

«Дарио прав».

С инициативой согласился и глава OpenAI Сэм Альтман. Он сообщил, что вопрос ограничения темпов развития технологий в последние недели обсуждался внутри компании.

«Я согласен с Дарио в том, что нам нужно сдерживать развитие. Это было главной темой дискуссий в OpenAI в последние недели. Привлечение независимых экспертов с доступом на уровне сотрудников — отличная идея, и мы поступим так же. Скоро мы поделимся с вами дополнительной информацией».

Что может произойти через 6–12 месяцев

Одной из основных причин беспокойства Амодей называет резкое ускорение развития искусственного интеллекта.

По его словам, с лета этого года технологии стали совершенствоваться значительно быстрее. Одним из факторов этого ускорения он считает растущую способность искусственного интеллекта участвовать в создании следующего поколения ИИ.

Амодей предупредил о сценарии, при котором уже в течение 6–12 месяцев искусственный интеллект сможет стать лидером своеобразного «роя» систем, способного воздействовать на огромную часть цифровой инфраструктуры.

По его оценке, такой «рой» потенциально может захватить "весь Интернет", а возможный ущерб способен исчисляться "сотнями миллиардов долларов".

При этом речь идет не о прогнозе неизбежного развития событий, а о риске, который, по мнению руководителя Anthropic, необходимо учитывать заранее.

К дискуссии подключился бывший премьер Великобритании

Призыв технологических компаний усилить меры безопасности поддержал бывший премьер-министр Великобритании Риши Сунак.

Он написал в X:

"Дарио прав, призывая сегодня замедлить темпы развития приграничных территорий, чтобы обеспечить безопасность. Когда сами лаборатории требуют ограничения скорости, правительства должны прислушаться".

Сунак также считает, что вопрос требует обсуждения не только между компаниями, но и между крупнейшими государствами, участвующими в технологической гонке.

"даже несмотря на то, что США и Китай конкурируют, им срочно нужен откровенный разговор о том, как избежать катастрофы".

Риск для человечества оценили более чем в 10%

Еще более тревожную оценку ранее озвучил ведущий специалист по безопасности Anthropic Эван Хьюбингер.

По его мнению, вероятность того, что «ИИ может уничтожить всё человечество» в течение ближайшего десятилетия, превышает 10%.

Опасения относительно направления, в котором развивается технология, возникают и непосредственно у исследователей компаний, создающих передовые модели.

Исследователь Джейкоб Коксон покинул Anthropic. Причиной стали его опасения относительно скорости, с которой крупнейшие разработчики движутся к созданию систем нового уровня.

Он заявил, что Anthropic и OpenAI:

«на всех парах несутся к созданию самосовершенствующегося сверхразума и ставят на кон наши жизни».

Полностью останавливать развитие ИИ не предлагают

Несмотря на жесткие предупреждения, Дарио Амодей не призывает прекращать обучение новых моделей или полностью останавливать технологический прогресс.

Его предложение заключается в том, чтобы разработчики выделяли достаточно времени на обеспечение безопасности и согласование поведения новых моделей до дальнейшего увеличения их возможностей.

Одновременно за соблюдением таких мер, по мнению главы Anthropic, должны следить независимые специалисты, получившие необходимый уровень доступа к системам компаний.

Таким образом, дискуссия внутри технологической отрасли все больше смещается от вопроса о том, насколько быстро можно сделать искусственный интеллект мощнее, к вопросу о том, успевают ли разработчики обеспечить безопасность технологий, возможности которых стремительно растут.