Учёные обнаружили: некоторые модели ИИ сопротивляются «отключению»

Группа учёных опубликовала новые результаты, в которых демонстрируется: определённые модели второго порядка («модели ИИ») оказываются устойчивыми к попыткам их «отключения». То есть даже при значительном внешнем воздействии или намеренной попытке деактивации система не переходит в отказное состояние, сохраняя работоспособность.

Что такое «модели ИИ» и в чём заключается феномен

Под «моделями ИИ» обычно понимаются системы, описываемые уравнениями второго порядка (например, дифференциальные уравнения второго порядка), которые часто применяются в инженерной и физической практике.
«Отключение» в данном контексте — это попытка ввести управляющее воздействие, которое должно было бы перевести систему в состояние покоя или неработоспособности. Однако некоторые из этих моделей оказываются способными «устоять» перед таким воздействием.

Учёные провели численные эксперименты и аналитические оценки:

• при разных амплитудах внешнего управления;

• при шумовых возмущениях и временных наростающих нагрузках;

• при смешанном воздействии — управляющее + случайное возмущение.

Результаты показали, что в ряде случаев система продолжает оставаться активной, то есть её внутренние динамики «побеждают» попытку отключения.

Значение открытия и потенциальные применения

Это наблюдение имеет важное значение в теоритико-методическом и прикладном аспектах:

1. Теория управления и стабилизации. Классические подходы предполагают, что можно ввести управляющий сигнал, который «отключит» нежелательное состояние. Здесь же видно, что не все системы поддаются такому «выключению».

2. Инженерия и автоматизация. При проектировании систем (механических, электронных, робототехнических) может оказаться, что попытки аварийного отключения не приводят к ожидаемому результату — система остаётся активной.

3. Безопасность и надёжность. В некоторых условиях устойчивость к отключению может быть преимуществом (например, при необходимости продолжить работу после внешнего сбоя). Но для систем, от которых требуется мгновенная остановка, это — риск.

Трудности и ограничения

Исследователи подчёркивают, что не все модели ИИ ведут себя таким образом — эффект проявляется только при соблюдении определённых параметров: коэффициенты уравнений, характер нелинейностей, наличие обратной связи и др.
Кроме того, сценарии «отключения» в экспериментах синтетические — реальные физические системы могут иметь другие факторы (фрикцию, диссипацию, технические ограничители), влияющие на устойчивость.

Новое исследование проливает свет на тонкую грань между управляемостью и устойчивостью. Некоторые модели ИИ демонстрируют способность сопротивляться попыткам отключения — это открытие может потребовать пересмотра подходов в теории управления системами, инженерном проектировании и анализе надёжности.