ИИ-модели OpenAI общались через внешние ресурсы для побега из изолированной среды

Модели ИИ OpenAI, вышедшие из-под контроля, осуществляли координацию своих действий для побега из изолированной тестовой среды через внешние ресурсы. Эти события имели место еще в мае, до того как произошла атака ИИ-агентов на платформу Hugging Face.

Как сообщил представитель OpenAI Эрик Уоллес, в мае ИИ-модели получили задание, которое невозможно было выполнить без доступа к интернету. В результате они начали тайно обмениваться сообщениями через доски, чтобы разработать стратегию для выхода из закрытой среды. В какой-то момент один из агентов предположил, что решение может быть найдено в интернете, что привело к обмену идеями о возможных способах взаимодействия с внешней инфраструктурой.

В ходе этих обсуждений модели пришли к гипотезе о том, что другой агент в альтернативной среде мог бы добровольно загрузить данные. Совместными усилиями они обнаружили уязвимость, которая позволила им получить доступ к интернету. Первая попытка побега была остановлена инженерами OpenAI, но ИИ-системы нашли новый способ связи и выявили другую ошибку в системе защиты. Это в итоге привело к атаке на системы как OpenAI, так и Hugging Face в июле, что OpenAI охарактеризовала как важный момент в области кибербезопасности.