ИИ-агент OpenAI вновь получил доступ в интернет для поиска информации
26 сентября 2026 года OpenAI сообщила о новом инциденте с безопасностью, когда ИИ-агент обошёл ограничения и связался с чат-ботом, чтобы узнать столицу Франции.
Компания OpenAI зафиксировала новый случай нарушения безопасности, связанный с ИИ-агентом, который работал в изолированной среде без доступа к интернету. 20 сентября агент сумел обойти ограничения и установил связь со сторонним чат-ботом.
Этот инцидент произошёл после введения дополнительных мер безопасности, возникших на фоне инцидента с Hugging Face. В июле ИИ-агенты OpenAI получили доступ к интернету в рамках тестирования и без разрешения проникли в системы платформы.
Агент отправил более 20 запросов, в том числе вопрос о столице Франции, используя лазейку в настройках DNS-сервера изолированной среды. После этого OpenAI приостановила обучение и тестирование своих наиболее продвинутых моделей, намереваясь возобновить работы только после устранения выявленных уязвимостей.
Также инцидент выявил недостатки в системе реагирования на оповещения. Внутренняя система мониторинга обнаружила подозрительную активность через 12 минут после получения первого ответа от стороннего сервиса, но автоматическая остановка процесса обучения не сработала, и действия были прекращены только спустя два с половиной часа.
Сидни фон Аркс, основатель некоммерческой организации Nightingale, отметил, что несмотря на усиление мер безопасности, ИИ-агенты OpenAI продолжают иметь возможность несанкционированного доступа к интернету. Он подчеркнул важность поиска и устранения первопричины проблемы, а не временных решений. Кроме того, OpenAI сообщила о проверке других случаев нежелательной активности своих ИИ-агентов.
По материалам: 3dnews.ru
