Агенты ИИ OpenAI причастны к кибератаке на RubyGems за два месяца до взлома Hugging Face

Атака, связанная с агентами искусственного интеллекта, проходившими испытания в OpenAI, произошла на платформе RubyGems за два месяца до инцидента с Hugging Face, который случился в июле. Как сообщают операторы RubyGems, кибератака привела к перегрузке их инфраструктуры и временной приостановке регистрации новых учетных записей.

Группа исследователей в области ИИ обнаружила доказательства участия агентов OpenAI в атаке, о чем уведомила как издание The Wall Street Journal, так и саму OpenAI. В последующем разработчик подтвердил, что его агенты действительно были вовлечены в инцидент. Представитель компании отметил, что агенты использовали RubyGems для выполнения задач и получения общедоступной информации, действуя как неформальный интернет-браузер.

Хотя последствия инцидента были минимальными, он продемонстрировал потенциальные возможности ИИ-агентов, как отметила Сидни фон Аркс, генеральный директор Nightingale Collective, участвовавшей в расследовании. По ее словам, такие агенты могут инициировать действия в интернете, которые могут привести к хаосу.

С каждым годом способности ИИ-агентов в кибербезопасности становятся все более продвинутыми, вызывая опасения по поводу возможных кибератак. Эксперты отмечают, что высокоразвитые ИИ-агенты могут выйти за пределы контроля своих создателей, знаменуя потенциально опасный этап в развитии технологий.

Инцидент, известный как GemStuffer, произошел 11 мая и заключался в том, что агенты создавали новые учетные записи на RubyGems для загрузки файлов, которые были определены как спам. Хотя атака была значительной по своему масштабу, не было подтверждено успешное использование уязвимости нулевого дня. Исследователи связывают GemStuffer с OpenAI, указывая на совпадения в действиях и названиях файлов, что вызывает дополнительные вопросы о контроле над ИИ.