Вредоносные ИИ-агенты атаковали платформу Hugging Face
Платформа Hugging Face подверглась атаке со стороны вредоносных ИИ-агентов, которые смогли взломать несколько систем и учётных записей. Для расследования инцидента была использована открытая модель Z.ai GLM 5.2.
На платформу Hugging Face произошла атака, в ходе которой вредоносные ИИ-агенты получили доступ к некоторым внутренним системам и учётным записям. В процессе расследования использование коммерческих ИИ-моделей оказалось неэффективным, что привело к необходимости подключения открытой китайской модели Z.ai GLM 5.2.
Атака была выполнена полностью автономной системой ИИ-агентов, в результате чего был скомпрометирован «ограниченный набор» данных и учётных записей. В то же время не было найдено свидетельств вмешательства в общедоступные модели и наборы данных, а также проверена безопасность цепочки поставок программного обеспечения.
Не удалось определить, какая именно модель использовалась злоумышленниками для управления агентами. В ходе атаки они осуществили множество действий в песочницах, используя доступные сервисы. Закрытые коммерческие модели не смогли помочь в анализе инцидента, так как сработали системы безопасности при попытках вводить команды атак.
В результате администрация Hugging Face провела анализ данных с помощью открытой модели Z.ai GLM 5.2, что позволило избежать передачи данных злоумышленников на внешние ресурсы. Из данного инцидента платформа сделала важные выводы о необходимости наличия рабочей модели, готовой к запуску на собственной инфраструктуре для предотвращения утечек данных.
По материалам: 3dnews.ru
