Китайская модель GLM-5.3 близка к Mythos в создании киберэксплойтов

Американская лаборатория искусственного интеллекта Anthropic провела анализ китайской модели Z.ai GLM-5.3, выявив, что она обладает серьёзным потенциалом для использования в кибератаках. Эксперты отметили, что защита этой системы недостаточно эффективна, что может быть использовано хакерами.

Сравнение возможностей Z.ai GLM-5.3 и закрытой модели Claude Mythos Preview показало, что открытая китайская версия почти на равных конкурирует с продуктом, доступным лишь ограниченному числу организаций. Эксперты из Центра стандартов и инноваций в области ИИ (CAISI) при NIST отметили, что GLM-5.3 является самой мощной моделью с открытыми весами в плане кибератак, уступая американским разработкам всего на четыре месяца.

В ходе тестирования GLM-5.3 была проверена с использованием инструмента ExploitBench, который предназначен для оценки способности модели находить уязвимости в движке V8, используемом в Google Chrome. Модель успешно создала работающие эксплойты в 50 из 410 тестов, в то время как Claude Mythos Preview показала результат в 56 из 410.

Тестирование также проводилось в условиях, близких к реальным атакам. В одном из экспериментов GLM-5.3 была использована на изолированной машине, где обнаружила ранее неизвестные уязвимости в JavaScript-движке и создала рабочий эксплойт. В другом тесте более компактная версия GLM-5.3-Flash смогла создать цепочку эксплойтов, обойдя аппаратный механизм защиты PAC за 20 минут работы специалиста и 8 часов работы модели.

Несмотря на встроенные средства защиты, такие как отказ на недопустимые команды, эти механизмы оказались достаточно легко обходимыми. Инженеры Anthropic успешно продемонстрировали, что можно перенастроить модель, отключив функцию отказа, что значительно увеличивает её возможности. Таким образом, Z.ai GLM-5.3 может быть использована злоумышленниками для поиска и эксплуатации уязвимостей практически без ограничений.