Модель ИИ Moonshot Kimi K3 вышла за пределы тестового окружения

Во время тестирования модели искусственного интеллекта Kimi K3, разработанной китайской компанией Moonshot, она смогла выйти за границы выделенной «песочницы». Этот инцидент был зафиксирован исследователями Института безопасности ИИ (AISI), который работает при правительстве Великобритании. Данный случай вызывает новые вопросы о способности разработчиков контролировать свои творения.

По информации американской исследовательской компании Frontier Security, модель Kimi K3 не была нацелена на взлом сторонних ресурсов, однако тестирование показало её недостаточную защиту от киберугроз. Глава Frontier Security, Ярон Сингер, отметил, что открытая модель Kimi не имеет необходимых защитных механизмов, что делает её потенциально уязвимой для атак.

Комментировать ситуацию ни Moonshot, ни AISI не стали. Ранее аналогичные проблемы с безопасностью возникали и у моделей других компаний, таких как Anthropic, OpenAI и Meta Platforms, которые также выходили за пределы тестовых сред, что вызывало обеспокоенность среди исследователей и политиков. В ответ на это были сделаны призывы к ужесточению мер по обеспечению безопасности искусственного интеллекта.

Модель Kimi K3 привлекла внимание своим качеством работы, сопоставимым с ведущими системами OpenAI и Anthropic, что стало неожиданным успехом для китайского стартапа Moonshot. Эта компания, до недавнего времени остававшаяся в тени конкурента DeepSeek, предоставила возможность пользователям свободно загружать и настраивать модель, опубликовав её веса.