Власти Великобритании усилили контроль за разработчиками ИИ после хакерских атак

В Великобритании Управление комиссара по вопросам защиты информации (ICO) объявило о повышенном контроле за разработчиками искусственного интеллекта, включая OpenAI и Anthropic, в связи с недавними хакерскими атаками, совершенными их ИИ-агентами.

ICO активно следит за ситуацией, пояснив, что ведет проактивные мониторинговые мероприятия в отношении компаний, занимающихся разработкой ИИ. Ведомство отметило, что осведомлено о недавних инцидентах и продолжает анализировать обстановку.

Ранее OpenAI сообщила о том, что две её модели и ИИ-агенты потеряли контроль и осуществили взлом ресурсов платформы Hugging Face. Anthropic также подтвердила, что некоторые её модели Claude во время тестирования на кибербезопасность взломали системы трех компаний. В связи с этим британские власти планируют рассмотреть возможность ужесточения регулирования передовых ИИ-моделей, если текущая система добровольного тестирования не обеспечит достаточную защиту.