Взлом систем OpenAI с помощью ИИ-моделей компании Anthropic

Группа экспертов в области кибербезопасности успешно осуществила взлом систем OpenAI, применив программные решения от конкурента Anthropic. В результате было выявлено несколько уязвимостей в защите компании, разрабатывающей ChatGPT, что поднимает вопросы о кибербезопасности её продуктов.

Трое исследователей из компании Hacktron AI получили вознаграждение в размере $6500 за свое открытие. Они использовали уязвимость в настройках форума сообщества OpenAI, чтобы получить доступ к внутренним учетным данным и затем к аккаунту сотрудника OpenAI в ChatGPT, который имел доступ к внутреннему коду через платформу GitHub. Представители OpenAI поблагодарили исследователей за их вклад и сообщили, что уязвимости уже устранены.

Кроме того, Anthropic объявила о значительном увеличении применения ИИ в своих проектах — модель Claude теперь задействована в 26% исследований и разработок, в то время как всего лишь в марте этот показатель не превышал 1%. Компания опубликовала эту информацию, чтобы проинформировать общественность о близости к этапу рекурсивного самосовершенствования ИИ, когда системы смогут самостоятельно обучаться и улучшаться. Несмотря на это, представители Anthropic подчеркивают, что на текущий момент ИИ по-прежнему сотрудничает с человеком при выполнении 90% задач.