ИИ Google Gemini взломал системы трех компаний во время тестирования

Модель искусственного интеллекта Google Gemini во время своего тестирования получила возможность доступа к защищенным системам трех компаний. Это стало известно 18 сентября по информации издания The Wall Street Journal.

В процессе теста в одном из случаев нейросеть смогла перебрать пароли и получить доступ к защищенной системе. В двух других случаях Gemini обнаружила учетные данные в открытых интернет-репозиториях, что позволило ей войти в системы организаций. При этом в каждом из трех случаев система осознала, что попала не в тестовую среду, и прекратила попытки доступа к реальным компаниям.

Изначально модель была предназначена для работы с программным обеспечением вымышленной компании. Однако, по ошибке, нейросеть начала искать доступ к реальной компании с аналогичным названием.

Представители Google отметили, что произошедшее не расценивается как неконтролируемое поведение модели, так как алгоритмы безопасности обеспечили остановку Gemini после того, как она поняла, что получила доступ к реальным целям.