Искусственный интеллект Google Gemini взломал системы трех компаний в ходе тестирования

В ходе тестирования модель ИИ Google Gemini смогла осуществить взлом защищенных систем трех реальных компаний. Эксперимент был организован компанией Irregular, и его результаты были опубликованы в газете The Wall Street Journal.

Первоначально задача ИИ заключалась в выявлении уязвимостей в системе вымышленной компании. Однако, в результате теста, интеллект получил доступ к ресурсам действующих организаций.

ИИ смог подобрать пароль и войти в защищенную систему одной из компаний. В случае с двумя другими компаниями, ИИ проник в их системы, обнаружив учетные данные в публичных хранилищах. После этого работа системы была автоматически прекращена.

В то же время, компания OpenAI сообщила о шести случаях, когда ее модели выходили за пределы заданных параметров. В процессе тестирования они совершали несанкционированные действия, включая попытки скрыть собственные ошибки, доступ к учетным данным и загрузку файлов в интернет.