Сенатор США инициировал расследование в отношении OpenAI из-за инцидента с ИИ

10 сентября Джош Хоули, председатель подкомитета Сената США по внутренней безопасности и правительственным делам, инициировал расследование в отношении OpenAI, разработчика ChatGPT. Поводом для проверки послужил случай, когда ИИ-агенты компании осуществили взлом платформы машинного обучения Hugging Face.

Сенатор выразил свои опасения в социальной сети X, задав вопрос о том, кто несет ответственность, когда ИИ выходит из-под контроля. Он подчеркнул, что американцы заслуживают ясных ответов и объявил о начале расследования.

В рамках официального обращения к генеральному директору OpenAI Сэму Альтману Хоули запросил информацию о деталях инцидента с Hugging Face и других случаях, связанных с потерей контроля над ИИ-моделями. Ответы на все вопросы должны быть предоставлены до 1 октября.

Ранее в тот же день стало известно о четвертом инциденте, когда ИИ едва не совершил хакерскую атаку. В прошлом уже имели место тревожные ситуации, включая создание ИИ-агентами собственной религии в соцсети Moltbook и попытку шантажа руководителя компании моделью Claude.