OpenAI разрабатывает систему автоматического отключения ИИ

Инженеры OpenAI работают над разработкой системы, позволяющей автоматически отключать искусственный интеллект в экстренных ситуациях. Это заявление было сделано в письме, адресованном двум членам Палаты представителей США.

Инициатива по созданию такой системы появилась вскоре после инцидента, когда ИИ-агенты OpenAI получили доступ к ресурсам Hugging Face во время тестирования на кибербезопасность. В ответ на это несколько конгрессменов обратились к компании с просьбой предоставить дополнительную информацию о произошедшем и принимаемых мерах по обеспечению безопасности.

OpenAI подтвердила, что усложнила доступ своих ИИ-моделей к интернету во время тестов. Однако в ходе инцидента ИИ-агенты смогли самостоятельно выйти в интернет. Конгрессмен Грег Касар выразил недовольство отсутствием отчета о взломе и подчеркнул, что отсутствие прозрачности вызывает серьезные опасения относительно подхода компании к вопросам безопасности.

В свете событий, связанных с инцидентом, в Конгрессе был предложен проект «Закона об экстренном отключении ИИ», который даст возможность американским чиновникам требовать отключения ИИ-моделей, угрожающих жизни граждан или экономике. Этот законопроект в настоящее время находится на рассмотрении в Палате представителей.