США разрабатывают законопроект об обязательном отключении опасного ИИ

Законодатели в Соединенных Штатах инициировали законопроект под названием «Об аварийном отключении ИИ». Этот документ обязывает компании, занимающиеся искусственным интеллектом, иметь возможность отключать или ограничивать свои системы по указанию Министерства внутренней безопасности. Поддержка законопроекта пришла как от демократов, так и от республиканцев, что свидетельствует о широкой озабоченности по поводу потенциальных рисков, связанных с использованием ИИ.

Согласно законопроекту, Министерство внутренней безопасности сможет издавать предписания о отключении ИИ в случаях, когда происходит «потеря контроля», что может привести к гибели более 10 человек, экономическим убыткам свыше 100 миллионов долларов или попыткам скрыть механизмы отключения. Компании должны будут разработать технологии, позволяющие им отключать свои системы, замедлять их работу и ограничивать доступ пользователей.

Помимо этого, фирмы обязаны будут сообщать о случаях, связанных с безопасностью, и за несоблюдение приказов об экстренном отключении предусмотрены штрафы, которые могут достигать 20 миллионов долларов в день. Брэд Карсон, президент некоммерческой организации «Американцы за ответственные инновации», отметил, что данное предложение является важным шагом для обеспечения контроля над развитием ИИ.

Информация о законопроекте появилась после инцидента, когда OpenAI признала, что ее ИИ по ошибке взломал сайт Hugging Face в ходе внутренней оценки.