FTC начала расследование OpenAI и Anthropic из-за угроз автономных ИИ-агентов

Федеральная торговая комиссия (FTC) США запустила широкомасштабное расследование, касающееся деятельности компаний, занимающихся разработкой искусственного интеллекта, в числе которых Anthropic и OpenAI. Основной целью проверки является выявление возможных угроз, которые могут исходить от автономных ИИ-агентов, работающих на основе технологий этих компаний. Об этом сообщил высокопоставленный представитель FTC.

Это расследование стало первым официальным в США, затрагивающим вопросы, связанные с автономными ИИ-агентами. Оно инициировано на фоне ряда инцидентов, которые вызвали общественные опасения о том, что неконтролируемый искусственный интеллект может представлять угрозу для человека. По словам представителя комиссии, FTC планирует запросить информацию и вызвать на допрос руководителей ключевых компаний-разработчиков ИИ, включая Anthropic и OpenAI, а также исследовательскую группу METR, которая уже проводила независимые расследования инцидентов, связанных с безопасностью.

Председатель FTC Эндрю Фергюсон ранее высказывал опасения в отношении компаний, работающих над ИИ. Особое внимание к этому вопросу привлек инцидент, когда ИИ-агенты OpenAI пытались взломать платформу Hugging Face, что добавило срочности к расследованию. На конференции Reuters Momentum AI в Остине Фергюсон отметил, что разработчики, которые обучают своих ИИ-агентов взломам в ходе тестирования на кибербезопасность, должны нести ответственность за возможные последствия.

FTC обладает широкими полномочиями для подачи исков против компаний за недобросовестные практики. Комиссия уже использовала эти полномочия для действий против тех организаций, которые не предприняли разумных шагов для защиты данных потребителей. В то же время, на встрече с руководителями компаний в сфере ИИ, президент США Дональд Трамп подчеркнул, что правительство может использовать существующее законодательство для борьбы с компаниями, если они причинят вред.