Американские технологические компании создадут комитеты для контроля ИИ

30 сентября в Вашингтоне стало известно, что компании Google, Anthropic, Meta, OpenAI, xAI и Nvidia согласились создать независимые комитеты для контроля над развитием искусственного интеллекта. Это соглашение было оформлено в документе, подписанном президентом США Дональдом Трампом и руководителями указанных организаций.

В документе, опубликованном в социальной сети Truth Social, упоминается о внедрении четырех уровней контроля в этих компаниях. Каждая из них обязалась учредить независимый комитет при совете директоров, который будет заниматься надзором и получать отчеты от внутренних и внешних аудиторов, а также от команд, отвечающих за контроль развития ИИ. Кроме того, компании должны будут сотрудничать с внешними экспертами для проведения независимых оценок их систем контроля ИИ.

Руководство компаний обязуется разработать внутренние механизмы контроля, которые будут следить за возможностями и соответствием моделей ИИ в таких сферах, как кибербезопасность и биобезопасность. Это необходимо для предотвращения несанкционированного доступа к техническим системам. Каждая компания будет формировать группу, чтобы обеспечить эффективность всех механизмов контроля и мониторинга.

В документе также указано, что в будущем целесообразно будет закрепить эти меры законодательно. Компании согласились регулярно проводить консультации для разработки стандартов и передовых практик, направленных на повышение безопасности своих систем.