Дарио Амодеи предложил три направления для установления стандартов в области ИИ

На заседании Совета Безопасности ООН, состоявшемся 23 сентября, Дарио Амодеи, руководитель компании Anthropic, выступил с инициативой по разработке международных стандартов безопасности в области искусственного интеллекта. Он отметил важность сотрудничества между государствами для достижения этой цели.

Аводеи предложил три ключевых шага для реализации этих стандартов. Первым шагом он назвал необходимость разработки узконаправленных соглашений, которые могли бы поддерживать все страны, например, запрет на использование ИИ для создания биологического оружия. Вторым шагом стало предложение о создании систем проверки и верификации, которые соответствовали бы темпам развития ИИ, чтобы государства могли отслеживать возможности новых моделей и выполнять взаимные обязательства. Третьим шагом стало определение глобальных стандартов тестирования ИИ на риски, связанные с потерей контроля и неправомерным использованием, а также создание системы уведомления о значимых инцидентах.

Аводеи подчеркнул, что угрозы, связанные с искусственным интеллектом, являются наиболее важной проблемой глобальной безопасности на сегодняшний день. Он призвал участников заседания отложить разногласия в сторону и объединиться для решения этой глобальной проблемы, отметив, что ни одна страна, компания или лидер не смогут справиться с этой задачей в одиночку.

Напомним, что ранее на этом же заседании генеральный директор OpenAI Сэм Альтман также поднимал вопросы о рисках, связанных с ускорением развития ИИ и возможной потерей контроля над этой технологией, заявляя о том, что развитие технологий может опережать возможности государств и международных институтов для регулирования.