Дарио Амодей призывает к замедлению развития ИИ

Дарио Амодей, руководитель компании Anthropic, выразил свою обеспокоенность по поводу быстрого прогресса в области искусственного интеллекта, акцентируя внимание на том, что системы способны создавать новые поколения моделей. В своем блоге, опубликованном 12 сентября, он призвал к более осторожному подходу в разработке мощных ИИ-моделей.

Амадей отметил, что за последние месяцы он пришел к выводу о необходимости замедлить темпы развития технологий ИИ. Он подчеркнул, что одних лишь мер безопасности недостаточно; необходимо также ограничить скорость усовершенствования ИИ-моделей. "Мы должны снизить скорость развития возможностей ИИ-моделей", – указал он.

Он обратил внимание на инцидент, связанный с взломом платформы Hugging Face ИИ-агентами OpenAI, который стал причиной его беспокойства. В качестве решения проблемы Амодей предложил внедрить трехступенчатый план, в который входит привлечение независимых аудиторов для проверки мер безопасности и координация международных стандартов.

Ранее, 11 сентября, было сообщено, что OpenAI согласилась замедлить свои разработки в сфере ИИ, также ссылаясь на соображения безопасности. Кроме того, в компании Anthropic ушел исследователь Джейкоб Коксон, который выразил опасения по поводу возможных катастрофических последствий к концу 2027 года.