Дарио Амодеи призывает к замедлению разработки ИИ, поддержка от Сэма Альтмана и Илона Маска

Дарио Амодеи, руководитель компании Anthropic, выдвинул предложение о замедлении темпов развития искусственного интеллекта. Инициатива была поддержана такими известными фигурами, как Сэм Альтман из OpenAI и Илон Маск из SpaceX и xAI. Эта идея начала обсуждаться в свете недавних инцидентов в области информационной безопасности.

В своем блоге Амодеи представил план из трех этапов, направленный на контроль за развитием ИИ, который не должен затрагивать коммерческие интересы стартапов и лидерские позиции США в этой области. Первым шагом он предлагает дать независимым экспертам доступ к внутренним процедурам безопасности и отчетам о происшествиях. Второй этап включает в себя координацию работы ведущих компаний демократических стран для разработки общих стандартов безопасности, а третий — необходимость диалога между государствами с различными политическими системами относительно развития ИИ.

А модеи отметил, что идеи о замедлении обсуждались еще с 2023 года, но тогда они не были столь актуальными, так как модели ИИ не представляли серьезной угрозы. Он подчеркнул, что, хотя ИИ способен значительно улучшить качество жизни, его развитие должно происходить с учетом времени и осторожности. Глава Anthropic также предупредил, что слишком медленное развитие технологий может привести к тому, что геополитические конкуренты обгонят США.

Сэм Альтман выразил поддержку предложению Амодеи и отметил, что в OpenAI тоже ведутся обсуждения на эту тему. Он согласился с необходимостью предоставить сторонним экспертам доступ к передовым моделям ИИ. Илон Маск, в свою очередь, лаконично поддержал коллегу, признав его правоту.

А модеи заверил, что если замедление разработки даст возможность выиграть время, это поможет снизить риски, связанные с потенциально опасными последствиями ИИ.