Дарио Амодеи: Китай является основным препятствием для контроля ИИ
Глава компании Anthropic, Дарио Амодеи, заявил о том, что Китай представляет собой серьёзную преграду для замедления прогресса в области искусственного интеллекта. Он отметил, что соперничество между странами может помешать установлению ограничений.
Дарио Амодеи, возглавляющий Anthropic, обозначил, что его усилия по сдерживанию развития искусственного интеллекта сталкиваются с важным геополитическим вызовом. По его мнению, наибольшая проблема заключается в том, что конкурирующие государства, особенно Китай, могут проигнорировать такие ограничения в стремлении к военному превосходству.
В эфире CBS News Амодеи подчеркнул, что необходимо совместное установление «ограничения скорости» для ИИ. Однако он выразил сомнения в осуществимости этой идеи, так как существующие стимулы к опережению соперников слишком сильны. Несмотря на свои опасения, он отметил, что важно продолжать попытки договориться.
Это заявление стало следствием призывов Амодеи к компаниям замедлить развитие продвинутых моделей искусственного интеллекта. Его инициативы были вызваны растущими опасениями в отрасли, где учёные предостерегают о возможной катастрофической угрозе от новых технологий. Уход из Anthropic Джейкоба Коксона, который выразил опасения относительно безопасности, также добавил напряжённости к обсуждениям.
В то время как в США продолжаются внутренние дискуссии, китайские компании активно развивают свои нейросети, создавая конкуренцию лидерам, таким как OpenAI и Anthropic. На саммите БРИКС в Индии Си Цзиньпин призвал к созданию глобальной системы управления ИИ на основе консенсуса, а власти Китая анонсировали намерение содействовать формированию открытого сообщества разработчиков.
Обе компании, Anthropic и OpenAI, готовятся к возможным первичным публичным размещениям акций, но конкретные даты пока не объявлены. Глава OpenAI, Сэм Альтман, отметил, что выход на биржу в этом году маловероятен из-за соображений безопасности. Несмотря на разногласия с Амодеи, Альтман поддержал его инициативу о замедлении темпов развития ИИ.
Среди сторонников идеи Амодеи также выступили известные личности из отрасли, включая Демиса Хассабиса из Google DeepMind, который отметил правильность направления размышлений, и Илона Маска, который также положительно отозвался о предложении.
По материалам: 3dnews.ru
