Руководитель Anthropic выступил за разработку стандартов безопасности ИИ с участием властей

Дарио Амодей, возглавляющий компанию Anthropic, заявил о необходимости вовлечения государственных органов в процесс разработки стандартов безопасности для новых моделей искусственного интеллекта.

На встрече в субботу он предложил замедлить разработку более продвинутых моделей ИИ по соображениям безопасности. Выразили согласие с его мнением также миллиардер Илон Маск, владелец xAI, и Сэм Альтман, глава OpenAI.

Амадей отметил, что следующим шагом должно стать сотрудничество между компаниями для выработки общих стандартов безопасности, возможно, касающихся темпов выпуска новых моделей. Он подчеркнул, что обсуждение этих вопросов следует проводить с участием правительства.

Ранее один из исследователей Anthropic, Джейкоб Коксон, объявил о своем выходе из сферы ИИ, опасаясь, что конкуренция между технологическими компаниями может привести к катастрофическим последствиям уже к концу 2027 года. В ответ на его заявление, Эван Хьюбингер, руководитель направления стресс-тестирования согласованности ИИ в Anthropic, оценил вероятность того, что ИИ сможет уничтожить человечество в течение следующего десятилетия, в 10%.