OpenAI призывает к международным стандартам для обеспечения безопасности ИИ

На этой неделе представители ведущих американских стартапов в области искусственного интеллекта начали обсуждение эффективного регулирования технологий, изменив акцент с замедления их развития на создание международных стандартов. OpenAI, разработчики модели ChatGPT, подчеркнули важность установления глобальных норм безопасности в сфере ИИ.

OpenAI призвала США возглавить международную коалицию, которая займется разработкой требований к безопасности ИИ. Эта инициатива была озвучена перед выступлением генерального директора Сэма Альтмана в Совете безопасности ООН и встречей президента США Дональда Трампа с китайским лидером Си Цзиньпином.

Министр финансов США Скотт Бессент сообщил о достигнутом согласии с китайским вице-премьером Хэ Лифэном о необходимости диалога по вопросам ИИ, что создает предпосылки для дальнейших переговоров на высоком уровне. OpenAI считает важным наладить безопасные каналы обмена информацией между США и Китаем, чтобы делиться выявленными угрозами в этой области.

Среди предложений OpenAI — создание международных стандартов оценки ИИ-моделей с привлечением существующих организаций на национальном уровне. Компания акцентирует внимание на необходимости регулирования систем, способных к рекурсивному самосовершенствованию, чтобы избежать потери контроля над их развитием. По мнению OpenAI, полностью автономные системы пока не существуют и их создание должно быть отложено до тех пор, пока не будут установлены необходимые меры безопасности.

Тем не менее, власти США не рассматривают вариант замедления прогресса в области ИИ. Трамп выразил мнение, что замедление в этой сфере приведет к успеху Китая, что неприемлемо. Советник президента Дэвид Сакс отметил, что ограничения на развитие ИИ могли бы восприниматься как шантаж.

Глава Google DeepMind Демис Хассабис поддержал идею создания международных стандартов и предложил учредить частно-государственный орган, который будет заниматься регулированием ИИ. Он подчеркнул, что изменения, связанные с ИИ, будут происходить значительно быстрее и окажут более сильное влияние на общество, чем промышленная революция.

Конкурирующая компания Anthropic также предлагает не только замедлить развитие ИИ, но и внедрить элементы внешнего аудита для безопасности создаваемых моделей, что уже стало частью их внутренней практики.