Альтман предупредил о риске потери контроля над ИИ и рассказал об увольнении исследователей безопасности

Генеральный директор OpenAI Сэм Альтман в интервью изданию Politico в рамках проекта Decoded рассказал о рисках искусственного интеллекта, разногласиях с конкурентами по вопросам регулирования и об увольнении сотрудников, занимавшихся безопасностью моделей компании.

По словам Альтмана, у технологии ИИ есть два пути развития, способных привести к катастрофе. Первый — потеря контроля над ИИ, когда система окажется недостаточно согласованной с человеческими ценностями, а люди утратят возможность управлять будущим. Второй — чрезмерная концентрация власти, при которой жёсткие ограничения ради безопасности приведут к тому, что технологией будут распоряжаться лишь несколько компаний или одна страна. Альтман назвал задачей OpenAI поиск прагматичной середины между этими крайностями.

Разговор состоялся на фоне подписания в Белом доме добровольного соглашения о безопасности ИИ, под которым поставил подпись президент OpenAI. Альтман заявил, что не считает документ формальностью, но подчеркнул: компания намерена заниматься безопасностью независимо от наличия подобных соглашений. При этом, по его словам, соглашение стало результатом месяцев переговоров с коллегами по отрасли, включая руководителей других компаний.

Отдельно Альтман прокомментировал вышедший на этой неделе исполнительный указ, переименовывающий искусственный интеллект в «сверхинтеллект». Он отметил, что термин «сверхинтеллект» используется уже несколько лет и точнее описывает масштаб происходящего, хотя и не считает, что это изменит восприятие технологии обществом. Планов менять название компании у OpenAI, по его словам, нет — хотя ранее рассматривалась идея постепенно переходить от доменов openai.com к openagi.com и openasi.com по мере развития технологии.

Альтман также обозначил разногласия с компанией Anthropic и её главой Дарио Амодеи по вопросам регулирования ИИ. Он заявил, что OpenAI не поддерживает введение тестирования и ограничений для моделей, которые не относятся к передовым, — в отличие от сторонников более жёсткого контроля. При этом он подчеркнул, что готов согласиться на часть рисков ради сохранения свободы и выгод для людей, но не намерен закрывать глаза на катастрофические риски.

В ходе интервью Альтман подтвердил информацию об увольнении троих исследователей безопасности OpenAI, которых, по имеющимся данным, отстранили за передачу конфиденциальной информации сторонней группе, проводившей независимую оценку моделей компании. Он отказался комментировать детали, связанные с конкретными сотрудниками, но заявил, что компания продолжает считать важным сотрудничество с внешними экспертами по безопасности при условии соблюдения конфиденциальности.

Альтман также упомянул случившуюся ранее попытку его отставки с поста главы компании, которая продлилась несколько дней, после чего он вернулся к руководству OpenAI.

Почему это важно

Слова главы OpenAI показывают, что крупнейшие разработчики искусственного интеллекта пока не имеют единого подхода к управлению рисками технологии: одни лаборатории настаивают на жёстком регулировании уже существующих моделей, другие — как OpenAI — выступают за более гибкие правила, опасаясь, что чрезмерные ограничения приведут к сосредоточению контроля над ИИ в руках узкого круга компаний или государств.

Увольнение исследователей безопасности и внутренние конфликты внутри компании указывают на то, что споры о допустимых рисках ИИ идут не только на уровне публичных дискуссий между лабораториями, но и внутри самих организаций, разрабатывающих эти технологии.