Глава безопасности OpenAI Дэвид Робинсон ушел из компании из-за сомнений в её способности управлять ИИ

Дэвид Робинсон, руководивший командой Safety Systems в OpenAI, ушел из компании на прошлой неделе. Его уход стал очередным ударом по безопасности компании, которая недавно уволила троих сотрудников за утечку конфиденциальной информации.

Робинсон отвечал за прозрачность в вопросах безопасности ИИ и занимался разработкой информационных карточек о моделях компании. В прошлом он курировал политику OpenAI.

OpenAI привлекла внимание общественности после инцидентов, связанных с безопасностью, включая взлом платформы Hugging Face. На этой неделе Сэм Альтман, глава OpenAI, должен будет дать показания в австралийском сенате по делу о взломах правительственных сайтов ИИ-агентами компании.

На фоне этих событий в OpenAI начались юридические разбирательства после взлома Hugging Face, а Федеральная торговая комиссия США инициировала проверку деятельности компаний в сфере ИИ, включая OpenAI и Anthropic.

Ранее в сентябре Робинсон высказывал опасения в соцсети X, что сотрудники OpenAI начинают осознавать последствия внедрения мощных ИИ-моделей. Он отметил, что ситуация в компании меняется быстро, и выразил сомнение в способности команды адаптироваться к этим изменениям.

Робинсон стал одним из последних сотрудников, покинувших компанию после Джейкоба Коксона из Anthropic, который также предупреждал о рисках, связанных с созданием самосовершенствующегося суперинтеллекта.