Исследователь Anthropic уходит из ИИ-индустрии из-за страха перед апокалипсисом

Джейкоб Коксон, работавший в компании Anthropic, принял решение покинуть сферу искусственного интеллекта. Он высказывает опасения, что усиливающаяся конкуренция между технологическими гигантами может привести к «точке невозврата», что, по его мнению, создает риск апокалипсиса уже к концу 2027 года, как сообщает Wall Street Journal.

Коксон утверждает, что текущие тенденции развития технологий приближают человечество к самым опасным сценариям, и предупреждает, что к следующему году ситуация может стать критической. Он не желает участвовать в гонке по созданию самообучающихся ИИ-моделей, так как считает, что подобные системы могут стать неконтролируемыми и угрожать существованию человечества.

Исследователь, которому 27 лет, родом из Великобритании, отмечает, что его коллеги всё чаще используют термины «критическая точка» и «эндшпиль», описывая текущее состояние ИИ. В начале текущего года Коксон перешел из OpenAI в Anthropic, надеясь на более безопасный подход к разработке технологий. Однако он пришел к выводу, что ни одна частная компания не может этично развивать ИИ без внешнего контроля и согласованного замедления его развития.

В будущем Коксон планирует заняться изучением поэзии.