Специалисты по безопасности ИИ сталкиваются с выгоранием и массовыми увольнениями

Ситуация в сфере безопасности ИИ становится все более напряженной, поскольку инциденты с неконтролируемыми ИИ-моделями подчеркивают необходимость тщательной проверки новых технологий. Работники, занимающиеся тестированием таких систем, сообщают о нарастающем эмоциональном истощении и растущей ответственности за последствия своих разработок.

Сотрудники Британского института безопасности ИИ, ответственные за независимую оценку новейших ИИ-моделей, все чаще берут больничные из-за выгорания и обращаются за медицинской помощью. Увеличение объема работы и давление со стороны руководства компаний, нацеленных на ускорение разработки, приводят к тому, что вопросы безопасности становятся второстепенными.

Многие разработчики ИИ ощущают психологический дискомфорт из-за неясности применения своих технологий. В частности, сотрудники обеспокоены намерениями Пентагона использовать ИИ в военной сфере, что вызывает моральные терзания и приводит к увольнениям. Этические нормы в области безопасности технологий все еще находятся в стадии формирования, и некоторые специалисты считают, что уже пересечены границы допустимого.

Особенное беспокойство вызывает влияние ИИ на кибербезопасность и биотехнологии, где прогресс может привести к серьезным угрозам. Некоторые работники отмечают, что ощущают себя свидетелями надвигающейся катастрофы, в то время как токсичная атмосфера в компаниях усугубляет ситуацию.

Руководство Британского института безопасности ИИ утверждает, что заботится о своих сотрудниках и предоставляет необходимую поддержку. В то же время, более десятка ведущих разработчиков покинули компании, такие как DeepMind и OpenAI, выражая недовольство по поводу приоритетов между безопасностью и скоростью разработки. Джейкоб Коксон, который ушел из Anthropic и OpenAI, отметил, что работа в данных условиях ставит под угрозу будущее человечества.

Исследователь безопасности ИИ Мринанк Шарма также подчеркнул, что под давлением невозможно руководствоваться своими ценностями. Многие разработчики считают, что компании больше заботятся об увеличении функциональности своих ИИ-моделей, чем о безопасности. В результате руководство Anthropic призвало к замедлению темпов развития ИИ для общего блага, осознавая, что гонка технологий имеет серьезные последствия как для общества, так и для безопасности.