Глава Anthropic о роли регулирования в доверии к ИИ

Глава Anthropic выразил благодарность за возможность обсудить важные вопросы, касающиеся регулирования в сфере искусственного интеллекта. Он считает, что выбор между концентрацией власти в руках избранных компаний и ее широким распределением является ложным. По его мнению, многие вне Кремниевой долины рассматривают регулирование как способ ограничения корпоративной власти, и данная точка зрения не учитывает сложные аспекты этого процесса.

Anthropic тщательно разрабатывает свои политические предложения, стремясь создать условия, которые замедляют развитие ведущих компаний в ИИ, одновременно поддерживая малые предприятия. Например, законопроект SB53 освобождает от регулирования компании с выручкой ниже 500 миллионов долларов, в то время как более строгие испытания для продвинутых моделей дают преимущество менее крупным игрокам. Глава компании также подчеркивает, что корректные правила могут помочь устранить риски и ограничить власть передовых лабораторий, оставляя место для моделей с открытыми весами.

По его мнению, недавние события не привели к желаемым результатам в регулировании. Однако он поддерживает подходы, которые включают тестирование передовых моделей перед их внедрением. Глава Anthropic также подчеркивает, что его высказывания о рисках и преимуществах ИИ были сбалансированными, и он не считает, что негативные прогнозы способствовали падению доверия к технологиям.

Он признает, что недовольство общества по отношению к ИИ связано с кризисом доверия, возникшим на фоне прошлых обманов со стороны компаний и правительств. По его мнению, эффективное решение проблемы требует не просто рекламы, а реальных достижений и честности в обсуждении рисков технологии. Anthropic активно работает над проектами в медицине и биологии, надеясь на значимые результаты в ближайшие годы, и глава компании обещает сообщить о них, как только они будут достигнуты.