Anthropic: ИИ-компании нуждаются в правительственном контроле для безопасности

На мероприятии Politico, состоявшемся в минувшую среду, Сара Хек, отвечающая за публичную политику в Anthropic, подчеркнула, что надежда на самоконтроль со стороны разработчиков ИИ не оправдана. По её словам, правительство должно взять на себя ведущую роль в регулировании этой сферы.

Хек отметила, что участники рынка не способны обеспечить необходимый уровень надзора за безопасностью ИИ, полагаясь только на собственные этические стандарты. Она заявила: «Мы хотим сотрудничать с правительством, чтобы определить, что имеет смысл. Мы не можем проверять свою работу самостоятельно, это очевидно».

Недавно генеральный директор Anthropic Дарио Амодеи предложил замедлить развитие ИИ для обеспечения общественной безопасности, что получило поддержку от руководителей таких компаний, как OpenAI, Google DeepMind и SpaceX. Однако основатели Nvidia и Meta Platforms не согласились с этой идеей, назвав её избыточной. Президент США Дональд Трамп также выразил обеспокоенность, считая, что замедление может создать преимущества для китайских разработчиков.

Сара Хек сообщила, что Anthropic ведёт постоянные переговоры с Белым домом и консультируется с американскими законодателями в течение года. Она акцентировала внимание на важности своевременного решения сложных вопросов, предупредив, что игнорирование этих проблем сейчас может привести к трудностям в будущем, особенно в контексте взаимодействия с Китаем и регулирования национальной ИТ-отрасли.