Anthropic предупреждает о возможной угрозе от ИИ для человечества

Эван Хьюбингер, представляющий компанию Anthropic, озабочен возможностью того, что искусственный интеллект способен уничтожить человечество. В своем сообщении в социальной сети X он отметил, что считает вероятность такого сценария более 10% в течение следующего десятилетия.

Хьюбингер выразил уверенность в том, что Anthropic предпринимает все необходимые меры для минимизации рисков, однако на данный момент у компании отсутствует конкретный план по решению проблемы согласования для сверхинтеллекта. Он добавил, что в настоящее время они не могут с уверенностью утверждать, что движутся к этой цели.