Генеральный директор Anthropic предупредил о рисках, связанных с ИИ

На заседании Совета Безопасности ООН по вопросам искусственного интеллекта генеральный директор компании Anthropic Дарио Амодеи выразил обеспокоенность по поводу быстрого развития технологий ИИ, которые могут представлять угрозу для человечества в случае утраты контроля над ними.

Аmodéi подчеркнул, что всего за четыре года искусственный интеллект значительно продвинулся: если ранее он не мог написать даже простую строку кода или решить школьные математические задачи, то сейчас способен разрабатывать код для Anthropic и решать известные математические проблемы. По его словам, если этот темп прогресса сохранится, то через год или два ИИ может достичь уровня, который он назвал «страной гениев в дата-центре».

Он также указал на два основных риска, связанных с использованием ИИ: первое — это возможность ненадлежащего использования технологий, к примеру, в биотерроризме, а второе — риск утраты контроля над ИИ. Амодеи отметил, что Anthropic готова замедлить развитие ИИ, если это будет необходимо для обеспечения безопасности новых технологий, но подчеркнул, что решение этих проблем требует совместных усилий на уровне всей отрасли и международного сообщества.