Anthropic и Accenture начнут сотрудничество для проверки ИИ-системы Claude

Anthropic сообщила о выборе Accenture в качестве партнёра для проведения независимой оценки своих систем искусственного интеллекта. Специалисты Accenture будут вовлечены в рабочие процессы лаборатории ИИ, что является первым шагом в рамках инициативы Дарио Амодеи по замедлению развития ИИ.

В течение ближайших пяти лет обе компании намерены инвестировать не менее $1 миллиарда в развитие данной области. Anthropic отметила, что, учитывая важность задачи, она будет финансировать работу Accenture напрямую. В компании подчеркивают, что в будущем финансирование должно поступать из совместных или государственных источников, о чем они упоминали в „Концепции развития передового ИИ“.

Недавно Дарио Амодеи представил трёхступенчатый план, направленный на замедление усовершенствования моделей ИИ. Первый этап включает привлечение независимых экспертов для контроля соблюдения требований безопасности и оценки соответствия моделей человеческим ценностям. Инициативу поддержали такие известные фигуры, как Сэм Альтман и Илон Маск, хотя некоторые руководители технологических компаний выражают сомнения в необходимости дополнительного регулирования.

Сотрудничество с Accenture не является единственным для Anthropic; компания также ведет переговоры с некоммерческой исследовательской организацией METR и другими потенциальными партнёрами. Anthropic планирует делиться новыми данными о ходе работы и изменениях в подходе по мере развития проекта.