Google запускает DeepMind Institute для изучения вопросов сильного ИИ

Google и Google DeepMind анонсировали создание DeepMind Institute, нового форума для обсуждения вопросов, касающихся сильного искусственного интеллекта (AGI). Это учреждение нацелено на активизацию диалога о потенциальных проблемах и вызовах, связанных с AGI.

В состав руководства института вошли соучредитель DeepMind Шейн Легг, управляющий директор Google Джеймс Маника и председатель совета директоров Google DeepMind Демис Хассабис. Шейн Легг будет исполнять обязанности выпускающего редактора. Основная цель института – выявить различия в мнениях между Google, Google DeepMind и мировым сообществом в области AGI. Как отметили представители организации, мнения могут варьироваться и изменяться в зависимости от новых данных в быстро развивающейся сфере.

Первая подборка исследовательских работ охватывает различные аспекты, включая экономическую политику в условиях, когда AGI может вызвать значительные потрясения, а также вопросы прозрачности в моделях ИИ, принципы процветания человечества и методику оценки передовых ИИ-систем.

В одной из работ исследователи DeepMind утверждают, что сокращение прозрачности, то есть возможности отслеживания рассуждений модели, не является неизбежным. Они призывают разработчиков и регуляторов к открытому обсуждению проблем, связанных с безопасностью, и предлагают меры для ограничения непрозрачности вычислений. В другой работе Хассабис предлагает создать орган стандартизации для оценки ИИ-моделей, чтобы разработчики могли представлять свои системы на добровольной основе за 30 дней до их выпуска, с возможным введением обязательного тестирования в будущем.