Сатья Наделла предложил встраивать в ИИ-модели аварийный тормоп для экстренной остановки

Генеральный директор Microsoft Сатья Наделла выступил с публичным обращением, в котором призвал к пересмотру подходов к разработке искусственного интеллекта. Своё мнение он изложил в посте на платформе X 11 октября 2026 года, сосредоточившись на рисках, связанных с развитием продвинутых ИИ-систем.

По словам Наделлы, больше нельзя относиться к продвинутому ИИ, который он называет «суперразумом», как к набору непрозрачных вложенных друг в друга систем, чьи советы и действия пользователи просто принимают или отвергают без возможности разобраться в логике их работы. Вместо этого он предложил сделать работу моделей прозрачной: оставлять после каждого действия ИИ защищённые от подделки и понятные человеку свидетельства, а также предусмотреть возможность ограничивать и контролировать систему при необходимости.

Ключевая идея Наделлы — изначально относиться к любой ИИ-модели как к потенциально скомпрометированной и держать её под контролем с самого начала работы, а не только после выявления проблем. Он сравнил этот механизм с аварийным тормозом: по его замыслу, уполномоченный человек должен в любой момент иметь возможность приостановить работу модели или полностью остановить её, даже если она уже выполняет задачу. Для более сложных и мощных моделей, считает глава Microsoft, понадобятся и более продвинутые технологии сдерживания, а для них необходимо разработать единые отраслевые стандарты.

Как отмечает издание The Verge, часть предложений Наделлы созвучна идеям, которые уже озвучивали другие представители ИИ-индустрии: своевременное раскрытие информации об инцидентах с ИИ-системами, проведение независимых аудитов и обеспечение проверяемости данных. При этом в вопросе механизмов сдерживания позиция главы Microsoft оказалась более жёсткой, чем у коллег по отрасли.

Почему это важно

Предложение Наделлы отражает растущую обеспокоенность крупных технологических компаний скоростью развития ИИ-моделей и их потенциальной непредсказуемостью. Речь идёт не о гипотетическом далёком будущем, а о системах, которые уже сейчас выполняют сложные задачи и принимают решения с минимальным контролем со стороны человека.

Если идеи Наделлы о едином стандарте аварийной остановки и обязательной прозрачности ИИ-моделей получат поддержку в отрасли, это может повлиять на то, как разработчики — включая конкурентов Microsoft — будут проектировать будущие системы искусственного интеллекта и какие гарантии безопасности в них закладывать по умолчанию.