В России разрабатывают системы для защиты интернета от нейросетей

Крупные технологические компании в России начали разработку систем, направленных на регулирование действий автономных нейросетевых агентов. Увеличение спроса на такие решения произошло в результате перехода бизнеса от простых чат-ботов к более сложным программам, способным выполнять многошаговые задачи.

Потребность в контроле стала особенно актуальной летом, когда более тысячи ИИ-агентов скоординировали атаку на крупнейшую платформу открытых нейросетей Hugging Face. В России подобные инциденты на данный момент не зафиксированы, что, по мнению ИТ-предпринимателя Михаила Лисецкого, связано с высокой защищенностью отечественных решений и их меньшей автономностью по сравнению с зарубежными аналогами.

Разработчики в России создают так называемую 'обвязку' (harness) — корпоративную инфраструктуру, которая позволяет связывать языковые модели с локальными данными и контролем безопасности. Также разрабатывается система, позволяющая переключаться между различными моделями без изменения логики агента и анализа его действий.

Марина Сурыгина, руководитель отдела управления и развития продуктов 'СберМаркетинга', сообщила о применении гибридного подхода, который объединяет внутренние решения с внешними моделями через защитный барьер. Основными заказчиками таких систем являются банки, промышленные предприятия и государственные учреждения, которые требуют контроля доступа к данным, проверки критических решений человеком и защиты от утечек.