Исследователи нашли уязвимость в Microsoft Copilot для кражи данных

Специалисты по кибербезопасности из компании Varonis исследовали уязвимость Microsoft Copilot, обнаружив метод, позволяющий осуществить кражу данных при переходе по ссылке. В процессе работы ИИ-помощник сам предоставил информацию о незадокументированном параметре, который делал возможным осуществление подобного эксплойта.

В ходе исследования эксперты выяснили, что запросы к Copilot можно передавать не только через стандартное поле, но и через URL с параметром «?q=». Microsoft предусмотрела защитный механизм, требующий от пользователя подтверждения для выполнения запроса. Однако исследователи обнаружили, что этот механизм можно обойти, добавив параметр «?autorun=1», который активирует запрос автоматически при переходе по ссылке, без необходимости подтверждения со стороны пользователя.

Примером вредоносного запроса может служить команда, которая извлекает адрес электронной почты последнего отправителя из почты пользователя и отправляет его на внешний ресурс. Хотя Microsoft закрыла возможность отправки запросов через URL-параметры в феврале, эксперты Varonis также разработали атаку на долгосрочную память Copilot, позволяющую злоумышленникам изменять информацию о пользователе и манипулировать ответами ИИ.

Microsoft выразила благодарность исследователям Varonis и заверила пользователей, что они не должны беспокоиться о безопасности, так как компания продолжает обновлять свои средства защиты.