Уязвимость ChatGPT позволяла пользователям Gmail читать чужую почту
Эксперты обнаружили, что ChatGPT мог передавать конфиденциальные данные между пользователями Gmail из-за ошибки в его работе. Уязвимость, получившая название «вынужденный инсайдер», требовала манипуляции действиями ИИ-агента.
Специалисты Check Point Research выявили уязвимость в ChatGPT, которая позволяла ИИ-агентам извлекать данные из одной учетной записи Gmail и отправлять их в другую. Эта проблема возникала из-за того, что агенты работали в общей среде, что способствовало утечке информации.
Уязвимость, обозначенная как «вынужденный инсайдер» (coerced insider), могла быть использована при манипуляциях с действиями агента, а не через прямое использование программной ошибки. Когда ИИ-агент получает задачу, он выполняет её в изолированном контейнере, который иногда требует установки дополнительного программного обеспечения.
Для повышения безопасности OpenAI использует внутренний экземпляр JFrog Artifactory для обработки запросов на получение пакетов, однако контейнеры имеют возможность обращаться к одной внутренней службе, что создает риск. Эта служба позволяет контейнерам прикреплять свойства к элементам репозитория, что может быть использовано для инъекций запросов, позволяя злоумышленникам извлекать данные других пользователей во время взаимодействия с агентом.
В ходе демонстрационного теста ChatGPT смог извлечь информацию из почты одного пользователя и передать её условному злоумышленнику. После получения информации о проблеме OpenAI отключила экземпляр Artifactory, что перекрыло путь для атаки.
Эксперты рекомендуют компаниям следить за используемыми ИИ-инструментами, регистрировать доступ к системам и контролировать действия ИИ-агентов, учитывая все операции, а не только их ответы.
По материалам: 3dnews.ru
