Обнаружена уязвимость в ChatGPT для macOS, угрожавшая конфиденциальности пользователей

Недавно выявленная уязвимость в приложении ChatGPT для macOS от OpenAI продемонстрировала, как уязвимыми могут быть платформы на базе искусственного интеллекта. Она предоставила злоумышленникам возможность доступа к конфиденциальной информации пользователей, включая историю переписки и данные о сеансах в браузере.

Исследователи из фонда Objective-See Foundation выявили, что с помощью этой уязвимости можно было захватить контроль над ChatGPT на компьютере жертвы. Патрик Уордл, аналитик фонда, отметил, что подобные приложения предоставляют высокий уровень доступа, что делает их мишенью для атак. Он привел аналогию, сравнив таких агентов с управляющим зданием, имеющим доступ ко всем его помещениям.

Компания OpenAI признала наличие уязвимости и сообщила о её устранении 25 сентября. По словам Шейна Бауэра, представителя компании, OpenAI продолжает улучшать свои методы обеспечения безопасности, понимая необходимость более оперативных действий.

Структура приложения ChatGPT включает множество компонентов, взаимодействующих через защищенные каналы, что должно обеспечивать надежность. Однако исследователи обнаружили, что доверенный интерпретатор скриптов мог принимать недоверенные команды, что позволяло злоумышленникам манипулировать системой.

Уордл сообщил, что эксплуатация уязвимости была относительно простой, и потребовалось всего несколько строк кода для создания демонстрационного прототипа. В результате злоумышленники могли запускать команды, включая обращение к критически важным приложениям, при этом запросы выглядели легитимно. В дальнейшем Уордл планирует представить результаты своих исследований на конференции, посвященной безопасности экосистемы Apple.