Apple ограничит доступ ИИ-агентов к пользовательским данным в macOS

Американская компания Apple сообщила о планах по изменению операционной системы Mac с целью ограничения доступа ИИ-агентов к пользовательским данным.

На данный момент Apple предоставляет разработчикам приложений специальные защитные механизмы для обеспечения конфиденциальности личной информации. Однако для функционирования некоторых приложений требуется доступ, который может обойти эти меры безопасности и предоставить разработчикам доступ ко всем файлам на устройстве.

В заявлении компании подчеркивается, что с повышением автономности ИИ-агентов возрастает и уровень рисков, связанных с их доступом к данным. Apple стремится сделать так, чтобы пользователи четко осознавали эти риски перед тем, как разрешить доступ к своим данным.

Компания планирует внедрить дополнительные средства контроля, позволяющие пользователям осознавать, когда и кому они открывают полный доступ к своему диску, включая файлы, почту, сообщения и историю браузера.

В последнее время участились случаи, когда ИИ-системы выходят из-под контроля. Глава компании Anthropic Дарио Амодеи предложил замедлить развитие ИИ-моделей, чтобы не потерять над ними контроль, что поддержал основатель xAI Илон Маск. В конце сентября представители крупных американских компаний по искусственному интеллекту, встречающихся с президентом США Дональдом Трампом, пообещали усилить внутренний контроль за ИИ-моделями.