Meta представила ИИ-агента Muse для телефонных звонков, вызывая вопросы о приватности
Компания Meta анонсировала ИИ-агента Muse, который может звонить от имени пользователей. Однако тестирование функции показало, что иногда звонки все же осуществляются живыми людьми, что вызывает опасения о безопасности данных.
Meta Platforms анонсировала ИИ-агента Muse, который позволяет пользователям делегировать выполнение звонков и взаимодействие с интернет-сервисами. Как стало известно, Muse может осуществлять телефонные звонки от имени пользователей, но содержимое разговоров доступно подрядчикам компании.
Запуск функции звонков состоялся недавно, и в ходе тестирования компания привлекла подрядчиков, которые имели доступ к содержанию разговоров. Это вызвало озабоченность у сотрудников Meta, которые выразили опасения о конфиденциальности пользовательской информации. ИИ-агент Muse может общаться с представителями различных сервисов, например, для бронирования билетов или записи в парикмахерскую.
Среди замечаний сотрудников были случаи расистских высказываний со стороны подрядчиков, что также может негативно сказаться на репутации пользователей Muse. Руководство Meta признало, что сотрудничество с подрядчиками для обработки звонков было ошибкой и уже было прекращено. Тем не менее, статистика показывает, что подрядчики выполняли свою работу успешно в 95-98% случаев, в то время как голосовой ИИ имел более низкий уровень успеха.
История Meta также знает случаи, когда автоматизация заменялась человеческим трудом. Десять лет назад компания, тогда еще известная как Facebook, запустила цифрового ассистента M, который в основном выполнял свои функции при помощи людей. В настоящее время Meta сообщила, что эксперименты с живыми агентами были необходимы для выявления уязвимостей в безопасности до полноценного запуска функции.
Muse, которая была анонсирована в этом месяце, уже набрала более 2,5 миллионов загрузок. В начале тестирования функция звонков была доступна ограниченному числу пользователей. Один из пользователей сообщил, что его попытки связаться со страховой компанией через ИИ-агента закончились неудачами, так как операторы вешали трубку, понимая, что общаются с роботом. На прошлой неделе функция была расширена на половину сотрудников Meta для ускорения тестирования, при этом участие остается добровольным.
По материалам: 3dnews.ru
