Microsoft делится с подрядчиками запросами пользователей и фото из Copilot, включая интимные материалы

Компания Microsoft, наряду с OpenAI, привлекает большое количество подрядчиков для анализа взаимодействий пользователей с ИИ-чат-ботом Copilot. Эти работники оценивают текстовые запросы и загруженные изображения, что часто приводит к встрече с интимным контентом.

Когда пользователи загружают свои фотографии, они могут надеяться на конфиденциальность, но на практике их изображения и запросы становятся доступными для множества модераторов. Один из подрядчиков сообщил, что изображения часто содержат откровенные элементы, которые вызывают вопросы о законности и добровольности их использования.

Документы, которые оказались в распоряжении ресурса, содержат инструкции для подрядчиков, в которых описаны процессы обработки запросов и изображений. Работа включает выбор лучшего из двух редакционных вариантов по нескольким критериям, включая сохранение элементов, которые не должны изменяться, и общее качество обработки.

Подрядчики также отмечают, что иногда им приходится сталкиваться с заданиями, содержащими небезопасный контент, и они вынуждены сообщать об этом руководству. Компания Prolific, нанимающая таких сотрудников, подчеркивает, что не может полностью защитить их от шокирующего контента.

Microsoft в ответ на ситуацию заявила, что использует данные клиентов в соответствии с условиями использования, с целью улучшения своих продуктов и соблюдения этических стандартов.