Подрядчики, привлечённые для улучшения Microsoft Copilot, могут видеть запросы пользователей, загруженные фотографии и созданные сервисом варианты обработки. Лица на снимках при этом остаются без цензуры, следует из внутренних документов, с которыми ознакомилась 404 Media.
При проверке изображений подрядчику показывают исходный запрос, фотографию пользователя и два результата редактирования. Он должен выбрать лучший вариант по четырём критериям: соответствие запросу, сохранность остальных элементов снимка, отсутствие визуальных дефектов и общее качество.
Среди заданий встречаются откровенные материалы и запросы сексуального характера. Один из подрядчиков рассказал 404 Media, что некоторые изображения вызывали сомнения в добровольном характере происходящего. При этом задача проверяющих состоит не в выявлении и фильтрации такого контента, а в оценке того, насколько хорошо Copilot выполнил запрос.
Подрядчиков нанимает Prolific, которая собирает обратную связь от групп людей, чтобы улучшать системы искусственного интеллекта, оценивать их безопасность и сравнивать результаты. В инструкции компании сказано, что полностью оградить проверяющих от шокирующих или откровенных материалов невозможно. Microsoft заявила 3DNews, что использует данные клиентов в соответствии с условиями сервиса, в том числе для улучшения продуктов и контроля за соблюдением правил.
Microsoft расширяет Copilot и встраивает в него Word, Excel, PowerPoint, Teams, создание приложений и автономного помощника Autopilot. По данным TechTarget, за Copilot платят менее 20 млн пользователей при более чем 450 млн клиентов Microsoft 365. Пользователям стоит учитывать, что часть отправленных в сервис рабочих и личных данных может проходить ручную проверку.
Что это значит
- Для вас. Загруженное в Copilot изображение или текстовый запрос может попасть к человеку, который оценивает работу сервиса. Это особенно важно учитывать при отправке личных фотографий, документов и переписки.
- В России. Microsoft прекратила продажи новых продуктов и лицензий в стране, а Microsoft 365 Copilot российским компаниям напрямую не продаётся.
- Что сделать. Не отправляйте в Copilot интимные снимки, документы, коммерческие секреты и другие данные, которые не должен увидеть посторонний. Если обработка необходима, заранее удалите лица, реквизиты и идентифицирующие детали.