Сатья Наделла предупредил компании о риске передачи бизнес-экспертизы поставщикам AI-моделей
Глава Microsoft Сатья Наделла заявил, что компании при использовании AI фактически «платят дважды»: не только через token-расходы, но и через передачу ценных внутренних данных и знаний. По его словам, чем сильнее бизнес хочет адаптировать модель под свои задачи, тем больше proprietary-информации приходится раскрывать.
Как сообщает IT Home со ссылкой на TechCrunch, Наделла считает, что поставщики моделей со временем могут изучать бизнес клиентов через prompts, вызовы инструментов агентами и исправления ошибок, которые пользователи вносят в ответы моделей. Он отметил: такие исправления постепенно превращаются в накопленную экспертизу, которую конкурентам было бы трудно получить напрямую.
Также Наделла раскритиковал подход, при котором AI-компании используют данные из интернета для обучения моделей, но при этом ограничивают возможность изучать и «дистиллировать» сами модели. По его мнению, это создает двойной стандарт. Кроме того, он обратил внимание на риски условий использования, где поставщики AI-сервисов оставляют за собой право обучаться на данных и взаимодействиях клиентов.
Ключевые факты
Сатья Наделла опубликовал свои комментарии 12 июля в блоге Microsoft.
Наделла заявил, что модели обучаются на prompts, вызовах инструментов агентами и пользовательских исправлениях ответов.
Глава Microsoft поддержал право компаний исследовать и «дистиллировать» AI-модели поставщиков.
Наделла отдельно предупредил о рисках пунктов в сервисных соглашениях, разрешающих обучение моделей на данных и взаимодействиях клиентов.