Сатья Наделла заявил о «обратном информационном парадоксе» при использовании ИИ

Глава Microsoft Сатья Наделла заявил, что компании, использующие ИИ, фактически платят дважды: деньгами и собственными знаниями, которые передают моделям, чтобы повысить качество их работы. Как пишет The Next Web (TNW), Наделла назвал это «обратным информационным парадоксом». Это отсылка к идее экономиста Кеннета Эрроу о том, что информацию сложно продать без её раскрытия.

По словам Наделлы, в эпоху ИИ главный риск постепенно смещается к покупателю технологии. Чтобы модель действительно приносила пользу бизнесу, её обучают на внутренних данных, процессах и исправлениях ошибок. Он считает, что знания уходят не через прямые утечки, а через «exhaust», промпты, инструменты, которыми пользуются агенты, и корректировки ответов модели. В итоге поставщик ИИ всё лучше понимает клиента, тогда как сам клиент почти не видит, чему именно обучается система.

TNW отмечает, что Microsoft сама активно развивает этот рынок. Компания инвестировала миллиарды в OpenAI, размещает ChatGPT в Azure, а Copilot интегрирован с корпоративной почтой, файлами и чатами. В материале также говорится, что в 2024 году около половины руководителей по данным в одном из опросов приостанавливали или ограничивали использование Copilot из-за опасений по поводу доступа к данным.

В качестве решения Наделла предлагает выстраивать жёсткую «границу доверия» вокруг корпоративных данных, памяти и evals, чтобы никакие данные не пересекали её без согласия компании. Среди рекомендаций: владеть собственными evals, строить среды обучения внутри своей tenant boundary и не привязывать orchestration layer к одной модели.