Компании все чаще используют ИИ-сервисы для работы с письмами, договорами, кодом, сводками по продажам и внутренними документами. При этом руководство далеко не всегда понимает, насколько широко такие инструменты уже применяются внутри организации.
Как отмечает IT World (IT-World.ru), сотрудники нередко сами подключают внешние сервисы для аналитики, подготовки ответов клиентам и обработки документов. Из-за этого в компаниях появляется эффект Shadow AI, по аналогии с Shadow IT.
Автор материала считает, что ключевые риски связаны не столько с самим ИИ, сколько с тем, что технологии внедряются быстрее, чем появляются понятные правила работы с данными, доступами и зонами ответственности. Среди возможных проблем упоминаются утечки информации, галлюцинации моделей, нарушения требований регуляторов и ошибки при принятии решений. Отдельно говорится о случаях, когда сотрудники госструктур используют зарубежные сервисы OpenAI и Anthropic, несмотря на законодательные ограничения.
В статье предлагают воспринимать ИИ как производственную технологию: она помогает ускорять работу и увеличивать пропускную способность процессов, но требует отдельного управления рисками. В качестве первого практического шага рекомендуется не внедрять ИИ «вообще», а сначала определить конкретную задачу, которую компания хочет автоматизировать или ускорить. Например, это может быть разбор документов, подготовка черновиков ответов или сведение данных из нескольких источников.
Ключевые факты
В материале описывается распространение практики Shadow AI по аналогии с Shadow IT.
Среди рисков использования ИИ названы утечки данных, галлюцинации моделей, регуляторные претензии и репутационные потери.
В тексте упомянуты зарубежные сервисы OpenAI и Anthropic, которые используют сотрудники отдельных госструктур.
Автор рекомендует начинать внедрение ИИ с определения конкретной функции, которую компания хочет передать машине.