IT World перечислил риски и базовые правила внедрения ИИ в компаниях

Компании все чаще используют ИИ-сервисы для работы с письмами, договорами, кодом, сводками по продажам и внутренними документами. При этом руководство далеко не всегда понимает, насколько широко такие инструменты уже применяются внутри организации.

Как отмечает IT World (IT-World.ru), сотрудники нередко сами подключают внешние сервисы для аналитики, подготовки ответов клиентам и обработки документов. Из-за этого в компаниях появляется эффект Shadow AI, по аналогии с Shadow IT.

Автор материала считает, что ключевые риски связаны не столько с самим ИИ, сколько с тем, что технологии внедряются быстрее, чем появляются понятные правила работы с данными, доступами и зонами ответственности. Среди возможных проблем упоминаются утечки информации, галлюцинации моделей, нарушения требований регуляторов и ошибки при принятии решений. Отдельно говорится о случаях, когда сотрудники госструктур используют зарубежные сервисы OpenAI и Anthropic, несмотря на законодательные ограничения.

В статье предлагают воспринимать ИИ как производственную технологию: она помогает ускорять работу и увеличивать пропускную способность процессов, но требует отдельного управления рисками. В качестве первого практического шага рекомендуется не внедрять ИИ «вообще», а сначала определить конкретную задачу, которую компания хочет автоматизировать или ускорить. Например, это может быть разбор документов, подготовка черновиков ответов или сведение данных из нескольких источников.