Компании сталкиваются с ростом «теневого» использования ИИ сотрудниками

Генеративный ИИ уже вошел в повседневную работу компаний. Сотрудники используют такие инструменты для поиска информации, подготовки текстов и анализа данных. При этом внутренние правила часто не успевают за тем, как технологии применяются на практике. Как пишет t3n, 98% организаций уже имеют стратегию по ИИ, но только в 39% случаев использование технологий активно контролируется топ-менеджментом.

Из-за разницы между формальной стратегией и реальными процессами компании сталкиваются с явлением Shadow AI. Речь идет о ситуациях, когда сотрудники используют собственные ИИ-инструменты без официального согласования. Особенно чувствительной эта практика считается для HR, Finance, Tax и Legal: в модели могут загружаться персональные данные, финансовая информация и юридически значимые документы.

В материале говорится, что 78% пользователей ИИ приносят на работу собственные решения, потому что не находят одобренных корпоративных сервисов. Одновременно, по данным Bitkom, только 26% компаний предоставляют сотрудникам официальные ИИ-сервисы. Дополнительное давление создают требования EU AI Act. 82% компаний заявили, что регуляторные нормы заметно влияют на их подход к использованию ИИ.

Авторы также обращают внимание на качество результатов. По данным исследования, 47% руководителей считают ответы ИИ недостаточно надежными для специализированных задач. Чтобы снизить риски, компаниям рекомендуют оценивать сценарии использования ИИ по нескольким критериям: какие данные обрабатываются, насколько высок риск, кто отвечает за проверку результатов и проходят ли сотрудники обучение.