Harvard Business Review: массовое внедрение генеративного ИИ в компаниях может ухудшать качество знаний
Компании, которые активно внедряют генеративные ИИ‑инструменты, рассчитывают повысить производительность и меньше зависеть от человеческого труда. Но на практике появляется другой эффект. В деловой аналитике его называют «workslop»: поток низкокачественного и плохо проверенного контента, который генерирует ИИ. Как пишет iXBT со ссылкой на исследование Harvard Business Review, такой поток начинает перегружать рабочие процессы и со временем может приводить к «деградации знаний» внутри организаций.
Исследователи описывают довольно типичную цепочку. Сотрудники используют ИИ для подготовки рабочих материалов, и в этих текстах нередко встречаются ошибки или «галлюцинации». Коллегам приходится тратить дополнительное время на проверку и правки. Постепенно снижается доверие к внутренним данным, а накопленные знания теряют ценность. На уровне подразделений это отражается и на качестве итоговых бизнес‑результатов. В некоторых компаниях даже появляются сотрудники, чья работа сводится к исправлению ошибок, созданных ИИ.
Отдельная проблема связана с доверием к информации и к самим процессам, через которые она проходит. Ошибки, возникающие на автоматизированных этапах, затрагивают и найм: взаимодействие между кандидатами и работодателями становится менее надёжным. В HBR отмечают, что если задачи не разграничены достаточно чётко, массовое использование публичных больших языковых моделей приводит к росту ручной проверки и дополнительной нагрузке на сотрудников. При этом более узко специализированные системы или решения, обученные на внутренних данных, могут оказаться полезнее.
Ключевые факты
Исследование Harvard Business Review описывает явление «workslop», поток низкокачественного ИИ‑контента, который перегружает рабочие процессы и требует дополнительной проверки.
По наблюдениям Harvard Business Review, активное использование генеративных моделей может приводить к «деградации знаний», когда сотрудники теряют навыки, а решения опираются на искажённую или устаревшую информацию.
В некоторых компаниях появились отдельные роли сотрудников, чья задача, исправлять ошибки и неточности, созданные ИИ‑инструментами.
Harvard Business Review отмечает, что публичные большие языковые модели часто генерируют шаблонные или ошибочные тексты, тогда как специализированные системы или модели, обученные на внутренних данных, могут быть полезнее для бизнеса.