KPMG отозвала отчет об использовании AI-агентов из‑за галлюцинированных кейсов
Консалтинговая компания KPMG отозвала отчет об использовании AI-агентов. Причиной стали кейсы, приведенные в документе: выяснилось, что они были сгенерированы ИИ и не соответствуют реальности.
История вновь подсветила противоречие внутри консалтинговой индустрии. Компании часто выступают как эксперты по ответственному применению ИИ, но на практике и сами сталкиваются с проблемами, связанными с галлюцинациями моделей.
В материале отмечается, что подобные вводящие в заблуждение исследования могут иметь реальные последствия. На такие отчеты нередко ориентируются, когда принимают решения о внедрении технологий.
Ключевые факты
KPMG отозвала отчет об использовании AI-агентов из‑за галлюцинированных кейс‑стади.
В отчете были обнаружены кейс‑стади, сгенерированные ИИ и оказавшиеся недостоверными.
В материале отмечается, что консалтинговые фирмы позиционируют себя как экспертов по ответственному использованию ИИ, но сами сталкиваются с проблемой ИИ‑галлюцинаций.
Подчеркивается, что вводящие в заблуждение исследования могут иметь реальные последствия.