GPTZero обнаружила десятки несуществующих ссылок в отчёте KPMG об ИИ-агентах
ИИ‑детектор GPTZero выпустил второй отчёт о так называемых «галлюцинациях цитирования», ситуациях, когда системы искусственного интеллекта вставляют ссылки на несуществующие или искажённые источники. Поводом для анализа стал доклад компании KPMG, посвящённый ИИ‑агентам.
По данным GPTZero, в документе указано 45 ссылок, но лишь 5 из них ведут к реальным источникам. Остальные либо ссылаются на материалы, которых не существует, либо содержат серьёзные искажения. Авторы называют это явление vibe citing, по аналогии с термином vibe coding: результат выглядит убедительно, но внутри скрыты ошибки. Иногда ИИ создавал полностью вымышленные ссылки. В других случаях он смешивал реальные данные: менял местами авторов, перефразировал названия работ или неверно указывал источник информации.
В GPTZero подчёркивают, что такие ошибки не похожи на человеческие. Люди обычно не переписывают систематически названия публикаций, не путают темы исследований с именами авторов и не повторяют одну и ту же ошибку в разных частях документа. Компания предупреждает: искажённые ссылки могут расходиться дальше через СМИ, блоги и аналитические материалы. Они также способны попадать в данные, на которых обучаются или работают языковые модели. Ранее, в 2025 году, GPTZero уже обнаруживала «искажённые или полностью вымышленные» сноски в докладе комиссии Make America Healthy Again (MAHA), созданной при правительстве США для разработки рекомендаций в области здравоохранения.
Ключевые факты
GPTZero проанализировала доклад KPMG об ИИ‑агентах и обнаружила, что только 5 из 45 указанных ссылок вели на реальные источники, а остальные были несуществующими или серьёзно искажёнными.
Авторы исследования называют явление создания правдоподобных, но неверных ссылок термином «vibe citing» по аналогии с «vibe coding».
По данным GPTZero, ИИ в ряде случаев создавал полностью вымышленные ссылки или искажал реальные источники: менял авторов местами, перефразировал названия работ или указывал неверный источник.
В 2025 году GPTZero уже фиксировала «искажённые или полностью вымышленные» сноски в докладе комиссии Make America Healthy Again (MAHA), созданной при правительстве США.