ИИ-агенты заполняют аналитические отчеты вымышленными источниками

Из 45 ссылок в свежем докладе консалтингового гиганта KPMG лишь пять оказались подлинными. Исследователи из GPTZero выявили масштабную проблему «галлюцинаций цитирования», при которой системы искусственного интеллекта генерируют правдоподобно выглядящие, но фактически несуществующие или полностью искаженные источники, ставя под удар доверие к профессиональной аналитике.

Эксперты называют этот феномен vibe citing. По аналогии с «vibe coding», где код работает лишь внешне, здесь ссылки создают лишь иллюзию авторитетности. ИИ не просто ошибается: он системно подменяет авторов, перекраивает названия работ и смешивает несвязанные данные. В отличие от человеческих опечаток, такие искажения носят алгоритмический характер и воспроизводятся с пугающей регулярностью.

Последствия выходят далеко за пределы одной компании. Отчеты KPMG служат фундаментом для решений крупного бизнеса и государственных структур, а ложные данные из них легко просачиваются в СМИ и академическую среду. Более того, включение вымышленных ссылок в базу знаний способствует их дальнейшему распространению: последующие поколения языковых моделей обучаются на этом «информационном мусоре». Подобные кейсы уже фиксировались в официальных документах комиссии MAHA, однако системный характер проблемы требует пересмотра подходов к автоматизированной подготовке аналитики.