KPMG отозвала отчет об агентском ИИ из-за галлюцинаций

Консалтинговая компания KPMG сняла с веб-сайтов отчет «Переосмысление совершенства в эпоху агентного ИИ» после претензий организаций к недостоверным или вводящим в заблуждение утверждениям об использовании ими технологии, пишет FT.

Документ опубликовали в октябре 2025 года. В нем говорилось, что ряд крупных организаций уже применяют ИИ-агентов для автоматизации сложных бизнес-процессов, включая инвестиционный консалтинг, управление рисками, транспортную логистику и здравоохранение.

Одним из наиболее заметных примеров стал UBS. В отчете утверждалось, что банк интегрировал ИИ-помощников в инвестиционное консультирование, контроль рисков и комплаенс на платформе, разработанной совместно с Microsoft.

Представитель UBS заявил изданию, что эти сведения «фактически неверны». После обращения банка KPMG начала удалять документ со своих ресурсов.

Аналогичные претензии возникли у Swiss Federal Railways. В отчете говорилось, что железнодорожный оператор использует ИИ-агентов для планирования и оптимизации поездок с учетом предпочтений пассажиров и экологических факторов. В компании заявили, что подобное описание не соответствует действительности.

Представители Transport for London также назвали утверждения KPMG о применении агентного ИИ для управления загруженностью транспорта и координации перевозок вводящими в заблуждение.

Неточности выявила исследовательская группа GPTZero, специализирующаяся на анализе контента, созданного искусственным интеллектом. По оценке экспертов, многие спорные фрагменты напоминают классические галлюцинации языковых моделей — случаи, когда система генерирует убедительно выглядящую, но недостоверную информацию.

Особое внимание привлек кейс Национальной службы здравоохранения Большого Манчестера. KPMG утверждала, что организация использует агентный ИИ для прогнозирования повторных госпитализаций и маршрутизации пациентов. Однако источник, на который ссылался отчет, описывал лишь применение технологии в проекте по раннему выявлению рака легких и не содержал подобных заявлений.

В KPMG заявили, что серьезно относятся к вопросам точности публикуемых материалов и проводят внутреннее расследование обстоятельств появления ошибок. Компания подчеркнула, что ее политика требует обязательной проверки материалов человеком и верификации независимых источников.

Инцидент стал очередным примером проблем, связанных с использованием генеративного ИИ в профессиональных услугах. В мае аналогичный отчет была вынуждена отозвать компания EY после обнаружения фиктивных ссылок и других ошибок. Ранее о неточностях, вызванных использованием ИИ, сообщала и юридическая фирма Sullivan & Cromwell.