세계 4대 회계·컨설팅 법인 중 하나인 KPMG가 인공지능(AI)의 기업 도입 사례를 정리해 발간한 공식 보고서가 정작 AI 환각(hallucination)으로 얼룩진 허위 정보 묶음이었던 것으로 드러났다.
AI 콘텐츠 탐지 전문업체 GPTZero의 분석 결과를 영국 파이낸셜타임스(FT)가 보도하면서 KPMG가 2025년 10월 발간한 ‘에이전틱 AI 시대의 탁월함 재정의(Total Experience: Redefining Excellence in the Age of Agentic AI)’ 보고서의 심각한 사실 오류가 지난 12일(현지시간) 공론화됐다.
GPTZero의 정밀 분석에 따르면 해당 보고서 내 45개의 각주 및 인용 출처 가운데 실제 원문과 정확히 일치하는 진본은 단 5개에 그쳤다. 28개는 실존 자료의 제목과 저자명을 뒤섞어 만들어낸 가짜 구성물이었으며, 일부는 출처 확인 자체가 불가능한 이른바 ‘바이브 사이팅(분위기 맞춤형 허위 인용)’으로 분류됐다.
바이브 사이팅이란 생성형 AI가 실재하는 문헌의 파편들을 임의로 이어붙이거나 제목을 변형해 그럴듯한 출처를 만들어내는 현상을 가리키는 신조어다.
더욱이 해당 보고서는 KPMG 자체 조사 결과와도 모순을 드러냈다. 보고서는 최고경영자(CEO)의 55%가 AI를 최우선 투자 항목으로 꼽는다고 명시했으나, 동월에 KPMG가 별도로 발표한 ‘2025 CEO 아웃룩’에는 같은 수치가 71%로 기재돼 있었다.
당사자들 일제히 반박…허위 사례 잇따라 확인
보고서에 등장하는 기업들의 AI 도입 사례도 전면 부정됐다. 스위스 투자은행 UBS는 마이크로소프트와 협력해 에이전틱 AI 플랫폼을 투자 자문·리스크 관리·준법 감시 업무에 통합 운용 중이라는 내용에 대해 “사실이 아니다”라고 FT에 공식 부인했다.
영국 국민보건서비스(NHS), 스위스 연방철도(SBB), 런던교통공사(Transport for London)도 각자의 AI 도입 관련 서술이 허위이거나 잘못 전달됐다고 동일하게 반박했다.
보고서 철회 후 KPMG 대변인은 “당사는 발간 콘텐츠의 정확성과 무결성을 중시한다”며 “AI의 책임 있는 활용 지침에 따라 인간의 검토를 통한 콘텐츠 검증과 독립 출처 확인을 의무화하고 있으며, 이번 사안의 경위를 내부 조사 중”이라고 밝혔다.
EY·딜로이트·에어캐나다…글로벌 기업 AI 환각 피해 잇따라
이번 사태는 KPMG에 국한된 문제가 아니다. 글로벌 전문직 서비스 기업들의 AI 환각 피해가 잇따르며 업계 신뢰성 위기로 번지고 있다.
EY 캐나다는 2025년 말 발간한 사이버 보안 보고서에서 27개 인용 중 16개가 AI에 의해 완전히 조작된 사실이 2026년 5월 GPTZero 조사 발표를 통해 드러나 해당 보고서를 철회했다. 딜로이트는 2025년 7월 호주 정부가 발주한 44만 호주달러(약 3억 9,000만 원) 규모의 복지 준수 검토 용역 보고서에 애저 오픈AI GPT-4o가 생성한 허위 학술 참고문헌과 가짜 법원 판결 인용문이 포함된 사실이 시드니대학교 연구자에 의해 발각되면서 계약금 일부를 환불하는 조치를 취했다.
법조계 피해도 현실화됐다. 캐나다 항공사 에어캐나다는 AI 고객서비스 챗봇이 존재하지 않는 할인 환불 정책을 안내해 이를 믿은 승객에게 법적 책임을 지게 됐다. 캐나다 법원은 “챗봇 역시 회사 웹사이트의 일부”라며 에어캐나다의 책임을 인정하고 배상을 명령했다.
미국에서는 뉴욕 남부연방법원이 2023년 생성형 AI가 만들어낸 허위 판례를 검증 없이 법정에 제출한 변호사에게 5,000달러(약 690만 원)의 제재금을 부과한 바 있다. 국내에서도 AI가 생성한 가짜 판례가 법원 서면에 인용되는 사례가 잇따르자, 법원행정처는 2026년 2월 가짜 사건번호 확인 서비스를 도입하고 AI 허위 인용에 대한 제재 방안 마련에 착수했다.
정보 생태계 오염 경고…규제 논의 본격화
GPTZero는 공신력 있는 컨설팅 기업의 보고서가 다른 언론과 기관에 재인용되면서 AI 환각 정보가 정보 생태계 전반에 확산되고, 이것이 다시 다른 AI 모델의 학습 데이터로 유입되는 악순환이 우려된다고 경고했다. 실제로 KPMG 보고서의 내용 일부는 철회 전 체코 언론을 통해 이미 재보도됐다.
이번 사태를 계기로 AI 생성 보고서에 대한 의무 공시 및 독립 검증 체계를 법제화해야 한다는 목소리가 각국 규제 당국을 중심으로 높아지고 있다.
