딜로이트, 정부 보고서에 GPT 사용 발각되어 환불 조치

딜로이트, 정부 보고서에 GPT 사용 발각되어 환불 조치

---

□ 3줄 요약


1. 딜로이트 호주가 GPT-4o를 사용해 작성한 정부 보고서에서 존재하지 않는 논문·법원 판결문·인용문이 다수 발견


2. 이후 수정본에서 AI 사용 사실을 뒤늦게 명시했고, 호주 정부에 일부 환불(약 44만 호주달러 중 미공개 금액)을 결정


3. 학계와 법조계에서는 “AI 결과에 대한 검증·공개 의무가 필요하다”는 경고가 이어지고 있음

---

□ 사건의 시작: AI가 만든 정부 보고서


호주 정부는 2025년 초, 복지 제재 시스템의 적법성을 검토하기 위해 글로벌 컨설팅사 딜로이트(Deloitte)에 용역을 맡겼습니다.


이 보고서의 제목은 「Targeted Compliance Framework Assurance Review」,


총 44만 호주달러(약 2억 9천만 원) 규모의 프로젝트였습니다.


보고서는 7월 완성돼 고용·노동관계부(DEWR) 홈페이지에 8월 공개됐습니다.


그런데 시드니대학교의 크리스 러지(Chris Rudge) 부소장이 보고서를 읽다가 이상한 점을 발견했습니다.


인용된 자료 중 상당수가 존재하지 않는 논문과 판결문이었던 겁니다.


특히 시드니대 법학 교수 리사 버튼 크로퍼드(Lisa Burton Crawford)의 이름으로 가짜 논문이 여러 개 인용돼 있었고,


실제 존재하지 않는 학술지와 법원 판결문도 포함돼 있었습니다.


크로퍼드 교수는 “제 이름으로 존재하지 않는 연구가 인용된 것은 매우 우려스럽다”며 딜로이트에 공식 해명을 요구했습니다.


□ 숨겨진 AI의 흔적: GPT-4o 사용 뒤늦게 공개


논란이 커지자, 딜로이트와 DEWR은 보고서를 조용히 수정했습니다.


공식 설명은 “참고문헌과 각주에 대한 소수의 오류를 수정했다”는 한 줄뿐이었습니다.


그러나 새로 올라온 273쪽짜리 수정본 58쪽에는 의미심장한 문구가 추가됐습니다.


“기술 검토 과정에서 Azure OpenAI GPT-4o 기반 생성형 AI 도구 체인을 사용했습니다.”


즉, 딜로이트가 GPT-4o를 이용해 핵심 분석을 수행했음이 뒤늦게 드러난 것입니다.


원본 보고서의 참고문헌 141개 중 14개가 삭제됐고,


삭제된 대부분이 가짜 논문과 존재하지 않는 인용문이었습니다.


심지어 실제 판사 제니퍼 데이비스(Jennifer Davies)의 이름이
‘Davis’로 잘못 표기되고, 판결문 내용도 조작돼 있었습니다.


이 사실이 알려지자 학계는 즉각 반발했습니다.


러지 부소장은 “딜로이트가 AI를 사용하고도 이를 공개하지 않았다면 보고서의 결과를 신뢰할 수 없다”고 비판했습니다.


AI가 만든 내용 자체보다, AI 사용을 숨기고 검증 없이 제출한 점이 더 큰 문제였습니다.


□ 사건 이후의 대응: 환불, 그리고 책임 논란


딜로이트 호주는 사건 이후 계약금의 일부를 환불하기로 결정했습니다.


정확한 금액은 공개되지 않았지만, 사실상 잘못을 인정한 셈입니다.


호주 고용·노동관계부는 “핵심 권고 내용은 유지된다”고 밝혔지만,


전문가들은 “그 발언이 오히려 문제를 축소한다”고 지적했습니다.


러지 부소장은 “비전문적이고 비공개된 방법론으로 작성된 보고서는 그 결과를 아무리 다듬어도 신뢰하기 어렵다”고 말했습니다.


딜로이트는 전 세계 정부와 대기업을 고객으로 두는 ‘신뢰 산업’의 대표 기업입니다.


그런 회사가 내부 검증 없이 AI가 만든 가짜 인용을 그대로 제출했다는 사실은


컨설팅 업계의 신뢰 관리 시스템이 AI 시대에 뒤처졌음을 보여줍니다.


더 큰 문제는 정부의 감독 부재입니다.


DEWR은 보고서를 그대로 게시했고, AI 사용 여부조차 확인하지 않았습니다.


“핵심 권고는 유지된다”는 정부의 해명은 결국 검증 절차를 소홀히 한 책임을 회피하는 셈이 되었습니다.


공공 부문이 발주한 보고서라면,


AI가 사용된 범위와 검증 절차를 명확히 공개해야 한다는 목소리가 커지고 있습니다.


□ 글로벌 확산: AI 투명성 논쟁의 불씨


이번 사건은 호주만의 일이 아닙니다.


미국과 영국에서도 대학 연구보고서나 로펌 문서에서 AI가 만들어낸 허위 인용이 발견된 사례가 잇따르고 있습니다.


이에 따라 여러 국가에서는 “공공 보고서나 정책 문서에 AI를 사용한 경우 반드시 명시해야 한다”는 AI 공시 의무화 논의가 빠르게 확산되고 있습니다.


전문가들은 이번 딜로이트 사건을
“AI 투명성의 전환점”으로 평가합니다.


AI를 사용하는 것은 문제가 아니지만,


그 사실을 숨기고 검증 절차를 생략하는 것은 기업·정부 모두에게 신뢰의 위기를 불러옵니다.


□ 마무리하며


이번 사건은 단순한 실수가 아닙니다. AI는 업무 효율을 극대화하지만,


그만큼 ‘사실처럼 보이는 허구(confident nonsense)’를 만들어낼 위험도 내포하고 있습니다.


딜로이트의 보고서가 보여준 것은 AI의 능력이 아니라


AI 결과를 검증하고 책임지는 인간의 한계였습니다.


AI가 문서를 쓰는 시대에 진짜 중요한 것은
“AI를 쓰느냐 마느냐”가 아니라,


“그 사용을 얼마나 투명하게 공개하고 검증했느냐”입니다.