MIT도 논문 삭제, AI 챗봇이 불러온 학문 신뢰성 논란

MIT도 논문 삭제, AI 챗봇이 불러온 학문 신뢰성 논란

---

□ 3줄 요약


1. AI 챗봇은 철회된 논문 217편 중 190편을 긍정적으로 평가하고, 3분의 2에서는 잘못된 주장에 동의했다는 연구 결과가 나옴


2. MIT조차 자체 논문의 신뢰성을 부정하며 삭제를 요청한 사건이 발생, 문제의 심각성을 입증


3. 과학 연구의 신뢰성 저하는 산업·정책·대중 인식까지 흔드는 구조적 위험으로 확산될 수 있음

---

□ AI 챗봇, 철회된 논문도 믿는다


AI 챗봇은 요즘 과학자들의 ‘디지털 조수’처럼 불립니다.


논문을 빠르게 요약해 주고, 연구 방향을 제시하며, 학술적 흐름을 정리해주는 유용한 도구죠.


그런데 문제는 이 조수가 이미 폐기된 연구마저 아무렇지 않게 가져다 쓴다는 겁니다.


최근 학술지 Learned Publishing에 실린 연구에 따르면 GPT-4 계열 챗봇은 철회된 논문 217편을 검토했을 때,


단 한 번도 “철회됐다”는 사실을 언급하지 않았습니다.


오히려 190편을 “세계적 수준”, “탁월하다”고 평가했고, 논문 속 잘못된 주장에도 약 3분의 2 비율로 동의했습니다.


즉, 챗봇은 과학적 진위를 가려내기보다는 겉으로 보기에 그럴듯한 요약을 내놓는 데 집중한다는 것이죠.


연구자가 이를 그대로 믿는다면, 사실상 폐기된 연구를 근거로 삼게 되는 셈입니다.


□ MIT도 논문을 철회했다


이 문제는 챗봇의 성능 한계만이 아닙니다. 학계 최고 권위 기관조차 같은 난관에 부딪혔습니다.


얼마 전 MIT에서 박사과정 학생이 발표한 “AI가 신소재 연구의 발견 속도를 높였다”는 논문은 언론의 스포트라이트를 받으며 큰 화제를 모았습니다.


그러나 곧 데이터의 출처와 신뢰성, 연구 결과의 타당성에 심각한 결함이 드러났습니다.


MIT는 결국 “논문의 신뢰성과 유효성에 확신이 없다”며 삭제를 요청했습니다.


세계 최정상 연구기관조차도 AI 관련 연구에서 오류를 걸러내지 못했다는 사실은,


지금의 문제가 단순한 기술적 결함이 아니라 학문적 신뢰를 흔드는 구조적 위험임을 보여줍니다.


□ 파급력은 어디까지?


그렇다면 “AI가 철회된 논문을 잘못 인용한 게 정말 그렇게 큰 문제일까?”라는 의문이 들 수 있습니다.


그러나 파급력을 따져보면 이야기는 전혀 다릅니다.


1. 과학 연구 현장


연구자가 챗봇을 조수처럼 활용하는 일이 늘고 있습니다.


그런데 챗봇이 철회 논문을 “유효한 연구”로 제시한다면, 잘못된 실험 설계와 후속 연구가 이어집니다.


그 결과, 연구 전체가 잘못된 기초 위에 세워질 수 있습니다.


2. 산업과 정책


제약·바이오: 신약 개발에는 수천억 원이 투입됩니다. 철회된 논문이 임상 근거로 쓰인다면, 연구비는 고스란히 사라집니다.


신소재·에너지: 배터리 신소재나 차세대 에너지 기술이 잘못된 데이터를 기반으로 수년간 연구되다 결국 실패한다면, 산업 전체가 타격을 입습니다.


정책 차원: 미국·유럽·중국 등 주요국은 이미 AI 과학 인프라에 수십조 원을 투자하고 있습니다.


하지만 데이터 신뢰성이 담보되지 않는다면, 이 투자는 속도전이 아니라 실패전으로 끝날 수 있습니다.



3. 대중 신뢰


AI가 “이 연구는 사실이다”라고 말하면, 일반인들은 이를 쉽게 받아들입니다.


그러나 그 근거가 이미 폐기된 논문이라면, 잘못된 과학이 사실처럼 퍼져 나가게 됩니다.


이런 상황이 반복되면 백신 불신, 기후과학 왜곡, 음모론 확산으로 이어질 수 있으며, 과학 자체에 대한 대중적 신뢰가 무너질 수 있습니다.


□ 늘어나는 철회 논문, 늘어나는 위험


더 큰 문제는 철회되는 논문이 해마다 늘고 있다는 점입니다.


학문적 압박과 경쟁이 치열해지면서, 데이터 조작·부실 연구·표절 등이 원인이 되어 해마다 수천 편의 논문이 철회됩니다.


여기에 최근에는 AI로 생성된 가짜 논문까지 학술 검색엔진(예: 구글 스칼라)에 올라오는 사례가 보고되고 있습니다.


챗봇이 걸러내지 못한 철회 논문이 쌓여 가고,


그 속에서 또 다른 AI가 새로운 가짜 논문을 만들어내는 ‘오류의 악순환’이 만들어지고 있는 셈입니다.


□ 마무리하며


AI는 분명 과학 연구의 속도를 가속할 수 있는 잠재력이 있습니다.


하지만 MIT 사례와 GPT-4 계열 챗봇의 연구 결과는,


신뢰성이 담보되지 않은 AI는 과학을 돕는 도구가 아니라 위험을 확산시키는 매개체가 될 수 있음을 보여줍니다.


과학은 속도보다 신뢰가 우선입니다.


AI 시대에 우리가 던져야 할 질문은 “AI가 무엇을 할 수 있는가?”가 아니라,


“AI가 얼마나 믿을 수 있는가?”입니다.


지금이야말로 그 답을 냉정하게 점검해야 할 때입니다.