AI의 환각: 가짜 인용 논문, 그 해결책은?

생성형 AI의 환각 현상으로 인한 가짜 인용 문제를 해결하기 위해, 저널이 저자에게 인용 출처의 전체 텍스트를 제출하도록 요구하는 방안이 제시되었습니다. 이 방법은 저자와 편집자의 부담을 최소화하면서 AI 환각 인용 문제를 효과적으로 해결할 수 있는 실용적인 해결책으로 평가됩니다.

최근 생성형 인공지능(AI)의 놀라운 발전과 함께, 그늘진 그림자가 드리우고 있습니다. 바로 AI의 ‘환각’ 현상입니다. AI가 존재하지 않는 정보를 마치 사실인 것처럼 생성하는 이 현상은 이미 학술계에도 심각한 문제를 일으키고 있습니다. Alex Glynn의 논문, "Guarding against artificial intelligence--hallucinated citations: the case for full-text reference deposit"는 이 문제를 정면으로 다룹니다.

논문에 따르면, AI가 생성한 가짜 인용이 심사를 통과한 학술지에 실리는 사례가 늘고 있다고 합니다. AI가 만들어낸 논문에, 실제로 존재하지 않는 참고 문헌이 버젓이 인용되어 있는 것이죠. 이는 학문의 신뢰성을 크게 훼손하는 심각한 문제입니다.

그렇다면 해결책은 무엇일까요? Glynn은 Transparency and Openness Promotion (TOP) 데이터 공유 지침, AI와 미국 사법부의 충돌 사례, 그리고 미국 특허청의 선행 기술 제출 관행 등을 참고하여 실용적인 해결책을 제시합니다. 바로, 저널들이 저자들에게 인용한 모든 자료의 전체 텍스트를 원고와 함께 제출하도록 요구하는 것입니다.

이는 저자나 편집자에게 과도한 부담을 주지 않으면서도, AI가 만들어낸 가짜 인용 문제를 효과적으로 막을 수 있는 방법이라고 주장합니다. 저자가 인용 자료의 전체 텍스트를 제시하지 못한다면, 그 인용은 당연히 거짓이기 때문입니다. 단순하면서도 강력한 해결책이 아닐 수 없습니다.

이 논문은 단순히 문제점을 지적하는 데 그치지 않고, 실제로 적용 가능한 해결책을 제시하여 학계에 중요한 시사점을 던져줍니다. AI 시대, 학문의 정직성과 신뢰성을 지키기 위한 노력은 지속되어야 하며, Glynn의 제안은 그러한 노력에 귀중한 기여를 할 것입니다. 앞으로 학술지들의 적극적인 참여와 AI 기술의 윤리적인 발전이 절실히 필요한 시점입니다. 🤔