딥러닝 텍스트 탐지의 새로운 국면: 설명 가능한 AI의 역할

설명 가능한 AI(XAI)를 활용하여 AI 생성 텍스트의 탐지율을 낮추는 방법이 제시되었지만, 다중 모델 기반 앙상블 분류기는 여전히 강력한 탐지 성능을 유지함을 보여주는 연구 결과입니다. 이는 AI 생성 텍스트 탐지 기술의 발전과 그에 대한 대응 전략의 중요성을 시사합니다.

최근 생성형 모델, 특히 대규모 언어 모델(LLM)의 발전으로 인간과 구별하기 어려운 수준의 텍스트 생성이 가능해졌습니다. 하지만 이러한 AI 생성 텍스트(AIGT)는 인간이 작성한 텍스트와는 다른 패턴을 보여, 탐지가 용이하다는 문제점이 존재합니다.

Hadi Mohammadi 등의 연구진은 이러한 문제를 해결하기 위해 설명 가능한 AI(XAI) 방법을 활용한 새로운 접근 방식을 제시했습니다. 연구진은 먼저 AIGT와 인간이 작성한 텍스트를 구별하는 앙상블 분류기를 학습시켰습니다. 그 후, SHAP과 LIME 기법을 사용하여 분류기의 예측에 가장 큰 영향을 미치는 토큰(단어)을 식별했습니다. 그리고 이러한 영향력 있는 토큰을 변경하는 네 가지 설명 가능성 기반 토큰 대체 전략을 제안했습니다.

연구 결과, 이러한 토큰 대체 전략은 단일 분류기의 AIGT 탐지 능력을 현저히 감소시키는 것으로 나타났습니다. 흥미로운 점은, 다중 모델 기반의 앙상블 분류기는 여러 언어와 도메인에 걸쳐 강력한 성능을 유지했다는 것입니다. 이는 토큰 단위 조작의 영향을 완화하는 데 다중 모델 접근 방식이 효과적임을 보여줍니다.

이 연구는 XAI 방법을 통해 가장 영향력 있는 토큰에 집중하여 AIGT의 탐지 어려움을 증가시킬 수 있음을 보여줍니다. 하지만 동시에, 진화하는 AIGT 은닉 기법에 적응할 수 있는 강력한 앙상블 기반 탐지 전략의 필요성을 강조합니다. AI 생성 텍스트 탐지 기술의 발전과 그에 대한 대응 전략의 중요성을 다시 한번 일깨워주는 연구라 할 수 있습니다. 앞으로 AIGT 탐지 분야는 XAI 기법과 앙상블 학습의 발전에 따라 더욱 치열한 기술 경쟁의 장이 될 것으로 예상됩니다.