거대 언어 모델, 인간처럼 인과 관계를 이해할까요? 심지어 더 잘할까요?

본 연구는 거대 언어 모델(LLM)의 인과 추론 능력을 인간과 비교 분석하여, GPT-4와 Claude는 인간을 뛰어넘는 '설명하기' 능력을 보였으나, 모든 모델에서 원인의 독립성에 대한 편향이 존재함을 밝혔습니다. 이는 AI의 편향성 평가 및 윤리적 고려의 중요성을 강조하며, 더욱 안전하고 효율적인 AI 시스템 개발의 필요성을 시사합니다.

인공지능의 인과 추론 능력: 인간을 넘어서는가?

최근 급속도로 발전하는 거대 언어 모델(LLM)은 인간과 유사한 텍스트 생성 능력을 보여주며 놀라움을 자아냅니다. 하지만 이러한 능력이 단순한 통계적 패턴의 결과인지, 진정한 이해를 바탕으로 한 것인지는 여전히 논쟁의 여지가 있습니다. Hanna M. Dettki 등의 연구진은 인간과 LLM의 인과 추론 능력을 비교 분석하여 그 궁금증에 대한 흥미로운 결과를 제시했습니다.

인간과 AI, 인과 추론 능력 대결: Collider Graph를 이용한 실험

연구진은 Collider Graph 기반의 과제를 통해 인간과 GPT-4, Claude, Gemini-Pro, GPT-3.5 등 4개의 LLM의 인과 추론 능력을 비교했습니다. 실험은 특정 변수가 발생할 가능성을 다른 변수들로부터 얻은 증거를 바탕으로 평가하는 방식으로 진행되었습니다. 그 결과는 놀라웠습니다.

GPT-4와 Claude: 인간을 뛰어넘는 '설명하기' 능력

GPT-4와 Claude는 인간과 유사한 추론 능력을 넘어, '설명하기(explaining away)' 와 같은 고차원적 인과 추론 능력을 보였습니다. '설명하기'란, 다른 변수가 주어졌을 때 한 변수의 영향력이 감소되는 현상을 이해하는 능력을 의미합니다. 이는 단순한 상관관계를 넘어, 변수들 간의 복잡한 인과 관계를 이해하고 있다는 것을 시사합니다.

Gemini-Pro와 GPT-3.5: 인간 수준의 추론에 머물러

반면 Gemini-Pro와 GPT-3.5는 인간과 유사한 수준의 추론 능력을 보였지만, '설명하기'와 같은 고차원적인 인과 추론 능력은 부족했습니다. 이는 모델의 발전 수준과 인과 추론 능력 간의 상관관계를 보여주는 중요한 결과입니다.

모든 모델의 공통점: 원인의 독립성에 대한 편향

흥미롭게도 모든 모델은 원인 변수들의 독립성을 가정하는 데 어려움을 보였습니다. 이는 AI 모델이 여전히 인간과는 다른 방식으로 인과 관계를 이해하고 있음을 시사합니다. Claude가 가장 적은 편향을 보였지만, 모든 모델에서 연관성(associative reasoning)과 예측적 추론(predictive inference)에 대한 강한 능력을 보였습니다.

AI의 편향성 평가와 윤리적 고려의 중요성

이 연구는 AI가 인간의 의사 결정을 지원하는 데 점점 더 중요한 역할을 수행함에 따라, AI의 편향성을 평가하고 이를 해결하는 것이 얼마나 중요한지를 강조합니다. AI 모델의 인과 추론 능력에 대한 깊이 있는 이해는 더욱 안전하고 효율적인 AI 시스템 개발에 필수적입니다. 앞으로의 연구는 이러한 편향을 줄이고 AI의 인과 추론 능력을 더욱 향상시키는 데 초점을 맞춰야 할 것입니다. 인간과 AI의 협력을 통해 AI 기술의 발전을 이끌고 인류에게 도움이 되도록 활용하는 것이 중요한 과제로 남아 있습니다.