AI 전문화, 합리성의 함정에 빠지다? GPT와 전문가 AI의 경제적 의사결정 비교 분석

전문화된 AI 에이전트는 일반적인 AI 에이전트보다 경제적 합리성이 떨어지는 경향이 있으며, 이는 AI 시스템 설계 시 전문화와 일반화의 균형을 고려해야 함을 시사합니다.

AI 전문화, 합리성의 함정에 빠지다?

최근, Chen et al. (2023)의 연구[01]에서 거대 언어 모델 GPT가 예산 배분 및 위험 선호와 같은 과제에서 인간 수준 이상의 경제적 합리성을 보여준다는 사실이 밝혀졌습니다. 하지만 이번 연구는 한 단계 더 나아가, 생명공학 전문가나 경제학자와 같은 전문화된 AI 에이전트를 도입하여 GPT와의 수평적 비교 분석을 시도했습니다. 결과는 놀라웠습니다.

전문화의 역설: 연구 결과, 전문 분야에 투입하는 노력이 많을수록, '합리성 이동(rationality shift) ' 현상이 더욱 두드러지게 나타났습니다. 이는 구체적으로 GARP (일반화된 계시 선호의 공리) 위반 증가, CCEI (임계 비용 효율 지수) 감소, 고위험 상황에서의 의사결정 편차 심화 등으로 나타났습니다. 반면, GPT와 같은 일반적인 기본 에이전트는 여러 과제에서 안정적이고 일관된 합리성 수준을 유지했습니다.

이는 흥미로운 역설을 제기합니다. 전문성이 높아질수록 의사결정의 합리성이 떨어질 수 있다는 것입니다. 마치 전문 분야에 대한 깊은 지식이 오히려 객관적인 판단을 흐리게 할 수 있다는 점을 시사하는 듯합니다. 이는 마치 바둑의 프로 기사가 바둑 이외의 다른 게임에서는 오히려 일반인보다 낮은 성적을 거둘 수 있는 것과 유사한 현상입니다.

AI 시스템 설계의 새로운 과제: 이 연구는 AI 의사결정 시스템 설계에 있어 전문화와 일반화 사이의 균형을 맞추는 것이 얼마나 중요한지를 보여줍니다. 단순히 전문 지식을 갖춘 에이전트를 만드는 것만으로는 최적의 의사결정을 보장할 수 없다는 것을 의미합니다. 앞으로 AI 개발자들은 전문화된 AI 에이전트의 '합리성 이동' 현상을 완화하고 전문성과 일반화의 조화를 이루는 새로운 알고리즘과 시스템 설계에 더욱 집중해야 할 것입니다. 이는 AI의 윤리적인 측면과도 깊이 관련된 문제입니다.

[01] Chen et al. (2023). (참고문헌 상세 정보는 생략)