인간 수준 공간 지능은 아직 멀었다: 시각 언어 모델의 공간 능력 평가


본 연구는 다중 지능 이론에 기반하여 시각 언어 모델의 공간 능력을 심리측정학적으로 평가한 결과, 인간과의 상당한 성능 차이와 모델 크기의 역설, 그리고 향후 개선 방향을 제시했습니다. 기하학적 인코딩과 동적 시뮬레이션 개선이 향후 연구의 중요한 과제로 제시되었습니다.

related iamge

최근 발표된 논문 "시각 언어 모델의 기본 공간 능력 정의 및 평가: 심리측정학적 관점"은 인공지능의 공간 지능 발전에 중요한 시사점을 제공합니다. Xu 등(2025)의 연구는 다중 지능 이론을 바탕으로 시각 언어 모델(Visual Language Model, VLM)의 기본 공간 능력(Basic Spatial Abilities, BSA)을 5가지(공간 지각, 공간 관계, 공간 방향, 정신 회전, 공간 시각화)로 정의하고, 심리측정학적 실험을 통해 13개의 주요 VLM을 평가했습니다.

흥미롭게도, 평가 결과는 인간과 VLM 간의 상당한 격차를 보여줍니다. 인간의 평균 점수는 68.38점인 반면, VLM의 평균 점수는 24.95점에 불과했습니다. 이는 VLM이 인간의 공간 지능 수준에 크게 미치지 못한다는 것을 시사합니다.

연구진은 다음과 같은 세 가지 주요 발견을 제시합니다.

  1. 계층적 구조: VLM의 BSA는 인간과 유사한 계층적 구조를 보였습니다. 2D 방향 감각은 상대적으로 우수했지만, 3D 회전과 같은 복잡한 공간적 작업에서는 매우 취약한 모습을 보였습니다. 또한, 각 BSA는 서로 독립적인 경향을 보였습니다 (피어슨 상관계수 r<0.4).
  2. 모델 크기의 역설: 놀랍게도, Qwen2-VL-7B와 같이 작은 모델이 더 큰 모델들보다 더 나은 성능을 보였습니다. Qwen 시리즈가 30.82점으로 가장 높은 점수를 기록한 반면, InternVL2는 19.6점으로 가장 낮은 점수를 기록했습니다. 이는 단순히 모델의 크기가 공간 지능과 비례하지 않음을 시사합니다.
  3. 한계점: 사고 과정(Chain-of-Thought)이나 5-shot 학습과 같은 개선 전략은 성능 향상에 일정 부분 기여했지만 (각각 0.100, 0.259 향상), 근본적인 아키텍처 제약으로 인해 한계가 명확했습니다. 연구진은 약한 기하학적 인코딩과 동적 시뮬레이션 부재를 주요 기술적 장벽으로 지적했습니다.

결론적으로, 이 연구는 VLM의 공간 지능을 심리측정학적으로 평가하는 틀을 제시하고, 인간 수준의 공간 지능 달성을 위한 중요한 과제를 제시합니다. 기하학적 인코딩 개선, 동적 시뮬레이션 기능 추가 등의 기술적 발전과 더불어, 인간의 인지 과정에 대한 깊이 있는 이해가 필요함을 강조합니다. 향후 연구는 VLM의 공간 지능 발전에 중요한 이정표가 될 것입니다.


*이 기사는 AI가 생성한 내용으로, 일부 정보가 실제와 다를 수 있습니다. 정확한 확인을 위해 추가적인 검증을 권장드립니다.

Reference

[arxiv] Defining and Evaluating Visual Language Models' Basic Spatial Abilities: A Perspective from Psychometrics

Published:  (Updated: )

Author: Wenrui Xu, Dalin Lyu, Weihang Wang, Jie Feng, Chen Gao, Yong Li

http://arxiv.org/abs/2502.11859v2