AI가 채점한다면? 인간과 AI의 협력으로 혁신적인 자동 채점 시스템 등장!
AI와 인간 전문가의 협력을 통해 루브릭 기반 자동 채점 시스템의 정확도를 향상시킨 GradeHITL 시스템에 대한 연구 결과 발표. LLM의 생성 능력을 활용하여 동적으로 루브릭을 개선, 기존 자동 채점 방식의 한계를 극복.

AI가 채점한다면? 인간과 AI의 협력으로 혁신적인 자동 채점 시스템 등장!
최근 인공지능(AI), 특히 대규모 언어 모델(LLM)의 발전은 교육 분야에 혁신적인 변화를 가져오고 있습니다. 그 중에서도 단답형 답변 채점 자동화(ASAG)는 LLM의 도입으로 눈부신 발전을 이루었습니다. 기존의 단순 비교 방식을 넘어, 루브릭 기반의 정교한 채점까지 가능해진 것이죠. 하지만, 완전 자동화에 의존하는 기존 LLM 기반 방식은 여전히 인간 수준의 채점 성능에 도달하는 데 어려움을 겪고 있습니다.
Hang Li 박사를 비롯한 연구팀은 이러한 문제를 해결하기 위해, 인간-컴퓨터 상호작용(HITL) 방식을 활용한 새로운 접근법을 제시했습니다. GradeHITL 이라는 시스템입니다. GradeHITL은 LLM의 생성 능력을 활용하여 인간 전문가에게 질문을 하고, 그들의 통찰력을 바탕으로 채점 기준인 루브릭을 동적으로 개선합니다. 이러한 적응형 과정을 통해 채점 정확도가 크게 향상되어, 기존 방법을 뛰어넘는 인간 수준의 평가에 한 걸음 더 다가섰다고 합니다.
이는 단순히 AI가 채점하는 것을 넘어, AI와 인간 전문가가 협력하여 더욱 정확하고 효율적인 채점 시스템을 구축하는 혁신적인 사례입니다. AI의 강점과 인간의 전문성을 결합한 이러한 접근 방식은 향후 교육 분야 뿐 아니라 다양한 분야에서 활용될 가능성을 보여줍니다. AI 기술의 발전은 단순히 인간을 대체하는 것이 아니라, 인간과 협력하여 더 나은 결과를 만들어내는 방향으로 나아가고 있다는 것을 보여주는 좋은 예시입니다.
하지만, 이러한 발전에도 불구하고, 윤리적 고려와 데이터 편향 문제 등은 여전히 주의 깊게 살펴봐야 할 과제입니다. AI 기반 채점 시스템의 공정성과 신뢰성 확보를 위해서는 지속적인 연구와 개발이 필요합니다. 앞으로 GradeHITL이 교육 현장에 어떻게 적용되고, 어떤 영향을 미칠지 귀추가 주목됩니다.
Reference
[arxiv] LLM-based Automated Grading with Human-in-the-Loop
Published: (Updated: )
Author: Hang Li, Yucheng Chu, Kaiqi Yang, Yasemin Copur-Gencturk, Jiliang Tang
http://arxiv.org/abs/2504.05239v1