프롬프트에서 명제로: 논리 기반 접근으로 본 학생-LLM 상호작용
본 연구는 대규모 언어 모델(LLM)을 활용한 컴퓨팅 교육 환경에서 학생들의 프롬프트 작성 및 문제 해결 전략을 논리 기반으로 분석하는 새로운 방법인 'Prompt2Constraints'를 제시합니다. 이 방법을 통해 학생들의 어려움을 실시간으로 감지하고 효과적인 개입을 제공하여 학습 효과를 높일 수 있는 가능성을 제시합니다.

컴퓨팅 교육에 대규모 언어 모델(LLM)이 점점 더 많이 통합됨에 따라, 학생들이 LLM을 어떻게 사용하고 계산 작업을 해결하기 위해 프롬프트를 작성하는지 이해하는 데 어려움이 발생하고 있습니다. 기존 연구에서는 질적 및 양적 방법을 모두 사용하여 프롬프팅 행동을 분석했지만, 이러한 접근 방식은 확장성이 부족하거나 프롬프트의 의미 변화를 효과적으로 포착하지 못하는 한계가 있었습니다.
Ali Alfageeh 등 12명의 연구자들은 이러한 문제를 해결하기 위해 새로운 방법을 제시했습니다. 바로 Prompt2Constraints입니다. 이 방법은 학생들의 프롬프트를 논리적 제약 조건으로 변환하여 프롬프트의 의도를 간결하고 정량적으로 표현합니다. 연구팀은 203명의 학생이 입문 프로그래밍 과제를 해결하면서 작성한 1,872개의 프롬프트 데이터 세트를 분석하여 이 방법의 효과를 검증했습니다.
연구 결과, 성공적인 시도와 실패한 시도 모두 전반적으로 유사한 수의 제약 조건을 사용하는 경향이 있지만, 학생들이 실패할 때 프롬프트를 더 크게 수정하고 문제 해결 전략을 중간에 바꾸는 경향이 있다는 사실을 발견했습니다. 또한, 특정 개입이 학생들의 프롬프트 개선에 가장 도움이 될 수 있는 시점을 파악했습니다.
이 연구는 자연어 프로그래밍 과제 해결에 어려움을 겪는 학생들을 감지하는 새롭고 확장 가능한 방법을 제시합니다. 더 복잡한 과제에 대한 연구로 확장될 수 있으며, 프로그래밍 도구에 통합되어 실시간 지원을 제공할 수 있는 가능성을 열었습니다. 즉, 학생들이 프로그래밍 과제를 해결하는 과정에서 어려움을 겪는 순간을 실시간으로 파악하고, 개별적인 피드백과 도움을 제공할 수 있는 길이 열린 것입니다. 이는 교육의 효율성을 높이고 학생들의 학습 경험을 개선하는 데 크게 기여할 것으로 기대됩니다. 하지만, 이 방법의 실제 적용에 있어서는 다양한 프로그래밍 언어와 과제 유형에 대한 추가적인 연구가 필요하며, 개별 학생의 특성과 학습 스타일을 고려한 맞춤형 지원 시스템 개발이 중요한 과제로 남아 있습니다.
Reference
[arxiv] From Prompts to Propositions: A Logic-Based Lens on Student-LLM Interactions
Published: (Updated: )
Author: Ali Alfageeh, Sadegh AlMahdi Kazemi Zarkouei, Daye Nam, Daniel Prol, Matin Amoozadeh, Souti Chattopadhyay, James Prather, Paul Denny, Juho Leinonen, Michael Hilton, Sruti Srinivasa Ragavan, Mohammad Amin Alipour
http://arxiv.org/abs/2504.18691v1