혁신적인 AI 추론 엔진 SQuARE: LLM의 사고력을 깨우다

Intel Labs 연구팀이 개발한 SQuARE는 자기 질문 방식의 혁신적인 프롬프팅 기법으로 LLM의 추론 능력을 향상시킵니다. Llama 3와 GPT-4o 모델을 이용한 실험에서 기존 방식을 능가하는 성능을 보였으며, 오픈소스로 공개되어 AI 기술 발전에 크게 기여할 것으로 예상됩니다.

자연어 처리 분야에서 대규모 언어 모델(LLM)은 점점 더 복잡한 추론 과제에 직면하고 있습니다. 기존의 '사고 과정' 프롬프팅(chain-of-thought prompting)은 가능성을 보여주었지만, 모델의 추론 능력을 완전히 활용하는 데는 부족함이 있었습니다.

하지만 이제 희망이 보입니다! Intel Labs의 Daniel Fleischer, Moshe Berchansky, Gad Markovits, Moshe Wasserblat 연구팀이 개발한 SQuARE (Sequential Question Answering Reasoning Engine) 이 그 해답을 제시합니다. SQuARE는 자기 질문 방식(self-interrogation paradigm) 을 통해 LLM의 추론 능력을 향상시키는 획기적인 프롬프팅 기법입니다.

SQuARE는 기존 CoT 프레임워크를 기반으로 하지만, 주요 질문에 답하기 전에 여러 개의 보조 질문을 생성하고 해결하도록 모델을 유도합니다. 이는 주제의 다양한 측면을 더욱 철저하게 탐구하여 문제 해결에 도움을 줍니다.

Llama 3와 GPT-4o 모델을 사용한 광범위한 평가 결과, SQuARE는 기존 CoT 프롬프트와 기존의 재구성 및 응답 방식을 상당히 능가하는 것으로 나타났습니다. 질문을 체계적으로 분해함으로써, SQuARE는 추론 과제에서 LLM의 능력을 한 단계 끌어올립니다.

더욱 놀라운 것은, SQuARE의 코드가 공개적으로 제공된다는 점입니다! (https://github.com/IntelLabs/RAG-FiT/tree/square) 이를 통해 연구자와 개발자는 SQuARE를 자유롭게 활용하고 더욱 발전시킬 수 있습니다.

SQuARE의 등장은 LLM 기반 응용 프로그램의 발전에 큰 영향을 미칠 것으로 예상됩니다. 더욱 정교하고 효율적인 추론 시스템을 구축하는 데 도움이 되어, AI 기술 발전에 크게 기여할 것으로 기대됩니다. 앞으로 SQuARE를 기반으로 한 다양한 연구와 응용이 등장할 것으로 예상하며, AI의 미래를 더욱 밝게 비추는 등불이 될 것으로 확신합니다.