BFS-Prover: LLM 기반 자동 정리 증명의 새로운 지평을 열다

바이트댄스 연구팀이 개발한 BFS-Prover는 LLM 기반 자동 정리 증명에서 최선우선 탐색(BFS)의 효율성을 극대화한 혁신적인 모델입니다. 전략적 데이터 필터링, DPO, 길이 정규화 등을 통해 MiniF2F 테스트 세트에서 72.95%의 최첨단 성능을 달성, 오픈소스 공개를 통해 향후 연구 발전에 기여할 것으로 예상됩니다.

LLM 기반 자동 정리 증명의 혁신: BFS-Prover의 등장

최근 대규모 언어 모델(LLM)의 발전은 Lean4를 이용한 자동 정리 증명 분야에 혁신적인 변화를 가져왔습니다. 방대한 증명 탐색 공간을 효과적으로 탐색하기 위한 다양한 트리 탐색 방법들이 연구되었죠. 기존 연구는 주로 가치 함수나 몬테카를로 트리 탐색(MCTS)에 의존했지만, 중국 바이트댄스 연구팀은 더 단순한 방법인 최선우선 탐색(BFS) 의 잠재력에 주목했습니다.

그 결과물이 바로 BFS-Prover입니다. 이 논문은 BFS가 대규모 정리 증명 과제에서 경쟁력 있는 성능을 달성할 수 있음을 증명하는 획기적인 연구입니다. BFS-Prover는 세 가지 핵심 혁신을 통해 기존의 한계를 뛰어넘었습니다.

첫째, 전략적 데이터 필터링: 각 반복 단계에서 빔 서치 노드 확장을 통해 해결 가능한 문제를 제외하여 더 어려운 문제에 집중합니다. 이를 통해 계산 자원을 효율적으로 사용할 수 있습니다.

둘째, 직접적 선호도 최적화(DPO): 컴파일러 오류 피드백으로 자동 주석이 달린 상태-전술 쌍에 DPO를 적용하여 LLM의 정책을 개선합니다. 생산적인 확장을 우선시함으로써 BFS의 표본 효율성을 높였습니다.

셋째, 길이 정규화: BFS에서 길이 정규화를 통해 더 깊은 증명 경로 탐색을 장려합니다. 이를 통해 더욱 효과적인 증명 전략을 찾을 수 있습니다.

그 결과, BFS-Prover는 MiniF2F 테스트 세트에서 **72.95%**라는 최첨단 점수를 달성했습니다. 이는 복잡한 트리 탐색 방법의 필요성에 대한 기존 인식에 도전하는 놀라운 결과입니다. 단순한 BFS가 적절히 확장될 경우, 복잡한 방법들과 경쟁할 수 있음을 보여줍니다. 더 나아가, 연구팀은 모델을 오픈소스로 공개(https://huggingface.co/bytedance-research/BFS-Prover)하여 더 많은 연구와 개발을 장려하고 있습니다. 이 연구는 LLM 기반 자동 정리 증명 분야에 새로운 가능성을 제시하며, 향후 AI 기반 증명 시스템 발전에 큰 영향을 미칠 것으로 기대됩니다.