획기적인 AI 연구: MuSC, 복잡한 지시를 완벽하게 따르는 모델 개발

황휘 등 연구팀이 개발한 MuSC는 고급 모델 의존 없이 복잡한 지시 사항을 잘 따르는 LLM을 훈련하는 혁신적인 방법입니다. 조 및 세부 단위의 접근 방식으로 오픈소스 모델에서도 성능 향상을 달성, AI 기술의 접근성과 활용성을 크게 높였습니다.

최근 AI 분야에서 가장 주목받는 연구 중 하나는 바로 대규모 언어 모델(LLM)의 복잡한 지시 사항 처리 능력 향상입니다. 기존의 방법들은 주로 GPT-4와 같은 고성능 모델에 의존하여 복잡한 지시에 대한 데이터를 생성하는 데 의존해 왔습니다. 하지만 이는 접근성의 한계를 불러일으켰습니다. 이러한 문제를 해결하고자, 황휘(Hui Huang) 박사를 비롯한 연구팀은 다중 세분화 자기 대조 학습(MuSC) 이라는 혁신적인 프레임워크를 제시했습니다.

MuSC는 고급 모델에 의존하지 않고도 복잡한 지시 사항에 대한 LLM의 성능을 향상시키는 것을 목표로 합니다. 이는 크게 두 가지 세분화된 접근 방식을 통해 이루어집니다.

• 조(Coarse) 단위: 지시 사항을 분해하고 재조합하여 제약 조건을 고려한 선호도 데이터를 생성합니다. 이는 마치 레고 블록을 분해하고 재조립하여 새로운 형태를 만드는 것과 같습니다. 각 블록(지시 사항의 요소)의 기능과 관계를 명확히 이해하고 조합함으로써, 모델이 더욱 정교한 이해를 할 수 있도록 돕습니다.

• 세부(Fine) 단위: 동적 토큰 수준의 감독을 통해 토큰 기반의 선호도 최적화를 수행합니다. 이는 문장의 각 단어(토큰)에 대한 분석을 통해, 문맥에 맞는 적절한 단어 선택 및 배열을 학습시키는 과정입니다. 이는 마치 미세한 조각들을 하나씩 맞춰 완성도 높은 그림을 그리는 것과 같습니다.

이러한 두 가지 세분화된 접근 방식을 통해 MuSC는 기존의 자기 정렬 방법들을 뛰어넘는 성능 향상을 달성했습니다. 특히, 오픈소스 모델을 사용한 실험에서 복잡한 지시 사항 뿐만 아니라 일반적인 지시 사항 처리 능력에서도 상당한 성과를 보였습니다. 이는 LLM의 실용성을 한층 높이는 중요한 진전입니다.

MuSC의 등장은 단순한 기술적 발전을 넘어, AI 기술의 접근성과 활용성을 높이는 데 크게 기여할 것으로 기대됩니다. 이는 앞으로 더욱 다양한 분야에서 AI 기술의 활용 가능성을 확대하고, 더욱 발전된 AI 시스템 개발로 이어질 것입니다. 연구팀의 혁신적인 연구는 AI 분야의 새로운 지평을 열었다고 할 수 있습니다.