CARE: 최소한의 하드웨어로 빠르게 학습하는 다중 도메인 챗봇

Ankit Dutta, Nabarup Ghosh, Ankush Chatterjee 세 연구원이 개발한 CARE는 최소한의 하드웨어와 데이터로 다양한 도메인(통신, 의료, 금융)의 질문에 답하는 경량화된 챗봇입니다. Phi3.5-mini 기반으로 모바일 기기에서도 사용 가능하며, 의료 분야에서는 기본적인 진단 및 의료 제안을 제공합니다. 의료 벤치마크에서도 상대적으로 좋은 성능을 보여 향후 의료 접근성 향상에 기여할 가능성을 제시합니다.

소규모 하드웨어에서 빛나는 다중 도메인 챗봇, CARE

최근 대규모 언어 모델(LLM)은 특정 데이터셋으로 미세 조정되면 뛰어난 도메인 특화 질의응답 능력을 보여주고 있습니다. 하지만 모델 미세 조정에는 상당한 훈련 시간과 하드웨어가 필요하죠. Ankit Dutta, Nabarup Ghosh, Ankush Chatterjee 세 연구원은 이러한 문제를 해결하고자 CARE (Customer Assistance and Response Engine) 라는 경량 모델을 개발했습니다.

CARE는 Phi3.5-mini를 기반으로 최소한의 하드웨어와 데이터로 미세 조정되었으며, 통신, 의료, 금융 세 가지 주요 도메인의 질문에 답하도록 설계되었습니다. 통신 및 금융 분야에서는 고객이 자주 겪는 문제와 어려움을 해결하는 데 중점을 두고 있습니다. 특히 주목할 만한 점은 의료 분야입니다. CARE는 사용자가 의료 전문가와 상담하기 전에 기본적인 진단과 의료 제안을 제공하여 예비 지원을 제공합니다. 이는 의료 접근성 향상에 기여할 수 있는 혁신적인 부분입니다.

Phi3.5-mini 기반이기 때문에 모바일 기기에서도 사용 가능하여 접근성을 높였습니다. 더욱 놀라운 점은 CARE가 다양한 의료 벤치마크에서 상대적으로 우수한 성능을 보였다는 것입니다. 이는 기본적인 의료 제안을 제공하는 데 실용성이 높다는 것을 의미합니다.

향후 전망과 시사점

CARE의 개발은 제한된 자원으로도 고성능의 다중 도메인 챗봇을 개발할 수 있다는 가능성을 보여줍니다. 특히 의료 분야에서의 활용은 의료 서비스 접근성을 개선하는 데 기여할 수 있으며, 모바일 환경에서의 사용은 더욱 폭넓은 대중에게 AI 기반 서비스를 제공할 수 있는 기반을 마련합니다. 하지만, 의료 분야에서의 제안은 전문가의 진료를 대체할 수 없다는 점을 명심해야 하며, 정확성 및 윤리적인 측면에 대한 지속적인 연구와 개선이 필요합니다. 앞으로 CARE가 어떻게 발전하고 실생활에 적용될지 기대됩니다.