혁신적인 AI 기반 소프트 센서: LLM-FUESS의 등장
중국과학원 자동화연구소 연구진이 LLM 기반의 혁신적인 소프트 센서 LLM-FUESS를 개발했습니다. 기존 소프트 센서의 한계를 극복하고, 높은 예측 정확도와 강건성을 달성했습니다. 산업 지식 벡터 저장소를 활용한 도메인 특화 지식 강화 및 자기 설명 기능이 특징입니다.

산업 시스템의 핵심 성능 지표(KPI) 예측에 필수적인 데이터 기반 소프트 센서 기술이 새로운 전기를 맞이했습니다. 중국과학원 자동화연구소의 연구진(Shuo Tong, Han Liu 외)은 최근 발표한 논문, "A Soft Sensor Method with Uncertainty-Awareness and Self-Explanation Based on Large Language Models Enhanced by Domain Knowledge Retrieval"에서 기존 지도 학습 방식의 한계를 극복하는 혁신적인 소프트 센서 모델, LLM-FUESS를 제시했습니다.
기존 소프트 센서는 높은 개발 비용, 낮은 강건성, 훈련 불안정성, 해석력 부족 등의 문제점을 가지고 있었습니다. 하지만 연구진은 대규모 언어 모델(LLM) 과 문맥 내 학습(ICL) 을 활용하여 이러한 문제들을 효과적으로 해결했습니다. LLM-FUESS는 최소한의 입력-레이블 데모만으로도 높은 성능을 달성하며, 기존의 훈련 과정을 대체합니다.
LLM-FUESS는 크게 두 가지 모듈로 구성됩니다. 첫째, LLM-ZAVS(Zero-shot Auxiliary Variable Selector) 는 산업 지식 벡터 저장소에서 정보를 검색하여 LLM의 도메인 특화 지식을 강화하고, 제로샷 보조 변수 선택을 가능하게 합니다. 둘째, LLM-UFSS(Uncertainty-aware Few-shot Soft Sensor) 는 구조화된 데이터의 텍스트 기반 문맥 데모를 사용하여 LLM이 ICL을 통해 예측을 수행하도록 유도합니다. 더 나아가 문맥 샘플 검색 증강 전략을 통해 성능을 향상시킵니다.
또한, 연구진은 LLM의 AIGC(AI Generated Content) 및 확률적 특성을 활용하여 신뢰할 수 있는 소프트 센서 구축을 위한 자기 설명 및 불확실성 정량화 방법을 제안했습니다. 광범위한 실험 결과, LLM-FUESS는 최첨단 예측 성능, 강력한 강건성 및 유연성을 달성했으며, 기존 방법에서 발견되는 훈련 불안정성을 효과적으로 완화했습니다.
이 연구는 LLM을 활용한 소프트 센서 구축에 대한 최초의 시도로서, AI 기반 산업 자동화의 새로운 가능성을 제시하는 중요한 성과입니다. LLM-FUESS는 향후 산업 현장의 다양한 분야에서 KPI 예측 및 의사결정 지원 시스템에 혁신적인 변화를 가져올 것으로 기대됩니다. 하지만, LLM의 특성상 데이터 편향이나 설명 가능성에 대한 지속적인 연구가 필요하며, 실제 산업 현장 적용을 위한 추가적인 검증이 필요할 것으로 보입니다.
Reference
[arxiv] A Soft Sensor Method with Uncertainty-Awareness and Self-Explanation Based on Large Language Models Enhanced by Domain Knowledge Retrieval
Published: (Updated: )
Author: Shuo Tong, Han Liu, Runyuan Guo, Wenqing Wang, Xueqiong Tian, Lingyun Wei, Lin Zhang, Huayong Wu, Ding Liu, Youmin Zhang
http://arxiv.org/abs/2501.03295v2