혁신적인 차세대 활동 예측: 프로세스 엔트로피와 DAW-Transformer의 만남
본 연구는 프로세스 엔트로피를 활용한 모델 선택과 DAW-Transformer라는 새로운 아키텍처를 통해 다음 활동 예측의 정확도를 향상시켰습니다. 엔트로피가 높은 데이터셋에서는 DAW-Transformer가 우수한 성능을 보였지만, 낮은 데이터셋에서는 Random Forest와 같은 간단한 모델도 효과적임을 보였습니다.

비즈니스 프로세스 관리(BPM) 분야에서 다음 활동을 정확하게 예측하는 것은 운영 효율성과 의사결정에 매우 중요합니다. 하지만 기존의 인공지능(AI)/머신러닝(ML) 모델들은 비즈니스 프로세스 이벤트 로그의 복잡성과 지속적인 변화에 어려움을 겪고 있으며, 정확성과 해석 가능성 사이에서 균형을 맞추는 데 어려움을 겪고 있습니다.
Hadi Zare, Mostafa Abbasi, Maryam Ahang, Homayoun Najjaran 연구팀은 이러한 문제를 해결하기 위해 프로세스 엔트로피 기반의 모델 선택 방식과 DAW-Transformer(Dynamic Attribute-Aware Transformer) 라는 혁신적인 접근 방식을 제안했습니다. DAW-Transformer는 모든 속성을 동적 윈도우와 함께 통합하여 정확도를 높이는 데 중점을 두고 있습니다.
DAW-Transformer: 동적 윈도우와 모든 속성의 활용
연구팀은 프로세스 엔트로피를 사용하여 이벤트 로그의 복잡성을 평가하고 가장 적합한 ML 모델을 동적으로 선택하는 새로운 방법을 제안했습니다. 핵심은 DAW-Transformer입니다. 다중 헤드 어텐션과 동적 윈도잉 메커니즘을 갖춘 트랜스포머 기반 아키텍처를 통해 장기 의존성을 포착하고 모든 관련 이벤트 로그 속성을 활용합니다. 이는 기존 모델들이 간과했던 복잡한 패턴과 관계를 효과적으로 학습할 수 있게 해줍니다.
실험 결과: 엔트로피에 따른 모델 성능 비교
6개의 공개 데이터셋을 사용한 실험 결과, DAW-Transformer는 특히 Sepsis와 같이 엔트로피가 높은 데이터셋에서 뛰어난 성능을 보였습니다. Limited window Multi-Transformers보다 4.69%, CNN-LSTM-SAtt 모델보다 3.07% 향상된 정확도를 달성했습니다. 반면, Road Traffic Fine과 같이 엔트로피가 낮은 데이터셋에서는 Random Forest와 같은 간단하고 해석 가능한 알고리즘이 DAW-Transformer와 거의 동일한 성능을 보였습니다. 이는 데이터셋의 특성에 따라 적절한 모델을 선택하는 것이 중요함을 시사합니다. Random Forest는 또한 데이터 불균형 문제를 더 잘 처리하고 해석 가능성을 향상시켰습니다.
결론: 엔트로피 기반 모델 선택의 중요성
이 연구는 동적 윈도우와 모든 관련 속성을 고려하는 DAW-Transformer와 엔트로피 기반 모델 선택 방법을 통해 다음 활동 예측 문제에 대한 강력하고 정확하며 해석 가능한 솔루션을 제공합니다. 데이터셋의 엔트로피를 고려하여 모델을 선택하는 전략은 향후 AI 기반 BPM 시스템 개발에 중요한 지침을 제공할 것입니다. 특히 복잡한 비즈니스 프로세스를 효율적으로 관리하고 예측하는 데 큰 도움이 될 것으로 기대됩니다.
Reference
[arxiv] An Innovative Next Activity Prediction Approach Using Process Entropy and DAW-Transformer
Published: (Updated: )
Author: Hadi Zare, Mostafa Abbasi, Maryam Ahang, Homayoun Najjaran
http://arxiv.org/abs/2502.10573v1