설명 가능한 AI: SMT-EX로 복잡한 시스템의 비밀을 풀다

본 기사는 설명 가능한 인공지능(XAI) 기술을 활용한 서로게이트 모델링 툴박스 SMT-EX에 대해 다룹니다. SMT-EX는 다양한 변수 유형을 포함하는 복잡한 문제에 대한 분석과 해석을 용이하게 하여, 공학 분야의 설계 및 분석에 혁신을 가져올 것으로 기대됩니다. 오픈소스로 공개되어 누구나 사용하고 기여할 수 있다는 점도 주목할 만합니다.

블랙박스를 넘어: 설명 가능한 서로게이트 모델링의 시대

복잡한 공학 시스템을 이해하고 설계하는 것은 쉽지 않습니다. 수많은 변수들이 복잡하게 얽혀있고, 시스템의 동작을 정확히 예측하는 것은 막대한 시간과 자원을 필요로 합니다. 이러한 문제를 해결하기 위해 등장한 것이 바로 서로게이트 모델(Surrogate Model) 입니다. 서로게이트 모델은 복잡한 시스템을 간단한 수학적 모델로 근사하여, 빠르고 효율적으로 시스템의 동작을 예측할 수 있게 해줍니다.

하지만 기존의 서로게이트 모델들은 '블랙박스'와 같다는 비판을 받아왔습니다. 모델이 어떻게 예측값을 도출하는지 알 수 없어, 그 결과를 신뢰하고 해석하는 데 어려움이 있었죠.

이러한 한계를 극복하기 위해 등장한 것이 설명 가능한 인공지능(XAI) 입니다. 최근, Mohammad Daffa Robani를 비롯한 다수의 연구진은 오픈소스 Python 기반의 서로게이트 모델링 툴박스인 SMT를 SMT-EX로 확장하여, 설명 가능성을 더했습니다. SMT-EX는 Shapley Additive Explanations, Partial Dependence Plot, Individual Conditional Expectations 등 세 가지 핵심적인 설명 가능성 기법을 통합하여, 모델의 예측 결과를 더욱 명확하게 이해할 수 있도록 지원합니다.

다양한 문제에 적용 가능한 SMT-EX의 강점

연구진은 10개의 연속형 변수를 가진 항공기 날개 무게 예측 문제와 3개의 연속형 및 범주형 변수를 가진 외팔보 굽힘 문제를 통해 SMT-EX의 성능을 검증했습니다. 두 문제 모두에서 SMT-EX는 뛰어난 성능과 다양한 변수 유형에 대한 적용 가능성을 보여주었습니다. 이는 SMT-EX가 다양한 공학 문제에 적용될 수 있는 범용적인 도구임을 시사합니다.

특히, SMT-EX는 기존 SMT에 설명 가능성 기능을 추가하는 데 그치지 않고, 사용자 친화적인 인터페이스를 제공하여, 사용자가 쉽고 빠르게 모델을 분석하고 결과를 해석할 수 있도록 설계되었습니다.

오픈소스를 통한 공유와 협력

SMT-EX는 Github(https://github.com/SMTorg/smt-explainability)를 통해 공개되어, 누구나 자유롭게 사용하고 기여할 수 있습니다. 이는 설명 가능한 AI 기술의 발전과 보급에 크게 기여할 것으로 기대됩니다. SMT-EX는 단순한 도구를 넘어, 설명 가능한 AI 기술에 대한 연구와 개발을 위한 협력 플랫폼으로서의 역할을 수행할 것입니다.

미래를 향한 전망

SMT-EX는 복잡한 시스템 설계 및 분석에 대한 새로운 가능성을 열었습니다. 앞으로 더욱 발전된 설명 가능성 기법과 사용자 친화적인 인터페이스를 통해 더욱 많은 분야에서 활용될 것으로 예상됩니다. 설명 가능한 AI 기술은 단순히 모델의 예측 정확도를 높이는 것뿐만 아니라, 사람들이 AI를 더 잘 이해하고 신뢰할 수 있도록 하는 데 중요한 역할을 수행할 것입니다.