혁신적인 사이버 방어 기술: 마음 이론(ToM)을 활용한 자율 시스템
영국 연구진이 개발한 GIGO-ToM은 그래프 신경망 기반의 새로운 ToM 아키텍처로, 네트워크 토폴로지 크기에 상관없이 사이버 공격의 목표와 경로를 정확히 예측합니다. NTD라는 새로운 지표를 통해 네트워크 유사성을 효과적으로 측정하고, 다양한 전략적 고려 사항을 반영할 수 있습니다.

최근 사이버 보안 분야에서 인공지능(AI) 기반 자율 에이전트의 활용이 크게 증가하고 있습니다. 하지만 기존의 블랙박스 모델들은 그 내부 동작 과정을 이해하기 어렵다는 한계점을 가지고 있습니다. 이에 따라 이해 가능하고, 이해관계자에게 명확한 통찰력을 제공하는 AI 모델에 대한 요구가 증대되고 있습니다.
영국 연구팀(Luke Swaby 외)은 이러한 문제를 해결하기 위해 마음 이론(Theory of Mind, ToM) 접근 방식을 자율 사이버 작전에 적용하는 획기적인 연구를 발표했습니다. ToM은 상대방의 목표, 행동, 믿음을 예측하는 능력을 말합니다. 연구팀은 제한된 과거 행동 데이터만으로도 상대방의 의도를 파악할 수 있는 강력한 사전 지식 학습 모델을 개발했습니다.
특히, 이 연구에서 주목할 만한 점은 그래프 신경망(GNN) 기반의 새로운 ToM 아키텍처인 GIGO-ToM을 제안했다는 점입니다. GIGO-ToM은 임의의 컴퓨터 네트워크 토폴로지에서 적대적 사이버 에이전트의 공격 대상과 경로를 정확하게 예측할 수 있습니다. 이는 기존 방법의 한계를 극복하는 중요한 진전입니다.
또한, 연구팀은 그래프 기반 확률 분포의 유사성을 측정하기 위한 새로운 지표인 Network Transport Distance (NTD) 를 제시했습니다. 기존의 Wasserstein 거리는 고정된 기준척도가 없다는 한계가 있었지만, NTD는 그래프 이론적 정규화 계수를 도입하여 네트워크 크기에 상관없이 표준화된 비교를 가능하게 합니다. 더 나아가, NTD는 사용자 정의 노드 특징에 따른 가중치 함수를 적용하여 네트워크 운영자가 다양한 전략적 고려 사항을 탐색할 수 있도록 합니다.
실험 결과, GIGO-ToM은 다양한 네트워크 토폴로지에서 다양한 유형의 사이버 공격 에이전트의 목표와 행동을 정확하게 예측하고, 효과적으로 그들의 정책을 특징짓는 임베딩을 학습하는 것으로 나타났습니다. 이는 GIGO-ToM이 실제 사이버 방어 환경에서 강력한 도구가 될 수 있음을 시사합니다. 이 연구는 자율 사이버 방어 시스템의 지능과 해석 가능성을 향상시키는 데 중요한 기여를 할 것으로 기대됩니다. 향후 연구에서는 더욱 복잡하고 다양한 사이버 공격 시나리오에 대한 GIGO-ToM의 성능 평가 및 실제 환경 적용 연구가 필요할 것입니다.
Reference
[arxiv] Machine Theory of Mind for Autonomous Cyber-Defence
Published: (Updated: )
Author: Luke Swaby, Matthew Stewart, Daniel Harrold, Chris Willis, Gregory Palmer
http://arxiv.org/abs/2412.04367v1