딥컷 기반 그래프 임베딩 및 클러스터링: 표현 붕괴 문제를 극복하다

Ning Zhiyuan 등 연구진이 제안한 DCGC 프레임워크는 기존 GNN 기반 그래프 클러스터링의 표현 붕괴 문제를 해결하기 위해 그래프 컷 관점과 최적 전송 이론을 활용한 혁신적인 접근 방식을 제시합니다.

최근 급부상하는 심층 그래프 클러스터링은 주로 그래프 신경망(GNN)에 기반합니다. 하지만 기존 GNN 기반 알고리즘은 표현 붕괴라는 심각한 문제에 직면합니다. Ning Zhiyuan 등 연구진은 이 문제의 원인을 두 가지로 분석합니다.

(i) GNN의 유도적 편향: GNN은 인접한 노드에 대해 유사한 표현을 생성하는 경향이 있습니다. 그래프에는 클러스터 간 연결이 상당수 존재하기 때문에, 이 편향은 오류 메시지 전달을 야기하고 편향된 클러스터링으로 이어집니다. (ii) 클러스터링 유도 손실 함수: 기존 접근 방식은 모든 샘플을 사전 학습된 클러스터 중심에 가깝게 만들려고 하므로, 모든 데이터 포인트를 단일 레이블에 할당하는 축퇴된 해를 초래하여 차별성이 떨어집니다.

연구진은 이러한 문제를 해결하기 위해 그래프 컷 관점에서 그래프 클러스터링을 재해석하고, DCGC(Deep Cut-informed Graph Embedding and Clustering) 라는 혁신적인 비 GNN 기반 프레임워크를 제시했습니다. DCGC는 두 가지 모듈로 구성됩니다.

(i) 컷-인포메드 그래프 인코딩: 그래프 구조와 속성을 결합하여 공동 정규화된 컷을 최소화하는 컷-인포메드 그래프 임베딩 목표를 도출합니다. (ii) 최적 전송을 통한 자기 지도 학습 클러스터링: 최적 전송 이론을 활용하여 클러스터링 할당을 얻고, 사전 학습된 클러스터 중심과의 근접성을 균형 있게 조절합니다.

DCGC는 이러한 맞춤형 설계를 통해 표현 붕괴 문제를 효과적으로 완화하고 성능을 향상시킵니다. 광범위한 실험을 통해 기존 방법 대비 DCGC의 우수성을 입증했습니다. 단순하면서도 효과적인 이 새로운 프레임워크는 그래프 클러스터링 분야에 새로운 지평을 열 것으로 기대됩니다. 향후 연구에서는 더욱 다양한 그래프 유형과 실제 응용 분야에 대한 적용성을 검증하는 것이 중요할 것입니다.

Keywords: 그래프 클러스터링, GNN, 표현 붕괴, 컷-인포메드 그래프 임베딩, 최적 전송, 자기 지도 학습, DCGC