AI 기반 다중 모달 융합 모델 CAST: 소재 특성 예측의 혁신

본 연구는 AI 기반 다중 모달 융합 모델 CAST를 소개합니다. CAST는 그래프 신경망의 한계를 극복하고 텍스트 정보를 활용하여 소재 특성 예측 성능을 크게 향상시켰으며, 소재 과학 분야에 새로운 가능성을 제시합니다.

최근 AI의 눈부신 발전은 소재 과학 분야에 큰 변화를 가져왔습니다. 특히, 재료의 특성을 예측하고 새로운 소재를 발견하는 속도를 획기적으로 높이는 데 기여하고 있습니다. 그 중에서도 그래프 신경망(GNN)은 결정 구조를 그래프로 표현하여 국소적인 상호 작용을 효과적으로 포착하고 우수한 예측 성능을 제공하는 것으로 주목받고 있습니다.

하지만 기존의 GNN 방식은 결정계나 반복 단위의 연결성과 같은 중요한 전역 정보를 놓치는 경우가 많았습니다. 이러한 한계를 극복하기 위해 이 연구에서는 CAST (Cross Attention based multimodal fusion of Structure and Text) 라는 혁신적인 모델을 제안합니다. CAST는 그래프와 텍스트라는 두 가지 모달리티를 결합하여 재료 정보를 보다 완벽하게 포착합니다. 이를 위해, 크로스 어텐션 메커니즘을 사용하여 노드 및 토큰 수준의 특징을 결합합니다. 이는 그래프 평균 풀링이나 [CLS] 토큰과 같은 기존의 재료 수준 임베딩에 의존하는 방식보다 훨씬 효과적입니다. 또한, 마스크된 노드 예측 사전 학습 전략을 통해 원자 수준의 정보 통합을 더욱 강화합니다.

연구 결과, CAST는 밴드 갭을 포함한 네 가지 결정 특성 예측에서 CrysMMNet 및 MultiMat과 같은 기존 방법보다 최대 22.9% 향상된 성능을 달성했습니다. 특히, 노드와 텍스트 임베딩을 정렬하는 데 사전 학습이 매우 중요한 역할을 했으며, 어텐션 맵을 통해 노드와 토큰 간의 관계를 효과적으로 포착했음을 확인했습니다. 이 연구는 다중 모달 학습이 소재 과학 분야에서 국소적 및 전역적 정보를 모두 통합하는 보다 강력한 예측 모델을 개발하는 데 큰 잠재력을 가지고 있음을 보여줍니다. 이는 앞으로 소재 발견 및 설계의 새로운 지평을 열 것으로 기대됩니다. Lee Jaewan, Park Changyoung, Yang Hongjun, Lim Sungbin, and Han Sehui 연구팀의 혁신적인 연구 결과에 박수를 보냅니다! 🎉