혁신적인 AI 모델 ADiT: 분자와 물질의 통합적 생성 모델 등장!
페이스북 AI 연구팀이 개발한 All-atom Diffusion Transformer (ADiT)는 단일 모델로 분자와 물질을 모두 생성하는 획기적인 AI 모델입니다. Transformer 기반의 ADiT는 기존 모델보다 속도와 정확성이 뛰어나며, 5억 파라미터 규모로 확장 가능합니다. 이는 범용적인 생성 화학 모델 개발을 위한 중요한 발걸음이며, 신소재 및 신약 개발 등 다양한 분야에 혁신을 가져올 것으로 기대됩니다.

꿈의 신소재 개발, 이제 AI가 함께 합니다: All-atom Diffusion Transformer (ADiT)
지금까지 AI를 이용한 신물질 개발은 분자와 물질 각각에 특화된 모델을 따로 개발해야 하는 어려움이 있었습니다. 하지만 최근 페이스북 AI 연구팀이 개발한 All-atom Diffusion Transformer (ADiT) 는 이러한 한계를 극복하고, 단일 모델로 분자와 물질을 모두 생성하는 획기적인 결과를 발표했습니다.
ADiT: 어떻게 가능했을까요?
ADiT는 크게 두 부분으로 나뉩니다. 먼저, 자동 인코더(autoencoder) 가 분자와 물질의 모든 원자 정보를 담은 통합된 표현을 공유된 잠재 공간(latent embedding space)으로 매핑합니다. 마치 다양한 언어를 하나의 공통된 언어로 번역하는 것과 같습니다. 그 후, 확산 모델(diffusion model) 이 새로운 잠재 표현을 생성하고, 이를 자동 인코더가 다시 해석하여 새로운 분자나 물질을 생성합니다.
놀라운 성능과 효율성!
QM9 및 MP20 데이터셋 실험 결과, ADiT는 기존 분자 및 결정 특화 모델을 뛰어넘는 현실적이고 유효한 분자 및 물질을 생성하는 놀라운 성능을 보였습니다. 특히, Transformer 기반의 ADiT는 기존의 equivariant diffusion model에 비해 훈련 및 추론 속도가 훨씬 빠르다는 장점이 있습니다. 5억 파라미터 규모로 확장했을 때 성능이 더욱 향상되는 것은 물론입니다.
미래를 향한 한 걸음: 범용적인 생성 화학 모델
ADiT는 단순한 모델 개선을 넘어, 범용적인 생성 화학 모델 개발을 위한 중요한 전환점을 제시합니다. 이 연구는 신소재 개발, 신약 개발 등 다양한 분야에 혁신적인 변화를 가져올 것으로 기대됩니다. GitHub에서 공개된 오픈 소스 코드(https://github.com/facebookresearch/all-atom-diffusion-transformer)를 통해, 더 많은 연구자들이 이 혁신적인 기술을 활용할 수 있게 되었습니다.
연구진: Chaitanya K. Joshi, Xiang Fu, Yi-Lun Liao, Vahe Gharakhanyan, Benjamin Kurt Miller, Anuroop Sriram, Zachary W. Ulissi
Reference
[arxiv] All-atom Diffusion Transformers: Unified generative modelling of molecules and materials
Published: (Updated: )
Author: Chaitanya K. Joshi, Xiang Fu, Yi-Lun Liao, Vahe Gharakhanyan, Benjamin Kurt Miller, Anuroop Sriram, Zachary W. Ulissi
http://arxiv.org/abs/2503.03965v1