의료 AI의 혁신: MedTok, 의료 코드 토크나이저의 새 지평을 열다
Xiaorui Su 등 연구진이 개발한 MedTok은 의료 코드의 텍스트 정보와 관계적 맥락을 통합적으로 활용하는 다중 모달 의료 코드 토크나이저입니다. 다양한 의료 데이터셋에서 기존 방식보다 우수한 성능을 보이며, 의료 AI 발전에 크게 기여할 것으로 기대됩니다.

서론: 환자의 전자 건강 기록(EHR)을 기반으로 훈련된 거대 언어 모델은 의료 데이터를 이산적인 어휘 항목의 시퀀스로 토큰화하는 과정을 거칩니다. 기존의 토크나이저는 EHR의 의료 코드를 고립된 텍스트 토큰으로 취급하지만, 각 의료 코드는 텍스트 설명, 온톨로지 계층 구조 내 위치, 그리고 질병 동시 발생 및 약물 치료 연관성과 같은 다른 코드와의 관계까지 포함하는 풍부한 정보를 지닙니다.
MedTok의 등장: Xiaorui Su 등 8명의 연구진은 이러한 한계를 극복하기 위해 MedTok, 즉 다중 모달 의료 코드 토크나이저를 개발했습니다. MedTok은 코드의 텍스트 설명과 관계적 맥락을 모두 활용하는 혁신적인 접근 방식을 채택합니다. 언어 모델 인코더를 사용하여 텍스트를 처리하고, 그래프 인코더를 사용하여 관계 구조를 인코딩합니다. 두 모달리티를 통합된 토큰 공간으로 양자화하여 모달리티 특유의 정보와 모달리티 간 정보를 모두 보존합니다.
놀라운 성능 향상: 연구진은 MedTok을 5가지 EHR 모델에 통합하여 입원 및 외래 환자 데이터셋에서 결과 예측, 진단 분류, 약물 추천, 위험 계층화 등의 임상 과제에 대한 성능을 평가했습니다. 그 결과, MedTok을 사용한 모델은 기존 EHR 토크나이저를 사용한 모델에 비해 AUPRC(Area Under Precision-Recall Curve)가 크게 향상되었습니다. MIMIC-III에서는 4.10%, MIMIC-IV에서는 4.78%, EHRShot에서는 11.30%의 향상을 보였으며, 특히 약물 추천 과제에서 가장 큰 성능 향상을 기록했습니다. 더 나아가, 연구진은 MedTok을 의료 질의응답 시스템에 적용하여 그 효용성을 더욱 입증했습니다.
결론 및 미래 전망: MedTok은 의료 코드 토크나이저의 새로운 기준을 제시하며, 의료 분야의 기초 모델 발전에 크게 기여할 잠재력을 가지고 있습니다. 단순한 텍스트 정보를 넘어, 코드 간의 복잡한 관계까지 고려하는 MedTok의 접근 방식은 보다 정확하고 효율적인 의료 AI 시스템 구축의 길을 열어줄 것으로 기대됩니다. 향후 연구에서는 MedTok의 적용 범위를 더욱 확장하고, 다양한 의료 응용 분야에서의 성능을 지속적으로 개선하는 노력이 필요합니다.
Reference
[arxiv] Multimodal Medical Code Tokenizer
Published: (Updated: )
Author: Xiaorui Su, Shvat Messica, Yepeng Huang, Ruth Johnson, Lukas Fesser, Shanghua Gao, Faryad Sahneh, Marinka Zitnik
http://arxiv.org/abs/2502.04397v1