시스템 약리학의 회색 상자 발견을 위한 PINN 및 PIKAN 교육: 표현과 최적화의 만남
본 연구는 시스템 약리학 모델링에서 회색 상자 발견을 위한 PINNs와 PIKANs의 성능을 향상시키는 새로운 아키텍처와 최적화 전략을 제시합니다. 체계적인 실험을 통해 최적의 모델 구성과 교육 방법을 제안하며, 생의학 응용 분야에서의 실행 가능한 통찰력을 제공합니다.

소개: 최근 물리 정보 신경망(PINNs)의 효과적인 대안으로 물리 정보 콜모고로프-아놀드 네트워크(PIKANs)가 주목받고 있습니다. PINNs와 마찬가지로 PIKANs는 역문제를 해결하고 회색 상자 시스템 식별을 용이하게 합니다. 하지만 정확도와 속도 측면에서 두 모델의 성능에 대한 포괄적인 이해는 아직 부족한 실정입니다.
혁신적인 접근: 본 연구는 체비셰프 다항식을 사용하여 일변수 함수의 매개변수화를 수행하고 성능 향상을 위해 추가적인 비선형성을 도입한 수정된 PIKAN 아키텍처인 tanh-cPIKAN을 소개합니다.
체계적인 성능 평가: 연구진은 시스템 약리학 모델링의 맥락에서 최적화기, 표현 및 교육 구성의 선택이 PINNs와 PIKANs의 성능에 미치는 영향을 체계적으로 조사했습니다. 다양한 학습률 스케줄러를 포함한 광범위한 1차, 2차 및 하이브리드 최적화기를 벤치마킹하여, 잘못 제기되거나 고유하지 않고 데이터가 부족한 조건에서 회색 상자를 학습하는 데 가장 효과적인 조합을 Optax 라이브러리를 사용하여 확인했습니다. MLP 대 KAN, 단정밀도 대 배정밀도, 2차 방법을 위한 워밍업 단계의 필요성, 초기 학습률에 대한 민감도 등 모델 아키텍처, 수치적 정밀도, 학습 과정의 세부적인 요소들을 면밀히 검토했습니다. 또한 더 큰 모델에 대한 최적화기 확장성을 평가하고 계산 효율성 및 수치적 정확도 측면에서 JAX가 도입한 트레이드오프를 분석했습니다.
실제 적용 및 결과: 약동학 모델과 화학 요법 약물 반응 모델이라는 두 가지 대표적인 시스템 약리학 사례 연구를 통해, 강력하고 효율적인 회색 상자 발견을 위한 최적화기 및 표현 모델/아키텍처 선택에 대한 실용적인 지침을 제공합니다. 이러한 연구 결과는 생의학 응용 분야뿐만 아니라 다른 분야에서 물리 정보 네트워크의 교육을 개선하기 위한 실행 가능한 통찰력을 제공합니다.
결론: 이 연구는 tanh-cPIKAN과 같은 혁신적인 아키텍처와 체계적인 최적화 전략을 통해 시스템 약리학 모델링에서 회색 상자 발견의 효율성과 정확성을 크게 향상시킬 수 있음을 보여줍니다. 이는 의료 및 생명 과학 분야의 발전에 크게 기여할 것으로 기대됩니다. 본 연구의 결과는 향후 AI 기반 약물 발견 및 개발 연구에 중요한 지침을 제공할 것입니다.
Reference
[arxiv] Representation Meets Optimization: Training PINNs and PIKANs for Gray-Box Discovery in Systems Pharmacology
Published: (Updated: )
Author: Nazanin Ahmadi Daryakenari, Khemraj Shukla, George Em Karniadakis
http://arxiv.org/abs/2504.07379v1