딥러닝 기반 모바일 앱의 혁신: CrowdHMTware 소개

CrowdHMTware는 모바일 기기의 제한된 자원 내에서 딥러닝 모델을 효율적으로 배포하기 위한 혁신적인 미들웨어로, 기존 방법의 한계를 극복하고 동적 적응성을 확보하여 다양한 플랫폼과 작업에서 우수한 성능을 보여줍니다. 개발자의 전문성 요구를 줄이는 효과도 기대됩니다.

오늘날 딥러닝(DL) 기반 모바일 및 웨어러블 애플리케이션은 주변 환경을 지속적이고 비침해적으로 감지하여 인간의 삶을 향상시키는 데 기여하고 있습니다. 하지만, 자원 제약이 있는 모바일 기기에서 강력하고 프라이빗한 모바일 감지를 가능하게 하려면 모델 압축이나 오프로딩과 같은 기술을 사용하여 DL 모델을 로컬에 배포해야 하는 어려움이 있습니다.

기존의 프런트엔드 알고리즘 수준(예: DL 모델 압축/분할) 또는 백엔드 스케줄링 수준(예: 연산자/자원 스케줄링) 방법들은 정확성을 보장하기 위해 오프라인 재학습이 필요하거나 수동으로 사전 정의된 전략에 의존하기 때문에 동적 적응성에 어려움을 겪습니다. 특히 백엔드 수준의 런타임 성능을 프런트엔드 수준의 최적화 결정에 피드백하는 것이 주요 과제였습니다. 또한, 다양하고 역동적인 모바일 환경에서 크로스 레벨 공동 적응 기능을 갖춘 적응형 모바일 DL 모델 포팅 미들웨어는 거의 연구되지 않았습니다.

이러한 문제에 대한 해결책으로, Liu Sicong 등 10명의 연구자는 CrowdHMTware를 개발했습니다. CrowdHMTware는 이기종 모바일 기기를 위한 동적 컨텍스트 적응형 DL 모델 배포 미들웨어입니다. 탄력적 추론, 확장 가능한 오프로딩, 모델 적응형 엔진 등 크로스 레벨 기능 구성 요소 간에 자동화된 적응 루프를 구축하여 확장성과 적응성을 향상시킵니다.

15개 플랫폼에서 4가지 전형적인 작업을 대상으로 한 실험과 실제 사례 연구를 통해 CrowdHMTware가 다양한 플랫폼과 작업에 걸쳐 DL 모델, 오프로딩 및 엔진 작업을 효과적으로 확장할 수 있음을 입증했습니다. 또한, 런타임 시스템 문제를 개발자로부터 숨김으로써 필요한 개발자 전문성을 줄이는 효과도 확인되었습니다. CrowdHMTware는 모바일 딥러닝 환경의 혁신을 이끌고, 개발자들이 더욱 효율적이고 효과적으로 딥러닝 기반 모바일 애플리케이션을 개발할 수 있도록 지원할 것으로 기대됩니다.👏