딥러닝 모델 도용 방지의 혁신: 계정 인식 분포 불일치(ADD) 기법

Mei Jian-Ping 등 연구진이 개발한 계정 인식 분포 불일치(ADD) 기반 모델 도용 방어 기술은 악의적인 모델 복제 시도를 효과적으로 막아주는 혁신적인 방법입니다. 다양한 공격에 강력한 방어력을 제공하면서 정상 사용자에게는 영향을 미치지 않는다는 점에서 높은 실용성을 지닙니다.

최근 상용 딥러닝 모델을 저렴한 비용으로 복제하려는 악의적인 시도가 증가하고 있습니다. Mei Jian-Ping 등 연구진은 이러한 모델 도용 공격을 효과적으로 방지하고 동시에 모델의 유용성을 유지하는 새로운 방어 기술을 개발했습니다. 그들의 논문 "계정 인식 분포 불일치(ADD) 기반 모델 도용 방어"는 이러한 문제에 대한 혁신적인 해결책을 제시합니다.

핵심은 '계정별 분포 불일치(ADD)'라는 새로운 비모수적 탐지기입니다. 이 탐지기는 악의적인 사용자의 질의를 식별하기 위해 계정별 지역적 의존성을 활용합니다. 각 클래스를 다변량 정규 분포(MVN)로 모델링하고, 가중치가 부여된 클래스별 분포 불일치의 합으로 악성 점수를 측정하는 독창적인 방법을 사용합니다.

단순히 악성 질의를 탐지하는 데 그치지 않고, ADD 탐지기는 무작위 기반 예측 중독(random-based prediction poisoning)과 결합되어 'D-ADD'라는 플러그 앤 플레이 방어 모듈을 구성합니다. 이 모듈은 이미지 분류 모델에 손쉽게 적용될 수 있습니다.

연구 결과는 놀랍습니다. D-ADD는 소프트 및 하드 라벨 설정 모두에서 다양한 유형의 공격에 대해 강력한 방어 성능을 보였습니다. 동시에 정상 사용자에게는 거의 영향을 미치지 않아, 실제 서비스 환경에 적용 가능성을 높였습니다.

이 연구는 단순한 기술적 진보를 넘어, 상용 딥러닝 모델의 보안 및 지식재산권 보호에 중요한 전기를 마련할 것으로 기대됩니다. 향후 ADD 기반의 모델 보호 기술은 AI 산업의 발전에 크게 기여할 것으로 예상됩니다. 특히, 계정 기반의 지역적 의존성을 활용한 접근 방식은 다른 유형의 머신 러닝 모델에도 적용될 수 있는 잠재력을 가지고 있습니다. 이 연구의 성공은 앞으로 더욱 안전하고 신뢰할 수 있는 AI 시스템 구축에 중요한 이정표가 될 것입니다.

연구진: Mei Jian-Ping, Zhang Weibin, Chen Jie, Zhang Xuyun, Zhu Tiantian