딥러닝 백도어 공격 방어의 혁신: '클래스 조건부 신경 편광기' 등장

Zhu Mingli 등 연구진이 발표한 NPD와 CNPD는 딥러닝 모델의 백도어 공격 방어에 혁신적인 해결책을 제시합니다. 광학 편광판 원리를 응용한 NPD와 그 한계를 극복한 CNPD는 다양한 구현 방식을 통해 높은 효율성과 유연성을 제공하며, AI 보안 강화에 중요한 역할을 할 것으로 기대됩니다.

딥러닝 백도어 공격, 그 위협과 새로운 방어막

최근 딥러닝 모델의 취약점으로 떠오르는 백도어 공격. 악의적으로 조작된 데이터(poisoned samples)를 통해 모델을 감염시켜, 특정 '트리거' 정보에 의해 원치 않는 결과를 출력하도록 만드는 공격입니다. 기존 방어 기법들은 백도어 공격 방지와 정상적인 성능 유지 사이에서 균형을 맞추는 데 어려움을 겪어왔습니다.

빛의 원리를 빌린 혁신적인 방어: NPD (Neural Polarizer Defense)

주목할 만한 연구가 등장했습니다. Zhu Mingli 등 연구진은 광학 편광판의 원리를 응용한 경량화된 백도어 방어 기법 NPD (Neural Polarizer Defense) 를 제안했습니다. 마치 특정 편광의 빛만 통과시키는 편광판처럼, NPD는 신경망 내부에 '신경 편광기(NP)'라는 중간층을 추가하여 악성 트리거 정보만 걸러내고 정상적인 정보는 보존하는 방식입니다. 이 NP는 이중 수준 최적화(bi-level optimization)를 통해 학습되는 경량의 선형 변환으로 구현됩니다.

완벽에 가까운 방어를 향한 진화: CNPD (Class-Conditional Neural Polarizer Defense)

하지만 연구진은 NPD의 성능이 목표 레이블(purification에 필요)의 부정확한 추정으로 저하될 수 있음을 발견했습니다. 이 한계를 극복하기 위해, CNPD (Class-Conditional Neural Polarizer Defense) 가 등장했습니다. CNPD는 백도어 모델의 예측 레이블과 정제될 특징들을 결합하는 융합 모듈을 통합하여 목표 지향적 적대적 방어 메커니즘을 모방합니다. 이는 NPD에서 필요했던 레이블 추정 과정을 없애는 혁신적인 접근입니다.

세 가지 변형으로 완성도 높은 방어 체계 구축

CNPD는 세 가지 구현 방식을 제시합니다.

• r-CNPD: 각 클래스마다 NP 층을 복제하여, 백도어 모델의 예측 클래스에 따라 적절한 NP 층을 선택하는 방식입니다.
• e-CNPD: 클래스 정보를 추가적인 특징으로 포함시켜 효율적으로 많은 클래스를 처리합니다.
• a-CNPD: 클래스 정보를 이용하여 네트워크의 주의(attention)를 조절합니다.

이러한 다양한 CNPD 구현 방식은 다양한 상황과 요구사항에 맞는 유연성을 제공하며, 딥러닝 모델의 백도어 공격 방어에 새로운 지평을 열었습니다. 앞으로 이 기술이 더욱 발전하여 AI 모델의 보안을 강화하고 신뢰성을 높이는 데 기여할 것으로 기대됩니다.