딥러닝의 취약점을 파고드는 새로운 공격: '에브리웨어' 전략의 등장
본 기사는 딥러닝 모델의 적대적 예시 전이성을 높이는 새로운 공격 방식인 '에브리웨어 공격'에 대한 연구 결과를 소개합니다. 이 공격은 이미지의 모든 지역을 동시에 공격하여 기존 방식보다 훨씬 높은 전이성을 달성하며, 실제 플랫폼 평가에서도 우수성을 입증했습니다. 이는 딥러닝 보안에 대한 새로운 도전 과제를 제시하며, 안전한 AI 시스템 개발의 중요성을 강조합니다.

최근 딥러닝 모델의 적대적 예시(Adversarial Examples, AEs)에 대한 연구가 활발하게 진행되고 있습니다. 특히, 하나의 대리 모델에서 생성된 적대적 예시가 다른 모델도 속일 수 있다는 '전이성'이 중요한 연구 주제입니다. 하지만, 표적 공격의 전이성은 여전히 어려운 과제로 남아있습니다.
중국 과학자 Hui Zeng, Sanshuai Cui, Biwei Chen, Anjie Peng이 이끄는 연구팀은 이러한 문제를 해결하기 위해 새로운 공격 방식인 **'에브리웨어(Everywhere) 공격'**을 제안했습니다. 이들의 핵심 아이디어는 피해자 이미지를 지역적으로(locally)와 전역적으로(globally) 동시에 공격하는 것입니다. 기존 연구들이 이미지 내 고신뢰도 대상 하나만 최적화하는 것과 달리, 에브리웨어 공격은 이미지의 모든 지역에 다수의 대상을 최적화합니다.
구체적으로, 연구팀은 피해자 이미지를 겹치지 않는 블록으로 나누고 각 블록에 대해 표적 공격을 동시에 수행합니다. 이러한 전략은 대리 모델과 피해자 모델 간의 어텐션 불일치로 인한 전이 실패를 완화시켜, 더 강력한 전이성을 달성합니다. 또한, 에브리웨어 공격은 방법에 구애받지 않아(method-agnostic), 기존의 전이 가능한 공격과 쉽게 결합하여 전이성을 더욱 높일 수 있다는 장점을 지닙니다.
ImageNet을 사용한 광범위한 실험 결과, 에브리웨어 공격은 기존 최첨단 표적 공격을 상당히 능가하는 성능을 보였습니다. 예를 들어, 널리 사용되는 Logit 공격의 전이성을 28.8%~300%까지 향상시켰습니다. 더 나아가, Google Cloud Vision과 같은 실제 플랫폼에서도 평가하여, 이 방법의 우수성을 재확인했습니다.
이 연구는 딥러닝 모델의 취약성을 보여주는 중요한 결과이며, 향후 더욱 안전하고 강력한 딥러닝 시스템 개발을 위한 중요한 발걸음이 될 것으로 기대됩니다. 하지만, 이러한 공격 기술이 악용될 가능성도 고려해야 하며, 안전한 AI 시스템 구축을 위한 지속적인 연구가 필요합니다. 에브리웨어 공격은 딥러닝 보안 분야의 새로운 도전 과제를 제시하며, 앞으로 어떤 발전을 가져올지 주목할 필요가 있습니다.
Reference
[arxiv] Everywhere Attack: Attacking Locally and Globally to Boost Targeted Transferability
Published: (Updated: )
Author: Hui Zeng, Sanshuai Cui, Biwei Chen, Anjie Peng
http://arxiv.org/abs/2501.00707v1