UV-Attack: 동적 NeRF 기반의 물리적 세계 적대적 공격으로 인물 탐지 시스템 무력화
본 기사는 동적 NeRF 기반 UV 매핑을 이용한 새로운 적대적 공격 기법인 UV-Attack에 대해 소개합니다. UV-Attack은 기존 방식보다 월등히 높은 성공률을 달성하며 인공지능 기반 인물 탐지 시스템의 취약성을 보여줍니다. 이 연구는 AI 보안 분야의 발전과 향후 방어 기술 개발의 중요성을 강조합니다.

움직이는 표적도 속인다: UV-Attack의 놀라운 성능
최근 인공지능 기반 인물 탐지 시스템에 대한 적대적 공격 연구가 활발하지만, 사람의 유연한 움직임 때문에 패치나 정적인 3D 모델 기반의 텍스처 수정은 성공률이 낮았습니다. Yanjie Li를 비롯한 연구팀은 이러한 한계를 극복하기 위해 획기적인 새로운 공격 기법, UV-Attack을 개발했습니다.
UV-Attack의 핵심은 동적 NeRF(Neural Radiance Fields) 기반의 UV 매핑입니다. 동적 NeRF는 인체의 3D 변형을 모델링하는 데 뛰어난 성능을 보여주는데, 연구팀은 이를 활용하여 다양한 동작과 시점에서의 인간 이미지를 생성하고, 심지어 SMPL 파라미터 공간 샘플링을 통해 새로운 동작까지 만들어낼 수 있음을 보여주었습니다.
하지만 동적 NeRF 모델에서 옷의 텍스처 수정은 쉽지 않습니다. 뉴럴 네트워크 파라미터에 텍스처가 내장되어 있기 때문입니다. 이 문제를 해결하기 위해 UV-Attack은 RGB 이미지 대신 UV 맵을 생성하여 텍스처 스택을 수정하는 방식을 채택했습니다. 이를 통해 실시간 텍스처 편집이 가능해져 공격의 실용성을 크게 높였습니다.
더 나아가, 연구팀은 Expectation over Pose Transformation loss (EoPT) 라는 새로운 손실 함수를 제안하여 미지의 자세와 시점에서도 회피 성공률을 향상시켰습니다. 실험 결과, UV-Attack은 FastRCNN 모델에 대해 동적 비디오 설정에서 다양한 자세에 걸쳐 92.75%의 높은 공격 성공률을 달성했습니다. 이는 기존 최고 성능인 AdvCamou 공격(28.50% ASR)을 압도적으로 뛰어넘는 결과입니다. 또한, 최신 YOLOv8 검출기에서도 49.5%의 블랙박스 설정에서의 공격 성공률을 기록했습니다.
UV-Attack은 동적 NeRF 기반 UV 매핑의 잠재력을 보여주는 훌륭한 사례입니다. 인체의 움직임과 텍스처 수정이라는 어려운 문제를 해결하여 인물 탐지 시스템에 대한 보다 효과적인 적대적 공격을 가능하게 했습니다. 이 연구는 인공지능 보안 분야에 중요한 시사점을 제공하며, 앞으로 더욱 정교한 적대적 공격에 대한 연구와 방어 기술 개발이 필요함을 시사합니다.
Reference
[arxiv] UV-Attack: Physical-World Adversarial Attacks for Person Detection via Dynamic-NeRF-based UV Mapping
Published: (Updated: )
Author: Yanjie Li, Wenxuan Zhang, Kaisheng Liang, Bin Xiao
http://arxiv.org/abs/2501.05783v1