🚨코드 중독 해결사 등장! 경량화된 AI 보안 기술, KillBadCode

본 기사는 Weisong Sun 등 연구진이 개발한 경량화된 코드 포이즈닝 탐지 기술인 KillBadCode를 소개합니다. KillBadCode는 코드의 자연스러움을 기반으로 포이즈닝된 코드를 효과적으로 탐지하며, 기존 기술보다 훨씬 빠르고 효율적입니다.

최근 뉴럴 코드 모델(NCMs) 이 코드 분석 및 생성과 같은 코드 지능 작업에서 놀라운 성능을 보여주고 있습니다. 하지만 NCMs 기반 시스템의 보안 문제 또한 심각하게 대두되고 있습니다. 특히, NCMs는 신뢰할 수 없는 출처의 대규모 데이터로 학습되는 경우가 많아, 공격자는 악의적인 코드를 삽입하여 모델을 조작할 수 있습니다. 이러한 공격을 코드 포이즈닝 공격(또는 백도어 공격) 이라고 합니다. 공격자는 이를 통해 NCMs에 백도어를 심어 모델의 동작을 제어할 수 있으며, 심각한 보안 위협이 됩니다. 하지만 지금까지 다양하고 복잡한 코드 포이즈닝 공격을 효과적으로 탐지하는 기술은 부족한 실정이었습니다.

Sun 등의 연구진은 이러한 문제에 대한 해결책으로, KillBadCode라는 혁신적이고 경량화된 코드 포이즈닝 탐지 기법을 제안했습니다. KillBadCode는 코드 포이즈닝이 코드의 자연스러움을 깨뜨린다는 통찰력에 기반하여 설계되었습니다. 구체적으로, KillBadCode는 우선 경량화된 n-gram 언어 모델을 기반으로 코드 언어 모델(CodeLM) 을 구축합니다. 그런 다음, 포이즈닝된 데이터가 주어지면 CodeLM을 사용하여 코드 조각에서 삭제했을 때 코드의 자연스러움을 더욱 향상시키는 토큰(트리거 토큰)을 식별합니다. 단일 샘플에서 정상적인 토큰을 제거하는 것만으로도 코드의 자연스러움이 향상되어 높은 오탐율(FPR)을 초래할 수 있으므로, 모든 샘플에 걸쳐 각 토큰의 누적 개선 사항을 집계합니다. 마지막으로, KillBadCode는 식별된 트리거 토큰을 포함하는 모든 포이즈닝된 샘플을 제거하여 데이터를 정제합니다.

두 가지 코드 포이즈닝 공격과 네 가지 코드 지능 작업에 대한 실험 결과, KillBadCode는 기존 방식보다 훨씬 뛰어난 성능을 보였습니다. 특히, KillBadCode는 최소 5분의 처리 시간으로 매우 효율적이며, 평균적으로 최고 성능의 기존 방식보다 25배 빠릅니다. 이 연구는 AI 시스템의 보안 강화에 중요한 진전을 가져올 뿐만 아니라, 경량화된 모델을 통한 효율성 향상까지 달성하여 실용적인 측면에서도 큰 의미를 갖습니다. 앞으로 KillBadCode와 같은 기술의 발전을 통해 더욱 안전하고 신뢰할 수 있는 AI 시스템 구축이 가능할 것으로 기대됩니다.