멀티턴 탈옥 공격: 거대 언어 모델의 안전성에 대한 새로운 위협, RACE 등장

칭화대학교 연구팀이 개발한 RACE 프레임워크는 다회차 탈옥 공격을 통해 LLM의 안전성 취약점을 효과적으로 공격하는 방법을 제시합니다. 상용 모델에 대한 높은 공격 성공률을 보이며, LLM 안전성 연구에 중요한 시사점을 제공합니다.

최근, 인공지능(AI) 분야에서 거대 언어 모델(LLM)의 안전성에 대한 우려가 커지고 있습니다. 특히, 다회차 탈옥 공격(Multi-turn jailbreak attacks) 은 LLM의 안전성에 심각한 위협이 되고 있습니다. 이는 마치 실제 인간과의 대화처럼 LLM과 반복적인 대화를 통해 안전성 취약점을 노출시키는 공격 방식입니다.

기존의 탈옥 공격 방법들은 의미적 일관성과 공격 효과 사이에서 균형을 맞추는 데 어려움을 겪었습니다. 의미가 흐릿해지거나 공격이 제대로 먹히지 않는 경우가 많았습니다. 하지만, 중국 칭화대학교 연구팀이 개발한 Reasoning-Augmented Conversation (RACE) 프레임워크는 이러한 한계를 극복하는 획기적인 시도입니다.

RACE는 유해한 질문을 무해한 추론 과제로 바꾸어 LLM의 강력한 추론 능력을 역이용합니다. 이는 마치 교묘한 함정을 파놓고 LLM 스스로 그 함정에 빠지도록 유도하는 전략과 같습니다. 연구팀은 상태 머신 프레임워크를 통해 문제 변환 및 반복적인 추론을 체계적으로 모델링하여 여러 회차에 걸쳐 일관된 질문 생성을 보장합니다. 여기에 이득 유도 탐색, 자가 플레이, 거부 피드백 모듈을 더하여 공격의 의미를 유지하고 효과를 높이며 추론 기반 공격을 지속적으로 유지합니다.

다양한 LLM을 대상으로 한 실험 결과는 놀랍습니다. RACE는 기존 최고 수준의 공격 효과를 달성했으며, OpenAI의 o1과 DeepSeek의 R1과 같은 주요 상용 모델에 대한 공격 성공률이 무려 82%에서 92%에 달했습니다. 이는 RACE의 강력한 위력을 보여주는 압도적인 결과입니다. 연구팀은 RACE의 코드를 공개하여(https://github.com/NY1024/RACE) 이 중요한 분야에 대한 추가 연구를 장려하고 있습니다.

이 연구는 단순한 공격 방법의 제시를 넘어, LLM의 안전성에 대한 심각한 문제점을 다시 한번 일깨워줍니다. LLM의 안전한 개발과 배포를 위해서는 이러한 취약점에 대한 깊이 있는 이해와 지속적인 연구가 절실히 필요하며, RACE는 그러한 노력에 중요한 이정표를 제시합니다. 앞으로 LLM의 안전성 확보를 위한 기술 개발과 윤리적 고려는 더욱 중요해질 것입니다.