멀티턴 탈옥 공격의 새로운 기준: RACE 프레임워크

중국과학기술대학 연구팀이 개발한 RACE 프레임워크는 멀티턴 탈옥 공격의 새로운 기준을 제시하며, LLM의 안전성에 대한 심각한 우려를 불러일으키고 있습니다. 높은 공격 성공률과 공개된 코드는 LLM의 안전성 향상과 윤리적 사용에 대한 중요한 논의를 촉구합니다.

대규모 언어 모델(LLM)의 안전 취약성을 노리는 멀티턴 탈옥 공격이 날로 정교해지고 있습니다. 기존 방법들은 의미적 일관성과 공격 효과 사이에서 균형을 맞추는 데 어려움을 겪어왔습니다. 하지만 중국과학기술대학 연구팀이 개발한 Reasoning-Augmented Conversation(RACE) 프레임워크는 이러한 문제를 해결하는 획기적인 해결책을 제시합니다.

RACE는 악의적인 질문을 무해한 추론 과제로 변환하는 독창적인 접근 방식을 사용합니다. LLM의 강력한 추론 능력을 악용하여 안전 정렬을 손상시키는 것이죠. 핵심은 공격 상태 머신 프레임워크입니다. 이 프레임워크는 문제 변환과 반복적 추론을 체계적으로 모델링하여 여러 턴에 걸쳐 일관된 질문 생성을 보장합니다.

여기에 더해 이득 유도 탐색(gain-guided exploration), 자가 플레이(self-play), 거부 피드백(rejection feedback) 모듈을 통해 공격 의미를 유지하고, 효과를 높이며, 추론 기반 공격의 진행을 지속시킵니다. 이는 마치 바둑의 고수가 상대의 허점을 파고들며 승리를 거머쥐는 것과 같습니다.

실험 결과는 놀랍습니다. 다양한 LLM에 대한 광범위한 실험에서 RACE는 복잡한 대화 시나리오에서 최첨단 공격 효과를 달성했으며, 공격 성공률(ASR)이 최대 96%까지 증가했습니다. 특히, OpenAI o1 및 DeepSeek R1과 같은 주요 상용 모델에 대해 각각 82%와 92%의 ASR을 기록하여 그 위력을 증명했습니다. 이는 LLM의 안전성에 대한 심각한 우려를 불러일으키는 결과입니다.

연구팀은 https://github.com/NY1024/RACE 에서 코드를 공개하여, 이 중요한 분야에 대한 추가 연구를 장려하고 있습니다. RACE의 등장은 LLM의 안전성에 대한 새로운 논의를 촉구하며, 더욱 강력하고 안전한 LLM 개발을 위한 중요한 이정표가 될 것입니다. 하지만 동시에 이러한 기술의 악용 가능성에 대한 경각심을 일깨워줍니다. 안전한 AI 개발과 윤리적 사용에 대한 지속적인 노력이 그 어느 때보다 중요한 시점입니다.