멈출 수 없는 발걸음: AI 거대 언어 모델의 새로운 '탈옥' 공격, FITD

본 기사는 심리학적 발문제시기법을 이용한 새로운 AI 탈옥 공격 기법 FITD에 대해 다룹니다. 7가지 주요 LLM 모델에서 평균 94%의 높은 성공률을 기록하며, 현재 AI 안전 전략의 취약점을 드러내고 AI 안전성에 대한 심각한 우려를 제기합니다.

인공지능(AI)이 우리 생활 깊숙이 들어오면서 그 안전성 확보는 더욱 중요해지고 있습니다. 하지만 AI의 안전장치를 우회하여 유해한 출력을 유도하는 '탈옥(Jailbreak)' 공격은 끊임없이 진화하고 있습니다.

최근, 중국 연구진(Zixuan Weng, Xiaolong Jin, Jinyuan Jia, Xiangyu Zhang)이 발표한 논문 "Foot-In-The-Door: A Multi-turn Jailbreak for LLMs"은 심리학적 '발문제시기법(Foot-in-the-Door)'을 응용한 새로운 탈옥 기법, FITD를 소개합니다. 이는 작은 부탁으로 시작해 점차 큰 부탁을 하는 심리적 현상을 이용, AI 모델을 교묘하게 조종하는 방식입니다.

FITD의 핵심은 다중 턴(Multi-turn) 전략입니다. 단순히 위험한 질문을 하는 대신, 중간 단계의 '다리 역할'을 하는 질문들을 통해 점진적으로 악의적인 의도를 높여갑니다. 마치 모델 스스로 유해한 답변을 하도록 유도하는, 교활한 전략이죠. 이를 통해 모델의 자기 검열 기능을 무력화시키는 것입니다.

놀랍게도, 7가지 주요 LLM 모델을 대상으로 한 실험 결과, FITD는 평균 94%의 성공률을 달성했습니다. 기존 최첨단 기법들을 압도하는 성과입니다. 이는 현재의 AI 안전성 전략에 심각한 결함이 있음을 보여주는 강력한 증거입니다. 논문에서 코드를 확인할 수 있습니다.

하지만 FITD의 성공은 단순히 기술적 문제를 넘어, AI 안전성에 대한 심각한 윤리적, 사회적 질문을 던집니다. 연구진은 LLM의 '자기 부패(Self-corruption)' 현상을 분석하며, 특히 다중 턴 상호작용의 위험성을 강조합니다. AI 모델의 안전성 확보를 위한 새로운 접근법과 윤리적 가이드라인 마련이 시급한 과제로 떠오르고 있습니다.

FITD의 등장은 AI 안전성에 대한 경각심을 일깨워줍니다. 더욱 강력하고 교묘한 공격이 등장할 가능성을 고려하여, 지속적인 연구와 대응책 마련이 절실합니다. 이는 단순히 기술 개발의 문제가 아니라, 인류의 미래를 위한 중요한 과제입니다.