SafeDialBench: 다회전 대화에서의 LLM 안전성을 위한 새로운 척도

본 기사는 다양한 탈옥 공격에 대한 대규모 언어 모델(LLM)의 안전성을 정교하게 평가하는 새로운 벤치마크 SafeDialBench에 대해 소개합니다. 17개의 LLM을 평가한 결과와 향후 전망을 제시하며, AI 안전성 확보의 중요성을 강조합니다.

끊임없이 진화하는 AI, 안전성 확보는 필수

최근 급속한 발전을 거듭하는 대규모 언어 모델(LLM)은 그 활용성만큼이나 안전성에 대한 우려 또한 커지고 있습니다. 기존의 안전성 평가 벤치마크들은 주로 단일 회전 대화나 단일 탈옥 공격 방법에 초점을 맞춰왔으며, LLM이 위험한 정보를 식별하고 처리하는 능력을 세밀하게 평가하지 못하는 한계를 지녔습니다.

SafeDialBench: 더욱 정교하고 종합적인 평가

이러한 문제를 해결하기 위해, 홍예 까오(Hongye Cao)를 비롯한 17명의 연구진은 SafeDialBench라는 새로운 벤치마크를 제안했습니다. SafeDialBench는 다양한 탈옥 공격 전략을 사용한 다회전 대화에서 LLM의 안전성을 정교하게 평가하는 것을 목표로 합니다.

핵심 특징:

• 2단계 계층적 안전성 분류 체계: 6가지 안전성 차원을 고려하여 더욱 세분화된 평가가 가능합니다.
• 다양한 탈옥 공격 전략: 참조 공격 및 목적 반전 등 7가지 전략을 활용하여 데이터셋의 질을 높였습니다.
• 4000개 이상의 다회전 대화: 중국어와 영어로 구성되어 다양한 상황에서의 안전성을 평가합니다.
• 혁신적인 평가 프레임워크: 위험 정보 감지 및 처리 능력, 탈옥 공격 상황에서의 일관성 유지 능력을 측정합니다.

17개 LLM의 안전성 평가 결과

연구진은 17개의 LLM을 SafeDialBench를 이용해 평가했습니다. 그 결과, Yi-34B-Chat과 GLM4-9B-Chat이 뛰어난 안전성 성능을 보인 반면, Llama3.1-8B-Instruct와 o3-mini는 안전성 취약성을 드러냈습니다. 이는 LLM의 안전성이 모델의 크기나 종류에 따라 크게 달라질 수 있음을 시사합니다.

앞으로의 전망

SafeDialBench는 LLM의 안전성 평가에 새로운 기준을 제시하며, 더욱 안전하고 신뢰할 수 있는 AI 시스템 개발에 중요한 역할을 할 것으로 기대됩니다. 향후 연구에서는 SafeDialBench를 기반으로 더욱 다양한 LLM의 안전성을 평가하고, 안전성 향상을 위한 기술 개발에 박차를 가할 것으로 예상됩니다. AI 기술의 발전과 함께 안전성 확보에 대한 노력 또한 지속되어야 할 것입니다.