X-Guard: 다국어 지원 AI 콘텐츠 모더레이션 에이전트 등장!

X-Guard는 다국어 지원 AI 콘텐츠 모더레이션 에이전트로, 132개 언어 500만 개 데이터셋과 2단계 아키텍처(mBART-50 번역 모듈 + X-Guard 3B 모델)를 통해 저자원 언어 공격 및 코드 전환 공격에 효과적으로 대응하며, 투명한 평가 과정을 통해 객관적인 결과를 제공합니다.

AI 안전의 새로운 지평을 열다: X-Guard

최근 급속도로 발전하는 대규모 언어 모델(LLM)은 여러 중요 분야에서 필수적인 역할을 하고 있습니다. 하지만 신뢰성이 생명인 이러한 분야에서 LLM의 안전성 확보는 여전히 큰 과제입니다. 기존의 안전 시스템은 특히 다국어 환경에서 취약점을 드러내고 있는데요, 영문 중심 설계로 인해 저자원 언어 공격이나 코드 전환 기법에 취약하며, 다양한 언어 데이터 부족으로 효과적인 다국어 안전 장치 개발이 어려웠습니다. 심지어 최근의 Llama Guard-3와 같은 솔루션조차도 의사결정 과정의 투명성이 부족한 실정이죠.

Bibek Upadhayay, Vahid Behzadan, Ph. D 연구팀은 이러한 문제점들을 해결하기 위해 X-Guard 에이전트를 개발했습니다. X-Guard는 다양한 언어 환경에서 콘텐츠 모더레이션을 제공하는 투명한 다국어 안전 에이전트입니다. 기존의 저자원 언어 공격과 정교한 코드 전환 공격 모두에 효과적으로 대응하도록 설계되었죠.

X-Guard의 핵심 전략:

• 방대한 다국어 데이터셋 구축: 132개 언어, 500만 개 데이터 포인트로 구성된 포괄적인 다국어 안전 데이터셋을 만들었습니다. 명시적인 평가 근거도 포함되어 있어, 평가의 투명성을 높였습니다.
• 다양한 평가자 활용: 개별 LLM 제공업체의 편향을 최소화하기 위해 ‘심사위원단 방식’을 도입했습니다. 여러 평가자의 의견을 종합하여 객관적인 평가를 내리는 것이죠.
• 2단계 아키텍처: mBART-50 번역 모듈과 감독 학습 및 GRPO 학습을 통해 훈련된 X-Guard 3B 모델을 결합한 2단계 아키텍처를 통해 다국어 지원과 안전성을 동시에 확보했습니다.

혁신적인 안전 시스템의 탄생:

연구 결과, X-Guard는 여러 언어에서 안전하지 않은 콘텐츠를 효과적으로 탐지하면서도 평가 전 과정에서 투명성을 유지하는 것으로 나타났습니다. 이는 LLM과 통합 시스템을 위한 강력하고 투명하며 언어적으로 포괄적인 안전 시스템을 구축하는 데 중요한 발전입니다. X-Guard의 등장은 AI 안전 분야에 새로운 획을 그을 것으로 기대됩니다. 앞으로 더욱 발전된 다국어 AI 안전 시스템 개발에 대한 기대감을 높이는 성과입니다!