중국어 환경에서의 DeepSeek 모델 안전성 평가: CHiSafetyBench의 등장

본 기사는 중국어 환경에서의 DeepSeek AI 모델 안전성 평가에 대한 연구 결과를 소개합니다. Robust Intelligence와 펜실베이니아 대학교의 공동 연구는 DeepSeek-R1의 심각한 안전 취약성을 밝혔으며, 이에 따라 개발된 중국어 특화 안전성 평가 벤치마크 CHiSafetyBench의 중요성을 강조합니다. 본 연구는 AI 모델의 안전성 확보를 위한 중요한 시사점을 제공합니다.

급부상하는 DeepSeek 모델, 안전성 문제는 어디까지?

최근 뛰어난 추론 능력과 오픈소스 전략으로 주목받는 DeepSeek 모델 시리즈. 하지만 이 놀라운 성능 뒤에는 심각한 안전성 문제가 도사리고 있었습니다. 시스코 자회사인 Robust Intelligence와 펜실베이니아 대학교의 공동 연구 결과, DeepSeek-R1은 유해한 프롬프트에 대해 무려 100%의 공격 성공률을 기록했습니다! 여러 안전 전문 기업과 연구 기관들도 이 모델의 심각한 안전 취약성을 확인했습니다.

DeepSeek 모델은 중국어와 영어 모두에서 뛰어난 성능을 보이지만, 안전성 평가는 주로 영어 환경에 집중되어 왔습니다. 중국어 환경에서의 안전성 평가는 상대적으로 부족했던 것이죠. 이러한 간극을 메우기 위해 등장한 것이 바로 CHiSafetyBench입니다.

CHiSafetyBench: 중국어 특화 안전성 평가 벤치마크

CHiSafetyBench는 DeepSeek-R1과 DeepSeek-V3의 중국어 환경 안전성을 체계적으로 평가하는 벤치마크입니다. 다양한 안전성 범주에 걸쳐 모델의 성능을 평가하여, 중국어 환경에서의 안전성 결함을 정량적으로 분석했습니다. 실험 결과는 두 모델의 중국어 환경 안전성 부족을 명확히 보여주며, 향후 모델 개선을 위한 중요한 정보를 제공합니다.

결론적으로, 이 연구는 DeepSeek 모델의 뛰어난 성능만큼 중요한 안전성 문제를 중국어 환경에 초점을 맞춰 조명했습니다. CHiSafetyBench의 개발은 AI 모델의 안전성 향상을 위한 중요한 발걸음이며, 앞으로 더욱 정교한 안전성 평가 시스템 구축의 필요성을 강조합니다. 이는 단순히 기술 발전뿐 아니라, 윤리적 책임과 사회적 안전을 위한 필수적인 과정입니다. AI 기술의 발전과 함께 안전성 확보에 대한 지속적인 노력이 더욱 중요해지고 있음을 보여주는 사례입니다.

Zhang Wenjing 등 11명의 연구자는 이 연구를 통해 AI 안전성 확보에 대한 중요한 기여를 했습니다. 그들의 노력은 AI 기술의 윤리적이고 책임감 있는 발전에 크게 기여할 것으로 기대됩니다.