혁신적인 AI 모델: SecPE - 개인정보 보호와 강건성을 동시에 확보하는 LLM 추론

Zhang 등의 연구팀이 개발한 SecPE는 개인정보 보호와 적대적 공격에 대한 강건성을 동시에 고려한 LLM 추론 방법으로, 동형암호를 활용하여 높은 정확도와 강건성을 유지하면서 효율성 저하를 최소화했습니다. 8가지 작업에 대한 실험 결과, 기존 방법 대비 암호화된 Argmax 연산 속도가 35.4배 향상되는 등 뛰어난 성능을 보였습니다.

대규모 언어 모델(LLM)의 대중화로 개인정보 보호와 적대적 공격에 대한 강건성이 중요해지고 있습니다. 기존 연구는 이 두 가지를 각각 다루었지만, 동시에 해결하려는 시도는 드물었습니다. 하지만 Zhang 등의 연구팀이 발표한 SecPE (Secure Prompt Ensembling) 는 이러한 한계를 뛰어넘는 획기적인 연구입니다.

SecPE는 개인 추론과 프롬프트 앙상블을 결합하여 LLM 추론의 개인정보 보호와 강건성을 동시에 향상시킵니다. 개인 추론은 LLM에서 처리되는 데이터를 암호화하여 개인정보를 보호하고, 프롬프트 앙상블은 여러 프롬프트에 대한 LLM 응답을 집계하여 적대적 공격에 대한 강건성을 높입니다.

하지만, 두 기술을 단순히 결합하는 것은 비효율적입니다. 이 문제를 해결하기 위해 SecPE는 프롬프트 앙상블의 핵심 알고리즘 요소에 대해 효율적인 동형암호(FHE) 기반 대응책을 설계했습니다. 이는 암호화된 상태에서도 연산이 가능하게 하여 개인정보 보호와 효율성을 동시에 달성하는 핵심입니다.

연구팀은 8가지 작업을 통해 SecPE의 정확도, 강건성, 효율성을 평가했습니다. 결과는 놀라웠습니다. SecPE는 기존 개인 추론 방법과 비교하여 정확도는 높게 유지하면서 강건성은 향상시켰고, 효율성 저하는 단 2.5%에 불과했습니다. 이는 정확도, 강건성, 효율성 간의 훌륭한 균형을 달성한 것입니다.

특히, 프롬프트 앙상블에서 속도 저하의 주요 원인인 암호화된 Argmax 연산에 대해서는 기존 최고 성능 대비 35.4배 빠른 속도를 기록했습니다. 이러한 성과는 SecPE의 독립적인 연구 가치를 더욱 높여줍니다.

SecPE는 LLM 기반 서비스의 안전성과 신뢰성을 크게 향상시키는 잠재력을 가지고 있습니다. 개인정보 보호와 보안에 대한 우려가 커지고 있는 시대에, SecPE는 AI 기술의 윤리적이고 안전한 발전에 중요한 기여를 할 것으로 기대됩니다. 앞으로 SecPE의 발전과 실제 서비스 적용에 대한 후속 연구가 기대됩니다.