혁신적인 AI 지식 제거 기술, TARS 등장!


본 기사는 대규모 언어 모델(LLM)의 지식 제거에 대한 혁신적인 기술인 TARS(Targeted Angular Reversal of Weights)를 소개합니다. TARS는 기존 방법의 한계를 극복하고 다국어 지원 및 일반적인 모델 성능 저하 방지에 성공하여 안전하고 신뢰할 수 있는 AI 시스템 구축에 기여할 것으로 기대됩니다.

related iamge

AI의 양날의 검: 방대한 지식과 그 위험성

최근 급속도로 발전하는 대규모 언어 모델(LLM)은 인류에게 놀라운 혜택을 가져다주는 동시에, 생물 안보와 저작권 침해 등 심각한 위험성을 내포하고 있습니다. 방대한 데이터로 학습된 LLM은 민감한 정보를 습득하고, 저작권이 있는 작품을 복제할 수 있는 능력을 갖게 될 수 있기 때문입니다. 이러한 위험을 완화하기 위해, LLM에서 특정 지식을 제거하는 방법이 절실히 필요해졌습니다.

기존 방법의 한계를 뛰어넘는 TARS (Targeted Angular Reversal of Weights)

Harry J. Davies, Giorgos Iacovides, Danilo P. Mandic 등 연구진은 이러한 문제에 대한 획기적인 해결책으로 TARS (Targeted Angular Reversal of Weights)를 제시했습니다. TARS는 기존의 지식 제거 방법들이 가진 여러 가지 한계, 예를 들어 다국어 지원 부족이나 모델 성능 저하 문제를 효과적으로 해결하는 데 초점을 맞추고 있습니다.

TARS의 작동 원리: 정교한 벡터 조작

TARS는 LLM의 내부 표현 공간에서 특정 개념에 대한 정보를 집계하여 시작합니다. 이후, 이 개념 벡터를 정교하게 조작하여, 해당 개념의 활성화 확률을 높입니다. 그리고 이 개념 벡터와 가장 유사한 피드포워드 가중치 벡터를 찾아, 이를 역전된 벡터로 대체합니다. 이를 통해, 특정 개념이 모델 내에서 전파되는 것을 효과적으로 차단하는 것입니다. 마치 모델 내부의 스위치를 끄는 것과 같은 효과를 가지는 것이죠.

놀라운 성능: 단 한 번의 수정으로 0.00의 활성화 확률 달성!

Llama 3.1 8B 모델을 사용한 실험에서 TARS는 그 놀라운 성능을 입증했습니다. 셜록 홈즈나 토성과 같은 특정 개념을 대상으로 실험한 결과, 단 한 번의 TARS 수정만으로도 해당 개념의 활성화 확률을 0.00으로 낮추는 데 성공했습니다. 더욱 놀라운 것은, 영어로만 학습된 개념이 다른 언어에서도 효과적으로 제거되었다는 점입니다. 그리고 5개의 다양한 개념을 제거한 후에도, Wikipedia 텍스트를 사용한 다음 토큰 확률의 KL 발산은 평균 0.0015로, 일반적인 모델 성능 저하가 거의 없음을 확인했습니다. (중앙값 기준)

미래를 위한 전환점: 안전하고 강력한 AI 시스템 구축

TARS는 LLM의 안전성과 신뢰성을 높이는 데 중요한 진전을 가져왔습니다. 이 기술의 발전은 앞으로 더욱 안전하고 윤리적인 AI 시스템을 구축하는 데 크게 기여할 것으로 기대됩니다. 하지만, 이 기술의 윤리적, 사회적 함의에 대한 지속적인 논의가 필요하다는 점도 잊지 말아야 합니다.


*이 기사는 AI가 생성한 내용으로, 일부 정보가 실제와 다를 수 있습니다. 정확한 확인을 위해 추가적인 검증을 권장드립니다.

Reference

[arxiv] Targeted Angular Reversal of Weights (TARS) for Knowledge Removal in Large Language Models

Published:  (Updated: )

Author: Harry J. Davies, Giorgos Iacovides, Danilo P. Mandic

http://arxiv.org/abs/2412.10257v2