잊는 법을 배우는 AI: 지속적 망각을 위한 GS-LoRA의 등장
본 기사는 사전 훈련된 비전 모델에서 원치 않는 정보를 선택적으로 제거하는 지속적 망각(Continual Forgetting) 문제에 대한 최신 연구 결과를 소개합니다. Hongbo Zhao 박사 연구팀이 개발한 GS-LoRA 및 GS-LoRA++는 LoRA와 그룹 스파스 정규화를 통해 효율적인 삭제와 기존 지식 보존을 동시에 달성하며, 다양한 비전 작업에서 우수한 성능을 보였습니다.

개인정보 보호와 보안에 대한 우려가 커짐에 따라, 사전 훈련된 비전 모델에서 원치 않는 정보를 삭제해야 할 필요성이 그 어느 때보다 중요해졌습니다. Zhao Hongbo 박사를 비롯한 연구팀은 이러한 현실적 문제에 대한 해결책으로 지속적 망각(Continual Forgetting) 이라는 개념을 제시하고, 혁신적인 방법인 GS-LoRA (Group Sparse LoRA) 와 **GS-LoRA++**을 개발했습니다.
잊는 것의 기술: 세 가지 도전과 GS-LoRA의 해법
연구팀은 지속적 망각을 달성하는 데 있어 다음과 같은 세 가지 주요 과제를 제시했습니다.
- 효율적인 삭제: 원치 않는 지식을 효율적이고 효과적으로 제거해야 합니다.
- 기존 지식 보존: 망각 과정에서 남아있는 지식에 대한 영향을 최소화해야 합니다.
- 실용성: 실제 환경에서는 훈련 샘플이 부족하거나 부분적으로 누락될 수 있습니다.
GS-LoRA는 이러한 과제에 대한 해결책을 제시합니다. 핵심은 LoRA(Low-Rank Adaptation) 모듈을 사용하여 Transformer 블록의 FFN(Feed-Forward Network) 레이어를 각 망각 작업마다 독립적으로 미세 조정하는 것입니다. 여기에 그룹 스파스 정규화(group sparse regularization) 를 적용하여 특정 LoRA 그룹을 자동으로 선택하고 나머지는 제거함으로써 효율적인 삭제와 기존 지식 보존을 동시에 달성합니다.
한 단계 더 나아가: GS-LoRA++
GS-LoRA++는 GS-LoRA를 더욱 발전시킨 방법입니다. 프로토타입 정보를 추가적인 지도로 활용하여 실용성을 높였습니다. 잊혀질 클래스의 logits(로짓)은 원래 프로토타입에서 멀어지도록, 남아있는 클래스의 logits는 각각의 프로토타입에 가까워지도록 조정합니다. 이를 통해 보다 정교하고 효과적인 망각이 가능해집니다.
놀라운 성과: 실제 적용 가능성 입증
연구팀은 얼굴 인식, 객체 탐지, 이미지 분류 등 다양한 비전 작업에서 GS-LoRA와 GS-LoRA++의 성능을 평가했습니다. 그 결과, 특정 클래스를 효과적으로 잊는 동시에 다른 클래스에 대한 영향을 최소화하는 뛰어난 성능을 확인했습니다. 이 연구는 지속적 망각이라는 새로운 과제에 대한 실용적인 해결책을 제시하며, AI 모델의 개인정보 보호와 보안 향상에 크게 기여할 것으로 기대됩니다. 코드는 https://github.com/bjzhb666/GS-LoRA 에서 확인할 수 있습니다.
Reference
[arxiv] Practical Continual Forgetting for Pre-trained Vision Models
Published: (Updated: )
Author: Hongbo Zhao, Fei Zhu, Bolin Ni, Feng Zhu, Gaofeng Meng, Zhaoxiang Zhang
http://arxiv.org/abs/2501.09705v1