어텐션 가지치기: 대리 시뮬레이티드 어닐링을 통한 언어 모델의 자동 공정성 복구

본 논문은 대규모 언어 모델(LLM)의 편향성 문제를 해결하기 위해 어텐션 헤드를 가지치는 새로운 후처리 기법인 'Attention Pruning'을 제시합니다. 대리 시뮬레이티드 어닐링 기법과 대리 심층 신경망을 활용하여 효율적으로 최적의 어텐션 헤드를 찾고, 성별 편향성을 최대 40%까지 감소시키는 우수한 성능을 보였습니다.

AI 편향성 해결의 새로운 지평: 어텐션 가지치기

최근 급속도로 발전하는 대규모 언어 모델(LLM)은 사회적으로 민감한 영역에서도 활용되면서, 그 공정성에 대한 우려가 커지고 있습니다. 인간이 생성한 방대한 데이터셋으로 학습되는 LLM은 자연스럽게 사회적 편향을 학습하고 이를 영속화시키는 경향이 있습니다. 기존의 데이터셋 수정이나 알고리즘 개선은 많은 비용과 자원을 필요로 합니다. 하지만 이 논문에서 제시된 어텐션 가지치기(Attention Pruning) 는 이러한 문제에 대한 새로운 해결책을 제시합니다.

Vishnu Asutosh Dasu를 비롯한 연구팀은 사전 훈련된 LLM에서 특정 뉴런이나 어텐션 헤드를 선택적으로 비활성화하는 후처리 기법에 주목했습니다. 이는 모델의 유용성을 최소화하면서 편향성을 완화하는 효과적인 방법입니다. 그러나 수십억 개의 매개변수를 가진 LLM에서 최적의 매개변수 부분집합을 찾는 것은 엄청난 계산 비용을 필요로 하는 어려운 문제입니다.

연구팀은 이 문제를 해결하기 위해 랜덤 시뮬레이티드 어닐링 기법을 활용한 탐색 기반 프로그램 복구 접근 방식을 제안했습니다. LLM에서 직접 최적화를 수행하는 대신, 어텐션 헤드 상태(활성/비활성)와 공정성/유용성 지표 간의 관계를 효율적으로 모델링하는 대리 심층 신경망을 개발했습니다. 이를 통해 대리 모델에서 최적화를 수행하고 어텐션 헤드의 최적 부분집합을 효율적으로 찾아 선택적 가지치기를 수행할 수 있습니다.

실험 결과, 어텐션 가지치기는 성별 편향성을 최대 40%까지 감소시키는 놀라운 성과를 보였으며, 기존 최첨단 편향 완화 전략을 능가하는 성능을 입증했습니다. 이는 LLM의 공정성 향상을 위한 획기적인 발전으로, 향후 AI 시스템의 윤리적 개발과 활용에 중요한 시사점을 제공합니다.

결론적으로, 이 연구는 LLM의 편향성 문제를 효율적으로 해결하는 새로운 방법론을 제시하며, AI 기술의 발전과 윤리적인 사용을 위한 중요한 이정표를 세웠습니다. 앞으로 더 많은 연구를 통해 어텐션 가지치기 기법이 다양한 종류의 편향성 문제에도 효과적으로 적용될 수 있을지 기대됩니다.