사회적 공정성을 고려한 LLM 개인화: Fair-PP 데이터셋의 혁신

중국과학원 자동화연구소 연구팀은 사회적 형평성을 고려한 개인 맞춤형 선호도를 담은 합성 데이터셋 Fair-PP를 개발했습니다. GPT-4o-mini와 자동화 프레임워크를 활용하여 238,623개의 선호도 기록을 확보했으며, 기존 LLM의 한계를 분석하고 개선 방안을 제시하여 사회적 공정성 향상에 기여할 것으로 예상됩니다.

최근 급속한 발전을 이루고 있는 대규모 언어 모델(LLM)은 그 성능 향상만큼이나 사회적 공정성 문제에 대한 우려도 커지고 있습니다. 기존의 LLM들은 개인의 다양한 선호도를 충분히 반영하지 못한다는 한계를 가지고 있었는데요. 중국과학원 자동화연구소 연구팀은 이러한 문제를 해결하기 위해 Fair-PP라는 혁신적인 합성 데이터셋을 개발했습니다.

Fair-PP는 실제 사회 조사 데이터를 바탕으로 생성된 개인화된 선호도 데이터셋입니다. 무려 28개의 사회 집단, 98개의 형평성 관련 주제, 그리고 5가지 개인적 선호도 차원을 고려하여 다양한 사회적 배경과 개인의 특성을 반영하고 있습니다. 총 238,623개의 선호도 기록을 포함하는 방대한 데이터셋으로, LLM의 사회적 편향을 줄이고 더욱 공정하고 포괄적인 결과를 도출하는데 기여할 것으로 기대됩니다.

연구팀은 GPT-4o-mini를 활용하여 7가지 대표적인 페르소나를 설정하고 역할극 기반의 데이터 생성 방식을 도입했습니다. 이를 통해 기존의 어려운 데이터 수집 과정을 자동화하고 효율성을 높였습니다. 또한, 이 과정에서 개발된 자동화 프레임워크는 향후 유사한 데이터셋 생성에 활용될 수 있는 훌륭한 기반 기술이 될 것입니다.

Fair-PP 데이터셋은 단순히 데이터를 제공하는 데 그치지 않습니다. 연구팀은 Fair-PP를 활용하여 기존 주류 LLM들의 개인화된 선호도 공간 내 위치를 분석하고, 목표 페르소나와의 정렬을 위한 샘플 재가중치 방법을 제시했습니다. 이를 통해 LLM이 특정 페르소나에 편향되지 않고, 다양한 개인의 선호도를 고루 반영하도록 하는 방법을 제시한 것입니다. 실험 결과, 이 방법은 기존 방식보다 뛰어난 성능을 보였다고 합니다.

Qi Zhou, Jie Zhang 등 8명의 연구자들이 이룬 이번 성과는 LLM의 사회적 공정성 향상에 중요한 전기를 마련할 것으로 예상됩니다. Fair-PP 데이터셋은 LLM 개발자들에게 귀중한 자원이 될 것이며, 더욱 공정하고 윤리적인 AI 시스템 구축에 크게 기여할 것으로 기대됩니다. 앞으로 Fair-PP를 활용한 다양한 연구들이 AI의 사회적 책임과 형평성 문제 해결에 중요한 역할을 할 것으로 보입니다.