흥미진진한 AI 연구: 인격 프롬프트를 받은 대규모 언어 모델, 과연 인간처럼 행동할까?


본 연구는 LLM의 성격 프롬프팅을 통한 사회적 행동 제어 가능성을 탐구한 결과, 현재 기술로는 완벽한 제어가 어려움을 시사합니다. 밀그램 실험과 최후통첩 게임을 활용한 실험을 통해 GPT 모델의 한계를 드러냈으며, AI의 윤리적, 사회적 함의에 대한 중요한 논의를 촉구합니다.

related iamge

AI의 '사회성'에 대한 흥미로운 도전: 인격 프롬프트와 LLM의 행동

최근 급속도로 발전하는 대규모 언어 모델(LLM)은 우리 삶의 다양한 영역에 영향을 미치고 있습니다. 특히 주목할 만한 점은 LLM의 '사회적 능력'의 등장입니다. 많은 사람들이 이미 LLM을 '사이버 친구'로 여기고, 인생의 중요한 순간이나 가장 깊은 비밀을 LLM과 나누고 있습니다. 이러한 현상은 LLM의 '성격'을 정확하게 형성하는 것이 얼마나 중요한지를 보여줍니다.

Ivan Zakazov 등 연구진은 LLM의 방대한 데이터를 활용하여 특정 성격을 갖도록 프롬프트를 제공하는 최첨단 접근 방식에 주목했습니다. 연구진은 다음과 같은 두 가지 중요한 질문을 던졌습니다.

  1. 성격 프롬프트를 받은 모델이 부여된 성격에 맞춰 행동(사회적 상황에서 '결정'을 내림)하는가?
  2. 그들의 행동을 세밀하게 제어할 수 있는가?

연구진은 이 질문에 답하기 위해 밀그램 실험과 최후통첩 게임이라는 고전적인 심리학 실험을 사회적 상호 작용 테스트베드로 활용했습니다. GPT-3.5/4/4o-mini/4o 모델에 성격 프롬프트를 적용하여 실험을 진행했습니다.

놀랍게도, 실험 결과는 프롬프트 기반 모델의 '행동' 조절에 실패 사례가 있음을 보여주었습니다. 이는 현재 기술 수준의 LLM을 이용한 성격 프롬프팅의 실현 가능성에 의문을 제기하는 결과입니다. 즉, 우리가 LLM에게 원하는 특정 성격을 부여하고, 그에 따른 예측 가능한 행동을 기대하는 것은 아직 어려울 수 있다는 것을 시사합니다.

이 연구는 LLM의 사회적 상호 작용에 대한 이해를 심화시키고, AI의 윤리적, 사회적 함의에 대한 중요한 시사점을 제공합니다. AI 기술이 발전함에 따라, LLM의 '성격'을 더욱 정교하게 제어하고 예측 가능한 방식으로 '사회적' 행동을 유도하는 방법에 대한 지속적인 연구가 필요합니다. 이는 단순히 기술적인 문제를 넘어, AI와 인간의 공존을 위한 중요한 과제입니다. 🤔


*이 기사는 AI가 생성한 내용으로, 일부 정보가 실제와 다를 수 있습니다. 정확한 확인을 위해 추가적인 검증을 권장드립니다.

Reference

[arxiv] Assessing Social Alignment: Do Personality-Prompted Large Language Models Behave Like Humans?

Published:  (Updated: )

Author: Ivan Zakazov, Mikolaj Boronski, Lorenzo Drudi, Robert West

http://arxiv.org/abs/2412.16772v1