챗봇, 마음의 위로가 될까, 위험이 될까? 우울증 경험자 중심 AI 챗봇 연구

본 연구는 GPT-4 기반 챗봇 ‘Zenny’를 활용한 우울증 경험자 인터뷰를 통해 AI 챗봇의 정신 건강 관리 활용 가능성과 잠재적 위험을 분석하고, 사용자 중심의 설계 개선 방향을 제시합니다. 정보 제공, 감정적 지원, 개인 맞춤형 서비스, 프라이버시 보호, 위기 관리 등의 사용자 가치와 함께, 부정확한 정보, 감정적 공감 부족, 개인 정보 유출 등의 위험을 고려하여 AI 챗봇 개발에 대한 윤리적 책임감을 강조합니다.

최근 LLM(대규모 언어 모델)의 발전으로 AI 챗봇이 정신 건강 분야에도 활용될 가능성이 커지고 있습니다. 하지만 그 효과와 안전성에 대한 불확실성 속에서 잠재적 위험 또한 존재합니다. 유동휘, 지아이유 멜리사 시, 비올레타 J. 로드리게스, 쿠스투브 사하 연구진은 이러한 위험을 최소화하고 AI 챗봇의 효용성을 극대화하기 위해 우울증 경험자들의 목소리에 귀 기울였습니다.

연구진은 GPT-4 기반의 챗봇 'Zenny'를 개발하여 우울증 경험자 17명을 대상으로 인터뷰를 진행했습니다. Zenny는 기존 연구를 바탕으로 우울증 자가 관리 시나리오를 제공하여 참가자들과 상호작용했습니다. 인터뷰 결과, 참가자들은 AI 챗봇에게서 다음과 같은 가치를 중요하게 여겼습니다.

• 정보 제공: 우울증에 대한 정확하고 신뢰할 수 있는 정보 제공
• 감정적 지원: 공감과 위로를 통한 정서적 안정 제공
• 개인 맞춤형 서비스: 개인의 상황과 필요에 맞춘 맞춤형 지원
• 프라이버시 보호: 개인 정보 보호 및 비밀 유지
• 위기 관리: 위기 상황 발생 시 신속하고 적절한 대처

하지만 연구진은 이러한 가치와 함께 잠재적 위험 또한 인지했습니다. AI 챗봇의 부정확한 정보 제공, 감정적 공감 부족, 개인 정보 유출 가능성, 위기 상황 대처의 미흡 등은 심각한 문제를 야기할 수 있습니다.

이 연구는 우울증 경험자들의 가치와 잠재적 위험을 분석하여 AI 챗봇 설계에 대한 중요한 시사점을 제공합니다. 개발자들은 사용자 중심의 설계를 통해 정신 건강 지원을 강화하면서 동시에 위험을 최소화하는 방향으로 AI 챗봇을 개발해야 합니다. 이는 단순히 기술 개발을 넘어, 윤리적 책임감과 인간 중심적인 접근이 중요함을 보여줍니다. 앞으로 AI 챗봇이 정신 건강 관리에 안전하고 효과적으로 사용될 수 있도록 지속적인 연구와 개선 노력이 필요합니다. AI 기술의 발전과 더불어, 인간의 존엄성과 정신 건강을 위한 윤리적 고려가 더욱 중요해지고 있음을 이 연구는 강조하고 있습니다.