AI, 인간의 도덕적 판단을 정말 모델링할 수 있을까요? - 신장 이식 결정을 통한 통찰

본 연구는 AI가 인간의 도덕적 의사결정을 모델링하는 데 있어 존재하는 한계를 신장 이식 대상자 선정 과정을 통해 탐구한 연구입니다. 연구 결과, AI 모델은 인간의 다양한 판단 기준, 의견 변화, 불확실성 등을 정확하게 반영하지 못하는 것으로 나타났으며, 더욱 심층적인 연구와 윤리적 고찰이 필요함을 시사합니다.

최근 윤리적 AI 분야에서 인간의 도덕적 판단을 단순한 계산 모델로 포착하려는 시도가 증가하고 있습니다. 하지만 과연 이러한 단순한 AI 모델이 인간의 복잡한 도덕적 의사결정의 핵심적인 뉘앙스를 정확히 포착할 수 있을까요?

Vijay Keswani 등 6명의 연구자는 신장 이식 대상자 선정이라는 흥미로운 사례를 통해 이 질문에 대한 심도있는 탐구를 진행했습니다. 그들은 20명의 참가자를 대상으로 신장 이식 대상자 선정에 대한 면접을 진행하여 참가자들의 판단 근거를 자세히 분석했습니다.

연구 결과는 놀라운 통찰을 제공합니다. 참가자들은:

• (a) 도덕적으로 관련된 환자의 속성들을 각기 다른 정도로 중요하게 여겼습니다. 즉, 어떤 속성을 더 중요하게 생각하는지, 그 기준이 사람마다 다르다는 것을 의미합니다.
• (b) 다양한 의사결정 과정을 사용했고, 의사결정의 복잡성을 줄이기 위해 휴리스틱(Heuristics)을 사용했습니다. 단순화된 규칙이나 경험적 지식에 의존하여 빠르게 결정을 내리는 경우가 많았던 것입니다.
• (c) 자신의 의견을 바꿀 수 있었습니다. 처음 의견과 다른 판단을 내리는 유동성을 보였습니다.
• (d) 때때로 불완전한 정보로 인해 자신의 결정에 대한 확신이 부족했습니다. 정보의 부족이 판단에 영향을 미쳤다는 점이 중요합니다.
• (e) AI가 신장 배정 결정을 돕는 것에 대한 긍정적, 부정적 반응을 모두 보였습니다. AI 활용에 대한 기대와 우려가 공존했습니다.

이러한 연구 결과를 바탕으로 연구진은 인간의 도덕적 판단을 AI로 모델링하는 것의 어려움을 강조하고, 현재 접근 방식의 한계를 지적하며, 이러한 문제를 해결하기 위한 미래 방향을 제시합니다. 단순한 계산 모델만으로는 인간의 복잡하고 다층적인 도덕적 판단 과정을 완벽하게 반영하는데 한계가 있음을 시사하는 연구입니다. 인간의 도덕성이라는 복잡한 영역을 AI가 완벽하게 재현하는 것은 아직 요원하며, 더욱 심층적인 연구와 윤리적 고찰이 필요하다는 것을 보여줍니다.

이 연구는 단순히 기술적 발전에만 집중하는 것이 아니라, 기술 발전이 인간의 가치와 윤리에 미치는 영향에 대한 깊이 있는 성찰을 촉구하는 중요한 의미를 지닙니다.