로봇, 챗봇, 자율주행 자동차: 인공지능에 대한 마음과 도덕성 인식

본 기사는 AI에 대한 인간의 마음과 도덕성 인식에 대한 최신 연구 결과를 소개합니다. 연구 결과, AI는 낮은 수준의 능동성을 가지는 것으로 인식되지만, 도덕적 책임은 상황에 따라 다르게 평가됨을 보여줍니다. 특히, 자율주행 자동차와 같은 고위험 AI 시스템의 설계에는 도덕적 인식 관리가 필수적임을 강조합니다.

첨단 AI 시대, 우리는 AI를 어떻게 바라보는가?

인공지능(AI) 기술은 눈부시게 발전하며 우리 삶 깊숙이 파고들고 있습니다. 로봇, 챗봇, 자율주행 자동차 등 다양한 AI 시스템이 등장하며 편리함을 제공하지만, 동시에 윤리적, 도덕적 문제에 대한 고민도 커지고 있습니다. Ali Ladak 등 연구진의 최근 연구는 이러한 고민에 대한 중요한 통찰을 제공합니다.

975명의 참가자를 대상으로 실시된 이 연구는 26개의 AI 및 비AI 개체에 대한 마음과 도덕성 인식을 조사했습니다. 놀랍게도, AI는 무생물과 개미 사이 정도의 낮은 수준의 능동성(agency) , 즉 계획하고 행동하는 능력을 가지는 것으로 인식되었습니다. 예를 들어, ChatGPT는 암석과 마찬가지로 쾌락과 고통을 느낄 수 있는 능력이 매우 낮게 평가되었습니다. 이는 우리가 AI의 능력을 과대평가하거나, 또는 AI의 감정적 측면에 대한 이해가 부족함을 시사합니다.

하지만, AI의 도덕적 능력(moral agency) , 즉 옳고 그름을 판단하고 행동하는 능력은 더 높고 다양하게 평가되었습니다. 특히, 테슬라의 풀 셀프 드라이빙 자동차는 침팬지 수준으로 도덕적 책임을 부여받았습니다. 이는 자율주행 자동차와 같은 고위험 AI 시스템에 대한 도덕적 책임의 문제가 얼마나 중요한지를 보여주는 대목입니다. 즉, AI의 기술적 발전 속도에 비해 우리의 AI에 대한 도덕적 인식과 이해는 아직 부족하다는 것을 의미합니다.

이 연구는 AI 시스템 설계에서 도덕적 인식 관리의 중요성을 강조합니다. 특히, 자율주행 자동차와 같이 고위험 상황에서의 결정에 대한 책임과 신뢰 문제는 매우 중요하며, 이는 AI 시스템의 설계 단계부터 고려되어야 할 사항입니다. AI 기술의 발전과 더불어, 우리는 AI에 대한 윤리적, 도덕적 고찰을 지속적으로 해나가야 하며, AI 시스템의 설계에 이러한 고민을 적극적으로 반영해야 합니다. 단순히 기술적 성능만을 고려하는 것이 아니라, 사회적 책임과 윤리적 문제를 함께 고민해야 하는 시점입니다.

결론적으로, 이 연구는 AI에 대한 우리의 인식이 AI 기술의 발전 속도를 따라가지 못하고 있으며, 특히 고위험 AI 시스템의 설계에는 도덕적 인식 관리가 필수적임을 시사합니다. AI 기술의 윤리적 함의에 대한 지속적인 연구와 사회적 논의가 필요합니다.