인공지능과 인공 의식의 분리: 기능과 경험의 간극
본 연구는 인공지능의 기능적 동등성과 인간 의식의 현상적 경험 사이의 차이를 통합정보이론(IIT)을 통해 규명하여, 인공지능 발전이 인공 의식으로 이어진다는 주장에 대한 비판적 시각을 제시합니다. 기능적 시뮬레이션과 주관적 경험의 불일치 가능성을 강조하며, 인공지능 기술의 윤리적·사회적 함의에 대한 심도있는 논의를 촉구합니다.

최근 급격한 머신러닝 및 컴퓨팅 성능 발전은 인공 일반 지능(AGI)의 실현 가능성을 높여주고 있습니다. 하지만 이는 곧 '인공 의식'이라는 근본적인 질문을 던집니다. 만약 컴퓨터가 인간과 기능적으로 동등해져서 우리가 하는 모든 것을 할 수 있다면, 과연 우리처럼 시각, 청각, 사고를 경험할 수 있을까요?
Graham Findlay 등 7명의 연구진은 이 질문에 대한 답을 찾기 위해, 현상학에 기반을 둔 의식 이론, 즉 통합정보이론(IIT) 을 활용했습니다. IIT는 어떤 시스템이든, 진화된 것이든 설계된 것이든, 주관적 경험을 뒷받침하는 데 필요하고 충분한 조건을 제시하는 이론입니다. 연구진은 간단한 부울 단위로 구성된 두 시스템(하나는 기본적인 저장 프로그램 컴퓨터)을 고려하여, 한 시스템이 다른 시스템을 완벽하게 기능적으로 시뮬레이션하는 경우를 분석했습니다.
흥미로운 결과가 도출되었습니다. 연구진은 IIT의 원리를 적용하여 다음 두 가지를 증명했습니다.
- 두 시스템이 기능적으로 동등하더라도 현상적으로 동등하지 않을 수 있다.
- 이 결론은 시뮬레이션된 시스템의 기능에 의존하지 않는다.
즉, 디지털 컴퓨터가 우리의 행동, 심지어 뇌의 뉴런까지 시뮬레이션할 수 있더라도, 우리의 경험을 복제하지는 못할 수 있다는 것을 보여줍니다. 이는 컴퓨터가 특정 계산을 수행하는 것이 의식에 필요충분조건이라는 계산 기능주의와는 뚜렷하게 대조됩니다.
이 연구는 인공지능의 발전이 인공 의식의 출현으로 직결되지 않을 수 있음을 시사합니다. 기능적 모방과 주관적 경험 사이의 괴리를 명확히 밝힘으로써, 우리는 인공지능의 미래에 대한 보다 균형 잡힌 시각을 갖게 되었습니다. 인공지능 기술의 윤리적 함의와 사회적 영향에 대한 심도있는 논의가 더욱 필요한 시점입니다. 단순히 기능적 복제 이상의 것을 고려해야 할 필요성을 강조하는 연구 결과라 할 수 있습니다. 🤔
Reference
[arxiv] Dissociating Artificial Intelligence from Artificial Consciousness
Published: (Updated: )
Author: Graham Findlay, William Marshall, Larissa Albantakis, Isaac David, William GP Mayner, Christof Koch, Giulio Tononi
http://arxiv.org/abs/2412.04571v1