AI 전문가들, 존재론적 위험에 대한 엇갈린 시각: 설문조사 결과 분석

AI 전문가 111명을 대상으로 한 설문조사 결과, AI 안전성에 대한 전문가들의 견해가 'AI를 제어 가능한 도구'와 '제어 불가능한 행위자'로 양분되는 것으로 나타났습니다. 특히, AI 안전성의 핵심 개념에 대한 이해도가 낮다는 점이 지적되었으며, 효과적인 소통을 통한 개념적 기반 확립의 중요성이 강조되었습니다.

인공 일반 지능(AGI)의 개발은 인류 역사상 가장 중대한 기술적 진보 중 하나가 될 것입니다. 선도적인 AI 연구소와 과학자들은 핵전쟁에 필적할 만한 존재론적 위험을 언급하며 AI 안전성에 대한 전 세계적 우선순위 설정을 촉구해 왔습니다. 하지만, 끔찍한 위험과 AI 정렬에 대한 연구는 전문가들 사이에서조차 회의적인 시각을 받는 경우가 많습니다.

더욱이, AI의 존재론적 위험에 대한 온라인 논쟁은 '둠(doom)주의자' 또는 '가속주의자'와 같은 편 가르기로 이어지고 있습니다. 지금까지 AI 안전성 개념에 대한 전문가들의 신념 패턴과 숙지 수준을 체계적으로 연구한 사례는 없었습니다.

Severin Field는 111명의 AI 전문가를 대상으로 AI 안전성 개념에 대한 숙지도, AI 안전성에 대한 주요 반론, 안전성 주장에 대한 반응을 조사하는 설문 조사를 실시했습니다. 그 결과, AI 전문가들은 'AI를 제어 가능한 도구'로 보는 관점과 'AI를 제어 불가능한 행위자'로 보는 관점으로 나뉘어 AI 안전성의 중요성에 대한 믿음이 크게 엇갈리는 것으로 나타났습니다.

대부분의 전문가(78%)는 "기술 AI 연구자는 엄청난 위험에 대해 우려해야 한다"는 데 동의하거나 강하게 동의했지만, 많은 전문가들이 특정 AI 안전성 개념에 익숙하지 않은 것으로 드러났습니다. 예를 들어, 설문 조사 대상 전문가 중 21%만이 '도구적 수렴'이라는 개념을 들어봤습니다. 도구적 수렴은 고급 AI 시스템이 자기 보존과 같은 공통된 하위 목표를 추구하는 경향이 있다는 AI 안전성의 기본 개념입니다. 가장 우려가 적은 참가자들은 이러한 개념에 가장 익숙하지 않았는데, 이는 AI 안전성에 대한 효과적인 소통을 위해서는 분야 내에서 명확한 개념적 기반을 확립하는 것이 중요함을 시사합니다.

이번 연구는 AI 안전성에 대한 논의가 단순히 기술적인 문제를 넘어, AI에 대한 철학적이고 윤리적인 관점의 차이에서 비롯될 수 있음을 보여줍니다. AI의 미래에 대한 다양한 관점을 이해하고, 효과적인 소통 전략을 통해 AI 안전성에 대한 공감대를 형성하는 것이 중요한 시점입니다. 앞으로 더 많은 연구를 통해 AI 안전성에 대한 이해를 높이고, 안전하고 윤리적인 AI 개발을 위한 노력을 지속해야 할 것입니다.