AI 거버넌스의 함정: 언어가 짓는 틀

Liane Potter의 논문은 AI 거버넌스에서 언어의 중요성을 강조하며, 잘못된 명명과 은유적 표현이 초래하는 위험성을 분석합니다. 사이버 보안 분야의 사례를 바탕으로 AI 거버넌스에 대한 언어적 재검토와 '언어 우선' 접근 방식을 제안하며, 정확하고 포괄적인 용어 개발을 통해 투명하고 공정한 규제 프레임워크 구축의 필요성을 강조합니다.

Liane Potter의 논문 "Naming is framing: How cybersecurity's language problems are repeating in AI governance"는 AI 거버넌스의 어려움을 새롭게 조명합니다. 단순한 기술적 문제를 넘어, '인공지능'이나 '사이버 보안'과 같은 용어 자체가 함정이 될 수 있다는 점을 강조합니다.

논문은 사이버 보안 분야에서 '가장 약한 고리(weakest link)'와 같은 표현이 어떻게 책임 회피와 오해를 불러일으켰는지 분석하며, AI 분야에서도 유사한 문제가 발생하고 있음을 지적합니다. '정렬(alignment)', '블랙박스(black box)', '환각(hallucination)' 등의 은유적 표현은 AI를 마치 적대적 존재이거나 불가해한 존재로, 혹은 오류를 범하는 존재로 묘사하며, 투명하고 공정한 거버넌스 구축을 방해합니다. 이러한 표현들은 인간의 역할을 축소하고, 기대치를 과도하게 높이며, 책임 소재를 불분명하게 만듭니다.

Potter는 이러한 문제를 해결하기 위해 '언어 우선(language-first)' 접근 방식을 제안합니다. 이는 기존의 은유적 표현을 비판적으로 검토하고, 인간의 역할을 명확히 하며, 정확하고 포괄적이며 자기 반성적인 용어를 공동으로 개발하는 것을 의미합니다. 단순한 어휘의 변화가 아니라, 투명하고 공정하며 예측 가능한 규제 프레임워크를 구축하는 데 필수적인 과정이라는 것입니다.

결론적으로, 이 논문은 AI 거버넌스에서 언어의 중요성을 강조하며, 단어 선택 하나하나가 AI의 미래와 우리 사회의 안전에 큰 영향을 미칠 수 있음을 보여줍니다. AI 기술 발전과 더불어, AI를 둘러싼 담론을 구성하는 언어에 대한 면밀한 검토와 개선이 절실히 필요한 시점입니다. AI에 대한 우리의 이해와 통제를 위해, 보다 정확하고 책임감 있는 언어를 사용해야 합니다. AI 기술의 발전만큼이나 중요한 것은, 그 기술을 다루는 우리의 언어에 대한 성찰입니다. 무심코 사용하는 단어들이 어떻게 AI 거버넌스의 방향을 좌우할 수 있는지, 이 논문은 우리에게 경종을 울립니다.