AI 정부 도입: 시민들의 통제력 상실 우려 증폭

AI의 공공 부문 도입은 효율성 증대라는 장점과 더불어 시민들의 통제력 감소라는 위험을 동시에 안고 있습니다. 주-대리인 이론을 활용한 연구 결과, 초기 효율성 향상은 신뢰를 높이지만 통제력을 떨어뜨리며, 구조적 위험이 드러나면 신뢰와 통제력 모두 급감한다는 사실이 밝혀졌습니다. 이는 정책 입안자들에게 AI 도입의 위험을 투명하게 관리하고 시민들의 신뢰를 확보하기 위한 노력을 촉구합니다.

AI가 공공 행정에 빠르게 확산되고 있습니다. 단순 업무 자동화를 넘어, 자율적으로 목표를 달성하는 생성 및 에이전트 시스템까지 도입되고 있죠. 더 큰 효율성과 대응력을 약속하는 AI이지만, 정부 기능에 통합되는 과정에서 공정성, 투명성, 책임성에 대한 우려가 커지고 있습니다.

독일 연구진 Alexander Wuttke, Adrian Rauchfleisch, Andreas Jungherr는 최근 연구에서 주-대리인 이론(PAT)을 적용하여 AI 도입을 특수한 위임 사례로 규정했습니다. 이를 통해 세 가지 핵심 긴장 요소를 부각시키는데, 바로 평가 가능성(의사결정 과정의 이해 가능성) , 의존성(위임의 철회 가능성) , 그리고 다툼 가능성(의사결정에 대한 이의 제기 가능성) 입니다. 이러한 구조적 문제는 초기 기능적 이점이 장기적인 민주적 정당성에 대한 위험을 가리는 '성공에 의한 실패' 역학을 초래할 수 있다고 지적합니다.

연구진은 세금, 복지, 법 집행 분야를 대상으로 사전 등록된 요인 설계 설문 조사 실험을 실시했습니다. 결과는 흥미롭습니다. 초기 효율성 증대는 신뢰를 높이지만, 동시에 시민들의 통제력 감소를 초래합니다. 구조적 위험이 두드러지면, 제도적 신뢰와 인지된 통제력 모두 급격히 하락하는 것으로 나타났습니다. 즉, AI 도입의 숨겨진 비용이 공공 태도에 상당한 영향을 미친다는 것을 보여주는 것이죠.

이 연구는 PAT가 정부 내 AI의 제도적, 정치적 의미를 이해하는 강력한 틀을 제공하며, 정책 입안자들이 공공의 신뢰를 유지하기 위해 위임 위험을 투명하게 해결해야 함을 강조합니다. AI 시대, 효율성과 통제력 사이의 균형을 어떻게 맞출 것인가? 이 질문에 대한 깊은 고민이 필요한 시점입니다. 🤔