챗GPT와 가짜 법률 논쟁: 형식의 승리, 내용의 몰락

Joe McIntyre의 논문은 챗GPT와 같은 LLM과 가짜 법률 논쟁의 공통점을 분석하여, 형식에 대한 과도한 집착과 의미에 대한 오해의 위험성을 경고합니다. 인간의 인지적 편향과 마법적 사고가 이러한 현상을 부추기며, 법적, 기술적 소양이 이러한 허상을 간파하는 데 중요한 역할을 한다는 점을 강조합니다.

2020년대 초, 세상은 두 가지 기묘한 현상의 등장에 놀랐습니다. 바로 가짜 법률 논쟁(pseudolaw) 과 생성형 AI/LLM(대규모 언어 모델) 입니다. 가짜 법률 논쟁은 법적 논리의 형식을 흉내내지만 내용은 왜곡하는 반면, LLM은 확률적 계산을 통해 마치 인간이 쓴 것처럼 보이는 텍스트를 생성합니다.

Joe McIntyre의 논문 "Pareidolic Illusions of Meaning: ChatGPT, Pseudolaw and the Triumph of Form over Substance"는 이 두 현상의 놀라운 공통점을 지적합니다. 바로 형식과 외양을 내용보다 우선시하고, 사용자들이 형식을 내용으로 착각하게 만든다는 것입니다.

논문은 법 이론, 컴퓨터 과학, 언어학, 인지 심리학을 융합하여 이러한 현상을 분석합니다. 핵심 주장은 다음과 같습니다.

1. 의미의 착각(Pareidolia): 모호한 정보에서 의미 있는 패턴을 잘못 인식하는 인간의 경향을 이용합니다. LLM의 경우, 확률적으로 생성된 텍스트가 마치 의미를 지닌 것처럼 보이게 만들고, 가짜 법률 논쟁은 법적 용어를 나열하여 그럴듯하게 보이게 만듭니다.

2. 자신감 휴리스틱: 자신감을 능력의 척도로 여기는 인지적 편향을 이용합니다. LLM이 자신감 있는 어투로 답변하고, 가짜 법률 논쟁이 확신에 찬 주장을 펼침으로써 사용자를 설득합니다.

3. 형식 중심주의: 결과물의 형식에만 집중하고 내용은 무시합니다. LLM이 문법적으로 정확하고 논리적으로 보이는 텍스트를 생성하는 것, 가짜 법률 논쟁이 법적 용어를 사용하는 것 자체가 목적이 됩니다.

4. 마법적 사고: 사용자의 바람과 기대를 이용합니다. LLM이 모든 문제를 해결해 줄 것이라는 기대, 가짜 법률 논쟁이 쉽게 승소를 보장해 줄 것이라는 믿음이 작용합니다.

결론적으로, McIntyre는 법적, 기술적 소양이 부족한 사용자들은 이러한 허상에 쉽게 속을 수 있다고 경고합니다. LLM과 가짜 법률 논쟁의 문제를 해결하려면 사용자들에게 그 허상을 밝히는 것이 중요하며, 이를 위해서는 충분한 법적, 기술적 지식이 필수적입니다. 단순히 형식에 현혹되지 말고, 내용의 진실성을 꼼꼼히 따져볼 필요가 있습니다. 우리는 기술의 발전과 함께, 그늘에 가려진 위험 또한 깨어있어야 합니다. 🤔