#뉴욕타임즈 대 오픈AI 소송: 초거대 언어 모델의 기억력과 저작권 침해의 경계
뉴욕타임즈 대 오픈AI 저작권 소송을 중심으로, 초거대 언어 모델의 암기 능력과 저작권 침해 문제를 분석한 연구 결과가 발표되었습니다. 연구 결과, 오픈AI 모델은 다른 LLM에 비해 암기된 내용을 출력할 가능성이 낮지만, 모델 크기가 증가할수록 암기 능력이 높아지는 경향을 보였습니다. 이는 초거대 모델 훈련 과정의 개선 및 관련 법적·윤리적 가이드라인 마련의 필요성을 강조합니다.

뉴욕타임즈 대 오픈AI 소송: 초거대 언어 모델의 기억력과 저작권 침해의 경계
2023년 12월, 뉴욕타임즈가 오픈AI를 상대로 제기한 저작권 침해 소송은 생성형 AI의 급속한 발전과 함께 떠오르는 윤리적, 법적 문제를 여실히 보여줍니다. 뉴욕타임즈는 오픈AI의 GPT-4가 자사 기사를 LLM 훈련에 무단으로 사용하고, 심지어 그 내용을 암기하여 출력물에 그대로 표현했다고 주장했습니다. 이는 단순한 데이터 활용의 문제를 넘어, 창작물의 저작권과 AI 기술의 발전 사이의 첨예한 갈등을 드러내는 사건입니다.
최근 발표된 연구 논문, "Exploring Memorization and Copyright Violation in Frontier LLMs: A Study of the New York Times v. OpenAI 2023 Lawsuit"는 이러한 논쟁의 중심에 있는 LLM의 '기억력'에 대한 심층 분석을 제공합니다. Joshua Freeman, Chloe Rippe, Edoardo Debenedetti, Maksym Andriushchenko 등 연구진은 다양한 LLM을 대상으로 뉴스 기사를 입력하여 그 출력 결과를 분석했습니다. 그 결과, 놀랍게도 오픈AI의 GPT와 Claude 모델은 거부 훈련(refusal training)과 출력 필터를 통해 암기된 기사를 그대로 출력하는 것을 방지하는 것으로 나타났습니다. 반면, Meta, Mistral, Anthropic 등 다른 회사의 LLM들은 오픈AI 모델보다 암기된 내용을 출력할 가능성이 더 높았습니다.
더욱 흥미로운 것은 모델의 크기와 암기 능력의 상관관계입니다. 연구진은 모델의 파라미터 수가 증가함에 따라, 특히 1000억 파라미터를 넘어서면 암기 능력이 급격히 향상되는 것을 확인했습니다. 이는 초거대 모델의 발전이 저작권 침해 문제를 더욱 심화시킬 수 있다는 것을 시사합니다. 단순히 데이터의 양적 증가만으로는 문제 해결이 어렵다는 의미입니다.
이 연구는 단순히 기술적 분석을 넘어 중요한 법적, 정책적 함의를 가지고 있습니다. 오픈AI LLM의 상대적 암기 능력 평가를 통해 뉴욕타임즈의 저작권 침해 주장과 오픈AI의 방어 논리를 검토할 수 있는 근거를 제공하며, 생성형 AI, 법, 정책의 교차점에서 발생하는 복잡한 문제들을 밝히고 있습니다. 앞으로 초거대 LLM의 훈련 과정에서 '암기 방지' 기술 개발에 대한 더욱 집중적인 연구와 투자가 필요하며, 이를 위한 법적, 윤리적 가이드라인 수립 또한 시급한 과제입니다. 이는 단순히 기술 기업의 문제가 아닌, 사회 전체가 함께 고민해야 할 중요한 문제입니다.
Reference
[arxiv] Exploring Memorization and Copyright Violation in Frontier LLMs: A Study of the New York Times v. OpenAI 2023 Lawsuit
Published: (Updated: )
Author: Joshua Freeman, Chloe Rippe, Edoardo Debenedetti, Maksym Andriushchenko
http://arxiv.org/abs/2412.06370v1