NYT v. OpenAI: 데이터 저작권 침해 소송 정리

Introduction

• 기존 미디어 채널의 BM이 B2C 구독서비스에서 B2B 라이센싱/로열티 모델로 바뀔 것인가?
• 전 CNN 대표이자 Elon Musk, Steve Jobs, Kissinger, Leonardo da Vinci 등의 전기를 쓴 Walter Isaacson의 트위트입니다:

• 높은 퀄리티의 데이터를 사용하기 위해 큰 돈을 지불해야 하면 작은 LLM 회사들은 끝난 것인가?

• 위와 덧붙여, Spotify가 일일이 노래 사용권을 위해 각 회사들마다 협상한 것처럼 LLM 회사들은 일일이 데이터 보유자(예. CNN, Fox, NYT, Washington Post 등)과 협상을 통해 데이터를 받아와야 하는가?

• 오픈소스 모델들은 지금까지 해왔던 것처럼 계속 “Fair Use Doctrine”으로 충분히 보호 받을 수 있는가?

• OpenAI, Anthropic 등 대형사들이 사용자들을 위해 저작권 관련 “indemnity” 우산을 제공하기 시작. 저작권 이슈가 점점 중요해지면서 결국 LLM 사용자들은 자신을 보호해줄 수 있고 저작권 소송을 견뎌 낼만한 자본력을 가진 대기업으로 몰리지 않을까?

• NYT 뿐만 아니라 소형/개인 크리에이터들도 본인들의 창작물에 대해 monetize할 수 있는 기회가 열릴까?

• 이러한 제재들이 자본력이 풍부한 late-starters (Amazon, Apple 등)들에겐 이득이 될 수 있지 않을까?

주요 소송 내용

NYT가 빡친 이유

1. …For more than 170 years, The Times has given the world deeply reported, expert, independent journalism… Their essential work is made possible through the efforts of a large and expensive organization that provides legal, security, and operational support, as well as editors who ensure their journalism meets the highest standards of accuracy and fairness…

2. Defendants’ unlawful use of The Times’s work to create artificial intelligence products that compete with it threatens The Times’s ability to provide that service. Defendants’ generative artificial intelligence (“GenAI”) tools rely on large-language models (“LLMs”) that were built by copying and using millions of The Times’s copyrighted news articles, in-depth investigations, opinion pieces, reviews, how-to guides, and more. While Defendants engaged in widescale copying from many sources, they gave Times content particular emphasis when building their LLMs—revealing a preference that recognizes the value of those works. Through Microsoft’s Bing Chat (recently rebranded as “Copilot”) and OpenAI’s ChatGPT, Defendants seek to free-ride on The Times’s massive investment in its journalism by using it to build substitutive products without permission or payment.

NYT 데이터의 중요성

• 가장 큰 구성을 차지하는 Common Crawl은 501(c)(3) non-profit 기구로써 무료로 모두에게 “copy of the internet”을 제공합니다. Common Crawl은 모든 회사와 연구기관이 사용할 수 있으니 AI모델 개발자 입장에서 중요한 differentiating factor가 아닙니다.

• WebText2는 Common Crawl과 별도로 높은 퀄리티의 인터넷 데이터입니다. 전체 토큰 수의 4% 밖에 차지하지 않는 반면 실제 트레이닝 믹스에선 22%나 사용됩니다. 그만큼 높은 퀄리티의 텍스트 데이터가 중요하다는 것을 반증합니다.

• WebText2 내 NYT 컨텐츠 209,707 링크가 사용되었고 WebText2 링크 중 1.23%를 차지합니다.

• 뿐만 아니라 Common Crawl 내에서도 NYT는 proprietary source 중 가장 많이 인용된 사이트라고 합니다. NYT의 proprietary 데이터셋이 AI 개발에 중대한 역할을 한 것을 주장합니다.

• 트레이닝으로만 사용되는 것에 그치지 않고 LLM이 NYT 컨텐츠를 외우고 그대로 배껴쓴다고 주장합니다.

As further evidence of being trained using unauthorized copies of Times Works, the GPT LLMs themselves have “memorized” copies of many of those same works encoded into their parameters. As shown below, the current GPT-4 LLM will output near-verbatim copies of significant portions of Times Works when prompted to do so.

• 아래는 2019년 NYT가 18개월 동안 취재하여 Pulitzer까지 수상 받은 아티클 발췌와 OpenAI 아웃풋 비교입니다.

OpenAI had no role in the creation of this content, yet with minimal prompting, will recite large portions of it verbatim.

법적 논리

What is Fair Use?

• Transformation: 창작물을 변형 시켜 사용하였는가?

• Commercial vs. Non-commercial: 교육용이나 비상업적 목적으로 사용된다면 “fair use”로 해석되기 유리합니다.

• Factual vs. Creative: 창작물이 팩트를 전달하는지, 창의적인 요소가 있는지 여부를 확인합니다.

• Quantity: 얼마나 많은 부분을 인용/사용했는지?

• Quality: 하지만 아무리 작은 부분을 인용하더라도 창작물의 “heart”가 되는 매우 주요 부분을 사용했다면 “fair use”를 벗어날 수 있습니다.

• Market Harm: 본 사용이 기존 창작물의 시장가치를 훼손할 가능성이 있는지?

OpenAI의 Fair Use 주장?

• Transformation: LLM은 본질적으로 “블랙박스”입니다. 어떻게 해당 아웃풋이 나왔는지 “explainability”가 없죠. 소송문 안엔 NYT 기사가 word for word 아웃풋으로 나온 사례를 제시하지만 매번 그럴 것이란 보장도 없고, OpenAI가 충분한 counter measure를 업데이트할 수 있다고 생각됩니다.
• 뿐만 아니라 NYT의 창작물을 LLM이란 도구로 변형하여 사용하는 것에 대해선 충분히 “transformation” 노력을 했다고 볼 수 있을 것 같습니다.

• Commercial vs. Non-commercial: Mistral이나 다른 오픈소스 모델과 달리 상업적 목적으로 사용하고 있기 때문에 OpenAI/Microsoft가 불리합니다.

• Factual vs. Creative: 이 항목에선 OpenAI가 유리하다고 생각됩니다. NYT 자료 대부분은 “팩트”를 전달하기 때문에 창의적인 창작물이라고 보기 어려울 것 같습니다.

• Quantity/Quality: NYT는 ChatGPT가 자기 창작물을 word-for-word 배껴쓴 사례를 제시하였지만 많은 사람들은 NYT의 Prompting에 대해 의문을 갖고 있습니다. 추가적인 독립적 분석이 필요한 사안이라고 합니다.

• Market Harm: 이 사항 또한 아직 TBD입니다. 물론 NYT는 자기 BM의 심각한 위협이라고 주장하지만 아직 백업할 수 있는 데이터가 없습니다.

유사 재판: Author’s Guild v. Google

Google’s unauthorized digitizing of copyright-protected works, creation of a search functionality, and display of snippets from those works are non-infringing fair uses. The purposes of the copying is highly transformative, the public display of text is limited, and the revelations do not provide a significant market substitue for the protected aspects of the originals.

• 구글은 실물 책들을 온라인 데이터베이스로 옮기고 검색기능을 추가함으로써 충분히 “transformative”하고,

• 책의 매우 일부분을 공개함으로써 Google Books가 기존 창작물의 “대체제”로 보기 어렵다고 판결한 바 있습니다.

Looking Forward…

For months, The Times has attempted to reach a negotiated agreement with Defendants, in accordance with its history of working productively with large technology platforms to permit the use of its content in new digital products (including the news products developed by Google, Meta, and Apple). The Times’s goal during these negotiations was to ensure it received fair value for the use of its content, facilitate the continuation of a healthy news ecosystem, and help develop GenAI technology in a responsible way that benefits society and supports a well-informed public.