분쇄하여 학습: 희귀서를 AI 연료로 전환하는 법적 구멍

칼럼 개요

이 이야기의 중심에는 이상할 정도로 고요함이 자리 잡고 있다. 시위도, 눈에 띄는 헤드라인도, 바이럴한 분노의 사이클도 없다. 그저 트럭과 창고, 그리고 어떤 인간도 읽는 속도보다 빠르게 책의 등심을 절단하는 기계들만이 있을 뿐이다. 그 고요함 속에서 희귀서를 매입하고 페이지를 스캔한 뒤 남은 부분을 폐기하는 비즈니스 모델이 형성되었다. 연방 판사는 이미 이것이 합법적이라고 밝혔다. 매입을 담당하는 회사는 정확히 숨기고 있는 것은 아니지만, 광고하기도 않는다. 그리고 우리가 이것을 알게 된 이유는 중고서점 상인이 마침내 기자에게 말을 했기 때문이다.

매우 효율적인 소거의 메커니즘

과정 자체는 거의 임상적으로 냉정하다. 고속 스캐닝 장비는 책의 제본을 파괴함으로써 처리되도록 설계되었다. 등심이 잘려 나가면 페이지가 느슨한 종이처럼 통과하므로, 책을 온전한 상태로 유지하며 페이지별로 촬영하는 것보다 훨씬 빠르다. 이후 남는 것은 더 이상 책이 아니다. 그것은 다시 묶일 계획이 없었기 때문에 헐거운 잎사귀들이거나 펄프로 만들어지거나 버려진 것이다.

ISBNdb라는 서비스는 이 과정의 중간에서 대량 주문을 중재하며(보고서에 따르면 한 번에 최대 100만 권까지), 구매자의 신원을 익명으로 유지한다. 그 익명성이 여기서 큰 역할을 하고 있다. 즉, 18세기 농업 관련 텍스트 등을 대량으로 처분하려는 도서관, 희귀서점, 수집가는 자신의 재고가 선반으로 향하는 것이 아니라 분쇄기로 향한다는 사실을 알지 못한다. 또한 대중이 파이프라인을 거쳐 이미 사라진 되돌릴 수 없는 권수가 얼마나 되는지 추적할 명확한 방법도 없다.

파괴가 포인트인 이유

여기서 내가 두 번 읽어봐야 완전히 이해했던 부분은 다음과 같다. 파괴는 법적 논변의 부수적 결과가 아니라, 바로 그 논변 그 자체다. 연방 판사는 이 관행이 원본을 제거함으로써 특정 시점에 작품의 사본이 하나만 존재하도록 보장한다는 이유로 공정 이용에 해당한다고 판결했다. 즉, 복제본과 원본이 동시에 존재하지 않도록 하면 저작권 침해로 소송을 당하지 않는다. 스캔하고, 분쇄하면, 법적으로는 아무것도 복사되지 않은 셈이다. 단지 종이에서 데이터로 변환되었을 뿐이다.

이는 저작권법에 대한 교묘한 해석이며, 왜 구매자들이 약 2022년 이전에 출판된 책을 원하는지 쉽게 이해된다. 그 이전의 책은 AI 생성 텍스트가 포함되지 않았음이 보장되는데, 이는 기계가 생성한 산문 덩어리를 우연히 공급하는 대신 진정한 인간의 글쓰기를 기반으로 모델을 훈련시키려는 경우라면 엄청난 중요성을 가진다. 이러한 관점에서 2022년 이전의 책은 단순한 역사적 유물이 아니다. 그들은 깨끗한 데이터다.

헤드라인이 되지 않도록 구축된 비즈니스

지난 몇 년간의 AI 학습 논란(웹사이트 스크래핑, 쉐도우 라이브러리의 토렌트, 스트리밍 플랫폼에서의 오디오 추출 등)과 달리, ISBNdb의 자체 마케팅은 이것이 어떻게 보이는지 정확히 이해하고 있는 듯하다. 404 Media의 보도에 따르면 회사의 웹사이트에는 "AI 회사가 200만 권의 책을 분쇄한다"는 헤드라인이 동정을 얻지 않는다는 것을 인정하는 언어가 거의 그대로 실려 있었다. 그럼에도 불구하고 이 비즈니스는 여전히 존재하는데, 이는 표준 기능으로서의 NDA(비밀유지계약)와 '분쇄'를 '디지털 보존'으로 치환하는 선호 어휘를 중심으로 구축되어 있다.

'디지털 보존'이라는 표현은 그 부정직함의 정도가 거의 놀라울 정도다. 보존은 일반적으로 무언가를 미래에 안전하게 보관함을 의미한다. 여기서는 정반대의 의미를 지닌다. 물리적 객체는 의도적으로 파괴되고, 생존하는 것은 훈련 자료로서만 존재하는 디지털화된 사본이며, 이는 아마도 의미 있는 방식으로 인간이 다시 읽지 않을 것이다. 404 Media와 인터뷰한 한 서점은 다른 곳에서 거의 살아남은 사본이 없는 권자들을 스캐너에 넣었다고 묘사했는데, 이들은 전쟁, 화재, 홍수, 그리고 수백 년의 일반적인 방치를 견뎌낸 끝에 속도에 초점을 맞춘 관리가 부족한 스캐닝 장비의 최후를 맞이했다.

스크래핑은 되돌릴 수 있지만, 이것은 그렇지 않다.

AI 기업들이 오픈 웹 페이지를 스크래핑하거나 도난당한 책 컬렉션에서 자료를 가져오는 수많은 이야기를 읽어왔으며, 항상 내포된 위안인 "음, 적어도 어디선가 아직 남아있잖아"라는 생각이 있었다. 웹사이트는 다시 업로드될 수 있다. 베스트셀러는 무한히 재출판될 수 있다. 비록 윤리적으로 복잡하더라도 토렌트화된 아카이브조차 원래 텍스트의 존재를 지우지는 않는다. 누군가, 어딘가에는 여전히 사본이 있기 때문이다.

희귀서는 그런 안전망이 없다. 식물학 조사나 지역사를 담은 특정 판본이 전 세계에 세 부만 남아있고, 그중 하나가 스캐너에 투입되어 분쇄되면, 생존한 사본의 수는 영구적으로 두부가 된다. 재출판도, 백업 서버도, 대체 출처도 없다. 이는 내가 접한 첫 번째 AI 학습 논란으로, 원자재 자체가 희생양이 된 경우다. 보상 모델뿐만 아니라 원자재 자체가 피해자가 되었다.

또한 대규모 학습 데이터 획득에 관한 광범위한 업계 대화에 새로운 종류의 압력을 가한다. Anthropic을 포함한 여러 기업은 reportedly Google Books의 전 파트너십 책임자 등 주요 디지털화 노력에서 senior talent를 영입하여 학습 목적으로 포괄적인 도서 접근을 추구했다고 보고된다. "세상의 모든 책"을 사용 가능한 디지털 형태로 만드는 야심은 새롭지 않다. Google 자체도 수백만 권의 볼륨을 스캔하는 데 거의 20년을 보냈다. 새로움은 물리적 원본을 남겨두지 않는 방식으로 이를 수행한다는 점에 있다.

합법적이고, 효율적이며, 숙고해볼 가치가 있다.

이것에 악당이 필요하지 않다. 누구도 법을 위반하지 않는다. 법원은 이 관행을 검토합리적이지만 불편한 근거를 찾아 공정 이용이라고 판단했다. ISBNdb는 자신이 존재한다는 사실을 숨기지 않는다. 구매자들은 분명히 genuine data problem을 해결하려고 한다. 깨끗한, AI 이전의 텍스트는 실제 희소성이며, 모델을 잘 훈련시키는 것은 실제 기술적 과제다.

하지만 합법성과 편안함은 동일하지 않으며, 우리가 실제로 논의하고 있는 것이 무엇인지 솔직해지는 것이 중요하다. 되돌릴 수 없는 파괴를 복제가 허용되는 조건으로 간주하는 판결은 그것이 유효한 동안 행동을 형성할 것이며, 그 행동이 형성하는 것은 물리적 희소성의 대량 취득이다. 일단 사라지면 대체할 수 없는 책들 말이다. 이는 스크래핑된 웹페이지나 절판된 페이퍼백과는 다른 범주의 손실이며, 이는 특정 텍스트가 사라지고 더 이상 존재하지 않는 사본을 찾는 사람이 나타날 때까지 hindsight에서만 이해되는 종류의 것이다.