앞으로 Claude를 소설부터 과제까지 ‘대필자’로 활용하기는 꽤 어려워질 전망이다.
Anthropic은 현지 시간으로 월요일, 새 Claude 모델이 AI로 생성한 텍스트에 ‘감지할 수 없는 워터마크’를 직접 삽입한다고 발표했다. Anthropic은 이 워터마크가 텍스트의 의미나 가독성을 바꾸지 않으며, 사용자가 텍스트를 복사하고 붙여넣어도 유지되고 ‘일부 편집 후에도 남아 있을 수 있다’고 밝혔다.
워터마크란 사진이나 디지털 문서에 삽입하는 옅은 무늬나 문구를 뜻하며, 일반적으로 작품의 소유권을 증명하고 콘텐츠의 복제나 도용을 막기 위해 사용된다.
Anthropic은 이번 조치가 유럽연합(EU) 인공지능법에 따라 투명성을 더욱 높이겠다는 약속의 일환이라고 밝혔다. 8월 2일 또는 그 이후 출시되는 새 Claude 모델은 출시 시점부터 이 표시 기능을 지원하며, Anthropic은 현재 구형 모델에도 이 기능을 추가하기 위해 노력하고 있다. 워터마크는 전 세계에서 Claude가 생성하는 콘텐츠에 적용되며, 클라우드 서비스 제공업체를 통해 Claude를 사용할 때 생성되는 콘텐츠도 포함된다. Anthropic은 제3자가 이러한 워터마크를 탐지할 수 있는 도구도 제공할 계획이다.
AI 텍스트 워터마크 기술은 출판 업계의 중요한 전환점이 될 수 있다. 최근 몇 년 동안 출판업계는 AI 생성 콘텐츠가 가져온 문제에 대응하기 위해 노력해 왔다.
지난달에는 범죄소설 《Call Me, I'll Hide the Body》의 작가가 AI를 사용했을 가능성이 있다는 의혹이 제기되면서 한 문학 에이전트가 결국 이 인기 소설에 대한 대리 지원을 철회했다. 이 책은 앞서 14개 출판사가 판권을 두고 경쟁했으며 이미 계약까지 마친 상태였고, 이후 에이전트는 이 사건에 대해 사과했다. 작가 Jerry Falade는 이 소설을 창작하는 데 AI를 사용하지 않았다고 부인했다.
올해 초에는 하셰트 출판사(Hachette)도 《Shy Girl》에 AI 생성 콘텐츠가 포함됐다는 의혹이 제기되자 작가 Mia Ballard의 이 공포소설을 출간 목록에서 제외했다. Ballard는 《뉴욕타임스》에 이 책을 창작하는 데 AI를 사용하지 않았으며, 한 프리랜서 편집자가 자신에게 직접 알리지 않은 채 AI가 생성한 콘텐츠를 추가했다고 밝혔다.
Claude의 새로운 워터마크 기능은 출판사와 학교, 대학이 이와 유사한 사건을 조사할 수 있는 또 다른 수단을 제공할 수 있으며, AI가 생성한 글을 자신의 작품인 것처럼 속이기도 더 어려워질 전망이다.
하지만 이 기술에는 여전히 일부 허점이 있다. Anthropic은 Claude가 생성한 콘텐츠를 대폭 수정하거나 다시 쓰고, 번역하거나, 다른 텍스트와 섞으면 워터마크를 탐지하지 못할 수 있다고 밝혔다. 또한 워터마크가 탐지되더라도 Claude가 처음부터 해당 텍스트의 작성자였다는 뜻은 아니다. Claude를 단순히 교정이나 번역에 사용했을 때도 워터마크 흔적이 남을 수 있기 때문이다.
Anthropic은 텍스트 워터마크 기술을 선보인 두 번째 대형 AI 연구소다. 2024년 구글 산하 Google DeepMind는 SynthID 기술을 활용해 Gemini 앱과 웹 버전에서 생성되는 텍스트 및 동영상에 워터마크를 추가하겠다고 발표했다. 이 회사는 앞서 2023년 AI 생성 이미지용 워터마크 기능을 출시한 바 있다.