Anthropic은 AI가 생성한 텍스트를 더 쉽게 식별할 수 있도록 하려 하지만, 일부 소프트웨어 개발자들은 이미 이러한 표시를 제거하기 위한 전용 도구를 개발하기 시작했다.
이 AI 기업은 지난주 일부 Claude 모델이 생성하는 텍스트에 ‘인지할 수 없는 워터마크’가 포함된다고 밝혔다. 이 워터마크는 Claude의 단어 선택 방식으로 만들어지는 통계적 패턴이기 때문에 사용자가 텍스트를 복사해 붙여넣더라도 함께 유지된다.
일부 사람들은 AI 워터마크가 콘텐츠 투명성을 높이는 반가운 조치라고 생각한다. 그러나 이 방식은 기술 업계 종사자들의 우려도 불러일으켰다. 사용자가 Claude를 단순히 텍스트 교정, 번역 또는 요약에만 활용하더라도 관련 표시가 최종 콘텐츠와 함께 전파될 수 있기 때문이다. 앞서 일부 사용자는 이 때문에 Claude 구독을 취소했다고 Business Insider에 밝혔다.
이러한 반발로 일부 사람들은 워터마크를 우회할 방법을 찾기 시작했다. 미국에서는 Google Trends에서 ‘AI watermark remover’(AI 워터마크 제거 도구)의 검색 관심도가 전월 대비 60% 상승했다. 일부 개발자와 창업자들은 텍스트와 파일에서 AI 워터마크를 제거하는 도구를 직접 개발하기 시작하기도 했다.
Anthropic은 워터마크 도입이 유럽연합의 ‘인공지능법’(AI Act)에 따른 관련 약속을 이행하기 위한 것이라고 밝혔다.
파리에서 활동하는 기술 창업자이자 AI 전자상거래 도구 Memo의 창립자인 Guillaume Meyer는 Anthropic이 관련 계획을 발표한 지 며칠 후 ‘Watermarks Remover’라는 오픈소스 프로젝트를 공개했다.
Meyer에 따르면 이 도구는 숨겨진 문자와 메타데이터를 삭제한 뒤 원문의 의미를 유지하면서 텍스트를 다시 작성해 워터마크를 포함할 가능성이 있는 통계적 단어 선택 패턴을 깨뜨린다.
그는 첫 번째 버전의 도구를 개발하는 데 약 5시간이 걸렸다고 밝혔다. 현재 이 프로젝트는 GitHub에서 1.4만 개가 넘는 Star를 받았다. Star는 개발자 커뮤니티 프로젝트의 인기를 측정하는 지표로, 소셜 미디어의 ‘좋아요’와 비슷하다. 다만 이 도구가 워터마크를 반드시 완전히 제거한다고 보장할 수는 없다.
Meyer는 Business Insider에 “콘텐츠 출처 표시는 전적으로 지지하지만, 이러한 워터마크 기술에는 반대한다. 이 둘 사이에는 매우 중요한 차이가 있다”고 말했다.
Meyer는 문제의 핵심이 워터마크 기술이 “저자 신원을 흑백의 문제로 취급한다는 것”이라고 생각한다. AI가 텍스트를 완전히 생성하는 데 사용됐다면 시스템이 워터마크를 남길 수 있지만, 사용자가 AI를 단순히 가벼운 편집에만 활용하더라도 워터마크가 남을 수 있다는 것이다.
반면 Anthropic은 한 블로그 게시물에서 자사의 워터마크가 콘텐츠의 저자 신원을 확인하기 위한 것이 아니라고 밝혔다.
AI가 생성한 텍스트에 워터마크를 추가하는 방식에 대해 Meyer는 “실제 문제에 잘못된 해결책을 적용한 것이라고 생각한다”고 말했다.
Meyer만 AI 워터마크 문제를 해결하려는 사람은 아니다.
이번 주 창업자 대상 AI 교육 서비스를 제공하는 Sabrina Ramonov는 X에서 무료 브라우저 기반 ‘Watermark Remover’를 개발했다고 밝혔다. 이 도구는 텍스트, PDF, Word 문서, 웹페이지, 이미지 및 데이터 파일에서 ‘숨겨진 AI 표시를 제거’할 수 있다고 주장한다.
한편 도쿄에 거주하는 소프트웨어 개발자 Ansh Aneja는 Anthropic이 이 기능을 발표한 당일 Claude 전용 워터마크 제거 도구를 개발했다고 밝혔다. 이후 그는 MarkScrub이라는 로컬 오픈소스 버전도 공개했다.
Aneja는 지난주 X에서 이 도구의 사용자가 하루 만에 0명에서 8500명으로 늘었다고 밝혔다. 그러나 Business Insider는 이 수치를 독립적으로 확인할 수 없었다.
이 프로젝트들은 아직 초기 단계이며, Business Insider 역시 실제 효과를 독립적으로 평가할 수 없었다. Google과 OpenAI를 비롯한 다른 기업들도 이미지 등의 콘텐츠에 워터마크를 사용하고 있으며, 현재 이미 이러한 워터마크를 제거할 수 있다고 주장하는 도구가 다수 등장했다.
그러나 취리히 연방공과대학교 보안·신뢰성·지능형 시스템 연구실 연구원 Thibaud Gloaguen은 이러한 도구들이 워터마크 기술이 오랫동안 지녀온 한계를 다시 보여준다고 말했다.
그는 Business Insider에 “워터마크를 제거할 방법은 언제나 존재한다”고 말했다. 예를 들어 사용자는 전체 텍스트를 다시 표현해 원래의 워터마크 패턴을 깨뜨릴 수 있다는 설명이다.
AI 워터마크 제거 도구는 현재 법적으로 회색지대에 놓여 있다. 유럽연합은 AI 기업에 생성 콘텐츠에 지속성 표시를 추가하도록 요구하지만, 제3자가 이러한 표시를 적극적으로 제거할 수 있는지는 명확히 규정하지 않았다.
유럽연합 집행위원회 대변인은 Business Insider에 EU 관련 지침이 AI 서비스 제공업체의 콘텐츠 표시 시스템에 일반적인 수정 방식과 표시 시스템을 겨냥한 적대적 조작에 대한 방어력을 갖추도록 요구한다고 밝혔다.
이 대변인은 또한 EU의 투명성 규정이 제거, 재생성, 복제 및 수정을 AI 서비스 제공업체가 평가해야 하는 잠재적 위협으로 명시하고 있다고 말했다.
그러나 이러한 요구사항은 AI 서비스 제공업체를 대상으로 한다. 스트라스클라이드대학교 컴퓨터·정보과학과 선임 강사 Dmitri Roussinov는 ‘인공지능법’이 제3자가 AI 워터마크 제거를 시도하는 것을 명확히 금지하지 않는다고 밝혔다.
다만 그는 Business Insider에 워터마크 제거 도구 자체가 AI를 이용해 텍스트를 재생성한다면, 해당 도구 제공업체도 EU 법률에 따라 재생성된 AI 콘텐츠에 관련 표시를 추가해야 할 수 있다고 말했다.
마스트리흐트대학교 법률·기술 연구실 조교수 Konrad Kollnig는 EU의 ‘인공지능법’이나 Anthropic의 서비스 약관 모두 현재 AI 워터마크 제거 도구의 개발 또는 공유를 금지하지 않는 것으로 보인다고 말했다.
그러나 사용자가 이러한 도구를 이용해 AI가 생성한 콘텐츠를 인간이 만든 것처럼 위장한다면 문제가 될 수 있다. Anthropic의 사용 정책은 모델 생성 결과를 인간이 생성한 콘텐츠라고 주장하는 방식으로 인간을 사칭하는 행위를 금지한다.
Anthropic이 차세대 모델 출시와 동시에 텍스트 탐지 API를 도입할 계획인 만큼 이 문제는 더욱 부각될 수 있다. 현재 Anthropic은 구체적인 출시 시점을 공개하지 않았다. 워터마크는 8월 2일 및 그 이후에 출시된 신규 모델에 적용되며, Anthropic은 이 기능을 기존 모델에도 점진적으로 적용할 계획이다.
Kollnig는 “이 모든 워터마크 기술에는 공통적인 큰 문제가 있다. 워터마크 탐지 도구가 공개되면 누구나 탐지기를 이용해 텍스트와 동영상을 포함한 AI 생성 콘텐츠를 확인할 수 있고, 나아가 워터마크 제거 도구를 개발할 수 있다”고 말했다.