Anthropic은 최근 Claude의 출력물에 워터마크를 추가하기로 했다. 챗봇이 생성한 편집 텍스트에 보이지 않는 코드를 삽입해 해당 콘텐츠가 인공지능으로 생성됐음을 표시하는 방식이다.
IT之家에 따르면 Anthropic이 이 새로운 정책을 도입한 것은 유럽연합(EU) 인공지능법(EU AI Act)의 투명성 규정 요건을 충족하기 위해서다. 현재 해당 규정은 기술 기업이 인공지능으로 생성되거나 편집된 콘텐츠를 표시하도록 요구하며, 이 표시는 컴퓨터 시스템이 식별할 수 있어야 한다. 유럽 규제기관은 이를 반길 수 있지만, 일부 AI 사용자는 분명 달갑지 않은 반응을 보이고 있다.
Reddit에서는 사용자들의 불만이 점차 쌓이는 모습을 어렵지 않게 볼 수 있다. 다만 사이트의 다른 사용자들이 이러한 견해에 전적으로 동의한 것은 아니다. 비교적 격한 게시물 중 하나는 visionode라는 사용자가 작성했는데, 이 계정은 생성된 지 아직 3주도 지나지 않았다. visionode는 새로운 워터마크 시스템이 전 세계의 무고한 챗봇 사용자를 피해자로 만들려는 가혹한 음모라고 주장했다.
visionode의 핵심 주장은 Claude에 익숙한 사용자는 콘텐츠를 다시 작성하거나 다른 AI 서비스를 이용해 Claude의 출력을 가공함으로써 AI 사용 흔적을 숨길 수 있지만, 일반적인 Claude 사용자는 그렇게 운이 좋지 않다는 것으로 보인다.
“누가 들키게 될까요? 바로 당신입니다. Claude의 도움을 받아 문장을 다시 정리한 학생, AI에게 200페이지 분량의 인터뷰 기록을 요약해 달라고 한 기자, 창작의 벽에 부딪혀 AI에게 동의어를 제안받은 작가 말입니다. 이들은 작업을 마친 뒤 모두 이마에 디지털 문신이 남게 됩니다.”
하지만 이러한 사례는 사실 적절하지 않다. 기자가 200페이지 분량의 인터뷰 기록을 AI에게 요약하게 했더라도, 요약 내용에 워터마크가 있다는 이유만으로 영향을 받지는 않는다. AI의 요약을 그대로 자신의 기사에 복사해 붙여 넣는 경우가 아니라면 말이다.
마찬가지로 학생이 Claude에게 “문장을 다시 정리해 달라”고 요청한 뒤 Claude가 생성한 내용을 논문에 그대로 복사해 붙여 넣는 것 역시 학문적 윤리에 부합하지 않는다.
다른 Reddit 사용자들도 이 게시자의 분노를 특별히 지지하지 않았다. 한 사용자는 그저 “이 사람 좀 보세요”라고 댓글을 남겼고, 또 다른 사용자는 원 게시자에게 “심호흡부터 하라”고 말했다.
불만을 제기한 사람은 visionode만이 아니었다. 또 다른 불만 사용자는 이 워터마크를 “비윤리적”이고 “역겹다”고 표현하며, Claude를 사용하는 과정에서 자신이 대부분의 작업을 완수했다고 주장했다. 이들의 관점에서 챗봇은 힘든 작업을 도와주는 하나의 “도구”일 뿐이다.
“나는 지시, 배경 정보, 내린 결정, 수많은 수정 사항을 제공했고 Claude는 도구일 뿐입니다. Claude가 자신이 생성한 코드나 그 밖의 어떤 것에 워터마크를 넣기 시작한다면, 대체 무엇을 자기 공으로 내세우겠다는 겁니까?”라고 이 사용자는 물었다.
그러나 다른 사용자들은 다시 이 비판자에게 반박했다. 한 사용자는 “자기 공으로 내세우는 게 아닙니다”라며 “AI가 생성한 콘텐츠를 식별하기 위한 것입니다. AI 생성 콘텐츠는 다양한 상황에서 위험을 초래할 수 있으니까요”라고 답했다.
또 다른 사용자는 “형제, Claude를 욕하는 것조차 못해서 Claude에게 대신 써 달라고 해야 하냐”고 비꼬았다.
일부 비판자들은 “피해자”라는 서사를 내세우기보다 더욱 세밀한 관점에서 Anthropic의 새로운 정책에 의문을 제기했다.
예를 들어 한 사용자는 타인의 작품을 대량으로 흡수해 학습한 AI가 생성한 콘텐츠에 워터마크를 붙이는 것 자체가 보편적인 이중 잣대라고 주장했다.
“이는 매우 음험한 방향으로의 발전이라고 생각합니다”라고 이 사용자는 말했다. “나는 Claude로 어떤 것도 작성하지 않지만, 얼마나 많은 최첨단 AI 모델이 다른 사람들의 작품을 학습 데이터로 확보해 만들어졌는지를 생각하면, AI가 당신의 작품에 워터마크를 붙인다는 것은 그 자체로 섬뜩한 아이러니를 품고 있습니다.”
그러나 전체적으로 보면 사용자들은 여전히 이러한 워터마크 메커니즘을 지지하는 쪽에 가까운 것으로 보인다. 알고리즘이 생성한 콘텐츠를 추적하는 합리적인 방법이라고 생각하기 때문이다.
“이것이 좋은 일이 아니라고 설명할 만한 충분한 이유는 전혀 없습니다”라고 또 다른 논의의 한 사용자는 말했다. “이런 메커니즘이 생기길 원하지 않는 유일한 이유는 다른 사람에게 거짓말을 하고 싶기 때문일 겁니다.”