Anthropicは最近、Claudeの出力に透かしを追加することを決定した。これは、チャットボットが生成した編集済みテキストに検出不能なコードを埋め込み、該当コンテンツが人工知能によって生成されたことを示すものだ。
IT之家が把握したところによると、Anthropicがこの新たな方針を導入したのは、EUの「AI法（EU AI Act）」における「透明性規則」の要件を満たすためだ。この規則では現在、テクノロジー企業に対し、人工知能が生成または編集したコンテンツに印を付けることを求めており、その印はコンピューターシステムが識別できなければならない。ただ、欧州の規制当局は満足するかもしれないが、一部のAIユーザーは明らかにあまり喜んでいない。
Redditでは、ユーザーの不満が徐々に高まっている様子を容易に見て取れる。しかし、サイト上の他のユーザー全員がその意見に同意しているわけではない。比較的激しい投稿の一つは、visionodeというユーザーによるものだが、このアカウントが作成されてからまだ3週間もたっていない。visionodeは、この新たな透かしシステムは厳しい陰謀であり、世界中の罪のないチャットボットユーザーを被害者にすることが目的だと考えている。
visionodeの主張の核心は、Claudeに詳しいユーザーなら、文章を書き換えたり、他のAIサービスを使ってClaudeの出力を加工したりすることで、AIを使った痕跡を隠せるが、一般的なClaudeユーザーにはそのような幸運はない、ということのようだ。
「誰が捕まるのか？ あなたです。Claudeに文章の再構成を手伝わせた学生。AIに200ページのインタビュー記録を要約させた記者。創作の壁にぶつかり、AIに類義語を提案させた作家。こうした人々は作業を終えると、額にデジタルの入れ墨を残されることになる」
しかし、これらの例は実際にはあまり適切ではない。記者がAIに200ページのインタビュー記録を要約させても、要約内容に透かしが入っていることで影響を受けることはない。ただし、AIの要約をそのまま自分の記事にコピーして貼り付ければ話は別だ。
同様に、学生がClaudeに「文章を再構成」させた後、その生成内容をそのまま論文にコピーして貼り付ける行為も、学術倫理に反している。
他のRedditユーザーも、この投稿者の怒りを特に支持したわけではない。あるユーザーは「この人を見てみろ」とだけコメントし、別のユーザーは元の投稿者に「深呼吸しろ」と促した。
visionodeは不満を抱いている唯一の人物ではない。別の不満を示したユーザーは、こうした透かしを「非倫理的」で「気持ち悪い」と呼び、Claudeを使う過程で自分が仕事の大部分をこなしていると主張した。そのユーザーにとって、チャットボットはつらい作業を終えるのを助ける「道具」にすぎない。
「私は指示や背景情報、下した判断、そして無数の修正を提供した。Claudeは道具にすぎない。もしClaudeが生成したコードやその他あらゆるものに透かしを入れ始めたら、いったい何の手柄を自分のものにしようとしているのか？」と、このユーザーは問いかけた。
しかし、他のユーザーは再びこの批判者に反論した。「手柄を主張しているわけではない」と、あるユーザーは応じた。「これはAIが生成したコンテンツを識別できるようにするためだ。AI生成コンテンツは、さまざまな場面でリスクをもたらす可能性がある」
別のユーザーは、「兄弟、Claudeへの愚痴すら言えないのか。Claudeに書いてもらわないといけないんだな」と皮肉を述べた。
一部の批判者は「被害者」という物語を用いず、より細かな観点からAnthropicの新方針に疑問を呈している。
例えば、あるユーザーは、他人の作品を大量に取り込んで学習したAIが生成するコンテンツに透かしを付けること自体に、一般的なダブルスタンダードが存在すると考えている。
「これは非常に陰湿な方向への発展だと思う」と、このユーザーは述べた。「私はClaudeに何かを書かせることはない。しかし、最先端のAIモデルの多くが他人の作品を訓練データとして取得していることを考えると、AIに自分の作品へ透かしを付けさせること自体に、恐ろしい皮肉がある」
ただ全体として見ると、ユーザーは依然としてこの透かしの仕組みを支持する傾向にあるようだ。アルゴリズムが生成したコンテンツを追跡する合理的な方法だと考えているためだ。
「これが良いことではないと説明できる十分な理由はまったくない」と、別の議論に参加したユーザーは述べた。「この仕組みを望まない唯一の理由は、他人にうそをつきたいからだ」