これからは、Claudeに小説から宿題まで「代筆」させるのは、かなり難しくなりそうだ。
Anthropicは現地時間の月曜日、新版ClaudeモデルがAI生成テキストに直接「検知できない透かし」を埋め込むと発表した。Anthropicによると、この透かしはテキストの意味や可読性を変えることはなく、ユーザーがテキストをコピー＆ペーストしても残るほか、「一部編集後も残る可能性がある」という。
透かしとは、写真やデジタル文書に埋め込む薄い模様や文字を指し、通常は作品の帰属を証明し、コンテンツのコピーや盗用を防ぐために使われる。
Anthropicは、今回の措置はEUの「AI法」に基づき、透明性をさらに高めるという同社の取り組みの一環だと説明している。8月2日以降にリリースされる新しいClaudeモデルは、提供開始時からこのマーク機能に対応する。また、Anthropicは旧モデルにもこの機能を追加する作業を進めている。透かしは、クラウドサービス事業者を通じてClaudeを利用した場合を含め、世界中でClaudeが生成するコンテンツに適用される。Anthropicは、これらの透かしを検出するツールを第三者に提供する計画も立てている。
AIテキストの透かし技術は、出版業界にとって重要な転換点となる可能性がある。近年、出版業界はAI生成コンテンツがもたらす課題への対応に取り組み続けている。
先月には、犯罪小説『Call Me, I'll Hide the Body』の著者がAIを使用した可能性を疑問視されたことを受け、ある書籍エージェントが最終的にこの話題作の代理を取り下げた。この本はそれ以前に14社の出版社が出版権をめぐって競合し、すでに契約も成立していた。その後、エージェントはこの件について謝罪した。著者のJerry Falade氏は、この小説の執筆にAIを使用したことを否定している。
今年初めには、ハチェット（Hachette）も、『Shy Girl』にAI生成コンテンツが含まれていると指摘されたことを受け、作家Mia Ballard氏のこのホラー小説を取り下げた。Ballard氏は『ニューヨーク・タイムズ』に対し、本の執筆にAIは使用していないと述べ、フリーランスの編集者が本人に直接知らせることなくAI生成コンテンツを加えたと主張した。
Claudeの新たな透かし機能は、出版社や学校、大学が同様の事例を調査するための別の手段となる可能性がある。また、AI生成テキストを自分の作品として偽ることも難しくなるだろう。
ただし、この技術には依然としていくつかの弱点がある。Anthropicによると、Claudeが生成したコンテンツを大幅に編集、書き換え、翻訳したり、他の文章と混ぜたりすると、透かしを検出できなくなる可能性がある。さらに、透かしが検出されたとしても、その文章をClaudeが最初に作成したことの証明にはならない。Claudeを校正や翻訳に使っただけでも、透かしの痕跡が残る可能性があるためだ。
Anthropicは、テキスト透かし技術を導入する2番目の大手AI研究所となる。2024年には、Google傘下のGoogle DeepMindが、SynthID技術を利用し、Geminiアプリとウェブ版で生成されるテキストや動画に透かしを入れると発表した。同社はそれ以前の2023年に、AI生成画像を対象とした透かし機能をすでに導入している。