AnthropicはAIが生成したテキストをより識別しやすくしたいと考えているが、一部のソフトウェア開発者はすでに、こうしたマークを消去する専用ツールの開発に着手している。
このAI企業は先週、一部のClaudeモデルが生成するテキストに「知覚できない電子透かし」が付くと発表した。この電子透かしはClaudeの単語選択方法によって形成される統計的なパターンであるため、ユーザーがテキストをコピー＆ペーストしても、そのまま残る。
AI電子透かしはコンテンツの透明性を高める歓迎すべき取り組みだと考える人もいる。しかし、この方法はテクノロジー業界の関係者から懸念も招いている。ユーザーがClaudeをテキストの校正、翻訳、要約に利用しただけでも、関連するマークが最終的なコンテンツに付いたまま拡散する可能性があるためだ。これまでにも、Business Insiderに対し、これを理由にClaudeの購読を解約したと話すユーザーがいた。
こうした反発を受け、電子透かしを回避する方法を探し始める人も現れた。米国では、Google Trendsにおける「AI watermark remover」（AI電子透かし除去ツール）の検索人気度が前月比で60%上昇した。一部の開発者や起業家は、自らツールを開発し、テキストやファイルからAI電子透かしを除去しようとしている。
Anthropicは、電子透かしの導入はEUの「人工知能法」（AI Act）に基づく関連する約束を果たすためだと説明している。
パリを拠点とするテクノロジー起業家で、AIコマースツールMemoの創業者でもあるGuillaume Meyerは、Anthropicが関連計画を発表してから数日後、「Watermarks Remover」というオープンソースプロジェクトを公開した。
Meyerによると、このツールは隠し文字やメタデータを削除したうえで、原文の意味を保ちながらテキストを書き換え、電子透かしを含む可能性のある統計的な単語選択パターンを破壊する。
同氏は、初版の開発には約5時間かかったと明かした。現在、このプロジェクトはGitHubで1.4万個を超えるStarを獲得している。これは開発者コミュニティーにおけるプロジェクトの人気を測る指標で、ソーシャルメディアの「いいね」に似たものだ。ただし、このツールが電子透かしを完全に除去できるとは限らない。
MeyerはBusiness Insiderに対し、「コンテンツの帰属表示は全面的に支持するが、この電子透かし技術には反対だ。この2つには非常に重要な違いがある」と語った。
Meyerは、問題は電子透かし技術が「作者の身元を白か黒かの二択として扱っている」ことだと考えている。AIがテキストを完全に生成した場合、システムは電子透かしを残せる。しかし、ユーザーがAIを軽微な編集に利用しただけでも、同様に電子透かしが残る可能性がある。
一方、Anthropicはブログ記事で、自社の電子透かしはコンテンツの作者を特定するためのものではないと説明している。
AI生成テキストに電子透かしを付ける取り組みについて、Meyerは「現実の問題に対して、誤った解決策を取っていると思う」と述べた。
MeyerはAI電子透かしの問題に取り組もうとしている唯一の人物ではない。
今週、起業家向けにAI教育サービスを提供するSabrina RamonovはX上で、無料のブラウザベースの「Watermark Remover」を開発したと明らかにした。このツールは、テキスト、PDF、Word文書、ウェブページ、画像、データファイルから「隠されたAIマークを除去」できるとうたっている。
同じ頃、東京在住のソフトウェア開発者Ansh Anejaは、Anthropicがこの機能を発表した当日に、Claude専用の電子透かし除去ツールを開発したと説明した。その後、「MarkScrub」というローカルで動作するオープンソース版も公開している。
Anejaは先週X上で、このツールのユーザー数が1日で0人から8500人に増えたと述べた。ただし、Business Insiderはこの数字を独自に検証できていない。
これらのプロジェクトは現在も初期段階にあり、Business Insiderも実際の効果を独自に評価できていない。GoogleやOpenAIを含む他社も画像などのコンテンツに電子透かしを使用しており、現在では、こうした電子透かしを除去できるとうたうツールもすでに多数存在する。
しかし、スイス連邦工科大学チューリヒ校の安全・信頼性・インテリジェントシステム研究所の研究員Thibaud Gloaguenは、これらのツールは電子透かし技術が長年抱えてきた限界を改めて示していると指摘する。
同氏はBusiness Insiderに対し、「電子透かしを除去する方法は必ず存在する」と語った。例えば、ユーザーはテキスト全体の表現を変えることで、元の電子透かしパターンを破壊できるという。
AI電子透かし除去ツールは現在、法的なグレーゾーンにある。EUはAI企業に対して生成コンテンツへの永続的なマーク付与を求めているが、第三者がこれらのマークを意図的に除去してよいかどうかは明確に定めていない。
欧州委員会の報道官はBusiness Insiderに対し、EUの関連ガイドラインは、AIサービス提供者のコンテンツ表示システムが、一般的な変更方法や表示システムに対する敵対的な操作に耐えられるよう求めていると説明した。
さらに同報道官は、EUの透明性規則が、除去、再生成、複製、変更を、AIサービス提供者が評価すべき潜在的な脅威として明確に挙げていると述べた。
ただし、これらの要件が対象とするのはAIサービス提供者だ。ストラスクライド大学コンピューター・情報科学部の上級講師Dmitri Roussinovは、「人工知能法」は第三者がAI電子透かしの除去を試みることを明確に禁じていないと指摘する。
ただ、同氏はBusiness Insiderに対し、電子透かし除去ツール自体がAIを利用してテキストを再生成する場合、そのツールの提供者もEU法に基づき、再生成されたAIコンテンツに対応するマークを付ける必要が生じる可能性があると述べた。
マーストリヒト大学の法・テクノロジー研究所の助教授Konrad Kollnigは、EUの「人工知能法」もAnthropicの利用規約も、現時点ではAI電子透かし除去ツールの開発や共有を禁じていないようだと語った。
ただし、ユーザーがこうしたツールを利用してAI生成コンテンツを人間の創作物に偽装すれば、問題になる可能性がある。Anthropicの利用ポリシーは、モデルの生成結果を人間が生成したものだと主張して人間になりすます行為を禁じている。
Anthropicが次世代モデルのリリース時にテキスト検出APIも同時に提供する計画を進めるなか、この問題はさらに顕在化する可能性がある。現時点でAnthropicは具体的な提供開始時期を明らかにしていない。電子透かしは8月2日以降にリリースされる新モデルに適用され、Anthropicはこの機能を旧モデルにも段階的に適用する計画だ。
Kollnigは、「これらすべての電子透かし技術には共通する大きな問題がある。電子透かし検出ツールが公開されると、誰でも検出器を使ってテキストや動画を含むAI生成コンテンツを調べ、さらに電子透かしを除去するツールを開発できるようになる」と述べた。