EUは、オンライン上のチャットボットやAIによるディープフェイクコンテンツを、一般の人々がより容易に識別できるようにする一連の新規則を導入した。EUの「人工知能法（AI Act）」の重要な一部である新たな透明性要件が8月2日に正式施行され、企業に対し、ユーザーがAIモデルと対話しているかどうか、また関連コンテンツがAIによって生成または変更されたものかどうかを開示するよう求めている。
これらの透明性ルールは、AIシステム提供者（AIシステムを開発・販売する企業）と導入者（これらのAIシステムを利用するプラットフォームやサービス）を含む、異なる主体にそれぞれ異なる要件を定めている。ただし、MetaやSpaceXAIのように、両方の主体に該当する企業もある。
提供者は、ユーザーが人間ではなくAIと対話している場合、「そのことが明らかな場合を除き」、ユーザーに明確に知らせるようAIシステムを設計しなければならない。さらに、AIが生成した音声、画像、動画、テキストに機械可読なマークを付け、人工的に生成または変更されたコンテンツであることを検出できるようにする必要がある。
一方、導入者も、現実に見えるよう意図して作成された、AIが生成または変更した画像、音声、動画のディープフェイクコンテンツに表示を付けなければならない。
欧州委員会は透明性ガイドラインで、「生成AIおよび対話型AIシステムの急速な発展により、AIとの対話やAIが生成したコンテンツと、人間が作成した本物のコンテンツとの違いを見分けることがますます難しくなっている」と述べている。
「人々は、いつAIと対話しているのか、またいつAIが生成したコンテンツに接しているのかを知るべきだ。これにより、より十分な情報に基づいて判断し、AIへの信頼度や依存の仕方を調整し、誤情報や欺瞞の影響を避けられるようになる」としている。
欧州委員会はまた、AIコンテンツ開示用の一連のラベルを策定した。テクノロジープラットフォームは「人工知能法」の要件に従ってこれらのラベルを採用でき、具体的な使用場面の例も示されている。
これらのラベルは、TikTok、Instagram、Facebookなどのプラットフォームがこれまで導入してきた類似の表示とも一致する。EUが統一アイコンを設計したのは、各プラットフォームが異なるラベルを独自に設計する事態を避けるためだ。EUが示したアイコン例の使用は義務ではないものの、欧州委員会はAIコンテンツ表示の要件について「選択的に実施できるものではない」と明確に指摘している。
これらの新たな透明性規則を遵守しなかった企業には、最高1500万ユーロ（注：現行為替レートで約1億1700万元）（約1720万ドル、現行為替レートで約1億1600万元）の罰金、または全世界年間売上高の3%に相当する制裁が科される可能性がある。
8月2日以降に導入された新しいAIシステムには、これらの透明性ルールが直ちに適用される。一方、8月2日以前にすでに提供されていたモデルやサービスには4か月の移行期間が認められ、12月2日までに対応を完了しなければならない。