中国中央広播電視総台・中国之声は本日、民宿におけるAI画像の問題を明らかにした。
この夏休み、ソーシャルメディアで「桃源郷」のような民宿の写真を見かけた人は少なくないだろう。投稿には「新規オープン」「夏休みも空室あり」などと書かれている。しかし、同じ写真が今日は青城山、明日は安吉、明後日は長白山に登場することがある。なぜなら、その写真は実在する宿泊施設のものではなく、AIによって生成された疑いがあるからだ。
さらに不可解なのはその後だ。記者が画像を見せて業者に予約できるか尋ねたところ、予約時期を伝える前から、返ってきた答えは驚くほど一致していた。「満室です」「当面空室はありません」。すると相手は一転して、別の宿泊施設を推薦し始めた。画像は偽物だったが、客を誘導することだけは本物だった。
この種の画像を複数枚、国家反詐欺センターのアプリにある「AIコンテンツ鑑定」機能で検査したところ、いずれもAI生成の痕跡があると判定された。
また、複数の投稿者が同じセールストークを使っていた。記者が日付さえ伝えていないのに、ノートで紹介された部屋はすでに満室で、長期間空室がないと説明し、その後、似たような別の民宿を推薦した。
なぜ最近、民宿業界で「AIによる偽画像」が頻繁に現れるのか。北京市社会科学院の王鵬・副研究員は、民宿は標準化されていない宿泊商品であり、消費者は画像だけでは宿泊施設の実情を判断するのが難しいと分析する。
AIで偽画像を作って客を誘導し、問い合わせられると「空室がない」と答え、別の宿泊施設を推薦する。このような行為は法律上、どのように認定されるのか。北京航空航天大学法学院の趙精武・准教授は、こうした行為は法律上、虚偽広告と認定するのがより適切だとみている。
注：中国人民共和国広告法第28条は、虚偽広告について定義しており、商品またはサービスが存在しないこと、サービスを受けた効果を捏造することなどを具体的に挙げている。
趙精武氏は、AI生成画像で民宿を宣伝し、予約を尋ねられると空室がないと答える行為は、典型的な虚偽広告に当たると説明する。詐欺に当たるかどうかは、個別事案の詳細も踏まえて判断する必要がある。例えば、業者が空室がないことを理由に消費者を呼び寄せ、その後、別の民宿を売り込む場合は、典型的な消費者詐欺に当たる。
このような「AI偽画像」がなぜ繰り返し現れるのか。北京大学政府管理学院の馬亮教授は、根本的な原因は、規則に違反した業者の責任を追及することが難しい点にあるとみている。馬氏は、対策の鍵は情報の拡散段階にあり、大手プラットフォーム企業はより高い技術力を備えるべきであると同時に、監督当局も抑止力を形成する必要があると述べた。