中国消費者協会は本日、人工知能サービスに関する消費上の注意喚起を発表し、一般消費者に対して、汎用生成AIの情報補助・参考という性質を冷静に理解するよう呼びかけました。価格や料金、契約条項、アフターサービス、法的責任などの重要な消費情報については、人工知能が生成したコンテンツだけを根拠に判断せず、事業者の公式ルート、契約書、監督当局その他の権威あるルートを通じて確認する必要があります。
全文は以下のとおりです。
現在、大規模言語モデルを中核とする生成AI技術は、消費生活のさまざまな場面に急速に浸透しています。人工知能は消費の利便性やサービス効率を高める一方、情報生成には一定の不確実性があるため、情報の不正確さ、表現の厳密さの不足、約束と実際の状況との不一致などの問題が生じる可能性もあります。例えば、実際と異なる料金情報を提示したり、実現が困難な補償を表明したり、偏った、または慎重さを欠く法的助言を提供したりすることで、消費者の判断や選択に影響を与え、さらには経済的損失を招く可能性があります。
関連する世論の動向および全国の消費者協会組織が最近受け付けた関連苦情によると、人工知能サービスに起因する消費上の問題は、利用場面によって異なる特徴を持っています。消費者が日常的に接する人工知能は、おおむね2種類に分けられます。1つは一般向けの汎用生成AIサービスで、主に公開情報、モデルの学習データ、ユーザーからの質問に基づいて回答を生成し、通常は特定の事業者の公式見解を示すものではありません。もう1つは事業者が導入・使用する人工知能カスタマーサポートツールで、商品紹介、料金説明、キャンペーンの説明、アフターサービス対応などの営業・サービス業務に直接関与します。
一般向けの汎用生成AIサービスは、特定の事業者を代弁する主体ではありません。その生成内容は通常、プラットフォームや販売業者の正式な約束と直接みなすことはできず、契約上の合意や権威ある機関の見解に代わるものでもありません。主な役割は情報の補助と参考です。実際には、一部の汎用生成AIが消費相談や権利救済の支援を行う過程で、消費者が受けた損失について根拠のない補償を約束したり、訴訟結果を過度に断定したり、誤った裁判管轄などの法的案内を提供したりする可能性があります。さらには、実在しない金銭の預託や事件処理などの虚偽情報を生成することさえあります。消費者がこうした生成内容を見分けるために必要な確認を行わず、事業者の公式ルート、契約書または関係する権威あるルートを通じてさらに確認しなければ、それに基づいて誤った返金請求、権利救済、訴訟などの判断を下す可能性があります。その結果、通常の消費判断や法に基づく権利救済に影響するだけでなく、経済的損失を招くおそれもあります。「生成AIサービス管理暫定措置」は、人工知能サービス提供者がサービスの種類や特徴に基づき、有効な措置を講じ、生成AIサービスの透明性を高め、生成内容の正確性と信頼性を向上させるべきだと明確に定めています。また、サービスの対象者、利用場面、用途を明確にして公開し、利用者が生成AI技術を科学的かつ合理的に理解し、法に基づいて利用できるよう指導することも求めています。
中国消費者協会は、一般向け汎用生成AIサービスの提供者に対し、重要な利用場面におけるリスク提示と情報品質管理をさらに強化するよう提案しています。金融・資産運用、生活サービス、権利救済の判断など、消費者の重要な権益に密接に関わる場面では、適切な方法で人工知能が生成した内容の限界を示し、重要情報について消費者にさらなる確認を促すべきです。同時に、モデルの正確性を継続的に最適化し、コンテンツ審査、リスク警告、誤り訂正の仕組みを整備して回答品質を高め、誤情報や誤解を招きやすい内容をできる限り減らし、消費者がAI生成情報に過度に依存して損失を被るリスクを低減する必要があります。
事業者が自ら導入する人工知能カスタマーサポートツールは、その営業・サービス体制の一部です。実際には、一部の人工知能カスタマーサポートで、価格や料金の説明が実際と一致しない、割引キャンペーンの規則説明が不正確、重要な制限条件の提示が不十分といった問題が生じる可能性があります。紛争が発生した後、一部の事業者が「人工知能が自動生成した」「システムが自動返信した」などを理由に、関連する回答についての責任を切り離し、負うべき責任を逃れようとする場合もあります。こうした問題は、消費者に取引価格、料金の内訳、アフターサービスなどについて誤った認識を抱かせ、消費者の知る権利と公正な取引を受ける権利に影響を及ぼしやすいものです。「消費者権益保護法」は、消費者が購入・使用する商品または受けるサービスの実情を知る権利を有すると定めています。事業者は、消費者から提供する商品またはサービスの品質や使用方法などについて質問を受けた場合、真実かつ明確な回答をしなければなりません。
中国消費者協会は、人工知能カスタマーサポートツールを導入する事業者に対し、審査と管理を強化し、人工知能カスタマーサポートが提供する情報を、商品・サービスの実情、価格・料金、キャンペーン規則、契約上の合意、アフターサービス方針と一致させるとともに、便利で有効な有人カスタマーサポートと紛争解決ルートを提供するよう強く求めています。事業者は人工知能を活用して営業・サービスの効率を高める一方、相応の責任引受けの仕組みを構築すべきです。人工知能カスタマーサポートが営業・サービスの過程で消費者に行った、価格、料金、アフターサービスなどに関する重要な回答について、「アルゴリズムが自動生成した」などの理由だけで簡単に免責することはできません。ましてや、関連する声明によって、法に基づき負うべき責任を不合理に軽減または免除してはなりません。
中国消費者協会は、関係当局に対し、消費分野における人工知能の利用に関する規範をさらに整備し、サービスの種類や利用場面に応じて、サービス提供者、事業者など各主体の責任範囲と管理要件をより明確にし、権利と責任が明確で、規範的かつ秩序ある人工知能消費サービス環境の形成を促進するよう呼びかけています。同時に、一般消費者に対して、汎用生成AIの情報補助・参考という性質を冷静に理解するよう注意を促しています。価格や料金、契約条項、アフターサービス、法的責任などの重要な消費情報については、人工知能が生成したコンテンツだけを根拠に判断せず、事業者の公式ルート、契約書、監督当局その他の権威あるルートを通じて確認する必要があります。