OpenAIは今週、若いユーザーを対象としたChatGPTの青少年向け版を発表し、年齢認識機構によって一部の機能を制限します。
これを受け、海外メディアのEngadgetは複数の子どもの安全専門家に取材しました。専門家によるChatGPT青少年版への評価は一致していませんでしたが、全員が、保護者や若者に推奨する前に、このシステムは大量の独立したテストを受ける必要があり、OpenAIは安全機構が実際にどのように機能するのかをより透明に説明しなければならないと考えています。
家庭向けにエンターテインメントやテクノロジー製品の提案を行うCommon Sense Mediaで、AIおよびデジタル評価部門の責任者を務めるロビー・トニー氏は、「OpenAIは今回、非常に重要な約束をいくつかしました。しかし、こうした安全上の約束や機能が本当に有効であることを証明する証拠を示さなければなりません」と述べました。
子どものオンライン安全を推進する団体Fairplayのエグゼクティブディレクター、ジョシュ・ゴーリン氏は、さらに厳しい見方を示しています。「表面的には、OpenAIが発表した対策の一部は確かに正しい方向へ進もうとしているように見えます。しかし、さらに掘り下げると、依然として多くの懸念があります。その中には、説明責任の仕組みがないことも含まれます。ソーシャルメディアは、子どもを守るうえで企業をただ信じるだけでは機能しないことをすでに証明しています。OpenAIでも同じ問題が起きています。それ以前から、OpenAIには自殺、暴力、薬物使用に関するコンテンツ制限がありましたが、こうした制限は機能しないか、時間の経過とともに徐々に効力を失うかのどちらかでした」と述べました。
両氏は、OpenAIの自動年齢認識システムが青少年を安定して識別し、ChatGPT青少年版へ切り替えられるのかについても疑問を呈しています。トニー氏は、「OpenAIはこのシステムの性能データを公開しておらず、誤検知率も見逃し率も分かりません。自動システムがChatGPT上のすべての青少年を識別できる可能性は到底ありません。OpenAIが以前、一部の成人向けコンテンツ機能の提供を計画していた際、報道によれば、最終的に実施されなかった理由の一つは、年齢推定技術で十分な数の青少年を正確に識別できなかったことでした」と指摘しました。
トニー氏はまた、青少年が年齢認識を回避しようとすることはほぼ確実で、より予想外の回避方法を探すだろうと考えています。
OpenAIが示した最も具体的な約束こそ、専門家が実行可能性を最も疑問視しているものでもあります。OpenAIで青少年・家庭問題を担当するローレン・ジョナス氏は、「フラグが立てられたコンテンツはすべて、まずOpenAIの正社員が確認し、その後で保護者に通知します。ユーザーがプロンプトを送信してから1時間以内に保護者へ通知することを目標としています」と述べています。
同氏はさらに、OpenAIには、フラグが立てられたすべてのコンテンツを人間が確認し、1時間以内に保護者へ通知するのに十分な人員と処理能力があると明言しました。
これに対し、トニー氏は「この工程も依然として自動化された判断に依存しています。そこで問題になるのは、コンテンツを選別して人間の審査担当者に回す自動分類器を、本当に信頼できるのかということです」と疑問を呈しました。
ゴーリン氏も、「具体的なデータを見たいです。例えば、毎日どれだけの会話にフラグが立てられて審査されているのか、審査を担当する人が何人いるのか、1回の審査に平均どれほど時間がかかるのか、といった数字です。危険が存在する可能性のある会話を一つひとつ真剣に確認できるほど多くの人員をOpenAIが採用できたとは、なかなか想像できません」と述べました。
3人の専門家は、保護者と子どもがChatGPTアカウントを自ら紐づけなければならない仕組みが、この機能の実効性を弱めている点でも一致しています。ゴーリン氏は、「大多数の保護者は、保護者向け監督ツールを利用しません。その理由の一つは、こうしたツールが見つけにくく、操作も難しいように設計されていることです」と指摘しました。
同氏は、より効果的な方法は初期状態で有効にし、製品設計の段階から保護機構を組み込むことだと考えています。「最初から最も厳格な保護設定を採用し、例えば利用時間の制限をデフォルトで設定したうえで、変更するかどうかを保護者に決めてもらうべきです。保護者に責任を負わせ、自分で制限を設定するよう求めるべきではありません」と述べました。