هاد السيمانة، طلّقات OpenAI نسخة ChatGPT للمراهقين، مخصّصة للمستخدمين الشباب، وكتحدّ من بعض الوظائف باستعمال آلية للتعرّف على السن.
على هاد الشي، موقع Engadget حاور عدد من خبراء سلامة الأطفال، وكانت آراءهم فنسخة ChatGPT للمراهقين مختلفة. ولكن كاملين متافقين بلي هاد النظام خاصّو يدوز من اختبارات مستقلة كثيرة قبل ما يتنصح بيه للوالدين وللشباب، وخاص OpenAI توضّح بشفافية أكثر كيفاش كتخدم آليات السلامة بالضبط.
روبي توني، المسؤول على تقييم الذكاء الاصطناعي والتقنيات الرقمية فشركة Common Sense Media اللي كتقدّم نصائح للعائلات على منتجات الترفيه والتكنولوجيا، قال: «OpenAI دارت هاد المرة مجموعة ديال الالتزامات المهمة بزاف، ولكن خاصّها تقدّم الدليل بلي هاد الالتزامات والوظائف ديال السلامة فعّالة فعلاً».
أما جوش غولين، المدير التنفيذي لمنظمة Fairplay للمبادرات ديال السلامة على الإنترنت للأطفال، فكان أكثر تشدداً: «على الورق، بعض الإجراءات اللي أعلنت عليها OpenAI باينة فعلاً كتمشي فالطريق الصحيح، ولكن منين كنعمّقو البحث، كيبقاو بزاف ديال الأمور اللي كتخلّي الواحد يقلق، ومن بينها ما كايناش آلية للمساءلة. وسائل التواصل الاجتماعي برهنت بلي فحماية الأطفال، غير الثقة فالشركات ما كتفيش، وOpenAI حتى هي سبق ليها واجهت نفس المشكل. قبل هاد الشي، كانت OpenAI عندها أصلاً قيود على المحتوى المتعلق بالانتحار والعنف وتعاطي المخدرات، ولكن هاد القيود يا إما ما كتخدمش، يا إما كتفقد الفعالية ديالها تدريجياً مع مرور الوقت».
بجوجهم شاكّين واش النظام الأوتوماتيكي ديال OpenAI للتعرّف على السن يقدر يحدّد المراهقين بشكل مستقر، ويحوّلهم لنسخة ChatGPT للمراهقين. وقال توني: «OpenAI ما نشرتش المعطيات ديال فعالية هاد النظام، وما معروفاش لا نسبة الإنذارات الكاذبة لا نسبة الحالات اللي ما كيتكتاشفوهاش، والنظام الأوتوماتيكي بعيد بزاف على أنه يقدر يتعرّف على جميع المراهقين اللي كيستعملو ChatGPT. وإلى رجعنا لخطط OpenAI السابقة لإطلاق بعض الوظائف المرتبطة بالمحتوى الإباحي، كانت تقارير قالت إن واحد من الأسباب اللي خلا هاد الوظائف ما تخرجش فالأخير هو أن تقنية تقدير السن ما كانتش قادرة تتعرّف بدقة على عدد كافٍ من المراهقين».
وزاد توني قال بلي المراهقين غالباً غادي يحاولو يتجاوزو نظام التعرّف على السن، ويقلبو على طرق أكثر غرابة للتحايل عليه.
أكثر التزامات OpenAI تحديداً هو بالضبط واحد من الأمور اللي الخبراء كيشكّكو أكثر فإمكانية تطبيقها. وكانت لورين جوناس، المسؤولة على شؤون المراهقين والعائلات فـ OpenAI، قالت من قبل: «جميع المحتويات اللي كتتعلّم عليها العلامة غادي يراجعوها أولاً موظفون متفرغون فـ OpenAI، ومن بعد غادي يتم إخبار الوالدين. الهدف ديالنا هو نخبرو الوالدين فغضون ساعة من بعد ما يرسل المستخدم الطلب».
ووضّحات كذلك بلي OpenAI فعلاً عندها العدد الكافي من الموظفين والقدرة على المعالجة باش تضمن مراجعة جميع المحتويات المعلّمة يدوياً، وإخبار الوالدين فغضون ساعة.
توني شكّك فهاد النقطة وقال: «هاد المرحلة ما زالت معتمدة على قرار أوتوماتيكي، وهنا كايطرح السؤال: واش المصنّف الأوتوماتيكي اللي كينتقي المحتوى ومن بعد كيسلّمو للمراجعين البشريين يستاهل الثقة فعلاً؟»
وغولين قال حتى هو: «بغيت نشوف معطيات فعلية، بحال شحال من محادثة كتتعلّم عليها العلامة وكتتراجع كل نهار، وشحال من شخص مسؤول على المراجعة، وشحال كياخد متوسط الوقت فكل مراجعة. صعيب نتخيّلو بلي OpenAI لقات عدد كافي من الناس، وبلي قادرة تراجع بجدية كل محادثة ممكن يكون فيها خطر».
الخبراء الثلاثة متافقين حتى هما بلي الآلية اللي كتفرض على الوالدين والطفل يربطو حسابات ChatGPT ديالهم بشكل اختياري كتضعّف الفعالية العملية ديال هاد الوظيفة. وقال غولين: «الأغلبية الكبيرة ديال الوالدين ما غاديش يستعملو أدوات المراقبة الأبوية، وواحد من الأسباب هو أن هاد الأدوات غالباً كتتصمّم بطريقة كتخلّي من الصعب تلقاها ومن الصعب تستعملها».
وكيشوف بلي الحل الأكثر فعالية هو أنها تكون مفعّلة بشكل افتراضي، وتكون آليات الحماية داخلة فتصميم المنتج من اللول: «من البداية خاص اعتماد أكثر إعدادات الحماية تشدداً، بحال تحديد مدة الاستعمال بشكل افتراضي، ومن بعد يخليو للوالدين القرار واش يبدلوها، عوض ما يتحطّات المسؤولية على الوالدين ويتطلب منهم يضبطو القيود بوحدهم».