شركة OpenAI نشرات اليوم (20 غشت) تدوينة أعلنت فيها على توسيع خدمة «الاحتفاظ بصفر بيانات» (Zero Data Retention) لفائدة زبناء واجهات API ديال النماذج المتقدمة اللي مستوفين الشروط، بحيث كيقدر النظام الآلي يعرّف أنماط المخاطر بين التفاعلات.
وحسب ما نقل موقع IT之家 عن التدوينة، شددت شركة OpenAI على أنها ما كتحتافظش بالبرومبتات ولا بردود النماذج من بعد ما كتكمّل معالجة الطلبات، والموظفين ما كيقدروش يراجعو محتوى الزبناء، كما أن بيانات الشركات ما كتستعملش فالتدريب ديال النماذج (إلا إلا اختار الزبون ينضم بشكل صريح).
وأوضحت OpenAI أنه مع تولّي النماذج كتتكلف بمهام أطول وأكثر تعقيداً، ممكن بعض المخاطر الأمنية الخطيرة ما تبانش حتى كتدوز جولات متعددة من التفاعل. والأنظمة الأمنية الحالية المتوافقة مع ZDR كتقيّم التفاعلات غالباً وحدة بوحدة، وكيصعب عليها تكتاشف الأنماط السلوكية اللي كتدوز بين محادثات أو حسابات مختلفة، أو اللي كتواصل اختبار آليات الأمان.
وباش تعالج هاد المشكل، أطلقت شركة OpenAI فنسخة معاينة خدمة المعالجة الأمنية الخاصة (Private Safety Processing)، وهي آلية كتستعمل أنظمة آلية لتحليل أنماط المخاطر فالتفاعلات المرتابطة، بلا ما توصل موظفي OpenAI للمحتوى الأساسي.
هاد النظام كيصلح للمحتوى اللي كيتحكم فيه الزبون فالبنية التحتية ديالو، وكيصلح حتى للتخزين اللي كتوفرو OpenAI. فالحالة الثانية، كيتشفّر محتوى الزبون بمفاتيح كيتحكم فيها الزبون، وموظفو OpenAI ما عندهمش هاد المفاتيح، وبالتالي ما كيقدروش يوصلو للبرومبتات والردود الأساسية.
إلى عرّف النظام شي خطر، OpenAI ما كيوصلها غير إشارات أمنية محدودة النطاق، كتوضح نوع النشاط المعني، وبناءً عليها كتقيّم واش خاصها تاخذ شي إجراءات.
حتى إلا تعلّم المحتوى بأنه مشبوه، الموظفين ما كيقدروش يشوفو محتوى الزبون. ويقدر الزبون يتابع التنبيهات ديال التحقيقات والمقررات المتعلقة بالإجراءات من خلال النظام ديالو؛ وإلى بغا يقدّم طعن، أو يوضح بأن النشاط قانوني، أو يعاون فالتدقيق فشي إساءة استعمال مؤكدة، يقدر يختار يزوّد OpenAI بالمعلومات المعنية.
وقالت OpenAI إن خدمة المعالجة الأمنية الخاصة كتختبرها حالياً مع زبناء أوائل. وكتخطط الشركة تبدا تطرح هاد الإمكانية فشتنبر، وتنشر ورقة بيضاء تقنية. وأكدت OpenAI أنها غادي تعلم الزبناء مسبقاً بالتحديثات، وبالتأثير ديالها على الالتزامات الحالية، وبالمدة والدعم اللازمين للتخطيط ديال الزبناء.