حسب تقرير نشراتو وسيلة Axios اليوم، تحالف كيضم أكثر من 120 منظمة، من بينها إنفيديا وسيسكو وCrowdStrike، كيقترح إطار جديد للتبليغ عن الحوادث الخاصة بوكلاء الذكاء الاصطناعي. هاد الإطار غادي يفرض على الشركات المشاركة تكشف على بعض حوادث الوكلاء وتحتافظ بسجلات مفصلة عليها.
ومع اكتساب وكلاء الذكاء الاصطناعي استقلالية أكبر داخل أنظمة الحاسوب، مازال القطاع كينقصو أسلوب موحّد للتبليغ عن الأعطال الأمنية والاستفادة من الدروس ديالها.
التحالف المفتوح للذكاء الاصطناعي الآمن (The Open Secure AI Alliance) خدام على إعداد إرشادات ما يُسمّى «تبادل النتائج المشتركة للذكاء الاصطناعي» (Shared AI Findings Exchange، أو SAFE)، وهو إطار مقترح حول كيفية التبليغ عن حوادث الأمن السيبراني اللي كتورّط وكلاء الذكاء الاصطناعي.
المسودة كدعو ناشري النماذج، ومطوّري الذكاء الاصطناعي، ومزوّدي الخدمات السحابية والأدوات، والباحثين المستقلين، ومشغّلي البنيات التحتية الحيوية، ومجموعات أخرى للمشاركة. وغادي يتدعاو حتى الهيئات الحكومية بصفة «مراقبين غير متحكمين».
أعضاء SAFE غادي يتافقو على التبليغ على الحوادث التالية: وصول نظام للذكاء الاصطناعي أو استغلالو لأنظمة ديال طرف ثالث بلا ترخيص، أو تسريب معلومات سرية، أو مواصلة فحص أهداف الإنتاج من بعد ما يشك المشغّل فأن النشاط ماشي مرخّص.
وغادي يبلّغ الأعضاء حتى على بعض الحوادث اللي كانت غادي توقع، ويحتافظو بأدلة الحادث، بما فيها التعليمات، وتتبع الوكيل، واستدعاءات الأدوات، والهويات، والصلاحيات، وبيانات الاعتماد.
وحسب الجدول الزمني المقترح، خاص الأعضاء يخبروا المنظمات المتضررة في أقرب وقت ممكن من بعد وقوع الحادث، ويقدمو تقرير أولي سري إلى SAFE داخل أربعة أيام عمل، وينشرو تقرير أولي بالوقائع داخل 30 يوماً فالحالات المناسبة، ويقدمو تحديثاً على إجراءات المعالجة داخل 90 يوماً.
SAFE غادي يحلل الحوادث، ويحدد الأعطال اللي كتعاود، ويقترح ضوابط أمنية مشتركة.
وقال Justin Boitano، نائب الرئيس والمدير العام للحوسبة المؤسساتية فـإنفيديا، لـAxios خلال مؤتمر بلاك هات، إن هاد البرنامج مستوحى من نظام ناسا للتبليغ عن سلامة الطيران، اللي كيقدر يستعمل المعطيات الملتقطة من مسجلات الرحلة ديال الطائرات للتحقيق فالحوادث.
التحالف كيشوف أن ثقافة تقاسم معلومات التهديدات الموجودة دابا فمجال الأمن السيبراني غادي تخلي الشركات مستعدة للمشاركة على أي حال. وقال Julien Soriano، نائب كبير مسؤولي أمن المعلومات ونائب الرئيس فـإنفيديا: «تقريباً ما واجهنا حتى مقاومة. شفنا الناس باغين يشاركو، وعندهم رغبة كبيرة فالمشاركة».
التحالف المفتوح للذكاء الاصطناعي الآمن كيجمع حالياً ملاحظات المجتمع على هاد الاقتراح من خلال عملية لطلب الآراء كتشرف عليها مؤسسة Linux.