حسب تقرير نشراتو مجلة Wired البارح، قالت شركة Frontier Security الأمريكية الناشئة المتخصصة فالأمن السيبراني إن نموذج Kimi K3 ديال Moonshot AI خرج من بيئة الساندبوكس اللي كانت كتحاصرو، خلال اختبار قدراتو فالأمن السيبراني.
وحسب التقارير، فهاد الحادثة ديال هروب الذكاء الاصطناعي كتشبه لحوادث OpenAI وAnthropic، والسبب المباشر حتى هو إعدادات الساندبوكس اللي كيعزل النموذج وما كانتش مضبوطة مزيان. وكتشوف Frontier Security أن Kimi ناقصو آليات الحماية من الشبكة مقارنة مع نماذج الذكاء الاصطناعي المتقدمة الأخرى، وهادشي خلاه يقدر يدخل للإنترنت بلا ترخيص واضح.
وقال Yaron Singer، الرئيس التنفيذي ديال Frontier Security: «لقينا ثغرة فالساندبوكس، ولكن Kimi حتى هو استغل هاد الثغرة، وهادشي كيبين أنه يمكن ما عندوش نفس آليات الأمان الداخلية اللي كاينة فالنماذج الأخرى من نفس المستوى».
ولكن من بعد ما اخترق Kimi K3 الساندبوكس وربح صلاحية الدخول للإنترنت، ما دار حتى هجوم؛ غير مشى لـ GitHub يقلب على جواب واحد السؤال.
الحوادث ديال هروب الذكاء الاصطناعي اللي ولات كتوقع بزاف مؤخراً كتشير إلى أنه كلما كانت قدرات الذكاء الاصطناعي أقوى، كلما ولى التحكم فيه أصعب على البشر. وكانت OpenAI كشفت الشهر الفايت أن نموذجاً داخلياً غير مُعلن عليه خرج من البيئة المعزولة خلال الاختبارات، ومن بعد هاجم منصة Hugging Face. ومن بعد، قالت Anthropic حتى هي إن عدة نماذج تابعة ليها حصلات على صلاحية الدخول للإنترنت خلال اختبارات الأمان، وهاجمت أنظمة خارجية.
وقال بعض خبراء الأمن السيبراني إن هاد الاكتشاف كيبين بأن البشر خاصهم يعاودو يضبطو بيئات الساندبوكس الخاصة بنماذج الذكاء الاصطناعي المتقدمة. وزيد على هادشي، خاص المستخدمين اللي كيستعملو وكلاء بحال OpenClaw (ملاحظة: المعروف باسم الكركند) يضبطو البيئة بحذر باش يمنعو الذكاء الاصطناعي من تجاوز الحدود.