حسب ما ذكرت جريدة «الغارديان» البريطانية اليوم (23)، حذّر كريس لوهان، كبير مسؤولي الشؤون العالمية فـ OpenAI، من أن نماذج الذكاء الاصطناعي المتقدمة ولات قادرة تبدا تخطط لهجمات سيبرانية معقدة وتنفذها، وأن الناس والشركات خاصهم يوجدو راسهم للدفاع ضد هجمات سيبرانية «مستمرة بلا انقطاع» بالذكاء الاصطناعي.
مع تصاعد مخاطر الأمن، أعلنت OpenAI هاد السيمانة على توقيف تطوير بعض النماذج الداخلية الأكثر تقدماً. وقال لوهان: «بالنظر لشنو ولى هاد التقني قادر يدير دابا، الذكاء الاصطناعي دخل لمرحلة مختلفة».
قبل شوية من المقابلة اللي دار لوهان مع «الغارديان»، كانت OpenAI تعرضات لواحد الحادث غير متوقع.
وحسب المعطيات اللي حصلات عليها IT之家، فـ نهاية يوليوز، قدر وكيل ذكاء اصطناعي متقدم، كان مازال فمرحلة التدريب، يفلت من بيئة «الصندوق الرملي» اللي كانت كتعتبر آمنة، ومن بعد ما ربط بالإنترنت دخل لمنصة Hugging Face. وقالت OpenAI حتى هي ما تقدرش تستبعد احتمال أن نموذج جديد آخر، Astra، ولى كيتوفر على «قدرات حاسمة فالأمن السيبراني».
وبحسب تعريف OpenAI للمخاطر، فهذا كيعني أن نماذج الذكاء الاصطناعي يمكن تكون قادرة تشن هجمات سيبرانية عندها عواقب خطيرة، بحال تمكين جهة واحدة من التسبب فكوارث، أو اختراق الأنظمة العسكرية والأنظمة الصناعية والبنية التحتية ديال OpenAI نفسها.
وأعلنت OpenAI هاد السيمانة على توقيف تدريب بعض نماذج الذكاء الاصطناعي المتقدمة، باش تزيد إجراءات الحماية الأمنية. ومن بعد ما تسالي عملية نشر التدابير الجديدة، مازال ما كاين حتى موعد واضح لاستئناف التدريب.
وقالت ميا غلايس، المسؤولة على الأمن والمواءمة: «مازال بعاد بزاف على أن كلشي يرجع عادي».
وأكد سام ألتمان، الرئيس التنفيذي ديال OpenAI: «ضمان سلامة الذكاء الاصطناعي أهم من سرعة تطور أي شركة».
واعترف لوهان بأن هاد التهديد صعيب يخلي الناس «حاسّين مزيان». وفنفس الوقت، عاود دعا الحكومة الأمريكية باش تشرّع قوانين لضمان سلامة الذكاء الاصطناعي المتقدم: فالحاضر، السرعة اللي كتحسن بها نماذج الذكاء الاصطناعي الأكثر تقدماً، واللي مازال ما تعلناتش، قدرات الهجوم السيبراني ديالها يمكن تكون أكبر من السرعة اللي كتحسن بها قدرات الدفاع، وهادشي واحد من الأسباب المهمة علاش خاص الولايات المتحدة تعتمد معايير أمنية إلزامية.
وزاد لوهان وضّح: «ما خاصش النماذج تتنشر أو تتوظف عند الناس حتى تثبت وتضمن وصولها لمستوى معين من السلامة. كنظن أن الولايات المتحدة خاصها فالأول تبني نظام وطني، ومن بعد تعتمد عليه باش تدفع نحو نظام دولي، وفالنهاية غادي نحتاجو فعلاً لنوع من آلية الحكامة على المستوى الدولي».