বিদেশি সংবাদমাধ্যম Axios-এর আজকের প্রতিবেদন অনুযায়ী, এনভিডিয়া, সিসকো এবং CrowdStrike-সহ ১২০টিরও বেশি প্রতিষ্ঠানের একটি জোট AI এজেন্টের জন্য নতুন একটি ঘটনা প্রতিবেদন কাঠামোর প্রস্তাব দিয়েছে। এই কাঠামোর অধীনে অংশগ্রহণকারী প্রতিষ্ঠানগুলোকে নির্দিষ্ট কিছু এজেন্ট-সংক্রান্ত দুর্ঘটনা প্রকাশ করতে এবং দুর্ঘটনার বিস্তারিত রেকর্ড সংরক্ষণ করতে হবে।
কম্পিউটার সিস্টেমে AI এজেন্টগুলো ক্রমশ বেশি স্বায়ত্তশাসন পাওয়ার সঙ্গে সঙ্গে নিরাপত্তা ত্রুটি প্রতিবেদন করা এবং সেগুলো থেকে শিক্ষা নেওয়ার ক্ষেত্রে শিল্পখাতে একটি মানসম্মত পদ্ধতির অভাব রয়েছে।
The Open Secure AI Alliance (ওপেন সিকিউর AI অ্যালায়েন্স) তাদের প্রস্তাবিত “Shared AI Findings Exchange” (শেয়ার্ড AI ফাইন্ডিংস এক্সচেঞ্জ, SAFE) নির্দেশিকা তৈরি করছে। এটি AI এজেন্ট-সম্পর্কিত সাইবার নিরাপত্তা ঘটনা কীভাবে প্রতিবেদন করা হবে, তার একটি প্রস্তাবিত কাঠামো।
খসড়াটিতে মডেল স্থাপনকারী, AI ডেভেলপার, ক্লাউড ও টুল সরবরাহকারী, স্বাধীন গবেষক, গুরুত্বপূর্ণ অবকাঠামো পরিচালনাকারী এবং অন্যান্য গোষ্ঠীকে অংশগ্রহণের আহ্বান জানানো হয়েছে। সরকারি সংস্থাগুলোকেও “নিয়ন্ত্রণহীন পর্যবেক্ষক” হিসেবে অংশগ্রহণের জন্য আমন্ত্রণ জানানো হবে।
SAFE-এর সদস্যরা নিম্নলিখিত ঘটনাগুলো প্রতিবেদন করতে সম্মত হবেন: কোনো AI সিস্টেমের তৃতীয় পক্ষের সিস্টেমে অননুমোদিত প্রবেশ বা তা কাজে লাগানো, গোপনীয় তথ্য ফাঁস, অথবা কোনো কার্যক্রম অননুমোদিত বলে অপারেটর সন্দেহ করার পরও উৎপাদন পরিবেশের লক্ষ্যবস্তুতে অনুসন্ধান চালিয়ে যাওয়া।
সদস্যরা কিছু সম্ভাব্য কিন্তু এড়ানো-গেছে এমন ঘটনাও প্রতিবেদন করবেন এবং ঘটনার প্রমাণ সংরক্ষণ করবেন। এর মধ্যে থাকবে প্রম্পট, এজেন্ট ট্রেস, টুল কল, পরিচয়, অনুমতি ও ক্রেডেনশিয়াল।
প্রস্তাবিত সময়সূচি অনুযায়ী, দুর্ঘটনা ঘটার পর সদস্যদের যত দ্রুত সম্ভব প্রভাবিত প্রতিষ্ঠানকে জানাতে হবে, চার কর্মদিবসের মধ্যে SAFE-এ প্রাথমিক গোপনীয় প্রতিবেদন জমা দিতে হবে, উপযুক্ত ক্ষেত্রে ৩০ দিনের মধ্যে প্রাথমিক তথ্যভিত্তিক প্রতিবেদন প্রকাশ করতে হবে এবং ৯০ দিনের মধ্যে প্রতিকারমূলক পদক্ষেপের হালনাগাদ দিতে হবে।
SAFE ঘটনাগুলো বিশ্লেষণ করবে, বারবার দেখা দেওয়া ত্রুটিগুলো শনাক্ত করবে এবং অভিন্ন নিরাপত্তা নিয়ন্ত্রণের সুপারিশ দেবে।
ব্ল্যাক হ্যাট সম্মেলনে এনভিডিয়ার এন্টারপ্রাইজ কম্পিউটিং বিভাগের ভাইস প্রেসিডেন্ট ও জেনারেল ম্যানেজার Justin Boitano Axios-কে জানান, এই উদ্যোগটি NASA-এর বিমান চলাচল নিরাপত্তা প্রতিবেদন ব্যবস্থার আদলে তৈরি করা হয়েছে। ওই ব্যবস্থা বিমান উড্ডয়নের রেকর্ডার থেকে পাওয়া তথ্য ব্যবহার করে দুর্ঘটনা তদন্ত করতে পারে।
জোটটির মতে, সাইবার নিরাপত্তা খাতে বিদ্যমান যৌথ হুমকি গোয়েন্দা তথ্য আদান-প্রদানের সংস্কৃতি প্রতিষ্ঠানগুলোকে এমনিতেই অংশগ্রহণে আগ্রহী করে তুলবে। এনভিডিয়ার ডেপুটি চিফ ইনফরমেশন সিকিউরিটি অফিসার ও ভাইস প্রেসিডেন্ট Julien Soriano বলেন: “প্রায় কোনো প্রতিরোধের মুখেই পড়িনি। আমরা দেখছি, সবাই অংশ নিতে আগ্রহী এবং তারা তথ্য শেয়ার করতে মুখিয়ে আছে।”
ওপেন সিকিউর AI অ্যালায়েন্স Linux Foundation-এর আয়োজিত মতামত আহ্বান প্রক্রিয়ার মাধ্যমে এই প্রস্তাব সম্পর্কে সম্প্রদায়ের মতামত সংগ্রহ করছে।