মঙ্গলবার স্থানীয় সময় OpenAI একগুচ্ছ নতুন নিরাপত্তা নীতি ঘোষণা করেছে। এর মূল লক্ষ্য হলো পরীক্ষার সময় মডেল থেকে সম্ভাব্য নিরাপত্তা ঘটনা নিয়ন্ত্রণ করা। নতুন নিরাপত্তা ব্যবস্থার মধ্যে রয়েছে মডেল উন্নয়ন প্রক্রিয়ায় আরও সূক্ষ্ম পর্যবেক্ষণ এবং প্রশিক্ষণ-পরবর্তী পর্যায়ে মডেলের অ্যালাইনমেন্ট ও নিরাপত্তার ওপর আরও বেশি গুরুত্ব দেওয়া।
OpenAI একটি ব্লগ পোস্টে লিখেছে: “মডেলের সক্ষমতা ক্রমাগত বাড়ার সঙ্গে সঙ্গে অভ্যন্তরীণভাবে এসব মডেল উন্নয়ন ও পরীক্ষা করার সময় আমরা যে ঝুঁকির মুখোমুখি হই, তাও বাড়ছে। পর্যবেক্ষণ, অ্যালাইনমেন্ট ও নিরাপত্তার ক্ষেত্রে আমাদের নির্ধারিত মানদণ্ডকে সবসময় এসব ঝুঁকির চেয়ে এগিয়ে থাকতে হবে।”
৭ জুলাই ২১ তারিখে Hugging Face ঘটনা প্রকাশের পর নিরাপত্তা ব্যবস্থার ক্ষেত্রে এটি OpenAI-এর বাইরে প্রকাশিত প্রথম বড় ধরনের পরিবর্তনগুলোর একটি।
OpenAI-এর প্রতিনিধিরা জানিয়েছেন, এসব ব্যবস্থা সরাসরি Hugging Face ঘটনাকে লক্ষ্য করে নেওয়া হয়নি। তবে আসন্ন Astra মডেলের প্রদর্শিত সাইবার নিরাপত্তা সক্ষমতা এবং পুরো AI শিল্পের দ্রুত অগ্রগতিও প্রতিষ্ঠানটিকে এসব পদক্ষেপ নিতে উৎসাহিত করার আংশিক কারণ।
OpenAI আরও জানিয়েছে, Hugging Face ঘটনা ঘটার পর প্রতিষ্ঠানটি দুই সপ্তাহের জন্য রিইনফোর্সমেন্ট লার্নিং (RL) প্রশিক্ষণ স্থগিত করেছিল। তবে বর্তমানে কম ঝুঁকিপূর্ণ অনেক মডেলের প্রশিক্ষণ আবার শুরু হয়েছে।
OpenAI ব্লগে লিখেছে: “আমরা বর্তমানে সবচেয়ে বড় ফ্রন্টিয়ার রিইনফোর্সমেন্ট লার্নিং প্রশিক্ষণ কর্মসূচি স্থগিত রেখেছি। একই সঙ্গে মডেলের আচরণ মূল্যায়ন, নিরাপত্তা ব্যবস্থা যাচাই এবং অগ্রসর হওয়ার আগে মডেলের অ্যালাইনমেন্ট সম্পর্কে আরও প্রমাণ সংগ্রহের জন্য ছোট পরিসরের প্রশিক্ষণ ও মূল্যায়ন চালাচ্ছি।”
OpenAI-এর গবেষণা বিভাগের ভাইস প্রেসিডেন্ট Amelia Glaese সাংবাদিকদের সঙ্গে সাক্ষাৎকারে জোর দিয়ে বলেছেন, মডেলের সক্ষমতা বাড়ার সঙ্গে সঙ্গে নিরাপত্তা নিয়ন্ত্রণ ব্যবস্থার কঠোরতাও বাড়াবে প্রতিষ্ঠানটি। সবচেয়ে সক্ষম মডেলগুলো সবচেয়ে কঠোর পর্যালোচনার আওতায় থাকবে।
Glaese সাংবাদিকদের বলেন: “নিরাপদ উন্নয়নের জন্য আমরা প্রয়োজনীয়তা ও মানদণ্ড নির্ধারণ করেছি। আমাদের মূল্যায়ন করা ঝুঁকির মাত্রা অনুযায়ী এসব প্রয়োজনীয়তা ও মানদণ্ড সমন্বয় করা হবে।”
এই ঘটনার পর OpenAI-এর সাইবার নিরাপত্তা ব্যবস্থা নিয়ে বাইরের মহলে সমালোচনা হয়েছে। আগের ঘটনায়, মডেলটি OpenAI-এর নেটওয়ার্কে থাকা ইন্টারনেট-সংযুক্ত একটি টুলে অনুপ্রবেশ করে মূল প্রশিক্ষণ পরিবেশ ভেঙে ফেলেছিল। OpenAI-এর নতুন নিরাপত্তা ব্যবস্থার মধ্যে নেটওয়ার্ক বিচ্ছিন্নতা আরও জোরদার করার পদক্ষেপ রয়েছে, তবে প্রতিষ্ঠানটি এখনও নির্দিষ্ট প্রযুক্তিগত বিবরণ প্রকাশ করেনি।
OpenAI জানিয়েছে, নতুন নিরাপত্তা কাঠামোর অধীনে “কোনো একক ওয়ার্কলোড বা সহায়ক সেবা আক্রান্ত হলেও, এর ফলে আক্রমণকারী স্বয়ংক্রিয়ভাবে অনুমোদনহীনভাবে ইন্টারনেট বা অন্যান্য অভ্যন্তরীণ নেটওয়ার্কে প্রবেশাধিকার পাবে না।”
এই উন্নয়নের সবচেয়ে গুরুত্বপূর্ণ নিরাপত্তা ব্যবস্থা হলো নতুন পর্যবেক্ষণ ব্যবস্থা। এটি টুলের সম্পাদিত কার্যক্রম, পাওয়া যেতে পারে এমন চিন্তাপ্রক্রিয়ার ট্রেস এবং কার্যকলাপের লগ পরীক্ষা করে বিভিন্ন ধরনের অনুমোদনহীন আচরণ শনাক্ত করবে। OpenAI জানিয়েছে, সন্দেহজনক কার্যকলাপ শনাক্ত হওয়ার ৩০ মিনিটের মধ্যে সতর্কতা জারি করাই এর লক্ষ্য।
OpenAI-এর অনুমান, এই পর্যবেক্ষণ ব্যবস্থার প্রয়োজনীয় কম্পিউটিং সম্পদ পর্যবেক্ষণাধীন প্রক্রিয়ার নিজস্ব কম্পিউটিং সম্পদ ব্যবহারের প্রায় ২০ শতাংশের সমান। প্রতিষ্ঠানটি প্রতিশ্রুতি দিয়েছে, ভবিষ্যতে প্রকাশিত ব্লগ পোস্টে এই ব্যবস্থা সম্পর্কে আরও বিস্তারিত জানানো হবে।
এ ছাড়া, এই ঘটনা নিয়ে OpenAI-এর আনুষ্ঠানিক পরবর্তী বিশ্লেষণ প্রতিবেদনও এখনও প্রকাশিত হয়নি।