OpenAI জানিয়েছে, অভ্যন্তরীণ ও বিশেষজ্ঞদের মূল্যায়নে দেখা গেছে, শিগগির প্রকাশিতব্য Astra মডেলটি এজেন্ট-ভিত্তিক প্রোগ্রামিং ও সাইবার নিরাপত্তার ক্ষেত্রে বড় ধরনের অগ্রগতি অর্জন করেছে। তাদের《প্রস্তুতি কাঠামো》（Preparedness Framework）অনুযায়ী, Astra হলো OpenAI-এর প্রথম মডেল, যা সাইবার নিরাপত্তার ক্ষেত্রে “ক্রিটিক্যাল”（Critical）ঝুঁকি স্তরে পৌঁছেছে।
দ্রষ্টব্য: ওই কাঠামো অনুযায়ী, AI মডেল নিচের যেকোনো একটি শর্ত পূরণ করলেই “ক্রিটিক্যাল” সীমায় পৌঁছে যায়:
মানবীয় হস্তক্ষেপ ছাড়াই জিরো-ডে দুর্বলতা শনাক্ত ও কাজে লাগানো: কোনো মানবীয় হস্তক্ষেপ ছাড়াই একাধিক নিরাপত্তা-সুরক্ষিত বাস্তব গুরুত্বপূর্ণ সিস্টেমে বিভিন্ন মাত্রার কার্যকর জিরো-ডে এক্সপ্লয়ট শনাক্ত ও তৈরি করতে সক্ষম হওয়া।
স্বায়ত্তশাসিতভাবে এন্ড-টু-এন্ড আক্রমণ শুরু করা: কেবল উচ্চপর্যায়ের কৌশলগত লক্ষ্য প্রদান করলেই সুরক্ষিত লক্ষ্যবস্তুর বিরুদ্ধে স্বায়ত্তশাসিতভাবে নতুন এন্ড-টু-এন্ড সাইবার আক্রমণ পরিকল্পনা ও বাস্তবায়ন করতে সক্ষম হওয়া।
OpenAI বিশেষভাবে জোর দিয়ে জানিয়েছে, Astra এখনো প্রকাশিত না হওয়া একটি মডেল এবং Hugging Face-এর বিরুদ্ধে আগের সাইবার আক্রমণের ঘটনায় এটি জড়িত ছিল না।
পরবর্তী উন্নয়ন নিরাপদ ও নীতিসম্মতভাবে নিশ্চিত করতে OpenAI ঘোষণা করেছে যে তারা একাধিক নিয়ন্ত্রণমূলক ব্যবস্থা গ্রহণ করেছে:
উচ্চক্ষমতাসম্পন্ন মডেল ও সংশ্লিষ্ট গবেষণা কার্যক্রমে আরও কঠোর নিরাপত্তা নিয়ন্ত্রণ প্রয়োগ করা হয়েছে। এর মধ্যে রয়েছে বিচ্ছিন্ন পরীক্ষার পরিবেশ স্থাপন, নেটওয়ার্ক ও টুল ব্যবহারের অনুমতি সীমিত করা, মডেলের ওজন সুরক্ষা ও এনক্রিপশন জোরদার করা, অতিরিক্ত পর্যবেক্ষণ ও শনাক্তকরণ সক্ষমতা চালু করা এবং স্যান্ডবক্সভিত্তিক পরিচালনা; একই সঙ্গে, উপরোক্ত শক্তিশালী নিরাপত্তা মানদণ্ড পূরণ না করা Astra-সংশ্লিষ্ট অভ্যন্তরীণ সব কার্যক্রম স্থগিত করা হয়েছে।
Astra-এর সব এজেন্ট অ্যাপ্লিকেশনে, যার মধ্যে প্রশিক্ষণ ও মূল্যায়ন পর্যায়ও রয়েছে, উচ্চঝুঁকির আচরণ ও অ্যালাইনমেন্ট ব্যর্থতা অন্তর্ভুক্ত করে বৈশ্বিক পর্যবেক্ষণ ব্যবস্থা চালু করা হয়েছে। মডেলের চিন্তন-শৃঙ্খল (CoT) পর্যালোচনার মাধ্যমে উচ্চঝুঁকির কার্যক্রম মূল্যায়ন ও প্রতিহত করা হচ্ছে।
সংশ্লিষ্ট সরকারি সংস্থা ও নির্ধারিত AI নিরাপত্তা সংগঠনগুলোর সঙ্গে সহযোগিতা করে মডেলটি যৌথভাবে পরীক্ষা করা হচ্ছে; তৃতীয় পক্ষের পরীক্ষামূলক অংশীদারদের সুপারিশকৃত নিরাপত্তা নিয়ন্ত্রণের নির্দেশিকা দেওয়া হয়েছে, যাতে উচ্চঝুঁকির মূল্যায়ন ও কাজের চাপ নিরাপদ অবস্থায় পরিচালিত হতে পারে।
OpenAI-এর প্রধান নির্বাহী স্যাম অল্টম্যান (Sam Altman) পরে বলেন, Astra একটি শক্তিশালী পারফরম্যান্সের মডেল এবং আমরা এটি সর্বসাধারণের জন্য প্রকাশ করতে সর্বাত্মকভাবে কাজ করছি।
আমরা সবসময় মনে করি, শীর্ষস্থানীয় মডেলগুলোকে অল্প কয়েকজনের মধ্যে সীমাবদ্ধ রাখা ভালো কৌশল নয়।
তবে সাইবার নিরাপত্তার ক্ষেত্রে এর শক্তিশালী সক্ষমতার কারণে, সবকিছু নিখুঁতভাবে নিশ্চিত করতে আমাদের আরও কিছুটা সময় প্রয়োজন। আশা করি, সবাইকে খুব বেশি দিন অপেক্ষা করতে হবে না!
