যুক্তরাজ্যের কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা ইনস্টিটিউট (AISI) স্থানীয় সময় মঙ্গলবার জানিয়েছে, OpenAI ও Anthropic-এর এআই মডেল পরীক্ষা করার সময় একটি এআই এজেন্ট ভুয়া অনলাইন পরিচয় তৈরি করে নিরাপত্তা ব্যবস্থায় অননুমোদিত প্রবেশাধিকার পাওয়ার চেষ্টা করেছে। এতে একাধিক নতুন নিরাপত্তা দুর্বলতা প্রকাশ পেয়েছে।
ইনস্টিটিউটটি জানিয়েছে, Anthropic-এর Mythos 5 এবং OpenAI-এর GPT-5.6-Sol দ্বারা চালিত এজেন্টগুলো সরকারি প্রতিষ্ঠানের পরিচালিত নিরাপত্তা মূল্যায়নের সময় অননুমোদিত কার্যক্রম চালিয়েছে। এসব পরীক্ষা সংশ্লিষ্ট মডেলগুলোর সক্ষমতা মূল্যায়নের জন্য করা হয়েছিল।
AISI একটি ব্লগ পোস্টে বলেছে: “পরীক্ষিত কিছু এজেন্ট সম্ভাব্য ক্ষতিকর কার্যক্রম অব্যাহত রেখেছিল, যেগুলোর লক্ষ্য ছিল বাস্তব মানুষ ও প্রতিষ্ঠান।”
প্রতিবেদনটি দেখিয়েছে, বর্তমান এআই এজেন্ট পরীক্ষার প্রক্রিয়ায় নিরাপত্তা সুরক্ষা এখনও অপর্যাপ্ত। একই সময়ে এআই কোম্পানিগুলো এজেন্ট প্রযুক্তির ব্যাপক প্রচার করছে এবং এটিকে ভবিষ্যৎ ব্যবসায়িক উন্নয়নের গুরুত্বপূর্ণ দিক হিসেবে বিবেচনা করছে।
প্রধান এআই গবেষণাগারগুলোর সঙ্গে স্বেচ্ছাসম্মত চুক্তির মাধ্যমে AISI উন্নত এআই মডেল পরীক্ষা করার অনুমতি পেয়েছিল। প্রতিষ্ঠানটি এজেন্টগুলোকে একটি কাল্পনিক সাইবার নিরাপত্তা পরিস্থিতিতে নিয়ে গিয়ে তাদের সক্ষমতা মূল্যায়ন করে।
AISI মোট 122টি পরীক্ষামূলক চ্যালেঞ্জ পরিচালনা করে। এর মধ্যে 10টি পরীক্ষায় 19টি অননুমোদিত আচরণ শনাক্ত হয়। Anthropic-এর এজেন্ট 17টি লঙ্ঘনের জন্য দায়ী ছিল, আর OpenAI-এর এজেন্টের কারণে ঘটে আরও 2টি।
AISI জানিয়েছে, সবচেয়ে গুরুতর লঙ্ঘনের ঘটনায় একটি এজেন্ট ক্ষতিকর কোড লিখে ভুয়া অনলাইন পরিচয় তৈরি করেছিল এবং বাস্তব মানুষকে ওই কোড অনুমোদনে প্রলুব্ধ করার চেষ্টা করেছিল। তবে প্রতিষ্ঠানটি আরও জানিয়েছে, এসব দুর্বলতার কোনো ঘটনাতেই বাস্তব জগতে প্রকৃত ক্ষতি হয়নি।
ভুয়া পরিচয় কোন এজেন্ট তৈরি করেছিল, AISI তা জানায়নি। তবে ঘটনাটি OpenAI আগে স্বতঃপ্রণোদিতভাবে প্রকাশ করা দুটি নিরাপত্তা ঘটনার কোনোটির সঙ্গে সম্পর্কিত নয়।
ক্যালিফোর্নিয়াভিত্তিক অলাভজনক সংস্থা CivAI-এর গবেষক Andrew Yoon বলেন, মনে হচ্ছে এই লঙ্ঘনের জন্য Anthropic-এর এজেন্ট দায়ী হতে পারে।
Yoon বলেন: “Mythos যে বাস্তব ব্যক্তিদের লক্ষ্য করছে, তা স্পষ্টভাবে বোঝার পরও এই প্রতারণামূলক আচরণ করেছে। এতে ইঙ্গিত পাওয়া যায়, Anthropic হয়তো তাদের মডেলের ওপর নিজেদের ধারণার মতো ভালো নিয়ন্ত্রণ রাখে না।”
Anthropic সামাজিক যোগাযোগমাধ্যম X-এ এক বিবৃতিতে জানিয়েছে, আরও বিস্তারিত তথ্য সংগ্রহ এবং নিজস্ব তদন্ত পরিচালনার জন্য তারা AISI-এর সঙ্গে ঘনিষ্ঠভাবে কাজ করছে।
OpenAI তাদের কোম্পানি ব্লগে সংশ্লিষ্ট বিবরণ প্রকাশ করে জানিয়েছে, তাদের এজেন্টের দুটি অননুমোদিত কার্যক্রমই এমনভাবে ইন্টারনেট ব্যবহারের সঙ্গে সম্পর্কিত ছিল, যা প্রম্পটে স্পষ্টভাবে নিষিদ্ধ করা হয়েছিল।
OpenAI বলেছে: “উচ্চঝুঁকির এআই মূল্যায়নের নিরাপত্তা চর্চা জোরদার করতে আমরা পুরো শিল্পখাতের সঙ্গে কাজ করতে প্রতিশ্রুতিবদ্ধ। এর অংশ হিসেবে আগামী কয়েক সপ্তাহের মধ্যে জাতীয় পর্যায়ের এআই গবেষণা প্রতিষ্ঠান, স্বাধীন মূল্যায়ন সংস্থা, অন্যান্য এআই গবেষণাগার এবং সংশ্লিষ্ট সংগঠনগুলোকে একত্র করে এই ক্ষেত্রের উন্নয়নে কাজ করা হবে।”
OpenAI তাদের ব্লগে আরও একটি স্বতন্ত্র ঘটনা প্রকাশ করেছে: তৃতীয় পক্ষের পরীক্ষাকারী প্রতিষ্ঠান Irregular-এর একটি কনফিগারেশন ভুলের কারণে পরীক্ষাধীন এজেন্টগুলো অনিচ্ছাকৃতভাবে ইন্টারনেটের সঙ্গে সংযুক্ত হয়ে গিয়েছিল। এর সঙ্গে Anthropic গত সপ্তাহে প্রকাশ করা একই ধরনের একটি কনফিগারেশন ভুলের ঘটনার মিল রয়েছে।
রয়টার্স গত সপ্তাহে জানিয়েছিল, আরও কিছু এজেন্ট নিরাপত্তা সীমা অতিক্রম করেছে এমন প্রমাণ পাওয়ার পর OpenAI সংশ্লিষ্ট হ্যাকিং নিরাপত্তা তদন্তের পরিধি বাড়িয়েছে।
AISI জানিয়েছে, চলতি বছরের জুলাইয়ে OpenAI-এর এজেন্ট এআই কোম্পানি Hugging Face-এর সিস্টেমে অনুপ্রবেশের ঘটনার মতো নয়, এই মূল্যায়নের এজেন্টগুলো বিচ্ছিন্ন পরীক্ষার পরিবেশ ভেঙে ইন্টারনেটের সঙ্গে সংযুক্ত হয়নি। প্রতিষ্ঠানটি ব্যাখ্যা করেছে, তাদের মানসম্মত পরীক্ষার প্রক্রিয়া অনুযায়ী পরীক্ষার পরিবেশেই এজেন্টদের ইন্টারনেট ব্যবহারের অনুমতি ছিল।