কৃত্রিম বুদ্ধিমত্তা প্রতিষ্ঠান Anthropic স্থানীয় সময় ৩০ তারিখে একটি ঘোষণা প্রকাশ করে জানায়, তাদের Claude-এর সাইবার নিরাপত্তা মূল্যায়ন পর্যালোচনার সময় এমন তিনটি বাস্তব সাইবার নিরাপত্তা ঘটনা শনাক্ত হয়েছে, যেগুলো ঘটা উচিত ছিল না। এর সরাসরি কারণ ছিল তৃতীয় পক্ষের মূল্যায়ন পরিবেশের ভুল কনফিগারেশন।
এই তিনটি ঘটনায় Anthropic-এর মডেলগুলোকে সীমাহীন “ক্যাপচার দ্য ফ্ল্যাগ” সাইবার আক্রমণের কাজ দেওয়া হয়েছিল। নিরাপত্তা নিশ্চিত করতে এ ধরনের কাজের পরীক্ষার পরিবেশ বাস্তব ইন্টারনেট থেকে বিচ্ছিন্ন থাকা প্রয়োজন। কিন্তু Anthropic এবং মূল্যায়ন সহযোগী Irregular-এর মধ্যে ভুল বোঝাবুঝির কারণে মূল্যায়ন করা মডেলগুলোকে বাস্তব ইন্টারনেটে প্রবেশাধিকার দেওয়া হয়।
প্রথম ঘটনায় Claude Opus 4.7 কাল্পনিক লক্ষ্যটির সঙ্গে একই নামের একটি বাস্তব কোম্পানিকে কাজের লক্ষ্য হিসেবে ধরে নিয়ে তার অবকাঠামোতে প্রবেশ করে এবং পরিচয়পত্র ও ডেটাবেসের তথ্য সংগ্রহ করে। এটিই ছিল সবচেয়ে গুরুতর ঘটনা। মডেলটি যে বাস্তব সিস্টেমে রয়েছে তা বুঝতে পারার পরও আক্রমণ চালিয়ে যায়।
দ্বিতীয় ঘটনায় Claude Mythos 5 কাজটি সম্পন্ন করতে একটি ক্ষতিকর Python প্যাকেজ বাস্তব PyPI-তে প্রকাশ করে। এই ক্ষতিকর ফাইলটি ১৫টি বাস্তব সিস্টেমে ডাউনলোড করা হয়, যার ফলে পরিচয়পত্র চুরি হয়। মডেলটি অল্প সময়ের জন্য বুঝতে পেরেছিল, “এটি যদি বাস্তব ইন্টারনেট হয়, তাহলে খুব খারাপ হবে,” কিন্তু নিজেকে বোঝায় যে এটি এখনও সিমুলেশনের অংশ।
Anthropic-এর অভ্যন্তরীণ একটি গবেষণা পরীক্ষামূলক মডেল তুলনামূলকভাবে কিছুটা ভালো আচরণ করে। এটি প্রায় ৯০০০টি লক্ষ্য স্ক্যান করে, সাধারণ পদ্ধতিতে একটি বাস্তব কোম্পানির সিস্টেমে প্রবেশ করে। পরে এটি বুঝতে পারে যে পরিবেশটি বাস্তব, এবং নিজে থেকেই আক্রমণ বন্ধ করে দেয়।
Anthropic জানায়, ঘটনার সঙ্গে জড়িত কোনো মডেলেই আনুষ্ঠানিকভাবে প্রকাশের সময় ব্যবহৃত মানসম্মত নিরাপত্তা ব্যবস্থা সক্রিয় ছিল না, তবে সবগুলোই নির্দিষ্ট নিরাপত্তা প্রশিক্ষণ পেয়েছিল। এসব আক্রমণে কেবল কিছু মৌলিক কৌশল ব্যবহার করা হয়েছিল। মডেলগুলো কোনো জটিল দুর্বলতা শনাক্ত বা কাজে লাগায়নি, নিজেদের পরীক্ষার পরিবেশ থেকে বাইরে নিয়ে যাওয়ার বা ইচ্ছাকৃতভাবে পালানোরও চেষ্টা করেনি।