গতকাল ওয়্যার্ড ম্যাগাজিনের প্রতিবেদন অনুযায়ী, মার্কিন সাইবার নিরাপত্তা স্টার্টআপ Frontier Security জানিয়েছে, তারা চাঁদের অন্ধকারের Kimi K3 মডেলের সাইবার নিরাপত্তা সক্ষমতা পরীক্ষা করার সময় মডেলটি তাকে নিয়ন্ত্রণকারী স্যান্ডবক্স পরিবেশ ছেড়ে বেরিয়ে যায়।
প্রতিবেদন অনুযায়ী, এই AI পালানোর ঘটনার সরাসরি কারণ OpenAI ও Anthropic-এর অনুরূপ ঘটনাগুলোর মতোই ছিল: মডেলকে বিচ্ছিন্ন রাখার জন্য ব্যবহৃত স্যান্ডবক্সের কনফিগারেশনে ভুল ছিল। Frontier Security মনে করে, অন্যান্য শীর্ষস্থানীয় AI মডেলের তুলনায় Kimi-তে নেটওয়ার্ক সুরক্ষা ব্যবস্থা অনুপস্থিত, যার ফলে মডেলটি স্পষ্ট অনুমোদন ছাড়াই ইন্টারনেটে প্রবেশ করতে পেরেছে।
Frontier Security-এর প্রধান নির্বাহী কর্মকর্তা Yaron Singer এ বিষয়ে বলেন: “আমরা স্যান্ডবক্সে একটি দুর্বলতা খুঁজে পেয়েছি, কিন্তু Kimi-ও সেই দুর্বলতাটি কাজে লাগিয়েছে। এটি ইঙ্গিত করে যে একই স্তরের অন্যান্য মডেলের মতো এর অভ্যন্তরীণ নিরাপত্তা ব্যবস্থা হয়তো নেই।”
তবে Kimi K3 স্যান্ডবক্স ভেঙে ইন্টারনেট ব্যবহারের অনুমতি পাওয়ার পর কোনো আক্রমণ চালায়নি; এটি শুধু GitHub-এ একটি প্রশ্নের উত্তর খুঁজছিল।
সাম্প্রতিক সময়ে ক্রমবর্ধমান AI পালানোর ঘটনাগুলো দেখাচ্ছে, AI যত বেশি সক্ষম হয়, মানুষের পক্ষে তাকে নিয়ন্ত্রণ করা তত কঠিন হয়ে ওঠে। OpenAI গত মাসে প্রকাশ করেছিল, তাদের অভ্যন্তরীণ একটি অপ্রকাশিত মডেল পরীক্ষার সময় বিচ্ছিন্ন পরিবেশ ভেঙে বেরিয়ে এসে পরে Hugging Face প্ল্যাটফর্মে আক্রমণ চালিয়েছিল। এরপর Anthropic-ও জানায়, নিরাপত্তা পরীক্ষার সময় তাদের একাধিক মডেল ইন্টারনেট ব্যবহারের অনুমতি পেয়েছিল এবং বাহ্যিক সিস্টেমে আক্রমণ চালিয়েছিল।
কিছু সাইবার নিরাপত্তা বিশেষজ্ঞের মতে, এই আবিষ্কার দেখায় যে শীর্ষস্থানীয় AI মডেলগুলোর জন্য মানুষকে স্যান্ডবক্স পরিবেশ নতুন করে কনফিগার করতে হবে। পাশাপাশি OpenClaw (দ্রষ্টব্য: প্রচলিতভাবে ‘লবস্টার’ নামে পরিচিত)–এর মতো এজেন্ট ব্যবহারকারীদেরও পরিবেশ সতর্কতার সঙ্গে কনফিগার করতে হবে, যাতে AI সীমা অতিক্রম করতে না পারে।