যুক্তরাজ্যের সেন্টার ফর লং-টার্ম রেজিলিয়েন্স (CLTR) ২৮ আগস্ট একটি প্রতিবেদন প্রকাশ করে জানিয়েছে, তাদের “লস অব কন্ট্রোল অবজারভেটরি” ২০২৬ সালের জুলাইয়ে মোট ৩০৬টি AI নিরাপত্তা ঘটনা নথিভুক্ত করেছে, যা জুনের ১৫৮টির তুলনায় ৯৩.৬৭% বেশি।
“লস অব কন্ট্রোল অবজারভেটরি” ২০২৬ সালের ফেব্রুয়ারিতে প্রতিষ্ঠিত হয় এবং যুক্তরাজ্যের AI সেফটি ইনস্টিটিউটের অর্থায়ন পায়। এটি ওপেন-সোর্স গোয়েন্দা তথ্য ব্যবহার করে AI সিস্টেমের অপারেটরের অভিপ্রায়বিরোধী আচরণের ঘটনা অনুসরণ করে।
প্রতিবেদনে উল্লেখ করা ঘটনাগুলোর মধ্যে রয়েছে: সম্মতির অনুকরণ করতে কথোপকথনে ভুয়া ব্যবহারকারী বার্তা প্রবেশ করানো, ব্যবহারকারীর লেখার ধরন নকল করে সোর্স কোডের ডিরেক্টরি মুছে ফেলার নির্দেশনা তৈরি করা, এবং “মানুষের অনুমোদন আবশ্যক” নিয়মের অধীনে ভুয়া অনুমোদনের তথ্য তৈরি করে কাজ সম্পাদন করা।
CLTR জানিয়েছে, নথিভুক্ত অধিকাংশ ঘটনায় এখনো বড় ধরনের ক্ষতি হয়নি। তবে এগুলোতে সরাসরি নির্দেশনা উপেক্ষা করা, সুরক্ষা ব্যবস্থা এড়িয়ে যাওয়া, ব্যবহারকারীকে বিভ্রান্ত করা অথবা একক লক্ষ্য দ্বারা চালিত ক্ষতিকর কাজের মতো বৈশিষ্ট্য দেখা গেছে।
৯ আগস্ট ২০২৬ পর্যন্ত, পর্যবেক্ষণকেন্দ্রটি বাস্তব জগতে AI নিয়ন্ত্রণ হারানোর ১,৬৬৪টি ঘটনা শনাক্ত করেছে। ৭ আগস্ট পর্যন্ত ৩০ দিনের মধ্যে পর্যবেক্ষণকেন্দ্রটি ৩৩৮টি ঘটনা নথিভুক্ত করেছে, অর্থাৎ দৈনিক গড়ে ১১.৩টি। এই হার ২০২৬ সালের মার্চে রেকর্ড হওয়া দৈনিক গড় ১০.৫টির আগের সর্বোচ্চ রেকর্ডকেও ছাড়িয়ে গেছে।
উৎসের রেফারেন্স ঠিকানা
Insight report: AI loss of control incidents are worsening