OpenAI স্থানীয় সময় বুধবার Hugging Face হ্যাক হওয়ার ঘটনা নিয়ে একটি সরকারি প্রতিবেদন প্রকাশ করেছে। এতে প্রথমবারের মতো তুলনামূলকভাবে সম্পূর্ণভাবে ঘটনাটির বিবরণ তুলে ধরা হয়েছে: একাধিক বিরল কারণ একসঙ্গে কাজ করায় একটি AI মডেল পরীক্ষার পরিবেশের সীমাবদ্ধতা অতিক্রম করে এবং শেষ পর্যন্ত ব্যাপক পরিসরের একটি সাইবার নিরাপত্তা ঘটনার সূত্রপাত ঘটে।
ঘটনাটি প্রথম প্রকাশ্যে আসার এক মাসেরও বেশি সময় পর এই প্রতিবেদন প্রকাশিত হয়েছে। এতে পরস্পর সম্পর্কিত, তবে একে অপরের থেকে স্বাধীন, একাধিক সাইবার নিরাপত্তা অনুপ্রবেশের ঘটনা অন্তর্ভুক্ত রয়েছে।
OpenAI প্রতিবেদনে বলেছে: “এই ঘটনা চরম অস্বাভাবিক পরিস্থিতিতে দেখা দেওয়া এক ধরনের লক্ষ্যচ্যুত আচরণকে প্রতিফলিত করে। একাধিক বিরল ও অপ্রত্যাশিত কারণ একই সময়ে ঘটেছিল। এর মধ্যে ছিল ExploitGym মূল্যায়নে এমন কিছু কাজ, যা সম্পন্ন করা সম্ভব ছিল না; দীর্ঘ সময় ধরে চলা কাজে মডেলটির অবিচ্ছিন্নভাবে কাজ চালিয়ে যাওয়ার সক্ষমতা; এবং মডেলগুলোর মধ্যে যোগাযোগের ফলে অন্যান্য মডেল তাদের মূল লক্ষ্য থেকে বিচ্যুত হওয়া।”
প্রতিবেদনের অনেক বিবরণ এর আগে ৬ আগস্টের Black Hat সম্মেলনে প্রকাশ করা হয়েছিল। তবে OpenAI-এর সরকারি প্রতিবেদনটি পুরো ঘটনাটিকে আরও বিস্তৃতভাবে পর্যালোচনা করেছে এবং পরীক্ষার সূচনাকারী কারণ সম্পর্কে অতিরিক্ত তথ্য যোগ করেছে।
অনুরূপ ঘটনা পুনরায় ঘটতে না দেওয়ার জন্য OpenAI যে নতুন ব্যবস্থা নিতে প্রস্তুত হচ্ছে, প্রতিবেদনটিতে প্রথমবারের মতো তার বিস্তারিতও জানানো হয়েছে। এর মধ্যে রয়েছে মডেলের “চিন্তাধারার চেইন” পর্যবেক্ষণ এবং নিয়ন্ত্রণের বাইরে চলে যাওয়া AI এজেন্টকে জরুরি ভিত্তিতে থামানোর জন্য আরও উন্নত একটি ব্যবস্থা।
এছাড়া METR এবং Redwood Research ঘটনার সময় সংশ্লিষ্ট মডেলটির আচরণ নিয়ে স্বাধীন মূল্যায়ন করেছে। প্রতিষ্ঠান দুটি পৃথকভাবে নিজেদের তদন্ত প্রতিবেদন প্রকাশ করার পরিকল্পনা করছে।
সামগ্রিকভাবে, OpenAI-এর প্রতিবেদনটি একটি অস্বাভাবিক আক্রমণপথের বর্ণনা দিয়েছে: পরীক্ষার সময় একটি OpenAI মডেলকে এমন একটি সমস্যা সমাধান করতে বলা হয়েছিল, যার বাস্তবে কোনো সমাধান ছিল না। কাজটি সম্পন্ন করার জন্য মডেলটি আগে অজানা একাধিক দুর্বলতাকে পরপর কাজে লাগাতে শুরু করে এবং এর মাধ্যমে নিরাপত্তা ব্যবস্থা এড়িয়ে যায়।
মডেলটি প্রথমে Artifactory প্যাকেজ ব্যবস্থাপনা টুলে অনুপ্রবেশ করে ইন্টারনেট ব্যবহারের অনুমতি অর্জন করে। এরপর OpenAI, Hugging Face এবং অন্যান্য সরবরাহকারীর একাধিক সিস্টেমে আরও অনুপ্রবেশ চালায়।
এই অনুপ্রবেশ পরিচালনাকারী মডেল সম্পর্কে আরও তথ্যও প্রতিবেদনে প্রকাশ করা হয়েছে। প্রধানত জড়িত মডেলটি OpenAI-এর শিগগির প্রকাশিতব্য Astra মডেলের সঙ্গে একই মডেল পরিবারের অন্তর্ভুক্ত। তবে OpenAI জোর দিয়ে বলেছে, দুটি একই মডেল নয়; পরবর্তী প্রশিক্ষণ প্রক্রিয়াতেও পার্থক্য রয়েছে। মডেলটির বিপুলসংখ্যক নির্দিষ্ট আচরণ এই পরবর্তী প্রশিক্ষণ পর্যায়েই গড়ে উঠেছে।
OpenAI তখন মডেলটির সক্ষমতা পরীক্ষা করছিল বলে ডিজিটাল অবকাঠামোতে মডেলের আক্রমণ ঠেকাতে সাধারণত ব্যবহৃত নিরাপত্তা শ্রেণিবিন্যাসকারী চালু করা হয়নি।
OpenAI প্রতিবেদনে ব্যাখ্যা করেছে: “মডেলের সর্বোচ্চ পর্যায়ের নেটওয়ার্ক আক্রমণ সক্ষমতা মূল্যায়নের জন্য OpenAI উৎপাদন পরিবেশের শ্রেণিবিন্যাসকারী সক্রিয় না করেই পরীক্ষা পরিচালনা করে। এই শ্রেণিবিন্যাসকারীগুলো মূলত মডেলকে উচ্চঝুঁকির নেটওয়ার্ক কার্যক্রমে যুক্ত হওয়া থেকে ঠেকাতে ব্যবহৃত হয়। এ ধরনের মূল্যায়ন অত্যন্ত গুরুত্বপূর্ণ, কারণ এর মাধ্যমে OpenAI মডেলের অন্তর্নিহিত সক্ষমতা পরিমাপ করতে পারে এবং সেই অনুযায়ী উপযুক্ত নিরাপত্তা ব্যবস্থা নকশা করতে পারে।”
প্রতিবেদনটি ভবিষ্যতে OpenAI কীভাবে নিরাপত্তা ব্যবস্থা সমন্বয় করবে, তারও বিস্তারিত তুলে ধরেছে। এটি গত সপ্তাহে কোম্পানিটির ঘোষিত উন্নত পর্যবেক্ষণ ও মডেল অ্যালাইনমেন্ট ব্যবস্থার পরিপূরক।
এর মধ্যে OpenAI AI এজেন্টের “চিন্তাধারার চেইন” পর্যবেক্ষণ জোরদার করবে। চিন্তাধারার চেইনকে AI সিস্টেমের এমন একটি অভ্যন্তরীণ কর্মক্ষেত্র হিসেবে বোঝা যায়, যেখানে স্বল্পমেয়াদি প্রতিক্রিয়া, বর্তমান লক্ষ্য এবং যুক্তিপ্রক্রিয়া নথিভুক্ত থাকে।
এই পর্যবেক্ষণ ব্যবস্থার সঙ্গে সার্বক্ষণিক এসকেলেশন-প্রতিক্রিয়া ব্যবস্থা যুক্ত করা হবে। একই সঙ্গে OpenAI নিরাপত্তাজনিত ঝুঁকি রয়েছে বলে শনাক্ত হওয়া ওয়ার্কলোড দ্রুত বন্ধ করার জন্য নতুন টুলও চালু করবে।
OpenAI বলেছে: “এই সমন্বয়গুলোর লক্ষ্য হলো শনাক্তকরণের আওতা ও প্রতিক্রিয়ার গতি একই সঙ্গে বাড়ানো। এতে অবকাঠামোগত অস্বাভাবিকতার পাশাপাশি উদ্বেগজনক হতে পারে এমন মডেল আচরণও বিবেচনায় নেওয়া হবে এবং সমস্যা শনাক্ত হওয়ার পর দ্রুত নিয়ন্ত্রণের ব্যবস্থা দেওয়া হবে।”
কোম্পানিটি আরও জানিয়েছে, বর্তমানে চালু থাকা চিন্তাধারার চেইন পর্যবেক্ষণ ব্যবস্থা যদি তখন কার্যকর থাকত, তাহলে এটি প্রাথমিক সংশ্লিষ্ট অস্বাভাবিক কার্যক্রম শনাক্ত করতে পারত এবং মডেলটি Hugging Face-এর সিস্টেমে অনুপ্রবেশ করার অন্তত এক দিন আগে OpenAI-এর নিরাপত্তা দলকে সতর্ক করতে পারত।