OpenAI Codex দলের প্রধান থিবো সোতিও (Thibault Sottiaux) আজ X প্ল্যাটফর্মে একটি দীর্ঘ পোস্ট প্রকাশ করে Codex-এ GPT-5.6 সিরিজের মডেল ব্যবহারের পর কিছু ব্যবহারকারীর ফাইল ভুলবশত মুছে যাওয়ার সমস্যার জবাব দিয়েছেন।
সোতিও জানান, কয়েক সপ্তাহ আগে থেকে অল্প কিছু Codex ব্যবহারকারীর কাছ থেকে ধারাবাহিকভাবে প্রতিক্রিয়া পাওয়া যাচ্ছে। Codex-এ GPT-5.6 সিরিজের মডেল ব্যবহারের পর মডেলটি ব্যবহারকারীর অনুমোদনহীন ধ্বংসাত্মক কার্যক্রম সম্পাদন করেছে। OpenAI发现, অস্থায়ী ফাইল পরিষ্কার করার কথা থাকা কমান্ডটি ভুল করে ব্যবহারকারীর ফাইল মুছে ফেলেছে।
এর একটি কারণ হলো, অস্থায়ী কাজের সময় Codex $HOME-এর মতো সিস্টেম এনভায়রনমেন্ট ভেরিয়েবল পুনরায় ব্যবহার করত। ফলে ভুল ক্লিনআপ কমান্ড প্রকৃত ব্যবহারকারীর হোম ডিরেক্টরিতে নির্দেশ করতে পারত। কিছু ক্ষেত্রে, মডেলটি অস্থায়ী পাথ মুছে ফেলা বা ওভাররাইট করার চেষ্টা করত, কিন্তু ওই পাথে আগে থেকেই থাকা বিষয়বস্তু পরীক্ষা করত না। সংশ্লিষ্ট স্ক্রিনশট নিচে দেওয়া হলো:
এ বিষয়ে সোতিও জানান, একাধিক স্তরের সুরক্ষা ব্যবস্থা যোগ করা হয়েছে:
Codex-কে এখন কার্যক্রম সম্পাদনের আগে মুছে ফেলার লক্ষ্যবস্তু পরীক্ষা করতে, নতুন অস্থায়ী ডিরেক্টরি তৈরি করতে, সিস্টেম এনভায়রনমেন্ট ভেরিয়েবল পুনরায় ব্যবহার এড়াতে, পুনরুদ্ধারযোগ্য কার্যক্রমকে অগ্রাধিকার দিতে এবং পরিধি অস্পষ্ট হলে কার্যক্রম বন্ধ করতে স্পষ্টভাবে নির্দেশ দেওয়া হয়েছে।
OpenAI এক্সিকিউশন চেক জোরদার করেছে, উচ্চঝুঁকির মুছে ফেলার কমান্ড শনাক্তকরণ উন্নত করেছে এবং সেগুলো পর্যালোচনার জন্য রিপোর্ট করার ব্যবস্থা করেছে। কোনো কমান্ড প্রত্যাখ্যাত হলে মডেল আরও নিরাপদ পদ্ধতি গ্রহণ করবে।
OpenAI-এর পক্ষ থেকে দুর্ঘটনাবশত সম্পূর্ণ অ্যাক্সেসের অনুমতি সক্রিয় করা আরও কঠিন করা হয়েছে, আরও স্পষ্ট সতর্কবার্তা যোগ করা হয়েছে এবং বিশেষভাবে বিপজ্জনক অনুমতিগুলোর সমন্বয় আরও সীমিত করা হয়েছে।
ধ্বংসাত্মক আচরণ আরও ভালোভাবে শনাক্ত করতে OpenAI স্বয়ংক্রিয় পর্যালোচনা সুবিধা আপডেট করেছে।
আমরা যে ব্যর্থতার ঘটনাগুলো পর্যবেক্ষণ করেছি, সেগুলো পুনরায় তৈরি করতে OpenAI লক্ষ্যভিত্তিক মূল্যায়ন মডেল তৈরি করেছে। পাশাপাশি, এসব ঝুঁকির ওপর কেন্দ্রীভূত শক্তিবর্ধনমূলক শেখার কাজ ও স্কোরার যোগ করা হয়েছে এবং প্রশিক্ষণ ডেটা থেকে ধ্বংসাত্মক আচরণ বাদ দেওয়া হয়েছে।