AI মডেল ব্যবহার করে অন্য AI মডেল প্রশিক্ষণ দেওয়া নতুন প্রজন্মের AI গবেষণাগারগুলোর অনুসন্ধানের অন্যতম প্রধান দিক হয়ে উঠছে। স্থানীয় সময় অনুযায়ী ২৮ তারিখে, Anthropic-এর গবেষণা কর্মসূচির এক গবেষক দেখিয়েছেন, এই ধারণাটি বাস্তবে প্রয়োগ হলে তার রূপ কেমন হতে পারে।
Anthropic তাদের সর্বশেষ গবেষণাপত্র《স্বয়ংক্রিয় গবেষকেরা নির্ভরযোগ্যভাবে অ্যালাইনমেন্ট ব্যর্থতা প্রশমিত করতে পারে》প্রকাশ করেছে। এতে একাধিক অ্যালাইনমেন্ট বেঞ্চমার্ক পরীক্ষায় মডেলের ফল উন্নত করতে কীভাবে AI ব্যবস্থা ব্যবহার করা যায়, তা তুলে ধরা হয়েছে। গবেষণা দল ১০ ধরনের নির্দিষ্ট অ্যালাইনমেন্ট-বিচ্যুত আচরণের জন্য পরীক্ষা নির্ধারণ করে। স্বয়ংক্রিয় ব্যবস্থা শেষ পর্যন্ত ১০টি সূচকেই উন্নতি ঘটায়, মডেলের সামগ্রিক সক্ষমতার কোনো ক্ষতি না করেই।
এই ব্যবস্থাটি Anthropic-এর গবেষণা কর্মসূচির সদস্য চেন ইউহান (ধ্বনিগত অনুবাদ)-এর নেতৃত্বে তৈরি হয়েছে এবং এর কার্যপ্রবাহ প্রচলিত বৈজ্ঞানিক গবেষণার মতোই। স্বয়ংক্রিয় ব্যবস্থা প্রথমে বিদ্যমান গবেষণাপত্র পর্যালোচনা করে, প্রশিক্ষণ পদ্ধতি প্রস্তাব করে, তারপর সেই পরিকল্পনা অনুযায়ী ৩০ মিনিট ধরে মডেল প্রশিক্ষণ দেয় এবং একাধিক প্রচেষ্টার মাধ্যমে ধীরে ধীরে পরীক্ষার ফল উন্নত করে। কার্যকর পদ্ধতিগুলো রাখা হয়, আর অকার্যকর পদ্ধতিগুলো বাদ দেওয়া হয়, ফলে পুরো গবেষণা প্রক্রিয়াটি দ্রুত বড় পরিসরে চালানো সম্ভব হয়।
গবেষণাপত্রে বলা হয়েছে, সামগ্রিকভাবে এই ফলাফলগুলো প্রাথমিকভাবে প্রমাণ করে যে স্বয়ংক্রিয় অ্যালাইনমেন্ট-পরবর্তী প্রশিক্ষণ অদূর ভবিষ্যতে সত্যিকারের কার্যকর একটি পদ্ধতিতে পরিণত হতে পারে।
এই গবেষণা পুনরাবৃত্তিমূলক স্ব-উন্নতির দিকেও এক ধাপ এগিয়ে গেল, যাকে অনেকে AI বিকাশের পরবর্তী গুরুত্বপূর্ণ পর্যায় হিসেবে দেখেন। AI মডেল যদি নিজেদের অ্যালাইনমেন্ট প্রশিক্ষণ পদ্ধতি উন্নত করতে পারে, তাহলে আরও বিস্তৃত প্রশিক্ষণ প্রক্রিয়ার উন্নতিও অসম্ভব নয়। সেই পর্যায়ে মানব AI গবেষকদের প্রয়োজনীয়তা ধীরে ধীরে কমে যেতে পারে।
গবেষণাপত্রে স্বয়ংক্রিয় অ্যালাইনমেন্ট গবেষক (AAR) এবং মানব গবেষকদের ফলাফলের সরাসরি তুলনাও করা হয়েছে: “সেরা AAR পদ্ধতিগুলোর গড়ে মাত্র ৬ ঘণ্টা সময় লাগে অভিজ্ঞ মানব গবেষকদের প্রস্তাবিত পদ্ধতিকে ছাড়িয়ে যেতে। মানব-নির্দেশিত গবেষণার দিকগুলো আরও শক্তিশালী ফল বয়ে আনে না।”
খরচের পার্থক্যও স্পষ্ট। “AAR-এর প্রতি ঘণ্টায় API অনুমান-খরচ প্রায় ৪ ডলার (দ্রষ্টব্য: বর্তমান বিনিময় হারে প্রায় ২৭ চীনা ইউয়ান), যেখানে মানব গবেষকদের আমরা প্রতি ঘণ্টায় ১৫০ ডলার (বর্তমান বিনিময় হারে প্রায় ১,০১১ চীনা ইউয়ান) প্রদান করি।”
তবে এই পদ্ধতির এখনও স্পষ্ট কিছু সীমাবদ্ধতা রয়েছে। স্বয়ংক্রিয় ব্যবস্থার কার্যকারিতা প্রথমত নির্ভর করে বেঞ্চমার্ক পরীক্ষা প্রকৃত অ্যালাইনমেন্ট লক্ষ্যকে সঠিকভাবে প্রতিফলিত করতে পারে কি না তার ওপর। পরীক্ষা নিজেই নির্ভরযোগ্য হলেও এসব বেঞ্চমার্ক তৈরি ও দীর্ঘমেয়াদে রক্ষণাবেক্ষণের জন্য এখনও ব্যাপক বিনিয়োগ প্রয়োজন। স্বয়ংক্রিয় গবেষকেরা যে গবেষণাপত্রের ওপর নির্ভর করে, সেগুলোকেও নিয়মিত রক্ষণাবেক্ষণ ও সম্প্রসারণ করতে হবে।
তথ্যসূত্র
Automated researchers can reliably mitigate alignment failures