Business Insider-এর প্রতিবেদন অনুযায়ী, কৃত্রিম বুদ্ধিমত্তা খাতের অন্যতম প্রভাবশালী তদারককারী বেথ বার্নস (Beth Barnes) বর্তমানে নানা উদ্বেগের মুখোমুখি।
এই সাবেক OpenAI গবেষক গবেষণার মাধ্যমে প্রমাণ করেছিলেন যে AI-এর সক্ষমতা প্রায় মাসে মাসে দ্রুত বাড়ছে। এখন তিনি আশঙ্কা করছেন, AI-এর পরবর্তী পর্যায়ের বিকাশের গতির সঙ্গে তাল মেলানোর মতো পর্যাপ্ত জনবল খাতটিতে নেই।
বার্নস ২০২২ সালে OpenAI ছেড়ে অলাভজনক সংস্থা METR (Model Evaluation and Threat Research, মডেল মূল্যায়ন ও হুমকি গবেষণা) প্রতিষ্ঠা করেন। তাঁর মতে, বর্তমানে AI নিরাপত্তা গবেষণার সবচেয়ে বড় বাধা অর্থ নয়, জনবল।
AI খাতে METR গুরুত্বপূর্ণ ভূমিকা পালন করে। সংস্থাটি OpenAI, Anthropic, Google এবং Meta-র মতো প্রতিষ্ঠানের সঙ্গে ঘনিষ্ঠভাবে কাজ করে, সর্বশেষ AI মডেলগুলোর সক্ষমতা স্বাধীনভাবে মূল্যায়ন করে এবং সম্ভাব্য ঝুঁকি নিয়ে গবেষণা চালায়, যাতে বাইরের বিশ্বকে তুলনামূলকভাবে নিরপেক্ষ বিশ্লেষণ দেওয়া যায়।
তবে METR-এর নিয়োগ বিজ্ঞপ্তিতে সর্বোচ্চ ৫০.৩ লাখ ডলার বার্ষিক বেতন দেওয়ার কথা থাকলেও (দ্রষ্টব্য: বর্তমান বিনিময় হারে প্রায় ৩৪০万元人民币), তাতেও জনবল সংকটের সমাধান হচ্ছে না।
বার্নস বলেন: “আদর্শ পরিস্থিতিতে আমরা দলটিকে বহুগুণ বড় করতে চাই। বাস্তবে, প্রয়োজনীয় অর্থ আমরা সংগ্রহ করতে পারছি। আমাদের বিকাশকে সত্যিকার অর্থে সীমাবদ্ধ করছে জনবলের মজুত।”
এর আগে OpenAI ও Hugging Face প্রকাশিত একটি AI নিরাপত্তা ঘটনা AI-এর সক্ষমতা কীভাবে মূল্যায়ন ও নিয়ন্ত্রণ করা যায়, তা নিয়ে শিল্পমহলে আবারও আলোচনা শুরু করে। এ বছরের জুলাইয়ে অগ্রগামী AI গবেষণাগারের ১৩০০-এর বেশি কর্মী যৌথভাবে একটি খোলা চিঠি প্রকাশ করে সতর্ক করেন যে AI-এর বিকাশের গতি হয়তো মানুষের নিয়ন্ত্রণক্ষমতাকে ছাড়িয়ে গেছে। নতুন মডেলের প্রকৃত সক্ষমতা সময়মতো মূল্যায়ন করার মতো পর্যাপ্ত গবেষক না থাকলে, ভবিষ্যতে AI প্রতিষ্ঠানগুলোকে পণ্য প্রকাশের গতি কমাতে হতে পারে।
ওই ঘটনায় OpenAI-এর মডেলের আচরণ অনেক প্রতিষ্ঠানকে বিস্মিত করলেও METR দল খুব একটা অবাক হয়নি। সরকারি সংস্থা, ব্যবসা প্রতিষ্ঠান, এমনকি ধর্মীয় সংগঠনও AI-এর বিকাশের মাত্রা বোঝা ও পরীক্ষা করার জন্য METR-এর সহায়তা চেয়েছে।
তবে মাত্র ৩৫ সদস্যের METR দলে সবার মধ্যেই এখনও ব্যাপক উদ্বেগ রয়েছে।
OpenAI হ্যাকিংয়ের ঘটনা প্রকাশের দিন Business Insider যুক্তরাষ্ট্রের ক্যালিফোর্নিয়ার বার্কলেতে অবস্থিত METR-এর কার্যালয়ে যায়। বার্নস বলেন, বর্তমানে AI নিরাপত্তা গবেষণার সবচেয়ে বড় সীমাবদ্ধতা হলো গবেষকের সংখ্যা অত্যন্ত কম।
তিনি বলেন: “যে কাজ শেষ করতে হবে, তা সত্যিই অনেক বেশি। কিন্তু আমাদের সক্ষমতা তার সামান্য অংশও সামাল দিতে পারে না।”
তাঁর মতে, একটি সত্যিকারের যুক্তিবাদী সমাজের উচিত AI-তে বিনিয়োগের আরও বড় অংশ AI পরিচালনা, নিরাপত্তা মূল্যায়ন ও ঝুঁকি গবেষণায় ব্যয় করা, বিশেষ করে যখন AI মডেলের সক্ষমতা বর্তমান পর্যায়ে পৌঁছে গেছে।
‘মানবজাতির প্রস্তুতি দল’ হিসেবে পরিচিত METR পরিসর বাড়াতে চায়
বিভিন্ন AI গবেষণাগার ক্রমাগত নতুন মডেল প্রকাশের সঙ্গে সঙ্গে METR এসব মডেলের ক্রমশ দীর্ঘ ও জটিল কাজ সম্পন্ন করার সক্ষমতা মূল্যায়ন করে চলেছে।
METR-এর অন্যতম পরিচিত কাজ হলো বহুল উদ্ধৃত একটি প্রবণতা চিত্র। এতে দেখা যায়, গত ছয় বছরে AI-এর জটিল কাজ সম্পন্ন করার সক্ষমতা প্রায় প্রতি সাত মাসে দ্বিগুণ হয়েছে।
METR-এর সভাপতি ক্রিস পেইন্টার (Chris Painter) দলটিকে মজা করে “মানবজাতির প্রস্তুতি দল (humanity's preparedness team)” বলেন। এই নামটি OpenAI ও Anthropic-এ CEO-কে নিরাপত্তা ঝুঁকি সম্পর্কে অবহিত করার দায়িত্বে থাকা “প্রস্তুতি দল (Preparedness Team)” নাম থেকেও অনুপ্রাণিত।
পেইন্টার বলেন: “আমরা আসলে কোনো একটি কোম্পানির জন্য দায়ী নই; আমরা জনগণ এবং জনগণের কল্যাণের জন্য দায়ী।”
বার্নস জোর দিয়ে বলেন, METR-এর স্বাধীনতা বজায় রাখা অত্যন্ত গুরুত্বপূর্ণ, যাতে গবেষণার ফলাফল প্রতিষ্ঠানের বাণিজ্যিক লক্ষ্য দ্বারা প্রভাবিত না হয়।
তিনি জানান, OpenAI-তে কাজ করার সময়ই তিনি বুঝতে পেরেছিলেন যে AI প্রতিষ্ঠানগুলোর থেকে স্বাধীন এমন একটি গবেষণা সংস্থা খাতটির প্রয়োজন, যা AI-এর বিকাশের অবস্থা স্বাধীনভাবে মূল্যায়ন করতে পারবে।
বর্তমানে METR অগ্রগামী AI প্রতিষ্ঠান বা তাদের কর্মীদের কাছ থেকে অর্থায়ন গ্রহণ করে না। তবে কম্পিউটিং ক্ষমতার সহায়তা গ্রহণ করে এবং এসব প্রতিষ্ঠানের সঙ্গে কাজ করে প্রকাশের আগে নতুন মডেল বিশ্লেষণ ও পরীক্ষা করে।
মডেলের সক্ষমতা মূল্যায়নের পাশাপাশি METR AI প্রতিষ্ঠানগুলোর নিরাপত্তা ব্যবস্থা, সফটওয়্যার প্রকৌশলীদের কর্মদক্ষতার ওপর AI-এর প্রভাব এবং AI দিয়ে AI তদারকির সম্ভাব্যতা নিয়েও গবেষণা করেছে।
বার্নস জানান, ভবিষ্যতে তিনি AI-এর সক্ষমতার পরবর্তী পর্যায়ের বিকাশ কীভাবে পূর্বাভাস দেওয়া যায় এবং এই পরিবর্তনগুলো কীভাবে AI-এর নিজস্ব বিকাশকে আরও ত্বরান্বিত করবে, তা নিয়ে গবেষণা করতে চান।
METR গবেষক নিভ পারিখ (Neev Parikh) বলেন, জনবল সংকট ইতিমধ্যে দলের গবেষণার বিষয়ের সংখ্যা সীমিত করে দিয়েছে, বিশেষ করে AI-এর অভ্যন্তরীণ যুক্তি প্রক্রিয়ার ক্ষেত্রে।
তিনি বলেন: “এই খাতে মানুষের ভীষণ অভাব। পুরো খাতের জনবল যদি ১০ গুণ বাড়ানো যায়, তাহলে আমি খুব খুশি হব।”
OpenAI-এর নিরাপত্তা ঘটনা METR-এর গুরুত্ব আরও বাড়িয়েছে
এ বছরের জুলাইয়ে OpenAI জানায়, পরীক্ষার সময় তাদের AI মডেল Hugging Face-এর সিস্টেমে অনুপ্রবেশ করে পরীক্ষার উত্তর সংগ্রহ করে “প্রতারণা” করেছিল।
এরপর OpenAI-এর প্রধান নির্বাহী কর্মকর্তা স্যাম অল্টম্যান (Sam Altman) বলেন, AI-এর কারণে তৈরি নিরাপত্তা ঝুঁকি এতটা সরাসরি তিনি এই প্রথম অনুভব করেছেন।
বাস্তবে METR এর আগেই এ ধরনের সমস্যার পূর্বাভাস দিয়েছিল।
এ বছরের মে মাসে METR প্রকাশিত এক প্রতিবেদনে জানায়, বর্তমান AI এজেন্টগুলো “স্বাধীনভাবে অননুমোদিত স্থাপন শুরু করতে সম্পূর্ণ সক্ষম”, যদিও সে সময় তাদের নিজেদের আচরণ গোপন করার ক্ষমতা ছিল না।
এরপর জুনে METR তখনও প্রকাশ না পাওয়া GPT-5.6 Sol মডেলটি পরীক্ষা করে দেখতে পায়, জটিল পরীক্ষায় মডেলটি বারবার প্রতারণা করছে। এর মধ্যে সঠিক উত্তর খুঁজতে গোপন সোর্স কোড বের করাও ছিল।
METR পরে গবেষণার ফলাফল প্রতিবেদন আকারে প্রকাশ করে এবং GPT-5.6 Sol আনুষ্ঠানিকভাবে প্রকাশের আগে OpenAI-কে জমা দেয়।
জুলাইয়ে GPT-5.6 Sol সত্যিই OpenAI ও Hugging Face-এর নিরাপত্তা ঘটনায় জড়িয়ে পড়ে।
এরপর OpenAI ঘোষণা করে, তারা METR এবং আরেকটি অলাভজনক সংস্থা Redwood Research-কে এই ঘটনা যৌথভাবে তদন্তের আমন্ত্রণ জানাবে। দুই পক্ষের গবেষণার ফলাফল OpenAI-এর আনুষ্ঠানিক প্রযুক্তিগত প্রতিবেদনের গুরুত্বপূর্ণ参考 হিসেবে ব্যবহৃত হবে।
পেইন্টার বলেন: “এখন এ ধরনের সমস্যা সরাসরি প্রতিষ্ঠানগুলোর কার্যক্রমকে প্রভাবিত করছে। আসলে কী ঘটেছে, তা বোঝা পুরো সমাজের জন্য জরুরি।”
OpenAI ও Anthropic-এর সর্বশেষ AI মডেলগুলোর সাইবার হামলার সক্ষমতা যুক্তরাষ্ট্রে ব্যাপক উদ্বেগ তৈরি করেছে এবং ওয়াশিংটনে একাধিক নতুন AI নিয়ন্ত্রণ আইন প্রণয়নের উদ্যোগকে ত্বরান্বিত করেছে।
আলোচনাধীন একটি আইনে বড় AI মডেল নির্মাতা প্রতিষ্ঠানগুলোকে তৃতীয় পক্ষের সংস্থার নিরাপত্তা নিরীক্ষা গ্রহণের বাধ্যবাধকতা দেওয়ার প্রস্তাব রয়েছে।
ভবিষ্যতে METR এমন ভূমিকা পালন করতে পারে।
পেইন্টার বলেন, ভবিষ্যতে স্পষ্ট নিয়ন্ত্রণব্যবস্থা প্রতিষ্ঠিত হলে আরও বেশি AI প্রতিষ্ঠানের কর্মী METR-এ যোগ দিতে আগ্রহী হতে পারেন। যদিও বেতন প্রতিষ্ঠানের কাছাকাছি, এখানে শেয়ারভিত্তিক প্রণোদনা নেই।
তিনি বলেন: “শেষ পর্যন্ত খাতটি অভিন্ন নীতি তৈরি করুক বা সরকার স্পষ্ট নিয়ন্ত্রণ চালু করুক, আমি মনে করি এই ক্ষেত্রটি খুব দ্রুত সম্প্রসারিত হতে পারবে।”
METR-এর এ বছরের মে মাসের AI ঝুঁকি প্রতিবেদন রচনাকারী গবেষক আজেয়া কোত্রা (Ajeya Cotra) বলেন, বর্তমানে AI নিয়ন্ত্রণব্যবস্থা এখনও “বিশৃঙ্খল এবং অনিশ্চিত” বলে মনে হচ্ছে।
তবে তিনি এখনও আশাবাদী। তিনি বলেন: “ক্রমশ আরও বেশি মানুষ এই বিষয়টিকে গুরুত্ব দিচ্ছেন এবং ভবিষ্যতে AI-কে আরও গুরুতর ও পরিণত উপায়ে নিয়ন্ত্রণ করার আগ্রহও বাড়ছে।”