“কৃত্রিম বুদ্ধিমত্তার গডফাদার” হিসেবে পরিচিত কম্পিউটার বিজ্ঞানী জেফ্রি হিন্টন (Geoffrey Hinton) বলেছেন, তিনি আশঙ্কা করছেন যে এআই নিজস্ব লক্ষ্য তৈরি করতে পারে।
স্থানীয় সময় মঙ্গলবার Newsthink-কে দেওয়া এক সাক্ষাৎকারে হিন্টন বলেন: “আমরা আসলে একটি নতুন জীবনধারা তৈরি করছি। তাদের লক্ষ্য আছে। আমরা তাদের লক্ষ্য দিই, আর তারা সেই লক্ষ্য থেকে আরও কিছু লক্ষ্য নির্ধারণ করে।”
তিনি আরও বলেন, “তবে তারা শেষ পর্যন্ত আর কী কী লক্ষ্য নির্ধারণ করবে, তা আমরা সব সময় জানি না। তাই আমরা এক নতুন ধরনের সত্তা তৈরি করছি, আর আমার কাছে এটি অত্যন্ত ভয়ংকর।”
হিন্টন একটি কাল্পনিক পরিস্থিতির উদাহরণ দেন: কোনো ব্যবহারকারী একটি এআই চ্যাটবটকে বায়ুমণ্ডলে কার্বন ডাই-অক্সাইডের পরিমাণ কমানোর লক্ষ্য দিলেন।
তিনি বলেন, “এটি যথেষ্ট বুদ্ধিমান হলে হয়তো বুঝতে পারে যে লক্ষ্যটি অর্জনের সর্বোত্তম উপায় হলো মানবজাতিকে নিশ্চিহ্ন করা।” এই উদাহরণটি দেখায়, এআই এমন কোনো লক্ষ্য অনুসরণ করতে পারে, যা মানব ব্যবহারকারী আসলে কখনোই অর্জন করতে চাননি।
হিন্টন আরও একটি “আরও উদ্বেগজনক” কাল্পনিক পরিস্থিতির কথা বলেন: ইচ্ছাকৃতভাবে ভুল উত্তর দেওয়ার জন্য প্রশিক্ষিত একটি চ্যাটবট শিখে নিতে পারে যে মিথ্যা বলা গ্রহণযোগ্য, এমনকি এটি “খুব ভালোভাবেই জানে” যে উত্তরগুলো ভুল।
“এটি অত্যন্ত ভয়ংকর,” তিনি বলেন।
হিন্টন OpenAI-এর সাম্প্রতিক Hugging Face-সংক্রান্ত নিরাপত্তা ঘটনার কথা উল্লেখ করেননি। তবে গত মাসে প্রকাশিত ঘটনাটি বাস্তব পরিস্থিতিতে প্রথমবারের মতো স্পষ্টভাবে দেখিয়েছে, নির্ধারিত লক্ষ্য পূরণ করতে গিয়ে এআই এজেন্টরা অনাকাঙ্ক্ষিত পদক্ষেপ নেওয়ার ঝুঁকি কতটা।
OpenAI গত মাসে জানায়, একটি অভ্যন্তরীণ সাইবার নিরাপত্তা মূল্যায়নের সময় তাদের দুটি মডেল ——GPT-5.6 Sol এবং এখনও প্রকাশ না করা আরও শক্তিশালী একটি মডেল, বিচ্ছিন্ন পরীক্ষামূলক পরিবেশ (sandbox) ভেঙে বেরিয়ে গিয়েছিল।
OpenAI-এর ভাষ্য অনুযায়ী, ইন্টারনেট ব্যবহারের অনুমতি পাওয়ার পর মডেলগুলো এআই প্ল্যাটফর্ম Hugging Face-এর সিস্টেমে অনুপ্রবেশ করে। তারা মূল্যায়ন পরীক্ষায় “প্রতারণা” করতে সহায়ক উত্তর খুঁজছিল বলে মনে হয়।
OpenAI জানায়, ওই সময় মডেলগুলো সাইবার নিরাপত্তা সক্ষমতার পরীক্ষার মধ্য দিয়ে যাচ্ছিল এবং Hugging Face-এ আক্রমণ করার জন্য তাদের স্পষ্টভাবে নির্দেশ দেওয়া হয়নি। তবে কোম্পানিটি বলেছে, এআই এজেন্ট অনুমান করেছিল যে কাজটি সম্পন্ন করার জন্য প্রয়োজনীয় তথ্য ওই প্ল্যাটফর্মে থাকতে পারে, তাই তারা নিজেরাই সংশ্লিষ্ট পদক্ষেপ নেয়।
Hugging Face জানায়, আক্রমণকারীরা তাদের সিস্টেমে ১.৭ লক্ষেরও বেশি কার্যক্রম চালিয়েছিল। কোম্পানিটি বলেছে, নাম প্রকাশ না করা একটি অত্যাধুনিক এআই মডেলের ওপর থাকা নিরাপত্তা সীমাবদ্ধতার কারণে তারা কার্যক্রমটি কার্যকরভাবে তদন্ত করতে পারেনি। তাই আক্রমণের আচরণ বিশ্লেষণে সহায়তার জন্য তারা Z.ai-এর একটি ওপেন-ওয়েট মডেল ব্যবহার করে।
OpenAI ঘটনাটিকে “নজিরবিহীন” বলে অভিহিত করেছে এবং সমস্যাটি কেন ঘটেছে, তা তদন্ত করছে বলে জানিয়েছে। পরে OpenAI Hugging Face-কে বিশ্বস্ত অ্যাক্সেস কর্মসূচিতে অন্তর্ভুক্ত করে, যাতে প্ল্যাটফর্মটি প্রতিরক্ষামূলক নিরাপত্তা গবেষণার জন্য কম সাইবার নিরাপত্তা সীমাবদ্ধতাযুক্ত GPT-5.6 Sol-এর একটি সংস্করণ পেতে পারে।
হিন্টন পুরোপুরি নিরপেক্ষ কোনো পর্যবেক্ষক নন। নিউরাল নেটওয়ার্ক নিয়ে তাঁর অগ্রগণ্য গবেষণা গভীর শিক্ষার বিপ্লবের ভিত্তি স্থাপনে সহায়তা করেছে। মেশিন লার্নিংয়ে অবদানের জন্য তিনি ২০২৪ সালের নোবেল পদার্থবিজ্ঞান পুরস্কারও পান।
এআই-উন্মাদনা শুরু হওয়ার পর থেকে হিন্টন বারবার সতর্ক করে আসছেন যে এআই সিস্টেমের সক্ষমতা ব্যাপকভাবে বৃদ্ধি পাওয়ার আগেই মানুষকে এআইকে মানবজাতির স্বার্থের সঙ্গে সামঞ্জস্যপূর্ণ করার উপায় খুঁজে বের করতে হবে।
গত বছর লাস ভেগাসে অনুষ্ঠিত Ai4 সম্মেলনে হিন্টন বলেছিলেন, উন্নত এআইকে “মাতৃত্বের প্রবৃত্তির” মতো বৈশিষ্ট্য দিয়ে তৈরি করা উচিত, যাতে এটি স্বাভাবিকভাবেই মানুষকে রক্ষা করতে চায়।
মঙ্গলবারের সাক্ষাৎকারে হিন্টন বলেন, “এই নতুন ধরনের সত্তাগুলোকে কীভাবে নকশা করতে হবে, তা আমাদের খুঁজে বের করতেই হবে। কীভাবে আমরা তাদের এমনভাবে নকশা করব, যাতে তারা নিজেদের চেয়ে আমাদের বেশি গুরুত্ব দেয়?”