মার্কিন কৃত্রিম বুদ্ধিমত্তা স্টার্টআপ Anthropic গতকাল একটি ব্লগ পোস্টে জানিয়েছে, প্রতিষ্ঠানটি Claude Fable 5 মডেলের জৈবনিরাপত্তা সুরক্ষা ব্যবস্থা আপডেট করছে, ফলে ভুলভাবে বাধা দেওয়ার ঘটনা উল্লেখযোগ্যভাবে কমবে। এখন Fable 5 ব্যবহারকারীরা জীববিজ্ঞান-সম্পর্কিত প্রশ্ন করলে সিস্টেমের অবনমন কম ঘটবে।
Anthropic-এর প্রকাশিত পরীক্ষার তথ্য অনুযায়ী, এই আপডেটের ফলে জীববিজ্ঞান-সম্পর্কিত প্রশ্নোত্তরে অবনমন ৮৫% কমেছে। Fable 5 এখন আরও বিস্তৃত জীববিজ্ঞানভিত্তিক কাজ পরিচালনা করতে পারে।
Anthropic জানিয়েছে, কিছু ক্ষতিকর ব্যবহারকারী জৈব অস্ত্র নিয়ে গবেষণার মতো উচ্চঝুঁকির কাজে Fable 5 মডেল ব্যবহার করতে পারেন। তাই এ ধরনের ঘটনা প্রতিরোধে প্রতিষ্ঠানটি Claude-এর জন্য বিশেষ নিরাপত্তা শ্রেণিবিন্যাসকারী (safety classifiers) তৈরি করেছে। এগুলো শনাক্ত করে, ব্যবহারকারী Fable 5-কে সুরক্ষিত জীববিজ্ঞানভিত্তিক কাজ সম্পাদন করতে বলছেন কি না, অথবা ক্ষতিকর কনটেন্ট তৈরি করতে বলছেন কি না।
এখন Anthropic নিরাপত্তা শ্রেণিবিন্যাসকারীর কার্যপ্রক্রিয়া সমন্বয় করেছে, যাতে এটি নিরীহ ও উচ্চঝুঁকির প্রশ্ন আরও নির্ভুলভাবে আলাদা করতে পারে।
তবে চলমান AI ঝুঁকি প্রতিরোধে Fable 5 পেশাদার জীববিজ্ঞান গবেষণা ও ওষুধ উন্নয়ন-সম্পর্কিত অনুরোধে এখনও সীমাবদ্ধতা বজায় রাখবে।