Anthropic স্থানীয় সময় ১৪ আগস্ট প্রকাশিত সর্বশেষ নিরাপত্তা প্রতিবেদনে জানিয়েছে, রাসায়নিক ও জৈব অস্ত্র-সংক্রান্ত বিপজ্জনক অনুরোধ ঠেকাতে ব্যবহৃত তাদের কিছু নিরাপত্তা শ্রেণিবিন্যাসকারী দীর্ঘ সময় ধরে অকার্যকর ছিল।
এর ফলে ২০২৫ সালের মে থেকে ২০২৬ সালের এপ্রিল পর্যন্ত বহিরাগত ঠিকাদারদের দেওয়া মানবীয় প্রতিক্রিয়া সংগ্রহের সময় তৈরি বিপুলসংখ্যক অনুরোধ ফিল্টারের আওতায় আসেনি। Anthropic জানিয়েছে, অভ্যন্তরীণ তদন্তে এখন পর্যন্ত সংশ্লিষ্ট অনুরোধ বাস্তবে অপব্যবহারের কোনো প্রমাণ পাওয়া যায়নি।
Anthropic-এর প্রকাশিত নিরাপত্তা ব্যবস্থার বিবরণ অনুযায়ী, তাদের রিয়েল-টাইম প্রম্পট ও আউটপুট শ্রেণিবিন্যাসকারী ব্যবহারকারীর ইনপুট এবং মডেলের তৈরি বিষয়বস্তু বিশ্লেষণ করে। সংশ্লিষ্ট ঝুঁকি শনাক্ত হলে এগুলো মডেলকে বিপজ্জনক কাজে ব্যবহারযোগ্য তথ্য প্রদান থেকে বিরত রাখে। আইটি হোমের জানা মতে, এই ব্যবস্থা রাসায়নিক, জৈব, তেজস্ক্রিয় ও পারমাণবিক অস্ত্র (CBRN) ঝুঁকি মোকাবিলায় Anthropic-এর নেওয়া বহুস্তরীয় নিরাপত্তা ব্যবস্থার একটি।
এবারের প্রকাশিত সমস্যাটি Anthropic-এর বহিরাগত ঠিকাদারদের সঙ্গে সম্পর্কিত। প্রতিবেদনে বলা হয়েছে, সংশ্লিষ্ট সময়ে প্রায় ৫০ হাজার ঠিকাদার মডেলের সঙ্গে প্রায় ১.৩৩ কোটি কথোপকথন করেছেন। প্রায় এক বছর ধরে এসব ট্রাফিক সংশ্লিষ্ট জৈব নিরাপত্তা শ্রেণিবিন্যাসকারীর মাধ্যমে আটকানো হয়নি।
Anthropic জানিয়েছে, এসব ঠিকাদারের যাচাই মূলত বহিরাগত সরবরাহকারীরা পরিচালনা করতেন এবং তাদের যাচাই প্রক্রিয়ায় ঘাটতি ছিল। পরে কোম্পানিটি অভ্যন্তরীণ তদন্ত শুরু করে এবং জানায়, এসব অনুরোধ বাস্তব অপব্যবহারে ব্যবহৃত হওয়ার কোনো প্রমাণ পাওয়া যায়নি। এর পর Anthropic বহিরাগত ঠিকাদারদের জন্য সংশ্লিষ্ট শর্তগুলো আরও কঠোর করেছে।
Anthropic আগে থেকেই জৈব নিরাপত্তা সুরক্ষাকে তাদের AI নিরাপত্তা ব্যবস্থায় অন্তর্ভুক্ত করেছে। ২০২৫ সালের মে মাসে Claude Opus 4 প্রকাশের সময় কোম্পানিটি AI নিরাপত্তা স্তর ৩ (ASL-3) সুরক্ষা ব্যবস্থা চালু করে। এর মধ্যে রাসায়নিক, জৈব, তেজস্ক্রিয় ও পারমাণবিক অস্ত্র তৈরি বা সংগ্রহের ঝুঁকির ক্ষেত্রে ব্যবহারের সীমাবদ্ধতা অন্তর্ভুক্ত ছিল।
Anthropic-এর বর্তমান দায়িত্বশীল সম্প্রসারণ নীতি অনুযায়ী, রিয়েল-টাইম প্রম্পট ও আউটপুট শ্রেণিবিন্যাসকারী মডেলের ইনপুট ও আউটপুট ক্রমাগত পর্যবেক্ষণ করে। নতুন শনাক্ত হওয়া ক্ষতিকর ধরণ, সুরক্ষা ভাঙার পদ্ধতি ও বিভ্রান্তিকর কৌশলের ভিত্তিতে এগুলো নিয়মিত হালনাগাদ করা হয়। কোম্পানিটি রেড-টিম পরীক্ষা, বাগ বাউন্টি কর্মসূচি এবং অফলাইন পর্যবেক্ষণকেও অতিরিক্ত নিরাপত্তা ব্যবস্থা হিসেবে ব্যবহার করে।
২০২৬ সালের জুলাইয়ে Claude Fable 5-এর সংশ্লিষ্ট নিরাপত্তা ব্যবস্থা প্রকাশের সময় Anthropic জৈব ও রাসায়নিক ক্ষেত্রের ঝুঁকির ওপরও জোর দেয়। কোম্পানিটি জানায়, Fable 5-এর অন্তর্নিহিত সক্ষমতা একটি নির্দিষ্ট পর্যায়ে পৌঁছালে তা ক্ষতিকর কাজে জড়িত ব্যক্তিদের অতিরিক্ত সহায়তা দিতে পারে। তাই সংশ্লিষ্ট অনুরোধ সীমিত করতে শ্রেণিবিন্যাসকারী ব্যবহার করা প্রয়োজন।
Anthropic একই সঙ্গে স্বীকার করেছে, অতিরিক্ত কঠোর নিরাপত্তা শ্রেণিবিন্যাসকারী স্বাভাবিক বৈজ্ঞানিক গবেষণাকেও ভুলভাবে বাধাগ্রস্ত করতে পারে। Fable 5-এর ক্ষেত্রে বর্তমানে জৈব ও রাসায়নিক ক্ষেত্রের বিপুলসংখ্যক অনুরোধ Claude Opus 4.8-এ প্রক্রিয়াকরণের জন্য পাঠানো হয়। নিরাপত্তা ব্যবস্থা উন্নত হওয়ার সঙ্গে সঙ্গে সীমাবদ্ধতার পরিধি ধীরে ধীরে কমানোর পরিকল্পনা রয়েছে কোম্পানিটির।
বর্তমানে Anthropic জানিয়েছে, তদন্তের ফলাফলের ভিত্তিতে তারা বহিরাগত ঠিকাদারদের যাচাই ও ব্যবস্থাপনার শর্ত জোরদার করেছে। কোম্পানিটির প্রকাশিত দায়িত্বশীল সম্প্রসারণ নীতিতেও দেখা যায়, রাসায়নিক ও জৈব অস্ত্রসহ উচ্চঝুঁকির ক্ষেত্রগুলোর নিরাপত্তা সুরক্ষা মান তারা ক্রমাগত সমন্বয় করছে।