মূল কনটেন্টে যান
মডেল ও প্রযুক্তি

Neon-এর ওপেন সোর্স 4B মডেল: ডকুমেন্ট অনুসন্ধানে GPT-5.6 Sol-এর চেয়ে উন্নত, খরচ মাত্র 1/100

Neon গতকাল (৬ আগস্ট) একটি ব্লগ পোস্ট প্রকাশ করে Castform-এর সঙ্গে অংশীদারত্বের ঘোষণা দিয়েছে এবং অনুসন্ধান মডেলের জন্য একটি প্রশিক্ষণ পদ্ধতি প্রকাশ করেছে।

Neon-এর ওপেন সোর্স 4B মডেল: ডকুমেন্ট অনুসন্ধানে GPT-5.6 Sol-এর চেয়ে উন্নত, খরচ মাত্র 1/100

Neon গতকাল (৬ আগস্ট) একটি ব্লগ পোস্ট প্রকাশ করে Castform-এর সঙ্গে অংশীদারত্বের ঘোষণা দিয়েছে এবং অনুসন্ধান মডেলের জন্য একটি প্রশিক্ষণ পদ্ধতি প্রকাশ করেছে।

দ্রষ্টব্য: Neon একটি সম্পূর্ণ পরিচালিত সার্ভারলেস PostgreSQL ডেটাবেস। এটি কম্পিউট ও স্টোরেজ আলাদা রাখে, স্বয়ংক্রিয় স্কেলিং, প্রয়োজনে শূন্যে স্কেল-ডাউন এবং Git-এর মতো ডেটাবেস ব্রাঞ্চিং সুবিধা সমর্থন করে। আধুনিক ক্লাউড-নেটিভ অ্যাপ্লিকেশন ও AI এজেন্টের জন্য এটি বিশেষভাবে উপযোগী।

অন্যদিকে Castform মূলত প্রতিষ্ঠান ও ডেভেলপারদের জন্য AI ভয়েস এজেন্ট এবং মডেল প্রশিক্ষণ প্ল্যাটফর্ম সরবরাহ করে। অত্যন্ত বাস্তবসম্মত ভয়েস ইন্টারঅ্যাকশন ও স্বয়ংক্রিয় ওয়ার্কফ্লোর মাধ্যমে এটি প্রতিষ্ঠানগুলোকে দৈনন্দিন কল, বিক্রয়-পরবর্তী যোগাযোগ এবং গ্রাহক সহায়তা পরিচালনায় সহায়তা করে।

ব্লগ পোস্টে বলা হয়েছে, একটি ভালো AI এজেন্টের ২টি সক্ষমতা থাকা দরকার: প্রথমত, টুল ব্যবহার করে সঠিক প্রাসঙ্গিক ডেটা খুঁজে বের করা; দ্বিতীয়ত, কোন মডেল দিয়ে অনুসন্ধান করা হবে তা নির্ধারণ করা।

তাই Neon দল Castform-এর সঙ্গে অংশীদারত্ব করে শক্তিবর্ধনমূলক শিক্ষার মাধ্যমে ১টি 4B-প্যারামিটারের ওপেন সোর্স মডেলকে প্রশিক্ষণ-পরবর্তী পর্যায়ে উন্নত করেছে। অনুসন্ধান কাজে মডেলটির নির্ভুলতা OpenAI-এর GPT-5.6 Sol-এর সমতুল্য বা তার চেয়েও বেশি, অথচ খরচ পরেরটির প্রায় 1/100।

Neon দল জানিয়েছে, ডকুমেন্ট অনুসন্ধানে বর্তমানে প্রচলিত পদ্ধতি হলো এমবেডেড সার্চ। সাধারণত ডকুমেন্টকে সংখ্যায়িত ডেটায় রূপান্তর করে এরপর সাদৃশ্যপূর্ণ বিষয়বস্তু খোঁজা হয়।

AI এজেন্টের প্রসারের সঙ্গে অনুসন্ধান প্রক্রিয়া এজেন্টভিত্তিক সার্চের দিকে এগোতে শুরু করেছে। এ ধরনের ব্যবস্থায় AI মডেল বড় প্রশ্নকে একাধিক ছোট প্রশ্নে ভাগ করে, স্বয়ংক্রিয়ভাবে অনুসন্ধান কুয়েরি নির্ধারণ করে, অনুসন্ধানের ফলাফল পর্যালোচনা করে এবং ফলাফলের ভিত্তিতে পরবর্তী অনুসন্ধান চালায়, যতক্ষণ না প্রয়োজনীয় তথ্য সংগ্রহ করা হয়।

Neon-এর ওপেন সোর্স 4B মডেল: ডকুমেন্ট অনুসন্ধানে GPT-5.6 Sol-এর চেয়ে উন্নত, খরচ মাত্র 1/100

Neon জানিয়েছে, জটিল প্রশ্ন মোকাবিলায় এজেন্টভিত্তিক সার্চ বেশি উপযোগী। তবে প্রতিটি অনুসন্ধানে উচ্চক্ষমতাসম্পন্ন মডেল কল করতে হয়, ফলে সময় ও খরচ বাড়ে। Neon-এর দেওয়া আদর্শ অনুরোধের হিসাবে, GPT-5.6 Sol ব্যবহার করে একটি অনুসন্ধান অনুরোধ সম্পন্ন হতে 10 সেকেন্ডের বেশি সময় লাগে এবং খরচ প্রায় $0.03।

Castform তুলনামূলকভাবে ছোট একটি ওপেন সোর্স মডেল প্রশিক্ষণের জন্য বেছে নিয়েছে, যাতে মডেলটি নির্দিষ্ট ডেটা থেকে প্রয়োজনীয় তথ্য খুঁজে বের করতে শেখে। Neon ডকুমেন্ট সংরক্ষণের স্থান ও অনুসন্ধান সুবিধা সরবরাহ করেছে, আর Castform মডেলকে “কী অনুসন্ধান করতে হবে” তা নির্ধারণের প্রশিক্ষণ দিয়েছে।

প্রশিক্ষণ প্রক্রিয়ায় মডেলটি কাজ সম্পন্ন করার চেষ্টা করে, এরপর সিস্টেম ফলাফলে স্কোর দেয় এবং সেই স্কোর পরবর্তী পরীক্ষায় অন্তর্ভুক্ত করে। মূল্যায়নের মাত্রাগুলোর মধ্যে ছিল: সঠিক ডকুমেন্ট খুঁজে পাওয়া হয়েছে কি না, উপযুক্ত অনুচ্ছেদ উদ্ধৃত করা হয়েছে কি না এবং চূড়ান্ত উত্তর সঠিক কি না।

Neon-এর ওপেন সোর্স 4B মডেল: ডকুমেন্ট অনুসন্ধানে GPT-5.6 Sol-এর চেয়ে উন্নত, খরচ মাত্র 1/100

Neon-এর যাচাইয়ে Castform-এর প্রশিক্ষণ-পরবর্তী উন্নয়ন করা মডেলটির গড় মূল্যায়ন স্কোর ছিল 1.447, যা GPT-5.6 Sol-এর 1.369 এবং তুলনার জন্য ব্যবহৃত GPT-5.4-এর 1.377-এর চেয়ে বেশি। এটি ওই যাচাইয়ে সর্বোচ্চ রেকর্ড গড়েছে।

খরচের দিক থেকে, প্রশিক্ষণ-পরবর্তী মডেলটির প্রতি ইনফারেন্সের খরচ 0.000929 মার্কিন ডলার (বর্তমান বিনিময় হারে প্রায় 0.0063 চীনা ইউয়ান); GPT-5.6 Sol-এর প্রতি ইনফারেন্সের খরচ 0.087338 মার্কিন ডলার (বর্তমান বিনিময় হারে প্রায় 0.59 চীনা ইউয়ান)।