Xing4.0-29B-Intent চালু আছে

Xing4.0-29B-Intent হলো Xingchen Laboratory-এর ওপেন-সোর্স করা অভিপ্রায় বোঝার জন্য বিশেষায়িত মডেল, যা Xing4.0-29B-A4B-এর ওপর ফাইন-টিউন করা হয়েছে। Xing4.0-29B-Intent শ্রেণি＋প্যারামিটার কাঠামো ব্যবহার করে ব্যবহারকারীর প্রাকৃতিক ভাষাকে একই সঙ্গে অভিপ্রায় শ্রেণিবিন্যাস ও প্যারামিটার নিষ্কাশনের ফলে রূপান্তর করে এবং অভিপ্রায় শনাক্তকরণ, সত্তা শনাক্তকরণ, সম্পর্ক নিষ্কাশন ও ঘটনা নিষ্কাশন—এই চার ধরনের কাজ সমর্থন করে। মডেলের আউটপুট মাত্র কয়েক ডজন টোকেন, প্রতিক্রিয়া বিলম্ব কয়েকশ মিলিসেকেন্ডের স্তরে; মূল্যায়নে মোট 58 পয়েন্ট পেয়ে 18টি সাধারণ মডেলকে ছাড়িয়ে গেছে। এটি ইতিমধ্যে টেলিকম গ্রাহকসেবা ও স্মার্ট হোমে ব্যবহৃত হচ্ছে এবং Agent-এর সেমান্টিক প্রবেশস্তর হিসেবে উপযোগী।

অভিপ্রায় শনাক্তকরণ: ব্যবহারকারীর একটি বাক্য কোন ব্যবসায়িক শ্রেণির অন্তর্ভুক্ত তা নির্ধারণ করে; একক অভিপ্রায় ও একটি বাক্যে একাধিক অভিপ্রায় সমর্থন করে।
প্যারামিটার নিষ্কাশন: অভিপ্রায় শনাক্ত করার পাশাপাশি কাজ সম্পন্নের জন্য প্রয়োজনীয় সত্তা, মান ও বৈশিষ্ট্য বের করে।
একীভূত কাঠামোবদ্ধ আউটপুট: “শ্রেণি＋প্যারামিটার” JSON ফরম্যাটে ফল সাজায়; অভিপ্রায় শনাক্তকরণ, সত্তা শনাক্তকরণ, সম্পর্ক নিষ্কাশন ও ঘটনা নিষ্কাশন—চার ধরনের কাজ একই ইনপুট-আউটপুট ফরম্যাট ব্যবহার করে।
বহু-কাজ সমান্তরাল বিশ্লেষণ: একটি বাক্যে একাধিক অভিপ্রায়, প্যারামিটার ও সত্তা থাকলে JSON অ্যারে দিয়ে একবারে একাধিক ফল ফেরত দিতে পারে।
Schema-নির্ভর অভিযোজন: ডেভেলপার আগে থেকেই সম্ভাব্য শ্রেণি, শ্রেণির বিবরণ ও নিষ্কাশনযোগ্য ক্ষেত্র নির্ধারণ করেন; মডেল নির্ধারিত ব্যবসায়িক কাঠামোর মধ্যে শনাক্তকরণ ও মান পূরণ করে।
Function Calling সেমান্টিক প্রবেশদ্বার: Agent/বুদ্ধিমান এজেন্ট অ্যাপ্লিকেশনের জন্য অভিপ্রায় নির্ধারণ ও ফাংশন কলের প্যারামিটার নিষ্কাশন প্রদান করে, প্রাকৃতিক ভাষা ও ব্যবসায়িক সিস্টেমের কার্যসম্পাদনের মধ্যে সংযোগ স্থাপন করে।

WeChat-এ অনুসরণ করে “开源” লিখে উত্তর দিন, AI ওপেন-সোর্স প্রকল্পের গ্রুপে যোগ দিন
মডেলের ভিত্তি ও আর্কিটেকচার: মডেলটি Xingchen-এর সাধারণ বেস মডেল Xing4.0-29B-A4B-এর ওপর ফাইন-টিউন করা হয়েছে এবং MoE আর্কিটেকচার ব্যবহার করে। মোট প্যারামিটার প্রায় 2900 কোটি, প্রতিটি Token-এ মাত্র প্রায় 400 কোটি প্যারামিটার সক্রিয় হয়। ফলে কাঠামোবদ্ধ আউটপুটের ক্ষমতা বজায় রেখেও কম কম্পিউটিং খরচ ও কয়েকশ মিলিসেকেন্ডের প্রতিক্রিয়া বিলম্ব অর্জন করা যায়।
USP একীভূত মোড-চালিত সেমান্টিক বিশ্লেষণ কাঠামো: মডেলটি USP কাঠামো ব্যবহার করে অভিপ্রায় বোঝা, সত্তা শনাক্তকরণ, সম্পর্ক নিষ্কাশন ও ঘটনা নিষ্কাশনের মতো ভিন্নধর্মী কাজগুলোকে “শ্রেণি＋প্যারামিটার” স্তরভিত্তিক JSON আউটপুটে একীভূতভাবে নিয়ন্ত্রণ করে। ফলে ডাউনস্ট্রিম সিস্টেমকে প্রতিটি কাজের জন্য আলাদা পার্সিং লজিক তৈরি করতে হয় না এবং স্থানান্তর ও সংযুক্তির খরচ খুব কম।
Schema-নিয়ন্ত্রিত জেনারেশন ব্যবস্থা: ইনফারেন্সের সময় ডেভেলপারকে সম্ভাব্য শ্রেণি, শ্রেণির বিবরণ ও নিষ্কাশনযোগ্য ক্ষেত্রের সংজ্ঞা দিতে হয়। মডেল নির্ধারিত ক্ষেত্রের নিয়মের মধ্যে শনাক্তকরণ ও মান পূরণ করে এবং আউটপুট পূর্বনির্ধারিত কাঠামোর মধ্যে কঠোরভাবে সীমাবদ্ধ থাকে। এতে মুক্ত-পাঠ্যের অনিশ্চয়তা এড়িয়ে ক্ষেত্রের নির্দিষ্টতা, যাচাইযোগ্য ফরম্যাট ও কম হ্যালুসিনেশন নিশ্চিত হয়।
কাঠামোবদ্ধ আউটপুট প্রশিক্ষণ: মডেলটি প্রায় 275.3 লক্ষ বিশেষায়িত তত্ত্বাবধানে ফাইন-টিউনিং ডেটা ব্যবহার করে প্রশিক্ষিত হয়েছে। এই ডেটা 61টি উন্মুক্ত ডেটাসেট থেকে পুনর্গঠিত, 19টি ক্ষেত্র ও 52টি ভাষা কভার করে। এর ফলে গড়ে মাত্র কয়েক ডজন টোকেনেই অভিপ্রায় নির্ধারণ＋প্যারামিটার নিষ্কাশনের সম্পূর্ণ সিদ্ধান্তপ্রক্রিয়া সম্পন্ন করা যায়।

রিসোর্স সংগ্রহ: GitHub বা HuggingFace থেকে মডেলের ওজন, কোড রিপোজিটরি ও সহায়ক ডেটাসেট ডাউনলোড করুন।
পরিবেশ প্রস্তুত: অফিসিয়াল ইনফারেন্স ইমেজ ডিপ্লয় করুন, অথবা বেস মডেলের নির্দেশনা অনুসরণ করে vLLM, SGLang দিয়ে মডেল সার্ভিস তৈরি করুন।
SDK ইনস্টল: রিপোজিটরির Python SDK দিয়ে সংযুক্ত করুন; চাইলে Tianyi AI ওপেন প্ল্যাটফর্মের ক্লাউড API ব্যবহার করে ডিপ্লয়মেন্ট ছাড়াই চালাতে পারেন।
ব্যবসায়িক Schema নির্ধারণ: সম্ভাব্য অভিপ্রায় শ্রেণি, শ্রেণির বিবরণ এবং প্রতিটি শ্রেণি থেকে নিষ্কাশনযোগ্য ক্ষেত্র ঘোষণা করুন।
প্রম্পট তৈরি: SDK ব্যবহার করে ব্যবহারকারীর ইনপুট ও Schema-কে মডেল-পাঠ্য অনুরোধে একত্র করুন।
কল শুরু: মডেল সার্ভিসে অনুরোধ পাঠান; মডেল কয়েক ডজন টোকেনের JSON কাঠামোবদ্ধ ফল দেবে।
ফল পার্স: শ্রেণি＋প্যারামিটার কাঠামো অনুসারে অভিপ্রায় ও ক্ষেত্রের মান পড়ুন এবং ব্যতিক্রম হলে ক্ষেত্র যাচাই করুন।
ব্যবসায়িক সংযোগ: কাঠামোবদ্ধ ফল ডাউনস্ট্রিম সিস্টেমে পাঠিয়ে কার্যসম্পাদন করুন; সংবেদনশীল কাজের ক্ষেত্রে আগে অনুমতি যাচাই করুন বা ব্যবহারকারীর নিশ্চিতকরণ নিন।

অভিপ্রায় শনাক্তকরণ ও প্যারামিটার নিষ্কাশনের একীভূতকরণ: একটি মডেল একই সঙ্গে অভিপ্রায় শ্রেণিবিন্যাস ও প্যারামিটার নিষ্কাশন সম্পন্ন করে, ফলে ডাউনস্ট্রিমে পুনরাবৃত্ত পার্সিংয়ের কাজ কমে।
দ্রুত প্রতিক্রিয়া: গড়ে মাত্র কয়েক ডজন টোকেন আউটপুট করে; সম্পূর্ণ ফলের প্রতিক্রিয়া বিলম্ব কয়েকশ মিলিসেকেন্ডের স্তরে, তাই ঘনঘন রিয়েল-টাইম ইন্টারঅ্যাকশনের জন্য উপযোগী।
কম কল খরচ: MoE আর্কিটেকচারে প্রতিটি Token-এ মাত্র প্রায় 4B প্যারামিটার সক্রিয় হয়। সাধারণ বড় মডেলের তুলনায় দৈনিক ১০ লক্ষ কলের ক্ষেত্রে খরচের পার্থক্য বহুগুণ কমে।
স্থিতিশীল ও নির্ভরযোগ্য আউটপুট: ফল পূর্বনির্ধারিত Schema-এর JSON কাঠামোর মধ্যে কঠোরভাবে সীমাবদ্ধ থাকে; ক্ষেত্র নির্দিষ্ট এবং ফরম্যাট যাচাইযোগ্য।
একাধিক অভিপ্রায়ের জটিল বিশ্লেষণ: একটি বাক্যে একাধিক অভিপ্রায়, প্যারামিটার ও সত্তা সমর্থন করে এবং JSON অ্যারে দিয়ে একীভূতভাবে ফেরত দেয়।
চার ধরনের কাজের একীভূত ফরম্যাট: অভিপ্রায় বোঝা, সত্তা শনাক্তকরণ, সম্পর্ক নিষ্কাশন ও ঘটনা নিষ্কাশন একই “শ্রেণি＋প্যারামিটার” ইনপুট-আউটপুট ফরম্যাট ব্যবহার করে, ফলে ডাউনস্ট্রিম স্থানান্তরের খরচ খুব কম।

GitHub রিপোজিটরি: https://github.com/XingChen-AGI/Xing4.0-29B-Intent
HuggingFace মডেল রিপোজিটরি: https://huggingface.co/XingChen-AGI/Xing4.0-29B-Intent

স্মার্ট গ্রাহকসেবা / টিকিট রাউটিং: গ্রাহকের কথোপকথনের অভিপ্রায় শনাক্ত ও গুরুত্বপূর্ণ তথ্য নিষ্কাশন করে স্বয়ংক্রিয়ভাবে টিকিট শ্রেণিবিন্যাস ও স্থানান্তর সম্পন্ন করে; টেলিকমের ১০ কোটি গ্রাহকসেবা নম্বরে ব্যবহৃত হয়েছে।
টার্মিনাল ভয়েস ইন্টারঅ্যাকশন: ভয়েস অ্যাসিস্ট্যান্ট, স্মার্ট ককপিট, IoT কেন্দ্রীয় নিয়ন্ত্রণসহ বিভিন্ন ক্ষেত্রে ব্যবহারকারীর কথ্য নির্দেশকে কাঠামোবদ্ধ ডিভাইস নিয়ন্ত্রণ নির্দেশে রূপান্তর করে।
এন্টারপ্রাইজ IM রোবট: ব্যবসায়িক প্রাথমিক পর্যায়ে বিপুল লেবেলযুক্ত ডেটা ছাড়াই দ্রুত অভিপ্রায় শনাক্তকরণ ও প্রশ্নোত্তর রাউটিং ক্ষমতা তৈরি করা যায়।
Agent / Function Calling সেমান্টিক প্রবেশস্তর: বুদ্ধিমান এজেন্টকে কম হ্যালুসিনেশনসহ অভিপ্রায় নির্ধারণ ও ফাংশন কলের প্যারামিটার নিষ্কাশন দেয়, প্রাকৃতিক ভাষা ও টুল কার্যসম্পাদনের মধ্যে সংযোগ স্থাপন করে।
বহু-কাজের তথ্য নিষ্কাশন: একটি বাক্য থেকে সমান্তরালভাবে সত্তা শনাক্তকরণ, সম্পর্ক নিষ্কাশন ও ঘটনা নিষ্কাশন সম্পন্ন করে; যেমন “সভাটি শুক্রবার বিকেলে সরিয়ে দিন, স্থানটি তৃতীয় তলায় পরিবর্তন করুন” → একই সঙ্গে সময় ও স্থানের পরিবর্তন বের করে।