Xing4.0-29B-Intent آپریشن میں

Xing4.0-29B-Intent، Xingchen Lab کا اوپن سورس نیت فہمی ماڈل ہے جو Xing4.0-29B-A4B پر فائن ٹیون کیا گیا ہے۔ Xing4.0-29B-Intent زمرہ＋پیرامیٹر کے ڈھانچے کے ذریعے صارف کی قدرتی زبان کو بیک وقت نیت کی درجہ بندی اور پیرامیٹر اخذ کرنے کے نتائج میں تبدیل کرتا ہے، اور نیت کی شناخت، ہستی کی شناخت، تعلق اخذ کرنے اور واقعہ اخذ کرنے کے چار کاموں کو سپورٹ کرتا ہے۔ ماڈل کا آؤٹ پٹ صرف چند درجن ٹوکنز پر مشتمل ہوتا ہے، ردِعمل کا وقت سیکڑوں ملی سیکنڈ کی سطح پر ہے، اور تشخیصی مجموعی اسکور 58 کے ساتھ 18 عمومی ماڈلز سے بہتر کارکردگی دکھاتا ہے۔ یہ ٹیلی کمیونیکیشن کسٹمر سروس اور اسمارٹ ہوم کے منظرناموں میں نافذ ہو چکا ہے، اور Agent کی معنوی داخلی تہہ کے طور پر موزوں ہے۔

نیت کی شناخت: یہ تعین کرنا کہ صارف کا جملہ کس کاروباری زمرے سے تعلق رکھتا ہے؛ واحد نیت اور ایک جملے میں متعدد نیتوں دونوں کو سپورٹ کرتا ہے۔
پیرامیٹر اخذ کرنا: نیت کی شناخت کے ساتھ کام مکمل کرنے کے لیے درکار ہستیوں، عددی اقدار اور خصوصیات کو اخذ کرنا۔
متحدہ ساختی آؤٹ پٹ: نتائج کو ”زمرہ＋پیرامیٹر“ کے JSON فارمیٹ میں منظم کرنا؛ نیت کی شناخت، ہستی کی شناخت، تعلق اخذ کرنے اور واقعہ اخذ کرنے کے چاروں کام ایک ہی ان پٹ اور آؤٹ پٹ فارمیٹ استعمال کرتے ہیں۔
متعدد کاموں کی متوازی تشریح: ایک جملے میں شامل متعدد نیتوں، پیرامیٹرز اور ہستیوں کو سپورٹ کرتا ہے، اور JSON array کے ذریعے ایک بار میں نتائج کے متعدد گروپ واپس کر سکتا ہے۔
Schema پر مبنی موافقت: ڈویلپر پہلے سے ممکنہ زمرے، زمرے کی وضاحت اور اخذ کیے جانے والے فیلڈز متعین کرتا ہے، پھر ماڈل مقررہ کاروباری فریم ورک کے اندر شناخت اور قدر بھرنے کا کام کرتا ہے۔
Function Calling کی معنوی داخلی تہہ: Agent/ذہین ایجنٹ ایپلی کیشنز کے لیے نیت کا تعین اور فنکشن کالنگ پیرامیٹر اخذ کرنا فراہم کرتی ہے، اور قدرتی زبان کو کاروباری نظام کے نفاذ سے جوڑتی ہے۔

WeChat پر فالو کر کے ”اوپن سورس“ کا جواب دیں اور AI اوپن سورس پروجیکٹ گروپ میں شامل ہوں
ماڈل کی بنیاد اور آرکیٹیکچر: ماڈل کو Xingchen کے عمومی بیس Xing4.0-29B-A4B پر فائن ٹیون کیا گیا ہے۔ یہ MoE آرکیٹیکچر استعمال کرتا ہے، اس کے کل پیرامیٹرز تقریباً 2900 کروڑ ہیں، جبکہ ہر Token پر صرف تقریباً 400 کروڑ پیرامیٹرز فعال ہوتے ہیں۔ یوں ساختی آؤٹ پٹ کی صلاحیت برقرار رکھتے ہوئے کم حسابی لاگت اور سیکڑوں ملی سیکنڈ کی سطح کا ردِعمل حاصل ہوتا ہے۔
USP متحدہ موڈ پر مبنی معنوی تشریحی فریم ورک: ماڈل USP فریم ورک استعمال کرتا ہے، جو نیت کی تفہیم، ہستی کی شناخت، تعلق اخذ کرنے اور واقعہ اخذ کرنے جیسے مختلف کاموں کو ”زمرہ＋پیرامیٹر“ کے درجہ بند JSON آؤٹ پٹ فارمیٹ میں متحد کرتا ہے۔ اس سے ڈاؤن اسٹریم نظام کو ہر کام کے لیے الگ تشریحی منطق اپنانے کی ضرورت نہیں رہتی، اور منتقلی و انضمام کی لاگت انتہائی کم ہو جاتی ہے۔
Schema پابند جنریشن میکانزم: استدلال کے وقت ڈویلپر کو ممکنہ زمرے، زمرے کی وضاحت اور اخذ کیے جانے والے فیلڈز کی تعریف فراہم کرنا ہوتی ہے۔ ماڈل مقررہ فیلڈ قواعد کے اندر شناخت اور قدر بھرنے کا کام مکمل کرتا ہے، اور آؤٹ پٹ پہلے سے متعین ساخت تک سختی سے محدود رہتا ہے۔ اس سے آزاد متن کی بے قاعدگی سے بچاؤ ہوتا ہے، فیلڈز یقینی رہتے ہیں، فارمیٹ کی جانچ ممکن ہوتی ہے اور hallucination کم ہوتی ہے۔
ساختی آؤٹ پٹ کی تربیت: ماڈل نے تقریباً 275.3 لاکھ خصوصی زیرِ نگرانی فائن ٹیوننگ نمونوں پر تربیت حاصل کی ہے، جو 61 عوامی ڈیٹا سیٹس سے تشکیل نو کیے گئے ہیں اور 19 شعبوں و 52 زبانوں کا احاطہ کرتے ہیں۔ اس تربیت سے ساختی آؤٹ پٹ کی صلاحیت حاصل ہوئی، جس کے نتیجے میں اوسطاً صرف چند درجن ٹوکنز میں نیت کے تعین＋پیرامیٹر اخذ کرنے کا مکمل فیصلہ جاتی سلسلہ مکمل ہو جاتا ہے۔

وسائل حاصل کریں: GitHub یا HuggingFace سے ماڈل کے وزن، کوڈ ریپوزٹری اور متعلقہ ڈیٹا سیٹس ڈاؤن لوڈ کریں۔
ماحول تیار کریں: آفیشل inference image تعینات کریں، یا بیس ماڈل کی دستاویزات کے مطابق vLLM، SGLang کے ذریعے ماڈل سروس بنائیں۔
SDK انسٹال کریں: ریپوزٹری کے فراہم کردہ Python SDK کے ذریعے انضمام کریں، یا تعیناتی کے بغیر استعمال کے لیے Tianyi AI اوپن پلیٹ فارم کی کلاؤڈ API کو کال کریں۔
کاروباری Schema متعین کریں: ممکنہ نیتی زمروں، زمرے کی وضاحت اور ہر زمرے سے اخذ کیے جانے والے فیلڈز کا اعلان کریں۔
Prompt تیار کریں: SDK کے ذریعے صارف کے ان پٹ اور Schema کو ماڈل کے قابلِ شناخت درخواست میں جوڑیں۔
کال شروع کریں: ماڈل سروس کو درخواست بھیجیں؛ ماڈل چند درجن ٹوکنز پر مشتمل JSON ساختی نتیجہ فراہم کرے گا۔
نتیجہ پارس کریں: ”زمرہ＋پیرامیٹر“ ساخت کے مطابق نیت اور فیلڈ کی قدریں پڑھیں، اور خرابی کی صورت میں فیلڈز کی جانچ کریں۔
کاروباری نظام سے جوڑیں: ساختی نتیجہ ڈاؤن اسٹریم نظام کو بھیج کر عمل درآمد کریں؛ حساس کارروائیوں میں پہلے اجازت کی جانچ کریں یا صارف سے تصدیق لیں۔

نیت کی شناخت اور پیرامیٹر اخذ کرنے کا انضمام: ایک ہی ماڈل نیت کی درجہ بندی اور پیرامیٹر اخذ کرنے دونوں کاموں کو مکمل کرتا ہے، جس سے ڈاؤن اسٹریم کی بار بار تشریح کا کام کم ہو جاتا ہے۔
تیز ردِعمل: اوسطاً صرف چند درجن ٹوکنز آؤٹ پٹ کرتا ہے، مکمل نتیجے کا ردِعمل وقت سیکڑوں ملی سیکنڈ کی سطح پر ہے، اس لیے زیادہ تعدد والے حقیقی وقت کے باہمی تعامل کے منظرناموں کے لیے موزوں ہے۔
کم کال لاگت: MoE آرکیٹیکچر ہر Token پر صرف تقریباً 4B پیرامیٹرز فعال کرتا ہے۔ عمومی بڑے ماڈلز کے مقابلے میں روزانہ لاکھوں کالز والے منظرناموں میں لاگت کا فرق کئی گنا کم ہو جاتا ہے۔
مستحکم اور قابلِ اعتماد آؤٹ پٹ: نتائج پہلے سے متعین Schema کے JSON ڈھانچے تک سختی سے محدود ہوتے ہیں، فیلڈز یقینی اور فارمیٹ قابلِ جانچ رہتا ہے۔
متعدد نیتوں کی پیچیدہ تشریح: ایک جملے میں متعدد نیتوں، پیرامیٹرز اور ہستیوں کو سپورٹ کرتا ہے، اور انہیں JSON array کے ذریعے متحدہ انداز میں واپس کرتا ہے۔
چاروں کاموں کا متحدہ فارمیٹ: نیت کی تفہیم، ہستی کی شناخت، تعلق اخذ کرنے اور واقعہ اخذ کرنے کے لیے ایک ہی ”زمرہ＋پیرامیٹر“ ان پٹ اور آؤٹ پٹ فارمیٹ استعمال ہوتا ہے، اس لیے ڈاؤن اسٹریم منتقلی کی لاگت انتہائی کم ہے۔

GitHub ریپوزٹری: https://github.com/XingChen-AGI/Xing4.0-29B-Intent
HuggingFace ماڈل ریپوزٹری: https://huggingface.co/XingChen-AGI/Xing4.0-29B-Intent

اسمارٹ کسٹمر سروس / ورک آرڈر روٹنگ: صارفین کی گفتگو کی نیتوں کی شناخت اور اہم معلومات کا اخذ، ورک آرڈرز کی درجہ بندی اور منتقلی خودکار طور پر مکمل کرنا؛ یہ ٹیلی کمیونیکیشن کی 10000 نمبروں والی کسٹمر سروس میں نافذ ہو چکا ہے۔
ٹرمینل صوتی تعامل: وائس اسسٹنٹ، اسمارٹ کاک پٹ، IoT مرکزی کنٹرول اور دیگر منظرناموں میں صارف کی بول چال کی ہدایات کو ساختی ڈیوائس کنٹرول ہدایات میں تبدیل کرنا۔
انٹرپرائز IM روبوٹ: کاروباری ابتدائی مرحلے میں وسیع مقدار میں لیبل شدہ ڈیٹا کی ضرورت کے بغیر نیت کی شناخت اور سوال و جواب کی روٹنگ کی صلاحیت تیزی سے بنانا۔
Agent / Function Calling معنوی داخلی تہہ: ذہین ایجنٹ کو کم hallucination کے ساتھ نیت کا تعین اور فنکشن کالنگ پیرامیٹر اخذ کرنے کی صلاحیت فراہم کرنا، اور قدرتی زبان کو ٹول کے نفاذ سے جوڑنا۔
متعدد کاموں کے لیے معلومات کا اخذ: ایک جملے سے بیک وقت ہستی کی شناخت، تعلق اخذ کرنے اور واقعہ اخذ کرنے کا کام مکمل کرنا، مثلاً ”میٹنگ کو جمعہ کی سہ پہر پر منتقل کرو، مقام تیسری منزل کر دو“ → وقت اور مقام کی تبدیلی بیک وقت اخذ کرنا۔