Ling-3.0-tiny – چیونٹی بائی لنگ کا پیش کردہ مقامی ہائبرڈ استدلالی ماڈل آپریشن میں

Ling-3.0-tiny چیونٹی بائی لنگ کا پیش کردہ مقامی ہائبرڈ استدلالی ماڈل ہے، جس کے کل پیرامیٹرز 7.9B ہیں اور ہر token پر صرف 1.3B فعال ہوتے ہیں۔ یہ ریاضیاتی استدلال، ہدایات کی پابندی اور وسائل سے حساس تعیناتی کے لیے بہتر بنایا گیا ہے۔ ماڈل مقامی طور پر ٹول کالنگ کو سپورٹ کرتا ہے، موبائل ڈیوائسز اور براؤزر کے UI آٹومیشن کنٹرول کے کام انجام دے سکتا ہے، اور مکمل طور پر مقامی استدلال کی سہولت فراہم کرتا ہے۔ یہ فی الحال OpenRouter اور Vercel پر دستیاب ہے، جبکہ ماڈل کے وزن جلد اوپن سورس کیے جائیں گے۔

ہائبرڈ استدلالی معماری: کل پیرامیٹرز 7.9B ہیں، جبکہ ہر token پر صرف 1.3B فعال ہوتے ہیں، جس سے ریاضیاتی استدلال اور ہدایات کی پابندی کے کاموں میں مؤثر حساب ممکن ہوتا ہے۔
مقامی ٹول کالنگ: ٹولز کے استعمال کی صلاحیت اندرونی طور پر شامل ہے، جو براہِ راست براؤزر UI کنٹرول اور موبائل ڈیوائس آٹومیشن انجام دے سکتی ہے۔
مکمل طور پر مقامی استدلال: اسے کلاؤڈ پر انحصار کے بغیر چلایا جا سکتا ہے۔ obsidian-cli کے انضمام کے بعد یہ مقامی ٹیکسٹ لائبریری سے مواد تلاش، منظم اور تیار کر سکتا ہے۔
ہلکی پھلکی متن تخلیق: مقامی ویب صفحات کے ترجمے اور روزمرہ کاموں کی انجام دہی جیسے کثرت سے استعمال ہونے والے منظرناموں کے لیے کم تاخیر والی متن تخلیق کی سہولت فراہم کرتا ہے۔

Sparse Mixture-of-Experts معماری (MoE): ماڈل کے کل پیرامیٹرز 7.9B ہیں، لیکن گیٹڈ روٹنگ میکانزم کے ذریعے ہر token پر تقریباً 1.3B پیرامیٹرز ہی فعال ہوتے ہیں۔ یوں بڑے ماڈل کی اظہار کی صلاحیت برقرار رکھتے ہوئے استدلالی حساب کو ایک چھوٹے dense ماڈل کی سطح تک محدود کیا جاتا ہے۔
مقامی ہائبرڈ استدلالی راستے: متعدد مختلف استدلالی چینلز اندرونی طور پر شامل ہیں۔ یہ کام کی پیچیدگی کے مطابق ہلکے اور تیز ردِعمل یا گہری سلسلہ وار سوچ کے راستے کا متحرک انتخاب کرتے ہیں، جس سے ریاضیاتی استدلال کی درستگی اور روزمرہ ہدایات پر عمل کی رفتار میں توازن قائم رہتا ہے۔
گیٹڈ روٹنگ اور بوجھ کا توازن: ہر token کے لیے بہترین ماہر ذیلی مجموعہ مختص کرنے کے لیے قابلِ تعلم router استعمال کیا جاتا ہے۔ اس کے ساتھ load-balancing loss function ماہرین کے collapse کو روکتا ہے اور یقینی بناتا ہے کہ 7.9B پیرامیٹرز کی جگہ مؤثر اور یکساں طور پر استعمال ہو۔
ٹول کالنگ کا مقامی انضمام: pre-training یا alignment مرحلے میں ٹولز کے استعمال کے طریقوں کو براہِ راست ماڈل کی نمائندگی کی جگہ میں encode کیا جاتا ہے، جس سے ماڈل بیرونی plugin کے بغیر ٹول انٹرفیس کے اصولوں کے مطابق کالنگ ہدایات تیار کر سکتا ہے اور براؤزر UI و موبائل ڈیوائسز کو خودکار طور پر کنٹرول کر سکتا ہے۔
مقامی تعیناتی کی بہتری: مقامی استدلال کے لیے quantization compression اور KV-Cache میموری کی بہتری کی جاتی ہے۔ یہ صارفین کے درجے کے hardware پر مکمل طور پر آف لائن چل سکتا ہے، کلاؤڈ پر انحصار ختم کرتا ہے اور کثرت سے کی جانے والی API کالز کے نیٹ ورک و حسابی اخراجات کم کرتا ہے۔

پلیٹ فارم تک رسائی: OpenRouter کی سرکاری ویب سائٹ (https://openrouter.ai) یا Vercel AI Gateway صفحے پر جائیں۔
ماڈل منتخب کریں: inclusionai/ling-3.0-tiny:free تلاش کریں اور اس کے ماڈل کی تفصیلات کے صفحے پر جائیں۔
اجازت حاصل کریں: اکاؤنٹ رجسٹر یا لاگ اِن کریں، پھر مفت آزمائشی مدت کے دوران براہِ راست API کلید حاصل کرکے سروس استعمال کریں۔
اوپن سورس ہونے کا انتظار کریں: Ant Ling کے سرکاری ذرائع پر نظر رکھیں، اور وزن اوپن سورس ہونے کے بعد ماڈل فائلیں ڈاؤن لوڈ کرکے مقامی تعیناتی کریں۔
ٹولز کو مربوط کریں: obsidian-cli یا براؤزر آٹومیشن plugin ترتیب دے کر مقامی علمی تلاش اور UI کنٹرول فعال کریں۔

انتہائی ہلکا پن: صرف 1.3B پیرامیٹرز فعال ہونے کے باوجود چل سکتا ہے۔ اس کی استدلالی لاگت اور ویڈیو میموری کا استعمال یکساں حجم کے dense ماڈلز سے کہیں کم ہے، اس لیے یہ مقامی اور edge تعیناتی کے لیے موزوں ہے۔
رازداری کو ترجیح: مکمل طور پر مقامی طور پر چل سکتا ہے، ڈیٹا ڈیوائس سے باہر نہیں جاتا، اور مالی و طبی شعبوں جیسے اعلیٰ ڈیٹا سکیورٹی تقاضوں والے منظرناموں کو پورا کرتا ہے۔
ٹولز کے ساتھ مقامی مطابقت: اضافی fine-tuning یا plugin کے بغیر بیرونی ٹولز استعمال کر سکتا ہے، جس سے آٹومیشن کے عمل کی تیاری کی دشواری کم ہوتی ہے۔

موبائل ڈیوائس ذہین معاون: فون پر ترجمہ، سوال و جواب اور نظام الاوقات کا انتظام آف لائن مکمل کرتا ہے اور انٹرنیٹ کے بغیر جواب دے سکتا ہے۔
براؤزر آٹومیشن: مقامی ٹول کالنگ کے ذریعے ویب فارم بھرنے، معلومات حاصل کرنے اور UI تعامل کے کام خودکار طور پر انجام دیتا ہے۔
مقامی علمی انتظام: obsidian-cli کو مربوط کرکے مکمل طور پر نجی knowledge base بناتا ہے، جس سے مقامی دستاویزات کی تلاش اور ذہین خلاصہ ممکن ہوتا ہے۔
کاروباری edge تعیناتی: صنعتی کنٹرول کمپیوٹر یا داخلی نیٹ ورک کے ماحول میں تعینات ہوکر محدود وسائل والی ڈیوائسز پر مطابقت پذیر AI خدمات فراہم کرتا ہے۔
کثرت سے استعمال ہونے والی ہلکی خدمات: ویب صفحات کے ترجمے اور مواد کی تخلیق جیسی بار بار آنے والی درخواستوں کو پسِ منظر میں مستقل چلنے والے interface کے ذریعے سنبھالتا ہے، جس سے حسابی اخراجات نمایاں طور پر کم ہوتے ہیں۔