Beam آپریشن میں

Beam، Reflection AI کی جانب سے پیش کیا جانے والا پہلا اوپن سورس بڑا زبان ماڈل ہے۔ یہ 501B پیرامیٹرز کے اسپارس MoE فن تعمیر پر مبنی ہے، ہر token پر صرف 23B پیرامیٹرز فعال کرتا ہے، 10 لاکھ token کے context کو سپورٹ کرتا ہے، اور اس کی pre-training میں 23.8T token استعمال ہوئے۔ Beam کی training ایک صنعتی پیمانے کی computing طاقت کا مظاہرہ ہے: pre-training 6,144 GB300 پر چار ہفتوں سے بھی کم وقت میں مکمل ہوئی، جبکہ 10,500 GB300 پر چار ہفتوں تک 1 کروڑ سے زیادہ rollout کے ساتھ بڑے پیمانے کی reinforcement learning کی گئی۔

پروگرامنگ اور development: software engineering کے کاموں میں GLM-5.2 کے ہم پلہ کارکردگی دکھاتا ہے اور enterprise coding workloads کے لیے بنیادی ماڈل ہے۔
Agent execution: tool calling، terminal operation اور web search جیسی صلاحیتوں کے ساتھ متعدد مراحل پر مشتمل کام خود مکمل کر سکتا ہے، حتیٰ کہ دوسرے بڑے زبان ماڈلز اور OCR API کو استعمال کرنا بھی سیکھ سکتا ہے۔
طویل متن کی processing: 10 لاکھ token context کو سپورٹ کرتا ہے اور انتہائی طویل codebase اور دستاویزات میں اہم معلومات تلاش کرکے ان کے باہمی تعلق کو سمجھ سکتا ہے۔
قابلِ ایڈجسٹ reasoning intensity: صارف reasoning effort پیرامیٹر کے ذریعے مختصر جواب اور تفصیلی reasoning کے درمیان آزادانہ انتخاب کر سکتا ہے، تاکہ مختلف کاموں اور computing بجٹ سے مطابقت پیدا ہو۔

WeChat پر فالو کرکے “开源” کا جواب دیں اور AI اوپن سورس پروجیکٹ گروپ میں شامل ہوں۔
اسپارس MoE فن تعمیر: ماڈل کے کل پیرامیٹرز 501B ہیں، لیکن ہر بار صرف 23B فعال ہوتے ہیں۔ fine-grained routing experts اور auxiliary-loss-free load balancing کے ذریعے experts کا استعمال تقریباً یکساں رہتا ہے؛ سب سے زیادہ مصروف expert کا load صرف 1.04× ہے، جو Beam کی مؤثر inference کے لیے hardware-level بنیاد فراہم کرتا ہے۔
دو مراحل پر مشتمل بڑے پیمانے کی training: pre-training میں 6,144 GB300 پر 23.8T token چار ہفتوں سے بھی کم وقت میں process کیے گئے۔ topology-aware scheduler اور خاموش data corruption detection کے ساتھ goodput 92.3% رہا۔ اس کے بعد 10.5K GB300 پر چار ہفتوں کی reinforcement learning کی گئی، جس میں 1 کروڑ سے زیادہ rollout تیار ہوئے؛ اس دوران اوسطاً 110,000 concurrent rollout اور 170,000 concurrent sandbox برقرار رہے۔
مکمل طور پر asynchronous RL system: asynchronous policy gradients استعمال کرتا ہے اور rollout و training کو متوازی طور پر چلاتا ہے۔ ہر token کو اسے پیدا کرنے والے model version کے ساتھ tag کرکے policy staleness کا مسئلہ حل کیا جاتا ہے۔ نمونہ موجودہ policy سے ایک دن، یعنی 107 versions، پیچھے ہونے کے باوجود عددی استحکام برقرار رہتا ہے۔ نئے weights کو RoCE کے ذریعے inference cluster میں تہہ دار انداز سے تقسیم کرنے میں median 12 سیکنڈ لگتے ہیں۔
قابلِ کنٹرول reasoning length کی learning: RL میں length penalty شامل کی جاتی ہے، تاکہ ماڈل پہلے کم token میں مسئلہ حل کرنا سیکھے، پھر agentic صلاحیتوں میں اضافے کے بعد reasoning length کو فطری طور پر بڑھائے۔ اس طرح capability اور token consumption کے درمیان بہترین توازن پیدا ہوتا ہے، جسے صارف ضرورت کے مطابق ایڈجسٹ کر سکتا ہے۔

موجودہ مرحلے میں weights جاری نہیں کیے گئے؛ صرف بعض صارفین کو preview version فراہم کیا جا رہا ہے۔ ابتدائی رسائی کے لیے https://platform.reflection.ai/ ملاحظہ کریں۔

انتہائی مؤثر inference: GLM-5.2 کے مقابلے میں 3–4 گنا کم inference computing کے ساتھ ہم پلہ reasoning کارکردگی حاصل کرتا ہے، جبکہ Qwen 3.8-Max جیسے 2T+ ماڈلز کے مقابلے میں مزید بچت فراہم کرتا ہے اور اعلیٰ intelligence density رکھتا ہے۔
فعال پیرامیٹرز کی انتہائی کم تعداد: 501B کل پیرامیٹرز میں سے ہر token پر صرف 23B فعال ہوتے ہیں، جس سے اسپارس MoE design deployment اور inference کی لاگت نمایاں طور پر کم کرتا ہے۔
RL کا نایاب صنعتی پیمانہ: 10.5K GB300 پر مسلسل چار ہفتوں تک 1 کروڑ سے زیادہ rollout کیے گئے، جو open labs میں اب تک کی سب سے بڑی RL trainings میں سے ایک ہے۔
مضبوط training stability: پوری pre-training کے دوران صرف 9 نیم خودکار rollbacks ہوئے، goodput 92.3% رہا، اور training curve میں کوئی instability نہیں آئی، جو انتہائی پختہ engineering کی نشاندہی کرتا ہے۔
قابلِ کنٹرول reasoning length: صارف reasoning effort پیرامیٹر کے ذریعے reasoning depth آزادانہ طور پر ایڈجسٹ کر سکتا ہے اور performance و cost کے درمیان ضرورت کے مطابق توازن قائم کر سکتا ہے۔

پروجیکٹ کی ویب سائٹ: https://reflection.ai/blog/introducing-beam

Enterprise نجی coding assistant: enterprises مکمل طور پر self-hosted، کم لاگت اور اندرونی network سے data باہر نہ جانے والا AI coding assistant تیار کر سکتے ہیں۔
Codebase-level refactoring اور auditing: 10 لاکھ token context window کی بدولت Beam پورے درمیانے درجے کے codebase کو ایک بار میں load کر سکتا ہے، files کے درمیان dependencies سمجھ سکتا ہے اور بڑے پیمانے کی refactoring یا security audit انجام دے سکتا ہے۔
خودکار Agent workflows: 1 کروڑ سے زیادہ rollout پر مبنی reinforcement learning کے ذریعے Beam نے tool calling، terminal operation اور web search کی صلاحیتیں حاصل کی ہیں، جو data analysis اور IT operations inspection جیسے طویل سلسلے والے متعدد مراحل کے کام انجام دے سکتی ہیں۔
سرکاری و کاروباری sovereign AI deployment: امریکی مقامی ٹیم کے تیار کردہ open-weight model کے طور پر Beam audit اور isolated deployment کی سہولت دیتا ہے، اور حکومت، توانائی اور دفاعی صنعت کی جانب سے غیر چینی supply chain کے ماڈلز کی compliant procurement کی ضروریات سے مطابقت رکھتا ہے۔