مرکزی مواد پر جائیں
ماڈلز اور ٹیکنالوجی

مائیکرون GPU کے قریب NAND فلیش کی تحقیق کر رہا ہے، بڑے AI ماڈلز کو سپورٹ کر سکے گی

مائیکرون ایک اعلیٰ پائیداری والا NAND فلیش ماڈیول تیار کر رہا ہے، جسے براہِ راست GPU پیکیج کے اندر یا PCB پر نصب کیا جا سکتا ہے اور یہ تیز رفتار کیش پرت کے طور پر کام کرے گا۔ اس حل کا مقصد AI ماڈلز کی推理 صلاحیت میں نمایاں اضافہ کرنا اور ویڈیو میموری کی گنجائش کی حد عبور کرنا ہے۔#AI چپس# #مائیکرون#

مائیکرون GPU کے قریب NAND فلیش کی تحقیق کر رہا ہے، بڑے AI ماڈلز کو سپورٹ کرے گی

DigiTimes کی آج کی رپورٹ کے مطابق، مائیکرون اعلیٰ پائیداری والے NAND فلیش ماڈیولز پر تحقیق کر رہا ہے۔ کمپنی انہیں GPU کے زیادہ قریب نصب کرنے کا ارادہ رکھتی ہے، بجائے اس کے کہ روایتی اسٹوریج حل کی طرح متعدد پروٹوکولز کے ذریعے GPU سے دور موجود اسٹوریج پول سے منسلک کیا جائے۔

مائیکرون GPU کے قریب NAND فلیش کی تحقیق کر رہا ہے، بڑے AI ماڈلز کو سپورٹ کرے گی

رپورٹ کے مطابق، مائیکرون NAND فلیش کو GPU کے مزید قریب لانے کے طریقوں کا جائزہ لے رہا ہے، تاکہ اسٹوریج کثافت اور پائیداری کے درمیان ایک متوازن حل فراہم کیا جا سکے۔ اس پراڈکٹ کو فی الحال “GPU کے قریب NAND” (نوٹ: near-GPU NAND) کہا جا رہا ہے، اور اسے کم تاخیر / زیادہ بینڈوڈتھ والے کام کے بوجھ کو سنبھالنے کے لیے استعمال کیا جا سکتا ہے۔

اس حل کے ذریعے GPU سینکڑوں GB کے NAND اسٹوریج پول تک براہِ راست رسائی حاصل کر سکے گا۔ اسے GPU پیکیج کے اندر یا PCB پر نصب کیا جا سکتا ہے اور اس کا طریقۂ کار HBM، GDDR7 اور دیگر حلوں سے مشابہ ہوگا۔ روایتی TLC یا QLC NAND کے مقابلے میں، ان NAND چپس کی اسٹوریج کثافت کم ہوگی، جبکہ توجہ I/O رفتار اور بینڈوڈتھ بڑھانے پر مرکوز ہوگی۔

یہ اسٹوریج پرت ویڈیو میموری اور عام اسٹوریج کے درمیان واقع ہوگی اور تیز رفتار کیش پرت کے طور پر کام کرے گی، اس لیے یہ خاص طور پر بڑے AI لینگویج ماڈلز چلانے کے لیے موزوں ہے۔ اس حل کے عملی نفاذ کے بعد، LLM推理 کو ویڈیو میموری کی گنجائش کی حد کا سامنا نہیں رہے گا۔