DigiTimes nashrining bugungi xabariga ko‘ra, Micron yuqori chidamlilikka ega NAND flesh-xotira modullarini tadqiq qilmoqda. Kompaniya ularni an’anaviy saqlash yechimlaridagi kabi bir nechta protokol orqali GPUʼdan uzoqda joylashgan xotira havzalariga ulash o‘rniga, GPUʼga yaqinroq joylashtirishni rejalashtirmoqda.
Xabarlarga ko‘ra, Micron NAND flesh-xotirani GPUʼga yanada yaqinlashtirish yo‘llarini o‘rganmoqda va xotira zichligi bilan chidamlilik o‘rtasida muvozanatli yechim taklif qilishni maqsad qilgan. Hozirda ushbu mahsulot “GPUʼga yaqin NAND” (izoh: near-GPU NAND) deb atalmoqda va past kechikish / yuqori o‘tkazuvchanlikni talab qilmaydigan ish yuklamalarini qayta ishlashda qo‘llanishi mumkin.
Ushbu yechim GPUʼga yuzlab GB hajmdagi NAND xotira havzasiga bevosita kirish imkonini beradi. Xotira GPU korpusi ichida yoki PCBʼda joylashtirilishi va HBM, GDDR7 kabi yechimlarga o‘xshash tarzda ishlashi mumkin. An’anaviy TLC yoki QLC NAND bilan taqqoslaganda, bu NAND chiplarining xotira zichligi pastroq bo‘ladi, asosiy e’tibor esa I/O tezligi va o‘tkazuvchanlikni oshirishga qaratiladi.
Ushbu xotira qatlami videoxotira bilan oddiy xotira o‘rtasida joylashib, yuqori tezlikdagi kesh qatlami vazifasini bajaradi. Shu sababli u ayniqsa kattaroq AI katta til modellarini ishga tushirish uchun mos keladi. Ushbu yechim amaliyotga joriy etilgach, LLM inferensiyasi endi videoxotira sig‘imi bilan cheklanmaydi.