Kulingana na ripoti ya DigiTimes ya leo, Micron inachunguza moduli ya NAND flash yenye uimara wa juu. Kampuni inapanga kuiweka karibu zaidi na GPU, badala ya kutumia itifaki nyingi kuunganisha na hifadhi iliyo mbali na GPU kama ilivyo katika suluhisho za jadi za hifadhi.
Kulingana na ripoti hiyo, Micron inachunguza jinsi ya kusogeza NAND flash karibu zaidi na GPU, ikilenga kutoa suluhisho la kati kati ya msongamano wa hifadhi na uimara. Bidhaa hii kwa sasa inaitwa “NAND iliyo karibu na GPU” (near-GPU NAND), na inaweza kutumika kushughulikia mizigo ya kazi isiyohitaji ucheleweshaji mdogo / kipimo data kikubwa.
Suluhisho hili linaweza kuiwezesha GPU kufikia moja kwa moja hifadhi ya NAND yenye ukubwa wa mamia ya GB. Hifadhi hiyo inaweza kuwekwa ndani ya kifurushi cha GPU au kwenye PCB, na kufanya kazi kwa njia inayofanana na HBM na GDDR7. Ikilinganishwa na NAND ya kawaida ya TLC au QLC, chipu hizi za NAND zina msongamano mdogo wa hifadhi, huku zikilenga kuongeza kasi ya I/O na kipimo data.
Safu hii ya hifadhi iko kati ya kumbukumbu ya video na hifadhi ya kawaida, hivyo inaweza kutumika kama safu ya akiba yenye kasi kubwa. Kwa hiyo, inafaa hasa kwa kuendesha miundo mikubwa zaidi ya lugha ya AI. Suluhisho hili likitekelezwa, uelekezaji wa LLM hautazuiwa tena na kikomo cha uwezo wa kumbukumbu ya video.