DigiTimes의 오늘 보도에 따르면, 마이크론은 높은 내구성을 갖춘 NAND 플래시 모듈을 연구하고 있습니다. 마이크론은 기존 스토리지 솔루션처럼 여러 프로토콜을 통해 GPU에서 멀리 떨어진 스토리지 풀에 연결하는 대신, GPU와 더 가까운 위치에 이를 배치할 계획입니다.
보도에 따르면 마이크론은 NAND 플래시를 GPU에 더 가깝게 배치하는 방법을 모색하고 있으며, 저장 밀도와 내구성 사이에서 절충안을 제공하는 것을 목표로 하고 있습니다. 현재 이 제품은 ‘GPU 근접 NAND’(주: near-GPU NAND)로 불리며, 초저지연·고대역폭이 필요하지 않은 작업 부하를 처리하는 데 사용할 수 있습니다.
이方案을 사용하면 GPU가 수백 GB 규모의 NAND 스토리지 풀에 직접 액세스할 수 있습니다. NAND는 GPU 패키지 내부나 PCB에 직접 배치할 수 있으며, HBM과 GDDR7 같은 솔루션과 유사한 방식으로 작동합니다. 기존 TLC 또는 QLC NAND와 비교하면 이 NAND 칩은 저장 밀도가 더 낮고, I/O 속도와 대역폭 향상에 중점을 둡니다.
이 스토리지 계층은 메모리와 일반 스토리지 사이에 위치해 고속 캐시 계층 역할을 하므로, 더 큰 규모의 AI 대규모 언어 모델을 실행하는 데 특히 적합합니다. 이方案이 상용화되면 LLM 추론은 더 이상 메모리 용량의 제한을 받지 않게 됩니다.