DigiTimes-এর আজকের প্রতিবেদন অনুযায়ী, মাইক্রন উচ্চ-সহনশীলতার NAND ফ্ল্যাশ মডিউল নিয়ে গবেষণা করছে। প্রতিষ্ঠানটি প্রচলিত স্টোরেজ সমাধানের মতো একাধিক প্রোটোকলের মাধ্যমে GPU থেকে দূরে থাকা স্টোরেজ পুলের সঙ্গে সংযোগ করার পরিবর্তে, এই মডিউল GPU-র আরও কাছাকাছি স্থাপনের পরিকল্পনা করছে।
প্রতিবেদন অনুযায়ী, মাইক্রন NAND ফ্ল্যাশকে কীভাবে GPU-র আরও কাছে আনা যায়, তা নিয়ে গবেষণা করছে। তাদের লক্ষ্য স্টোরেজ ঘনত্ব ও স্থায়িত্বের মধ্যে একটি ভারসাম্যপূর্ণ সমাধান দেওয়া। এই পণ্যটি বর্তমানে “GPU-ঘেঁষা NAND” (নোট: near-GPU NAND) নামে পরিচিত এবং কম-লেটেন্সি / উচ্চ-ব্যান্ডউইথ নয়, এমন কাজের চাপ সামলাতে ব্যবহার করা যেতে পারে।
এই সমাধানের মাধ্যমে GPU সরাসরি শত শত GB-এর NAND স্টোরেজ পুলে প্রবেশ করতে পারবে। এটি GPU প্যাকেজের ভিতরে বা PCB-তে স্থাপন করা যেতে পারে এবং HBM, GDDR7-এর মতো কাজ করবে। প্রচলিত TLC বা QLC NAND-এর তুলনায় এই NAND চিপের স্টোরেজ ঘনত্ব কম, তবে এর মূল লক্ষ্য I/O গতি ও ব্যান্ডউইথ বাড়ানো।
এই স্টোরেজ স্তরটি মেমরি ও সাধারণ স্টোরেজের মাঝখানে অবস্থান করবে এবং উচ্চগতির ক্যাশ স্তর হিসেবে কাজ করবে। ফলে এটি বিশেষভাবে বড় আকারের AI লার্জ ল্যাঙ্গুয়েজ মডেল চালানোর জন্য উপযোগী। সমাধানটি বাস্তবায়িত হলে LLM ইনফারেন্স আর মেমরি ক্ষমতার সীমাবদ্ধতায় আটকে থাকবে না।