OpenAI bugun (25-kuni) kechqurun Hot Chips konferensiyasida yangi Jalapeño inferensiya tizimi haqida qo‘shimcha tafsilotlarni e’lon qildi va benchmark sinovlari natijalarini ilk bor oshkor etdi. SemiAnalysis’ning InferenceX sinovida Jalapeño ham bitta foydalanuvchiga to‘g‘ri keladigan tokenlarni qayta ishlash hajmi, ham har kilovattga to‘g‘ri keladigan unumdorlik bo‘yicha bozordagi eng ilg‘or inferensiya protsessorlaridan o‘zib ketdi.
OpenAI apparat vositalari rahbari Richard Ho media vakillari bilan o‘tkazilgan telefon konferensiyasida shunday dedi: “Sinov natijalaridagi eng muhim jihat shuki, Jalapeño hozirgi eng ilg‘or mahsulotlarga nisbatan juda sezilarli unumdorlik o‘sishini ta’minladi. U bir xil quvvat sarfi bilan ko‘proq AI ish yuklamalarini qayta ishlashi va javoblarni tezroq taqdim etishi mumkin. Jalapeño ko‘plab foydalanuvchilarga samarali xizmat ko‘rsatish bilan birga, juda past kechikishni ham saqlab qoladi.”
Jalapeño OpenAI va Broadcom tomonidan birgalikda ishlab chiqilgan, OpenAI’ning o‘z modellari ham ushbu tadqiqot va ishlab chiqish jarayonida ishtirok etgan. OpenAI Jalapeño’ni bir necha avlod davomida rivojlantirish mumkin bo‘lgan texnologik platformaga aylantirishni istaydi, shunda AI mahsulotlari, modellar, chiplar va xotira boshidanoq o‘zaro muvofiqlashtirilgan holda loyihalanadi.
Ushbu chip asosan AI inferensiyasi, ya’ni allaqachon o‘qitilgan AI modellarini amalda ishga tushirib, vazifalarni bajarish yoki AI agentlarini boshqarish uchun xizmat qiladi.
OpenAI Jalapeño’ning inferensiya unumdorligini InferenceX platformasi yordamida sinovdan o‘tkazib, uni NVIDIA GB200 va GB300 superchip tizimlari bilan taqqosladi. OpenAI ma’lumotiga ko‘ra, GPT-OSS 120B, DeepSeek R1 va Kimi K2.5 1T modellarining uchalasida ham Jalapeño har vattga to‘g‘ri keladigan AI ish hajmi bo‘yicha taqqoslanayotgan tizimlarning 1.5–1.9 baravar natijasini ko‘rsatgan, uchidan uchigacha kechikish esa taqqoslanayotgan tizimlarning taxminan 28%–59% ini tashkil etgan.
To‘liq stekni muvofiqlashtirib ishlab chiqish OpenAI’ga inferensiya jarayonida tezlikni eng ko‘p pasaytiradigan bosqichlarni bevosita optimallashtirish imkonini berdi. Jalapeño oldindan to‘ldirish va aloqa bosqichlaridagi kechikishni kamaytirishga alohida e’tibor qaratadi, OpenAI nazarida aynan shu ikki bosqich ko‘pincha inferensiya unumdorligining asosiy to‘sig‘i hisoblanadi.
OpenAI sinov natijalari e’lon qilingan blog maqolasida Jalapeño loyihalashning ilk bosqichidanoq ma’lumotlarni ko‘chirish va aloqa kechikishini imkon qadar kamaytirgani haqida yozdi. Javoblarni yaratishda foydalaniladigan KV keshi kabi model holatlari aniq belgilangan joyda saqlanib, lokal tarzda ushlab turilishi mumkin. Shundan so‘ng tizim inferensiyaning turli bosqichlariga qarab hisoblash, xotira va tarmoq resurslarini mos ravishda taqsimlaydi.
IT uyi ma’lumotiga ko‘ra, OpenAI Jalapeño’ni joriy yil oxirigacha avval “kichik miqyosda” joylashtirishni, 2027-yilda esa joylashtirish hajmini bosqichma-bosqich kengaytirishni rejalashtirmoqda, biroq kelasi yili qancha chip ishlatilishi haqida aniq ma’lumot berilmagan.
Manba
OpenAI rasmiy materiali: Jalapeño’s first results show industry-leading speed and efficiency in AI inference