Thinking Machines Lab kecha (30-iyul) blog posti orqali Inkling bilan teng samaradorlikka ega, ammo hajmi qariyb to‘rtdan biriga qisqartirilgan Inkling-Small modelini taqdim etganini e’lon qildi.
Inkling “AQShning eng kuchli ochiq kodli AI modeli” deb ataladi. U aralash ekspertlar (MoE) arxitekturasidan foydalanadi, jami 975B ta parametr va 41B ta faollashtiriladigan parametrga ega, maksimal kontekst uzunligi esa 1M tokenni tashkil etadi.
Bu safar taqdim etilgan Inkling-Small modeli ham aralash ekspertlar (MoE) arxitekturasidan foydalanadi. Unda jami 276B ta parametr va 12B ta faollashtiriladigan parametr mavjud. Hajmi Inkling modelining qariyb 1/4 qismiga teng bo‘lib, NVIDIA GB300 NVL72 tizimida o‘qitilgan.
Inkling kabi Inkling-Small ham audio va tasvirlar bo‘yicha bevosita xulosa chiqarishni, fikrlash intensivligini o‘zgartirishni hamda maksimal 1M tokenlik kontekst oynasini qo‘llab-quvvatlaydi va bir nechta turdagi benchmark testlarida muvozanatli natijalarni saqlab qoladi.
Thinking Machines Inkling-Small modelining to‘liq og‘irliklarini ochdi, shuningdek uni Tinker nozik sozlash xizmatiga uladi va Tinker Playground platformasida matn, tasvir hamda audio bilan suhbatlashish imkoniyatini taqdim etdi.
Thinking Machines ma’lumotlariga ko‘ra, Inkling-Small kamroq hisoblash resurslari yordamida Inkling modeliga yaqin natijalarga erishadi. Agentlar vositalaridan foydalanish, xulosa chiqarish va ko‘rsatmalarga rioya qilish testlarida Inkling-Small Inkling’dan samaraliroq bo‘lib, bir xil og‘irlik darajasidagi boshqa modellar bilan raqobatlasha oladi.
Xulosa chiqarish va agentlik vazifalarida Inkling-Small Inkling bilan tenglashadi yoki undan o‘zib ketadi. Humanity’s Last Exam testida Inkling-Small 31.6% natija qayd etib, Inkling’ning 29.7% ko‘rsatkichidan yuqori natija ko‘rsatdi. Thinking Machines ta’kidlashicha, har bir fikrlash budjeti darajasida Inkling-Small’ning test vaqtida hisoblash samaradorligi egri chizig‘i Inkling’nikidan yuqori bo‘lgan.
