Thinking Machines Lab ilichapisha makala ya blogu jana (Julai 30), ikitangaza uzinduzi wa modeli ya Inkling-Small, ambayo utendaji wake unalingana na Inkling huku ukubwa wake ukipunguzwa hadi takriban robo moja.
Inkling inadaiwa kuwa “modeli ya AI ya chanzo huria yenye nguvu zaidi nchini Marekani”. Inatumia usanifu wa mchanganyiko wa wataalamu (MoE), ikiwa na jumla ya vigezo 975B, vigezo vilivyoamilishwa 41B, na muktadha mrefu zaidi wa tokeni 1M.
Modeli ya Inkling-Small iliyozinduliwa wakati huu pia inatumia usanifu wa mchanganyiko wa wataalamu (MoE), ikiwa na jumla ya vigezo 276B na vigezo vilivyoamilishwa 12B. Ukubwa wake ni takriban 1/4 ya Inkling, na ilifunzwa kwenye mfumo wa NVIDIA GB300 NVL72.
Kama Inkling, Inkling-Small inasaidia uelekezaji asilia wa sauti na picha, kiwango kinachobadilika cha kufikiri, pamoja na dirisha la muktadha la hadi tokeni 1M. Pia hudumisha utendaji uliosawazika katika aina mbalimbali za majaribio ya viwango.
Thinking Machines imefungua uzani kamili wa Inkling-Small, huku pia ikiunganisha modeli hiyo kwenye huduma ya urekebishaji wa Tinker na kutoa uzoefu wa mazungumzo ya maandishi, picha na sauti kupitia Tinker Playground.
Thinking Machines inasema Inkling-Small hupata utendaji unaokaribiana na Inkling kwa kutumia rasilimali ndogo za kompyuta. Katika majaribio ya matumizi ya zana za mawakala, kufikiri na kufuata maagizo, ufanisi wa Inkling-Small ni wa juu kuliko Inkling, na inaweza kushindana na modeli nyingine zenye kiwango sawa cha uzani.
Katika kazi za kufikiri na za mawakala, Inkling-Small ililingana au kuizidi Inkling. Katika jaribio la Humanity’s Last Exam, Inkling-Small ilipata 31.6%, juu ya 29.7% ya Inkling. Thinking Machines inasema kuwa, katika kila bajeti ya kufikiri, mkondo wa hesabu wakati wa majaribio wa Inkling-Small ulikuwa juu kuliko wa Inkling.
