Neon ilichapisha jana (Agosti 6) makala ya blogu, ikitangaza ushirikiano na kampuni ya Castform na kufichua mpango wa mafunzo kwa ajili ya modeli za utafutaji.
Kumbuka: Neon ni hifadhidata ya PostgreSQL isiyo na seva (Serverless) inayosimamiwa kikamilifu. Inatenganisha kompyuta na hifadhi, inaunga mkono upanuzi wa kiotomatiki, kupunguza rasilimali hadi sifuri inapohitajika, pamoja na matawi ya hifadhidata yanayofanana na Git; hivyo inafaa sana kwa programu za kisasa za cloud-native na mawakala wa AI.
Castform hujikita zaidi katika kutoa mawakala wa sauti wa AI na jukwaa la mafunzo ya modeli kwa biashara na wasanidi programu. Kupitia mawasiliano ya sauti yanayofanana sana na halisi na mtiririko wa kazi wa kiotomatiki, husaidia biashara kushughulikia simu za kila siku, ufuatiliaji wa mauzo na huduma kwa wateja.
Makala hiyo inaeleza kuwa wakala mzuri wa AI anahitaji kuwa na uwezo 2 ufuatao: kwanza, kupata data sahihi ya muktadha kupitia zana; pili, kuamua ni modeli gani itumike kwa utafutaji huo.
Kwa hiyo, timu ya Neon ilishirikiana na Castform kutumia ujifunzaji wa kuimarisha na kufanya mafunzo ya baadae kwa modeli 1 ya chanzo huria yenye vigezo 4B. Katika kazi za utafutaji, usahihi wa modeli hiyo ni sawa na, au hata zaidi ya, GPT-5.6 Sol ya OpenAI, huku gharama ikiwa takriban 1/100 ya hiyo ya mwisho.
Timu ya Neon inaeleza kuwa katika utafutaji wa nyaraka, mbinu kuu kwa sasa ni utafutaji uliopachikwa (embedded search), ambapo kwa kawaida nyaraka hubadilishwa kuwa data za nambari kisha kutafutwa maudhui yanayofanana.
Kwa kuenea kwa mawakala wa AI, mchakato wa utafutaji umeanza kuelekea utafutaji wa kiwakala. Katika mifumo hii, modeli ya AI hugawanya swali kubwa kuwa maswali madogo kadhaa, huamua yenyewe hoja za utafutaji, hukagua matokeo ya utafutaji, kisha huanzisha utafutaji unaofuata kwa kuzingatia matokeo hayo hadi ikusanye taarifa inayohitajika.
Neon inasema utafutaji wa kiwakala unafaa zaidi kwa kushughulikia maswali changamano, lakini kila utafutaji huhitaji kuitisha modeli yenye utendaji wa juu, jambo linaloongeza muda na gharama. Kwa kipimo cha ombi la kawaida kilichotolewa na Neon, utafutaji mmoja kwa kutumia GPT-5.6 Sol huchukua zaidi ya sekunde 10 na hugharimu takriban $0.03.
Castform ilichagua kufunza modeli ya chanzo huria yenye ukubwa mdogo kiasi, ili modeli ijifunze jinsi ya kupata taarifa inayohitajika kutoka kwenye data maalum. Neon ilihusika na kutoa eneo la kuhifadhi nyaraka na utendaji wa utafutaji, huku Castform ikihusika na kufunza modeli kuamua “itafute nini”.
Katika mchakato wa mafunzo, modeli hujaribu kukamilisha kazi, mfumo hutoa alama kwa matokeo, na alama hizo hujumuishwa katika majaribio yanayofuata. Vipimo vya tathmini vinajumuisha: ikiwa imepata nyaraka sahihi, ikiwa imenukuu aya zinazofaa, na ikiwa jibu la mwisho ni sahihi.
Katika uthibitishaji wa Neon, modeli iliyofanyiwa mafunzo ya baadae na Castform ilipata wastani wa alama 1.447, ikizidi 1.369 ya GPT-5.6 Sol na pia 1.377 ya GPT-5.4 iliyotumika kama kipimo cha kulinganisha, na kuweka rekodi mpya ya juu zaidi katika uthibitishaji huo.
Kuhusu gharama, gharama ya makisio moja ya modeli iliyofanyiwa mafunzo ya baadae ni dola 0.000929 za Marekani (sawa na takriban yuan 0.0063 kwa kiwango cha sasa cha ubadilishaji); gharama ya makisio moja ya GPT-5.6 Sol ni dola 0.087338 za Marekani (sawa na takriban yuan 0.59 kwa kiwango cha sasa cha ubadilishaji).