Mistral AI ilitoa tangazo jana (Agosti 4), ikitangaza kuzindua mwanamitindo wa AI wa ukaguzi wa maudhui Shieldstral, wenye jumla ya vigezo 3B (bilioni 3), unaotumia uzani wazi na kutolewa chini ya leseni ya Apache 2.0.
Mwanamitindo huo tayari unapatikana kwenye jukwaa la Hugging Face, unaunga mkono lugha 12, na unaweza kuendeshwa kwenye GPU moja ya 16GB. Mistral inasema kuwa katika usalama wa maudhui, mwanamitindo huo una utendaji unaolingana na mwanamitindo wa vyanzo huria wenye ukubwa mara 7 zaidi, na pia umefikia kiwango cha SOTA katika ukaguzi wa maudhui anuwai.
Kumbuka: SOTA ni kifupi cha state-of-the-art, kinachorejelea mkusanyiko wa wanamitindo au algoriti zenye utendaji bora zaidi na kiwango cha juu zaidi katika kazi mahususi ya akili bandia au jaribio la kigezo. Kiwango hicho hubadilika kila mara kadiri teknolojia inavyoendelea na tafiti mpya zinavyochapishwa.
Mistral ilibainisha kuwa wanamitindo wengi wa ulinzi huweka mfumo wa kategoria za madhara moja kwa moja kwenye uzani wa mwanamitindo. Baada ya bidhaa kubadilisha hali ya matumizi, kwa kawaida wasanidi hulazimika kuufunza upya mwanamitindo.
Shieldstral, hata hivyo, huweka sera ya ukaguzi kwenye maudhui ya ingizo: mwendeshaji anaweza kuandika swali la “ndiyo au hapana”, kisha kutoa maelezo kuhusu tukio la tathmini na kiwango cha ukali. Baadaye mwanamitindo huzalisha alama ya usalama iliyosawazishwa kutoka kwenye tokeni moja ya matokeo.
Mwanamitindo hubadilisha kila kazi ya ukaguzi kuwa maswali na majibu ya binary, huku ingizo likiwa na sehemu 3 zenye lebo:
<Instruct>: Hueleza tukio la tathmini na kiwango cha ukali.
<Query>: Huuliza swali moja la “ndiyo au hapana”, kwa mfano “Je, maudhui haya yanahamasisha vurugu za kimwili?”
<Document>: Hutoa maudhui yanayopaswa kukaguliwa, ambayo yanaweza kuwa kidokezo, jibu, mchanganyiko wa kidokezo na jibu, au picha iliyoambatanishwa na maandishi ya hiari.
Wakati wa uelekezaji, mwanamitindo husoma tu thamani za kimantiki za tokeni mbili “ndiyo” na “hapana”, kisha huzisawazisha kuwa alama endelevu kupitia softmax na kutumia 0.5 kama kizingiti cha kutoa uamuzi wa binary. Mbinu hii inaweza kutumika katika uainishaji wa vidokezo, ukaguzi wa majibu, utambuzi wa kukataa kujibu na utambuzi wa sumu.
