SenseNova Loop-9B-Preview Inafanya kazi

SenseNova Loop-9B-Preview ni modeli ya majaribio ya multimodali yenye takriban vigezo bilioni 9, iliyotolewa kama chanzo huria na SenseTime. SenseNova Loop-9B-Preview inahifadhi tabaka 4 za mwanzo na 4 za mwisho za dekoda asilia, huku tabaka za kati zikibadilishwa kuwa moduli ya hesabu ya mizunguko yenye vigezo vinavyoshirikiwa. Kupitia marudio mengi, huongeza kina cha hesabu kinachofaa na kuanzisha utaratibu wa mHC ili kuimarisha uthabiti wa mwingiliano wa vipengele. Kulingana na tathmini rasmi, modeli hii inazidi Qwen3.5-27B katika kazi za ofisi na mawakala mahiri, ikifikisha uwezo wa modeli kubwa katika kazi changamano kwa kutumia vigezo vichache. Uzani wake umechapishwa kwenye GitHub na Hugging Face.

Uzalishaji wa msimbo: Hufikia kiwango kinachoongoza miongoni mwa modeli za kiwango sawa katika kazi za uandishi wa msimbo, na kusaidia matumizi ya maendeleo.
Uzalishaji wa maudhui ya ofisini: Ikiunganishwa na programu ya Xiao Huan Xiong, inaweza kutengeneza kazi za ofisini kama miundo ya PPT na hati ndefu.
Kazi za mawakala mahiri: Huonyesha utendaji bora katika tathmini za mawakala zenye hatua nyingi kama AutomationBench, na inaweza kukamilisha kazi changamano za mlolongo mrefu zenye usimulizi na mwingiliano.
Uchakataji wa muktadha mrefu: Imewekwa rasmi kama modeli ya multimodali ya mizunguko inayolenga muktadha mrefu na mtiririko wa kazi wa mawakala mahiri.
Utafiti wa matumizi ya kibiashara kwa chanzo huria: Uzani na msimbo wa uendeshaji umechapishwa kwenye GitHub na Hugging Face kwa ajili ya utafiti wa jumuiya na matumizi ya kila siku.

Mfuate WeChat na ujibu “开源” ili ujiunge na kikundi cha mawasiliano cha miradi ya AI ya chanzo huria
Muundo wa mizunguko wa Looped Transformer: Modeli hii ina msingi wa ukubwa wa 9B, inahifadhi moduli 4 za mwanzo na 4 za mwisho za dekoda asilia, na kubadilisha tabaka za kati kuwa moduli ya hesabu ya mizunguko yenye vigezo vinavyoshirikiwa. Seti hiyo hiyo ya uzani hutumiwa tena kupitia marudio mengi, hivyo kupanua kina cha hesabu kinachofaa bila kubadilisha ukubwa wa vigezo na kuipa modeli ndogo uwezo wa kufikiri unaokaribia mtandao wenye kina zaidi.
Utaratibu wa mwingiliano wa vipengele wa mHC: Ili kuboresha uwasilishaji wa taarifa katika mizunguko mingi, modeli huanzisha Manifold-Constrained Hyper-Connections (mHC). Hutumia mikondo mingi ya mabaki na matriki mchanganyiko yenye vizuizi vya “double stochastic” kuchanganya vipengele, kuimarisha mwingiliano wa vipengele kati ya tabaka huku ikidhibiti manifold ya taarifa na kudumisha uthabiti wa usambazaji wa mawimbi. Majaribio ya kuondoa vipengele yanaonyesha kuwa utaratibu huu huongeza GPQA Diamond kwa pointi 4.42 na TeamBench kwa pointi 13.34.
Ushirikishaji wa vigezo na muundo wa ufanisi: Kushirikishwa kwa uzani wa tabaka za kati za mizunguko huwezesha modeli yenye takriban vigezo 9B kubeba kina cha hesabu kinachozidi kwa mbali modeli mnene ya 9B. Ikiunganishwa na teknolojia kama TBK, hudhibiti gharama ya hesabu kwa kila mzunguko, ikiwa na lengo la kukaribia utendaji wa modeli za kiwango cha 27B katika kazi changamano huku gharama ya uendeshaji ikidhibitiwa.

Maandalizi ya mazingira: Sakinisha PyTorch inayolingana na CUDA, kisha endesha pip install "transformers==5.18.0" accelerate safetensors.
Kupata modeli: Pakua uzani wa sensenova/SenseNova-Loop-9B-Preview kutoka Hugging Face hadi kwenye kompyuta ya ndani, na uhakikishe kuwa saraka ina usanidi, tokenizer, kiolezo cha mazungumzo na msimbo maalum wa modeli.
Kupakia modeli: Katika msimbo, tumia trust_remote_code=True na dtype=torch.bfloat16 kuita AutoModelForCausalLM.from_pretrained kupakia modeli, kisha tumia .eval().
Kuunda ingizo: Tumia tokenizer.apply_chat_template kuunda prompt ya mazungumzo; unapohitaji ufikiri wa kina, weka enable_thinking=True.
Uendeshaji na uzalishaji: Ita model.generate kuzalisha maandishi. use_cache inaweza kutumika kuharakisha, na uharakishaji wa MTP unapatikana.
Usambazaji kama huduma: Katika mazingira ya uzalishaji, LightLLM au SGLang inaweza kutumika kutoa API kwa nje.

Ufanisi mkubwa wa vigezo: Ina takriban vigezo 9B, na kupitia uzani unaoshirikiwa wa mizunguko inaweza kuiga kina cha utekelezaji cha tabaka 56, ikikaribia utendaji wa modeli za kiwango cha 27B kwa gharama ndogo.
Ubunifu wa muundo: Inatumia Looped Transformer pamoja na mHC ya mikondo miwili, ikitumia mchanganyiko wenye vizuizi wa mabaki mengi kuimarisha mwingiliano wa taarifa na kusawazisha usambazaji wa mawimbi. Ni miongoni mwa utekelezaji wa kwanza wa ndani wa chanzo huria unaotumika katika kiwango cha 9B.
Uwezo wa muktadha mrefu: Mafunzo yanaunga mkono muktadha wa hadi tokeni 262,144, unaofaa kwa uelewa wa hati na kazi za mlolongo mrefu.
Ingizo la multimodali: Inaunga mkono ingizo la maandishi na picha, na imewekwa rasmi kama modeli ya multimodali kwa muktadha mrefu na mtiririko wa kazi wa mawakala mahiri.
Inafaa kwa uharakishaji wa uendeshaji: Ina utaratibu wa uharakishaji wa MTP uliojengewa ndani na unaopatikana tayari; mipango ya usimbaji wa kubahatisha kama Dspark na Dflash2 iko kwenye utafiti.

Hifadhi ya GitHub：https://github.com/OpenSenseNova/SenseNova-Loop
Hifadhi ya modeli ya Hugging Face：https://huggingface.co/sensenova/SenseNova-Loop-9B-Preview

Uelewa na uchanganuzi wa hati ndefu: Kwa kutegemea muktadha mrefu wa 256K, inaweza kuchakata hati kubwa kama mkataba mzima, ripoti ya kifedha au mkusanyiko wa makala kwa wakati mmoja na kutoa muhtasari uliopangwa pamoja na majibu ya maswali.
Mtiririko wa kazi wa mawakala (Agent): Huonyesha utendaji bora katika mazingira ya miito ya zana yenye hatua nyingi, uendeshaji wa tovuti na upangaji wa kazi, na inafaa kwa kujenga mawakala wa ofisi otomatiki na utekelezaji wa michakato.
Uzalishaji wa maudhui ya ofisini: Ikiunganishwa na programu ya Xiao Huan Xiong, inaweza kutengeneza moja kwa moja miundo ya PPT, ripoti za uchanganuzi wa data na kurasa za maonyesho zenye madoido, ikihudumia uundaji wa kazi za kawaida za ofisini.
Msaada wa maendeleo ya msimbo: Uwezo wa kuzalisha msimbo uko katika kiwango kinachoongoza miongoni mwa modeli za kiwango sawa, na unaweza kushughulikia ukamilishaji wa msimbo, uandishi wa hati na maendeleo ya mwisho hadi mwisho ya miradi midogo.
Uundaji wa maudhui ya multimodali: Inaunga mkono ingizo la maandishi na picha, na inafaa kwa uundaji wa maudhui tajiri kama mada za safari zenye mchanganyiko wa maandishi na picha, kurasa za uuzaji na tovuti za kisimulizi.