Ruka hadi maudhui makuu
Mafunzo ya AI

Jinsi ya Kusanidi Shim kwa Mawakala wa Usimbaji wa AI Wanaotanguliza Uendeshaji wa Ndani

Jifunze jinsi ya kusakinisha Shim, kuunganisha miundo ya AI ya ndani au inayopangishwa, kuendesha kazi za wakala wa usimbaji, kudhibiti vipindi, kupakia Ujuzi wa Mawakala, kusanidi seva za MCP, na kuweka mipangilio salama ya ruhusa. Mafunzo haya yanaangazia udhibiti wa mazungumzo na kiolesura kamili cha mstari wa amri, huku yakieleza muundo wa Shim unaotanguliza uendeshaji wa ndani na mipaka ya usalama.

Jinsi ya Kusanidi Shim kwa Mawakala wa Usimbaji wa AI wa Ndani

Shim ni Nini?

Shim ni mfumo mdogo wa wakala wa AI unaoanza na mazingira ya ndani, ulioundwa kwa watumiaji wa terminal. Unatoa kiolesura cha kawaida cha kuunganisha API za modeli zinazotumika, Agent Skills, na seva za Model Context Protocol bila kuhitaji programu ya eneo-kazi, daemon ya chinichini, hifadhidata, Docker, Node.js, au Python.

Shim husambazwa kama binary tuli na hutumia JSON wazi kwa usanidi pamoja na faili za JSONL zinazoongezwa pekee kwa vipindi. Funguo za API husomwa kutoka kwenye vigezo vya mazingira badala ya kuandikwa kwenye usanidi wa Shim.

Shim ni mfumo wa uendeshaji wa wakala, si injini ya utafutaji wa majibu ya modeli. Uzito wa modeli za ndani lazima uendeshwe kupitia seva ya utafutaji wa majibu kama Ollama, LM Studio, llama.cpp, au huduma nyingine inayooana. Modeli zinazopangishwa lazima zitolewe kupitia API ya HTTP inayotumika.

Vipengele Muhimu

  • Udhibiti wa mazungumzo na wa moja kwa moja: Andika maombi ya usimamizi kwa lugha ya kawaida au tumia CLI kamili inayoweza kuandikwa kwa hati.
  • Uelekezaji wa amri za ndani: Mini-modeli ya ndani ya hiari inaweza kutafsiri maombi ya usimamizi kuwa amri za Shim zilizoidhinishwa.
  • Watoa modeli wengi: Shim inasaidia API zinazooana na OpenAI, Anthropic Messages, mipangilio ya awali ya watoa huduma wa ndani, na ncha maalum.
  • Agent Skills: Hugundua faili za SKILL.md na kupakia maagizo yake yote pale tu yanapohitajika.
  • Muunganisho wa MCP: Unganisha seva za MCP za stdio au Streamable HTTP na kuonyesha zana zake kwa wakala.
  • Vidhibiti vya ruhusa: Chagua utekelezaji wa kusoma pekee, unaohitaji uthibitisho, au wa kiotomatiki.
  • Hali inayobebeka: Usanidi na vipindi hutumia faili za kawaida za JSON na JSONL.
  • Hakuna telemetry: Shughuli za mtandao zinaishia kwenye miito ya modeli iliyoombwa wazi, upakuaji wa skills, ugunduzi wa ndani, na seva za MCP zilizosanidiwa.

Sakinisha Shim

Chaguo la 1: Pakua Toleo

Pakua binary tuli ya Windows, macOS, au Linux kutoka kwenye ukurasa wa matoleo ya Shim. Weka kitekelezi kwenye mfumo wako wa PATH, kisha anzisha Shim:

shim setup
shim

Unapoendesha kitekelezi kilichopakuliwa moja kwa moja kutoka kwenye saraka ya sasa katika PowerShell, tumia .\shim.exe.

Chaguo la 2: Sakinisha kwa Go

Ikiwa Go 1.25 au mpya zaidi inapatikana, sakinisha Shim kwa:

go install github.com/Balanov/shim/cmd/shim@v0.1.0
shim setup

Chaguo la 3: Jenga kutoka kwenye Msimbo Chanzo

Clone hazina, endesha majaribio yake, kisha jenga binary:

git clone https://github.com/Balanov/shim.git
cd shim
go test ./...
go build -trimpath -ldflags="-s -w" -o shim ./cmd/shim
./shim setup

Hazina pia ina scripts/build.ps1 kwa Windows na scripts/build.sh kwa mifumo ya Unix.

Unganisha Modeli

Gundua Seva za Modeli za Ndani

Ikiwa Ollama, LM Studio, llama.cpp, au seva nyingine ya ndani inayooana tayari inaendeshwa, iambie Shim igundue na isanidi modeli zinazopatikana:

shim model discover --add

Hakuna uzito wa modeli unaokuja pamoja na Shim au kupakuliwa bila taarifa. Seva ya modeli inaendelea kuwajibika kwa kuendesha modeli ya ndani.

Ongeza Mtoa Huduma Aliyepangishwa

Shim inajumuisha mipangilio ya awali ya OpenAI, OpenRouter, Anthropic, Gemini, GitHub Models, Hugging Face, na watoa huduma kadhaa wa ndani. Weka kitambulisho cha mtoa huduma katika mazingira yako kabla ya kuongeza modeli.

Kwa mfano, watumiaji wa PowerShell wanaweza kusanidi OpenRouter hivi:

$env:OPENROUTER_API_KEY = "..."
shim model add openrouter your/model --name main --use
shim model test main

Vigezo vingine vya vitambulisho ni pamoja na OPENAI_API_KEY, ANTHROPIC_API_KEY, GEMINI_API_KEY, GITHUB_TOKEN, na HF_TOKEN. Tumia utaratibu wa kawaida wa mfumo wako wa uendeshaji au shell wa kudhibiti siri kwa vitambulisho vinavyodumu. Usiweke funguo za API katika usanidi wa mradi wa Shim.

Mifano ya kuongeza modeli zilizopangishwa ni:

shim model add openrouter anthropic/claude-sonnet-4.5 --name claude --use
shim model add openai gpt-5 --name gpt --use
shim model add huggingface org/model --name hf --use

Ongeza Ncha Maalum

Kwa ncha yoyote inayooana na OpenAI, toa URL ya msingi na kitambulisho cha modeli:

shim model add custom my-model --name mine \
  --base-url http://127.0.0.1:8000/v1 --use

Mtoa huduma maalum anaweza kutumia adapta ya OpenAI au Anthropic inayooana. Vitambulisho si lazima na vinaweza kusanidiwa kwa huduma maalum.

Endesha Kazi Yako ya Kwanza ya Wakala

Tumia Uendeshaji wa Mara Moja

Njia salama zaidi ya kukagua hazina ni uendeshaji wa kusoma pekee:

shim run --read-only "explain this repository"

Kwa kazi inayohitaji kuhariri faili na kutekeleza amri za uthibitishaji, tumia --yes kuidhinisha vitendo vya uendeshaji huo na --verbose kwa matokeo ya ziada:

shim run --yes --verbose "fix the tests and verify the result"

Tumia --yes tu unapoiamini workspace, modeli, na kazi iliyoombwa.

Anzisha Terminal ya Maingiliano

Endesha Shim bila subcommand ili kuanzisha kipindi cha maingiliano:

shim

Kisha unaweza kuingiza ombi la wakala kama:

fix the failing tests in this repository

Endesha shim help ili kukagua seti kamili ya amri.

Dhibiti Shim kwa Lugha ya Kawaida

Shim hutambua vifungu vya kubainika vinavyofanya kazi bila mtandao kwa shughuli za kawaida za usimamizi kwa Kiingereza na Kirusi. Kwa lugha nyingine au ufasiri unaobadilika zaidi, sanidi modeli iwe kipanga njia cha amri:

shim router use ollama/qwen3:4b

Rauta hupokea maandishi ya gumzo yasiyo amri na kubaini ikiwa yanawakilisha ombi la usanidi au kazi ya kawaida ya wakala. Inapopendekeza amri inayobadilisha hali, Shim huomba uthibitisho kabla ya kuiendesha.

Tumia kituo cha mwisho cha modeli cha loopback ikiwa uelekezaji lazima ubaki kwenye mashine yako. Rauta hushughulikia tu ufasiri wa amri; modeli kuu iliyochaguliwa hushughulikia mazungumzo ya kawaida katika lugha inazotumia.

Ongeza Ujuzi wa Wakala

Shim hugundua faili za SKILL.md katika saraka ya kimataifa ya skills/ iliyo karibu na usanidi wake, na katika saraka za nafasi ya kazi .shim/skills/, .agents/skills/, na .claude/skills/.

Majina na maelezo ya ujuzi pekee ndiyo huongezwa mwanzoni kwenye kidokezo cha mfumo. Maelekezo kamili hupakiwa inapohitajika kupitia load_skill, hivyo kupunguza maudhui ya kidokezo yasiyo ya lazima.

Ongeza ujuzi kutoka kwa marejeo ya hazina, URL ya GitHub, au njia ya ndani:

shim skill add owner/repository
shim skill add https://github.com/owner/repository
shim skill add ./local/skill-or-collection

Kagua na udhibiti ujuzi uliosakinishwa kwa:

shim skill list
shim skill show name
shim skill remove name

Ujuzi ni maelekezo yasiyoaminika. Yakague kabla ya kuyatumia, hasa yanapoomba utekelezaji wa ganda au ufikiaji wa mtandao.

Unganisha Seva za MCP

Ongeza Seva ya Stdio

Mfano ufuatao husajili seva ya mfumo wa faili ya MCP kwa saraka ya sasa, huorodhesha zana zake, na huita zana moja moja kwa moja:

shim mcp add filesystem npx -y @modelcontextprotocol/server-filesystem .
shim mcp tools filesystem
shim mcp call filesystem list_allowed_directories '{}'

Ongeza Seva ya Streamable HTTP

Sajili kituo cha mbali cha Streamable HTTP kwa kukipa jina na URL:

shim mcp add internal https://mcp.example.com/mcp

Orodhesha au ondoa seva zilizosanidiwa kwa:

shim mcp list
shim mcp remove filesystem

Zana za MCP huwekwa wazi chini ya majina kama mcp_filesystem_list_allowed_directories. Katika hali chaguo-msingi ya ruhusa, miito ya MCP huhitaji uthibitisho.

Vichwa vya HTTP na vigezo vya mazingira vya stdio vinaweza kuongezwa kupitia usanidi wa JSON wa Shim. Thamani zinaunga mkono upanuzi wa ${ENV_VAR}, hivyo kuruhusu siri kubaki kwenye mazingira badala ya faili za usanidi.

Chagua Hali ya Ruhusa

Shim hutumia hali ya ask kwa chaguo-msingi. Kusoma, kuorodhesha, na kutafuta faili za nafasi ya kazi kunaruhusiwa, huku uandishi wa faili, uhariri, amri za ganda, na miito ya MCP vikihitaji uthibitisho.

Chagua sera ya kimataifa ya ruhusa kwa:

shim permissions read-only
shim permissions ask
shim permissions auto
  • read-only: Huzima uandishi, amri za ganda, na miito ya MCP.
  • ask: Huomba uthibitisho kwa shughuli zenye matokeo muhimu.
  • auto: Humruhusu wakala kutenda bila vidokezo vya uthibitisho.

Kwa mabadiliko ya muda, pendelea shim run --read-only au shim run --yes badala ya kurekebisha chaguo-msingi la kimataifa.

Shim si sanduku salama la mfumo wa uendeshaji. Amri za ganda na seva za MCP huendeshwa kwa ruhusa za akaunti yako ya mtumiaji. Tumia kontena, mashine pepe, au sanduku salama la mfumo wa uendeshaji kwa kazi zisizoaminika.

Zana za faili za Shim hukataa upitaji wa njia wa kilugha na utorokaji wa viunganishi vya mfano kutoka kwenye nafasi ya kazi, lakini ukaguzi huu hauwezi kuzuia mchakato hasidi. Chukulia matokeo ya modeli, maudhui ya hazina, ujuzi, na majibu ya MCP kuwa data isiyoaminika.

Dhibiti Vipindi na Usanidi

Kagua vipindi, anza kipindi kipya kisicho na maudhui ya awali, au endeleza kipindi cha awali:

shim session list
shim session new
shim run --resume SESSION_ID "continue"

Tumia amri za uchunguzi na usanidi unapotatua matatizo:

shim status
shim doctor
shim config path
shim config show

Faili kuu ya usanidi ni shim/config.json katika eneo la usanidi wa mtumiaji la mfumo wa uendeshaji. Batilisha njia hiyo kwa kigezo cha mazingira cha SHIM_CONFIG au chaguo la --config. Rekodi za vipindi huhifadhiwa kama faili za JSONL za kuongeza pekee karibu na usanidi.

Vidokezo vya Juu

  1. Anza katika hali ya kusoma pekee. Tumia --read-only kwa uchanganuzi wa hazina kabla ya kuruhusu uhariri au utekelezaji wa amri.
  2. Jaribu usanidi wa modeli. Baada ya kuongeza mtoa huduma, endesha shim model test NAME ili kuthibitisha muunganisho na vitambulisho.
  3. Weka uelekezaji ndani ya kompyuta. Teua modeli ya loopback kuwa rauta wakati uainishaji wa amri za lugha asilia lazima ubaki kwenye kompyuta yako.
  4. Tumia upanuzi wa mazingira kwa siri za MCP. Rejelea ${ENV_VAR} katika usanidi badala ya kuhifadhi thamani za siri moja kwa moja.
  5. Pendelea ruhusa kwa kila uendeshaji. Tumia --read-only na --yes kwa kazi mahususi badala ya kuacha sera ya kimataifa katika auto.
  6. Kagua maelekezo ya wahusika wengine. Kagua ujuzi uliopakuliwa na uzingatie tabia ya seva za MCP kabla ya kutoa ufikiaji wa ganda, mfumo wa faili, au mtandao.
  7. Endesha uchunguzi kwanza. Amri kama shim status na shim doctor zinaweza kusaidia kutambua matatizo ya usanidi kabla ya uendeshaji wa wakala.

Hitimisho

Shim hutoa safu fupi ya terminali ya kuunganisha API za modeli zinazotumika, Ujuzi wa Wakala, na seva za MCP. Baiti yake tuli, usanidi wake wa faili wazi, vitambulisho vinavyotegemea mazingira, na hali zake za wazi za ruhusa huifanya ifae watumiaji wanaotaka mtiririko mwepesi na unaoweza kukaguliwa wa wakala wa AI. Anza kwa kazi ya kusoma pekee, thibitisha kila mtoa huduma au zana, na toa ruhusa pana zaidi pale tu inapohitajika.