Mwongozo wa kuanza kutumia Agent2API: Unganisha hali ya kuingia ya AI ya kompyuta ya mezani kwenye lango linalooana na OpenAI

Agent2API ni nini

Agent2API ni lango la ndani la AI API linalounganisha akaunti ambazo tayari zimeingia katika programu mbalimbali za AI za kompyuta, na kutoa uwezo wa kuita miundo kupitia kiolesura kimoja kinachoendana na OpenAI. Mradi unaosaidia base_url maalum unaweza kuunganishwa na http://127.0.0.1:3065/v1, kwa kawaida bila kuhitaji API Key ya huduma ya juu wala kubadilisha programu ya mteja.

Mradi unaunga mkono itifaki za Chat, Responses na Messages, pamoja na kiolesura cha orodha ya miundo cha /v1/models. Lango linaendesha kwenye kompyuta yako au seva uliyoweka, huku kiasi cha matumizi cha akaunti kikiendelea kutoka kwenye akaunti husika.

Muhtasari wa vipengele muhimu

• Kiolesura kinachoendana na OpenAI: Kinaunga mkono /v1/chat/completions, /v1/responses, /v1/messages, na Messages pia inaunga mkono count_tokens.
• Watoa huduma wengi: Kuna watoa huduma kadhaa waliojengewa ndani, wakiwemo WorkBuddy, 小浣熊, CatPaw, Qoder, Trae na wengine; pia unaweza kusanidi mtoa huduma maalum.
• Kubadilisha akaunti: Akaunti hupangwa kwa kipaumbele. Hitilafu ya 429 inaweza kusababisha kubadilishwa kwa akaunti, na akaunti zilizo katika kipindi cha kusubiri kwa sababu ya kikomo hazitatumika tena.
• Utunzaji wa vitambulisho: Baadhi ya watoa huduma wanaunga mkono kusasisha Token kiotomatiki, kusasisha kwa wingi vitambulisho vinavyokaribia kuisha na kusasisha katalogi ya miundo.
• Mtandao na usalama: Unaweza kuweka proksi ya kipekee ya kutoka kwa kila akaunti na kugawa ruhusa kupitia funguo nyingi za lango.
• Usimamizi wa uendeshaji: Inatoa ripoti za idadi ya maombi, kiwango cha mafanikio, matumizi ya Token, kiwango cha cache hit na ramani za joto za muda mrefu.
• Majukumu yaliyoratibiwa: Unaweza kudhibiti kuingia kiotomatiki kila siku, utunzaji wa vitambulisho na majukumu ya kusasisha katalogi ya miundo.

Chagua njia ya kupeleka

Agent2API inapatikana kwa njia tatu. Toleo la kompyuta linafaa kwa matumizi kwenye kompyuta binafsi, linaunga mkono Windows, macOS na Linux, na linaweza kubaki kwenye trei ya mfumo; toleo la seva linafaa kwa Windows Server au Linux isiyo na kiolesura cha picha; Docker linafaa kwa watumiaji wenye mazingira ya kontena. Njia zote tatu hazihitaji Node.js kusakinishwa wakati wa kuendesha.

• Toleo la kompyuta: Anzisha programu kwa kutumia kifurushi cha usakinishaji; lango huendesha ndani ya mchakato wa programu.
• Toleo la seva: Isakinishe kama huduma ya mfumo, fikia paneli ya usimamizi kupitia kivinjari, na iweke ianze kiotomatiki wakati wa kuwasha.
• Docker: Tumia picha ya aimodcc/agent2api:latest, inayounga mkono amd64 na arm64.

Usakinishaji na usanidi wa kwanza

Njia ya kwanza: Toleo la kompyuta

Pakua kifurushi cha usakinishaji kinachofaa mfumo wako kutoka kwenye Matoleo ya hivi karibuni ya mradi. Baada ya kuanzisha, fungua ukurasa wa “Akaunti” na uongeze akaunti moja au zaidi za watoa huduma. Kwa kawaida lango la toleo la kompyuta husikiliza kwenye mlango wa 3065 wa kompyuta hii.

Njia ya pili: Seva ya Linux

tar -xzf agent2api-server-linux-amd64.tar.gz && cd agent2api-server-linux-amd64 && sudo bash install.sh

Baada ya usakinishaji kukamilika, tumia kivinjari kufikia http://127.0.0.1:3065/. Ikiwa huduma inaendesha kwenye seva ya mbali, badilisha jina la mwenyeji katika anwani hiyo na IP au jina la kikoa la seva.

Njia ya tatu: Windows Server

Expand-Archive agent2api-server-windows-amd64.zip -DestinationPath C:\agent2api-pkg
cd C:\agent2api-pkg
.\install-service.ps1

Tekeleza amri zilizo hapo juu katika PowerShell yenye haki za msimamizi. Skripti ya usakinishaji itasajili huduma kwenye mfumo.

Njia ya nne: Docker

docker run -d --name agent2api --restart unless-stopped -p 3065:3065 -v ./data:/data aimodcc/agent2api:latest

./data:/data hutumika kuhifadhi usanidi na data ya akaunti. Baada ya kontena kuanza, fungua http://127.0.0.1:3065/ ili kukamilisha uanzishaji.

Anzisha msimamizi na Key ya lango

1. Fungua paneli ya usimamizi na usajili akaunti ya msimamizi.
2. Fungua ukurasa wa “Key za lango” na uunde Key ya matumizi ya mteja.
3. Fungua ukurasa wa “Akaunti”, chagua mtoa huduma na toleo, kisha ukamilishe kuingia kwenye tovuti au kuleta hali ya kuingia kulingana na hatua za ukurasa.
4. Thibitisha kuwa hali ya akaunti, muda wa uhalali na taarifa ya salio ni sahihi.
5. Fungua ukurasa wa “Usimamizi wa miundo” na ukague miundo inayopatikana pamoja na ramani za miundo.

Usiposanidi Key ya lango, mradi kwa chaguo-msingi utakataa maombi ya API. Usifichue Key ya lango katika msimbo wa umma, kumbukumbu au wateja wasioaminika.

Sanidi akaunti na miundo

Kwenye ukurasa wa usimamizi wa akaunti unaweza kuona muda wa uhalali wa akaunti, salio, foleni ya jumla na hali ya kusubiri kwa kikomo cha kila mfano. Baada ya kuongeza akaunti nyingi, mfumo utaziratibu kulingana na kipaumbele; akaunti ikisababisha 429 au kuingia katika hali ya kusubiri, unaweza kubadilisha hadi akaunti nyingine inayopatikana.

Ukurasa wa usimamizi wa miundo unaweza kuonyesha orodha ya miundo, vizidishi, taarifa za muktadha na mahusiano ya ramani kwa kila mtoa huduma. Orodha za miundo za watoa huduma wanaounga mkono upakuaji mtandaoni husasishwa mara kwa mara; baadhi ya majukwaa pia hutoa jedwali tuli lililojengewa ndani kama njia ya akiba.

Simu ya kwanza ya API

Kwenye mteja unaounga mkono anwani maalum ya API, weka Base URL kuwa:

http://127.0.0.1:3065/v1

Weka Key ya API kuwa Key ya lango uliyounda hivi punde. Kwa mfano, unaweza kutumia sk-local kama thamani ya mfano, lakini kwa simu halisi tumia Key iliyotengenezwa kwenye paneli.

Kwanza angalia hali ya afya ya lango:

curl http://127.0.0.1:3065/health

Kisha tazama orodha ya miundo:

curl http://127.0.0.1:3065/v1/models \
  -H "Authorization: Bearer YOUR_GATEWAY_KEY"

Mfano wa kuita kiolesura cha Chat Completions:

curl http://127.0.0.1:3065/v1/chat/completions \
  -H "Authorization: Bearer YOUR_GATEWAY_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR_MODEL_ID",
    "messages": [
      {"role": "user", "content": "Habari, tafadhali jitambulishe."}
    ]
  }'

Badilisha YOUR_GATEWAY_KEY iwe Key ya lango, na ubadilishe YOUR_MODEL_ID iwe kitambulisho cha mfano kilichorejeshwa na /v1/models. Itifaki za Responses na Messages pia hutumia anwani hiyo hiyo ya lango; sehemu mahususi za ombi zinapaswa kufuata muundo wa mteja au itifaki husika.

Akaunti nyingi, proksi na majukumu yaliyoratibiwa

Kubadilisha akaunti nyingi

Baada ya kuongeza akaunti nyingi za mtoa huduma mmoja, unaweza kutumia foleni ya kipaumbele ya jumla na utaratibu wa kushuka kiwango wa 429 ili kuongeza upatikanaji. Inapendekezwa kuweka vipaumbele vinavyofaa kulingana na kiasi cha akaunti, muda wa uhalali na mazingira ya matumizi, na kukagua mara kwa mara akaunti zilizo katika kipindi cha kusubiri.

Proksi ya kutoka

Mradi unaunga mkono kusanidi njia tofauti ya kutoka kwa kila akaunti. Kipengele hiki kinafaa kwa hali zinazohitaji kusimamia mitandao ya kutoka ya akaunti mbalimbali kwa kujitegemea, lakini upatikanaji wa proksi, uzingatiaji wa kanuni na hatari za udhibiti wa akaunti lazima zitathminiwe na mtumiaji mwenyewe.

Majukumu yaliyoratibiwa

Kwenye ukurasa wa usimamizi wa majukumu unaweza kudhibiti kwa pamoja kuingia kiotomatiki kila siku, utunzaji wa vitambulisho na kusasisha katalogi ya miundo, pamoja na kuweka swichi za majukumu na vipindi vya utekelezaji. Kumbuka kuwa uwezo unaotolewa hutofautiana kwa watoa huduma; kwa mfano, baadhi ya majukwaa hayaungi mkono kusasisha Token, kuingia kila siku au kuuliza salio.

Tazama ripoti na matumizi

Ukurasa wa ripoti unaonyesha idadi ya maombi, kiwango cha mafanikio, jumla ya Token, miundo maarufu na nafasi za akaunti, pamoja na usambazaji wa matumizi kwa watoa huduma. Ukurasa wa mwelekeo unaonyesha kiwango cha cache hit cha saa 24, matumizi ya Token na data iliyohesabiwa kwa siku.

Ikiwa mtoa huduma anaunga mkono kuuliza salio au matumizi, unaweza pia kuona taarifa husika moja kwa moja kwenye ukurasa wa akaunti. Kituo cha kuingia kila siku hutumika kutazama muhtasari wa kuingia na makundi ya kila siku.

Ikiwa unahitaji kujenga toleo la kompyuta kutoka kwenye msimbo wa chanzo, mahitaji ya mazingira ni pamoja na Rust 1.77 au zaidi, zana za Tauri 2, na Node.js 18.17 au zaidi. Node.js hutumika tu kwa ujenzi wa kiolesura cha mbele na skripti za Tauri; toleo la kompyuta lililofungashwa halihitaji Node.js wakati wa kuendesha.

npm run tauri:install
npm run tauri:dev
npm run tauri:build
npm run build:icon

Miongoni mwa hizo, tauri:dev hutumika kwa hali ya uendelezaji na upakiaji upya wa moja kwa moja, huku tauri:build ikitumika kujenga vifurushi vya usakinishaji vya kompyuta za mezani. Faili ya DMG ya macOS inaweza kujengwa kwenye macOS pekee, na haiwezi kujengwa kwa njia ya uundaji mtambuka kutoka Windows; bidhaa rasmi hutengenezwa na mtiririko wa kazi wa CI wa mradi.

Usalama wa Kitambulisho na Mipaka ya Matumizi

Agent2API imetengwa kwa ajili ya kujifunza na kubadilishana maarifa pekee. Hutumia hali yako ya kuingia ya akaunti yako mwenyewe kwa njia ya mteja asiye rasmi, jambo ambalo huenda lisikidhi masharti ya matumizi ya huduma ya chanzo. Mtumiaji ndiye anayewajibika kwa hatari za akaunti kuwekwa kwenye kikomo cha kasi, kuchunguzwa na mfumo wa udhibiti wa hatari, kusimamishwa au kufungiwa.

Mradi huhifadhi vitambulisho vya akaunti kama accessToken na refreshToken katika mfumo wa maandishi wazi kwenye saraka ya usanidi ya kompyuta yako. Mahali chaguo-msingi ni ~/.agent2api/. Faili zinazohamishwa pia zinaweza kuwa na vitambulisho vya maandishi wazi, kwa hiyo usiwasilishe usanidi kwenye hazina ya umma, usiupakie kwenye hifadhi ya mtandaoni, wala kuwashirikisha watu wengine.

README inakataza wazi kutumia mradi huu kwa madhumuni ya kibiashara, kuusambaza tena kwa lengo la kupata faida, kuendesha akaunti kwa wingi, kukwepa malipo au vikomo vya mgao vya huduma ya chanzo, pamoja na shughuli nyingine zinazokiuka sheria na kanuni. Kwa matumizi ya uzalishaji au kibiashara, tumia njia rasmi na API rasmi ya huduma ya chanzo. Kabla ya kutumia, soma LICENSE na tamko la matumizi la mradi.

Hitimisho

Agent2API huunganisha akaunti za wateja kadhaa wa kompyuta za mezani katika lango moja la ndani linalooana na OpenAI. Baada ya kukamilisha uwekaji, kuongeza akaunti na kuunda Key ya lango, unaweza kutumia base_url iliyounganishwa kuunganisha zana zinazounga mkono anwani maalum za API; mzunguko wa akaunti nyingi, usimamizi wa miundo, proksi, kazi zilizopangwa na ripoti zinafaa kwa mahitaji ya ziada ya usimamizi wa ndani. Unapotumia huduma hii, linda vitambulisho vyako ipasavyo na uzingatie kwa ukamilifu masharti ya huduma ya chanzo pamoja na tamko la ziada la matumizi la mradi.