Jenga Kumbukumbu Endelevu ya Wakala wa AI kwa AIrecall

AIrecall Ni Nini?

AIrecall ni safu ya kumbukumbu ya muda mrefu inayoweza kuongezwa moja kwa moja kwa mawakala wa AI. Huhifadhi taarifa muhimu kati ya vipindi vya matumizi badala ya kumlazimisha wakala kutegemea tu dirisha lake la sasa la muktadha. Mradi huu unajumuisha SDK ya Python, seva ya kumbukumbu ya Go, hifadhi ya SQLite, na faharasa ya vekta inayofanya kazi ndani ya mchakato.

AIrecall imeundwa kuweka maelekezo ya maombi yakiwa yamejikita. Badala ya kuingiza historia nzima ya mwingiliano katika kila ombi, wakala wako anaweza kupata kumbukumbu zinazohusiana zaidi na zamu ya sasa.

Aina na Vipengele Vikuu vya Kumbukumbu

• Kumbukumbu ya matukio: Huhifadhi matukio kwa mpangilio, yakiwemo mazungumzo, vitendo na matokeo.
• Kumbukumbu ya maana: Huhifadhi ukweli na mapendeleo ya kudumu yaliyotolewa kutoka kwenye matukio ya awali.
• Utafutaji mseto: Huchanganya ulinganishaji wa maneno muhimu na ufanano wa vekta katika kumbukumbu za matukio na za maana.
• Ufupishaji wa kiotomatiki: Mara kwa mara hubana matukio ya zamani na kutoa ukweli wa kudumu badala ya kufuta historia tu.
• Hifadhi ya kudumu ya ndani: Hutumia SQLite pamoja na faharasa ya vekta inayofanya kazi ndani ya mchakato.
• Uendeshaji wenye kubadilika: Seva ya kumbukumbu inaweza kufanya kazi ndani ya kifaa au kama sidecar.

AIrecall Inavyofanya Kazi

Katika kila zamu, SDK ya Python hutuma swali la sasa kwa AIrecall Core kupitia mwito wa ndani au gRPC. Core hutafuta katika kumbukumbu za matukio na za maana kwa kutumia maneno muhimu na ufanano wa vekta, hupanga matokeo kwa umuhimu, kisha hurudisha kumbukumbu muhimu zaidi kwa kuingizwa katika maelekezo ya wakala.

Kwa nyuma, kifupishaji huchakata matukio ya zamani. Hutoa taarifa za kudumu na kuziweka katika kumbukumbu ya maana, kisha hubana historia iliyobaki. Hii huwasaidia mawakala wanaofanya kazi kwa muda mrefu kuhifadhi maarifa muhimu bila kuendelea kupanua muktadha wao unaotumika.

Usakinishaji na Usanidi

Sakinisha SDK ya Python

Sakinisha kifurushi kinachoagizwa na wakala wako wa Python:

pip install airecall-sdk

Anzisha Hifadhi ya Ndani

Unda hifadhi ya kumbukumbu ya ndani inayotumia SQLite kwa kutumia kiolesura cha mstari wa amri:

airecall init

Usanidi huu hukuwezesha kuanza kuhifadhi na kupata kumbukumbu mara moja bila kuhitaji huduma tofauti.

Sakinisha au Endesha Seva ya Kumbukumbu

Iwapo unataka seva kuu ya kumbukumbu ipatikane ndani ya kifaa au kama sidecar, sakinisha nyongeza ya seva:

pip install airecall-sdk[server]

Kisha unaweza kuendesha seva kama mchakato unaojitegemea:

airecall serve

SDK yenyewe hutumia maktaba ya kawaida pekee. Kulingana na README ya mradi, seva hutumia utegemezi mmoja wa Go safi.

Matumizi ya Msingi

Unda Kipengele cha Kumbukumbu

Agiza Memory na mpe wakala kitambulisho:

from airecall import Memory

memory = Memory(agent_id="support-bot")

agent_id hutambulisha wakala ambaye kumbukumbu zake zinahifadhiwa na kutafutwa. Tumia kitambulisho hicho hicho unapotaka vipindi vya baadaye kufikia mkusanyiko huo wa kumbukumbu.

Hifadhi Kumbukumbu ya Tukio

Tumia remember kurekodi jambo lililotokea wakati wa mwingiliano:

memory.remember(
    "User asked about refund policy for order ORD-9921, told 30-day window applies."
)

Hii ni kumbukumbu ya tukio kwa sababu inarekodi tukio maalum na matokeo yake.

Pata Muktadha Unaohusiana

Katika kipindi cha baadaye, mwite recall ukiwa na swali la sasa:

context = memory.recall(
    "what did we tell this user about refunds?"
)

AIrecall hutafuta katika kumbukumbu zake zilizohifadhiwa na kurudisha tukio linalohusiana, likiwa limepangwa kulingana na umuhimu. Kisha programu yako inaweza kuongeza muktadha huo uliorudishwa katika maelekezo yanayotumwa kwa modeli.

Hifadhi Ukweli wa Kudumu

Taarifa inayopaswa kubaki muhimu zaidi ya tukio moja inaweza kuhamishwa kwa uwazi kwa kutumia remember_fact:

memory.remember_fact(
    key="preferred_contact",
    value="email, not phone"
)

Hii huunda kumbukumbu ya maana kwa mapendeleo thabiti badala ya kurekodi tukio jingine la mpangilio wa wakati pekee.

Kutumia Adapta ya LangChain

AIrecall inajumuisha adapta ya LangChain inayoitwa MemoryRetriever. Funga kipengele cha Memory kilichopo ili kuunda kipataji:

from airecall import Memory
from airecall.adapters.langchain import MemoryRetriever

memory = Memory(agent_id="support-bot")
retriever = MemoryRetriever(memory)

README inaonyesha jinsi ya kuunda adapta, lakini haielezi usanidi zaidi wa mnyororo au kipataji. Fuata API ya sasa ya adapta unapounganisha kitu kinachotokana nayo katika programu kubwa ya LangChain.

Mfumo wa Kivitendo wa Ujumuishaji

1. Unda kipengele cha Memory kwa ajili ya wakala.
2. Kabla ya kutoa jibu, mwite recall kwa kutumia swali la sasa la mtumiaji.
3. Ingiza kumbukumbu zilizorudishwa na zinazohusiana katika maelekezo ya modeli kama muktadha wa kusaidia.
4. Baada ya mwingiliano, mwite remember ili kuhifadhi tukio, kitendo au matokeo muhimu.
5. Tumia remember_fact programu yako inapotambua upendeleo au ukweli wa kudumu unaopaswa kuhifadhiwa kwa uwazi.

Mfumo huu huepuka kuweka historia kamili katika kila ombi, huku ukimpa wakala uwezo wa kufikia maamuzi ya awali na mapendeleo ya mtumiaji yanapohitajika.

Vidokezo vya Juu

Tenganisha Matukio na Maarifa ya Kudumu

Tumia kumbukumbu ya matukio kwa mambo yaliyotokea wakati wa mwingiliano fulani. Tumia kumbukumbu ya maana kwa ukweli na mapendeleo thabiti. Kwa mfano, mjadala wa kurejeshewa fedha unapaswa kuwa katika tukio, huku upendeleo wa mtumiaji wa kuwasiliana kwa barua pepe ukiwa ukweli wa kudumu.

Dumisha Uthabiti wa Vitambulisho vya Mawakala

Chagua agent_id thabiti kwa vipindi vinavyohitaji kushiriki kumbukumbu. Kubadilisha kitambulisho huunda wigo tofauti wa kumbukumbu kwa mtazamo wa programu.

Chagua Hali Inayofaa ya Usambazaji

Kwa mtiririko rahisi wa ndani, anzisha hifadhi inayotumia SQLite kwa airecall init. Kwa usanifu unaohitaji mchakato maalum wa kumbukumbu, sakinisha nyongeza ya seva na uendeshe airecall serve ndani ya kompyuta au kama sidecar.

Ruhusu Faharasa Ipate Muda wa Kujiandaa

Ikiwa swali la kwanza litaleta RecallTimeout, faharasa ya vekta huenda bado inajiandaa. Jaribu tena baada ya kituo cha afya kuripoti status: ready.

Tumia Njia ya Hifadhi Inayotegemeka

Ikiwa kumbukumbu zinaonekana kukosekana baada ya kuwasha upya, kagua njia ya storage.backend. Njia ya jamaa hutatuliwa kulingana na saraka ya kufanya kazi ya mchakato wa seva, kwa hiyo kuanzisha seva kutoka saraka tofauti kunaweza kuielekeza kwenye hifadhi nyingine. Tumia saraka au njia ya hifadhi thabiti.

Hitimisho

AIrecall huwapa mawakala wa AI kumbukumbu endelevu za matukio na za kimaana bila kuhitaji kila mwingiliano wa zamani ubaki kwenye prompt. Kwa API ndogo ya Python, hifadhi inayotumia SQLite, urejeshaji mseto, na ufupishaji wa kiotomatiki, inatoa njia ya vitendo ya kuhifadhi muktadha muhimu katika vipindi mbalimbali. Anza kwa airecall init, hifadhi matukio kwa remember, yarejeshe kwa recall, na uhifadhi maarifa ya kudumu kwa remember_fact.