Tehisintellektiagendi mälu: kuidas luua püsiva kontekstiga tehisintellektiagente
See juhend selgitab, mis on tehisintellektiagendi mälu, kuidas töö-, episoodiline, semantiline ja protseduurimälu koos toimivad ning kuidas luua ja testida agente, mis püsiva konteksti abil paranevad.

Kui peaksid kuus kuud järjest igal hommikul uut kolleegi printeri juurde juhatama, hakkaksid sa muretsema. Kui ta suudaks iga varasemat käiku täpselt üles lugeda, kuid vajaks ikka saatjat, oleks tema mälu suurepärane… aga sina tõuseksid ikka laua tagant.
AI-agentide mälul on praegu oma versioon sellest lõputust printeri juurde juhatamisest. Letta tegevjuht Charles Packer ütleb väljaandes The New Stack, et mälu võrdlustestid on küllastunud, sest need mõõdavad meenutamist, mida ta peab lahendatud probleemiks. Lahendamata probleem on see, kuidas agent muutuks oma töös paremaks tänu kontekstile, mida ta säilitab, ilma et teda oleks vaja uuesti treenida.
Tema kaasasutaja Sarah Wooders võrdleb seda iga kord uuel töökohal alustamisega: võrdlustestid annavad agendile kogu vajaliku konteksti, ja nii omavahel mitteseotud ülesanne ülesande järel – see ei meenuta sugugi seda, kuidas inimesed töötavad. Uut töötajat võib olla vaja printeri juurde juhatada. Kuid kolm aastat hiljem loodaksid, et saad talle anda üherealise juhise ilma laua tagant tõusmata.
See on standard, mille poole püüelda, ja eesmärk, millest lähtub Brain – meie isetäiustuv mälusüsteem Perplexity Computeri jaoks, mis korraldab varasema töö ja parandused pidevalt arenevaks teadmiste wikiks.
Vaatame, mida agent peaks meeles pidama ja kuidas testida, kas see aitab agendil paremat tööd teha.
Mis on AI-agendi mälu?
AI-agendi mälu on teave, mille agent varasematest suhtlustest ja tööst säilitab, koos mehhanismidega selle uuendamiseks ja kasutamiseks. Püsiva mälu kontekst kannab seda teavet seansside vahel edasi, nii et vestluse sulgemine ei tähenda, et järgmist ülesannet tuleb alustada nullist.
Enamik selle nime all pakutavast jätab meelde kasutaja. Sinu eelistused, kontaktid, roll ja see, et soovid PNG-de asemel PDF-e. See on lihtsam pool.
Kui ehitasime Braini, mälusüsteemi, millel Perplexity Computer põhineb, keskendusime tööle endale. Milline lähenemine õnnestus? Milline allikas raiskas kakskümmend minutit? Mida pidid parandama pärast seda, kui agent teatas, et on valmis? See ajalugu annab järgmisele ülesandele parema lähtepunkti.
Brain salvestab selle teabe failidena agendi liivakasti, jaotatuna kolme kihti:
- sessions/ sisaldab toorseid transkripte ja nende kokkuvõtteid.
- notes/ sisaldab teemade kaupa korraldatud tihendatud teavet.
- knowledge/ sisaldab wikit ennast: omavahel lingitud Markdowni lehti inimeste, projektide ja kontseptsioonide kohta.
Miski sellest ei parane iseenesest. Öösiti loevad taustaagendid, mida nimetame „Dreamiks“, läbi päeva seansid, teevad neist kokkuvõtted ja muudavad wikit kõikjal, kus pilt on muutunud. Valmistame need muudatused ette ja kontrollime neid enne Giti kaudu kinnitamist, nii et kui miski tundub valesti, on olemas diff, mida uurida.
Kas see muudab agendi töös paremaks? Meie 30-päevases paarishindamises parandasid Brainiga seansid korrektsust 9,3 ja meenutamist 8,9 protsendipunkti võrra, kasutades samal ajal ligikaudu 15% vähem tokeneid.
Allikas: X
Millised on agendimälu tüübid?
Laias laastus on kaks liiki ja jaotus sarnaneb sellega, mida kasutaksid inimese puhul: mida hoiad praegu peas ja mida tead ka järgmisel kuul.
Lühiajaline mälu
Lühiajaline mälu hoiab käesoleva vestluse või ülesande konteksti. Sinu päring, hiljutised sõnumid, tööriistakutse tulemus, dokument, mille agent just avas. Piisavalt teavet, et välja mõelda, mida edasi teha.
Seda nimetatakse ka töömäluks. LLM-i puhul hoiab kontekstiaken teavet, mis on konkreetse mudelikutse ajal saadaval. Rakendus võib säilitada täiendavat ülesande olekut ja otsustada, milliseid osi igal sammul edastada.
Ja lühiajaline ei tähenda tingimata ühekordset. Raamistik võib vestluse oleku salvestada ja selle homme jätkata – see kuulub endiselt samale lõimele. Kuid see, kas mõni teine ülesanne saab seda teavet kasutada, on eraldi disainiotsus.
Pikaajaline mälu
Pikaajaline mälu teeb teabe kättesaadavaks seansside üleselt. CoALA teadusartikkel laenas kognitiivteadusest kolm kategooriat, andes agentide loojatele sõnavara kogemuste ja oskusteabe kirjeldamiseks:
- Episoodiline mälu on see, mis juhtus: Siia kuuluvad varasemad seansid, agendi tehtud sammud ja saadud tulemus. Brainis pakub seda ajalugu sessions/ toorsete transkriptide ja nende kokkuvõtete kaudu.
- Semantiline mälu on see, mida agent peab tõeks: Need võivad olla vestlustest tihendatud faktid kasutaja, tema projektide ja tema maailma kohta. Braini knowledge/ wiki hoiab sedalaadi teavet koos linkidega tõenditele.
- Protseduuriline mälu on see, kuidas asju teha: Need on viibad, korduvkasutatavad töövood ja Skillid, mida Perplexity loob, et anda agentidele töö jaoks vajalikud juhised ja tööriistad. Võib-olla on sul osa sellest juba olemas, ilma et nimetaksid seda mäluks.
Huvitav töö toimub kihtide vahel. Seanss salvestab, et lükkasid PNG tagasi. Sinu juhis kasutada PDF-e muutub eelistuseks, mida agent saab edasi kanda. Ekspordiprotsessi parandus muutub millekski, mida ta saab järgmisel korral järgida.
See teisendus väitest „see juhtus“ väiteni „see on tõsi“ ja sealt edasi väiteni „nii me seda teeme“ on osa õppimisprobleemist, millest alustasime, ja just sellele suunavad Braini öised Dream-agendi käivitused oma jõupingutused.
Oletame, et keegi soojendab ühisköögis mikrolaineahjus kala. Tulevad kaebused, aken tehakse lahti. Lõpuks ilmub silt: KALA KEELATUD.
Kuus kuud hiljem on süüdlane välja kolinud, aga silt mitte. See ongi püsivus. Mälutüüpe saab selgitada selle kaudu, mis säilib:
- Töömälu on see, mida jälgid lõunat valmistades, näiteks et suppi on vaja segada.
- Episoodiline mälu on kalaintsident: lõhn, mis järgnes kõigile koridori.
- Semantiline mälu on teadmine, mille sellest said: kala soojendamine võib ühisköögis jätta püsiva lõhna.
- Protseduuriline mälu on juhis, mis määrab, mis edasi saab. Ära soojenda siin kala mikrolaineahjus. Silt võimaldab reeglit järgida ka sellel, kes kogu intsidendist ilma jäi.
On veel üks eristus, sest see muudab seda, mida me ehitame. 2025. aasta detsembris esmakordselt avaldatud ülevaade Memory in the Age of AI Agents ütleb, et lühi- ja pikaajalise mälu eristusest ei piisa – see liigitab mälu ka vormi järgi:
- Tokenitasandi mälu: See on selgesõnaline sisu, mida agent loeb. Failid, salvestatud kirjed, leitud tekstilõigud.
- Parameetriline mälu: See on õpitud kaaludesse kodeeritud teave. Selle uuendamiseks on vaja treenimist või mudeli redigeerimise meetodeid.
- Latentne mälu: See on sisemistes esitustes säilitatud teave, mida ei kirjutata välja loetava tekstina.
Keskendume siin tokenitasandi mälule ehk teabele, mida hoitakse väljaspool mudelit ja loetakse vajaduse korral selle konteksti. Braini Markdowni wiki on üks näide.
Kui uuendame lehte, muudame seda, mida agent saab järgmise ülesande juures lugeda, kuid selle aluseks olevad kaalud jäävad samaks. See ongi Packeri sissejuhatuses esitatud mõte: muutuda paremaks agendi säilitatava konteksti kaudu, ilma uuesti treenimata.
Kuidas agendi mälutüübid koos töötavad?
Agent saab varasema katse uuesti läbi vaadata, näha, kus see viltu läks, ja laadida juhised, mille sa talle hiljem andsid. Samas ülesandes osaleb mitut liiki mälu ning igaüks neist ei vaja oma järjekorda ega eraldi andmebaasi.
Siin määrab püsivus, mis jääb pärast vestluse lõppu kättesaadavaks, samas kui leidmine määrab, kas agent seda üldse kunagi uuesti näeb.
Mälutüüp | Mis seansside vahel säilib? | Mida see salvestab? | Kuidas Brain/Computer selle konteksti toob? |
Töömälu | Salvestatud ülesande oleku saab taastada, kuid mudel näeb ainult seda, mida rakendus iga kutse jaoks edastab. | Praegune viip, hiljutised vestluskäigud, tööriistade tulemused ja leitud teave | Indeks aitab agendil saadaolevat mälu avastada; failide lugemine lisab asjakohast sisu. |
Episoodiline | Säilitatud seansikirjed ja kokkuvõtted. | Mis juhtus: varasemad katsed, toimingud, tulemused ja parandused. | Kui agent vajab üksikasju, järgib ta viiteid toetavate seansitõenditeni. |
Semantiline | Hallatud teadmised koos versiooniajalooga, kui see on salvestatud. | Faktid inimeste, projektide, eelistuste ja nendevaheliste seoste kohta. | Agent loeb knowledge/ lehti, otsib failidest ja järgib [[wikilinke]]. |
Protseduuriline | Salvestatud juhised, Skillid ja töövood, kuni neid muudetakse või need eemaldatakse. | Kuidas ülesannet täita. | Computer laadib vajaduse korral asjakohased Skillid ja juhised. |
Brainis säilitame selle tee õppetunnist tagasi tõenditeni. Oletame, et palud Computeril jätkata eelmise nädala projekti:
- Braini indeks ütleb talle, millised mälulehed on olemas ja kust neid leida.
- Brain avab projektilehe, et lugeda salvestatud otsuseid ja juhiseid.
- Kui märkmes on kirjas, et lükkasid mingi lähenemise tagasi, saab agent järgida selle viidet tagasi vestluseni ja kontrollida, miks.
Lingid seotud lehtedele võimaldavad tal üles otsida kaasatud inimesed või muud projektid. Agent teeb seda faile lugedes ja neist otsides. Näiteks grep võimaldab tal leida projekti mainimisi nime järgi.
Oleme testinud ka seda, mida agendid võidavad failide uurimise võimalusest. Sisemises võrdlustestis, mis hõlmas 150 finantsdokumente puudutavat küsimust, saavutas standardseid failitööriistu kasutav uurimisagent vastuste skoori 0,627, samas kui semantiline otsing samas korpuses jõudis umbes 0,37-ni.
Allikas: X
Kuidas AI-agendi mälu parandada?
Orogati ja Mansouri 2026. aasta mai teadusartikkel toob välja neli korduvat tõrget agendi mälus: hoidla aina kasvab, vananenud uskumused jäävad läbi vaatamata, teave unustatakse, kui ruum otsa saab, ning leidmine loeb, õppimata külastusest midagi.
Nende pakutud lahendus on lõpetada agendimälu käsitlemine hoidlana ja käsitleda seda „olekuna“, mis areneb nelja toimingu kaudu: sissevõtmine, muutmine, unustamine ja leidmine. See on meie kontrollnimekiri selle jaotise jaoks.
Ole valiv selles, mida meelde jäetakse
Kui „halb“ mälestus on kord sisse saanud, pärib selle iga samm.
Workday AI Research testis valivat lähenemist ligikaudu 1500 kandidaatmälestusel LoCoMo võrdlustestist, esitades enne ühegi säilitamist viis küsimust:
- Kas see on kasulik? Kas see tuleb tõenäoliselt uuesti esile?
- Kas see on usaldusväärne? Kas vestluses öeldi tõesti nii või täitis mudel lünga ise?
- Kas see on uus või juba salvestatud?
- Kas see on värske?
- Kas see on püsiv fakt või mööduv olek?
Ainult esimene küsimus vajas mudelikutset. Ülejäänud neli töötasid reeglitena kokku vähem kui 65 millisekundiga. Meetod saavutas säilitamise või kõrvaldamise otsustes 12% suurema täpsuse, säilitades samal ajal 97% asjakohastest mälestustest.
Suurim panus oli viimasel küsimusel: kui eemaldada püsiva ja ajutise teabe eristus, langes otsuste kvaliteet umbes 18%.
Muuda vastust ajalugu kaotamata
Salvesta, millal fakt kehtima hakkas, milline allikas seda toetab ja mida see asendas. Kui allikad on eri meelt, hoia see lahkarvamus nähtaval, kuni selle lahendamiseks on piisavalt tõendeid. Ka uusim dokument võib olla vale.
Brain uuendab wikit lähtedokumentide, konnektorite tulemuste ja kasutajate paranduste põhjal. Iga mälukirje lingib tagasi oma allikale. Agent peab leidma praeguse vastuse ja tal peab olema, kust edasi uurida, kui see vastus tundub kahtlane.
Unusta teadlikult
Artikkel nimetab üht tõrkeviisi „mahupõhiseks unustamiseks“: teave eemaldatakse salvestuspiirangu täitmiseks, mitte seetõttu, et see on lakanud kasulik olemast.
Tagasi ühisköögi juurde. Kuue kuu pärast ei huvita kedagi, kes kala mikrolaineahjus soojendas või kui kaua aken lahti oli. Aga sildil on endiselt oma ülesanne.
Kui järgmine inimene lõunat teeb, on reegel olemas. Kaebused lihtsalt arhiveeritakse.
Workday värskuse ja teabetüübi kontrollid algavad juba enne salvestamist, filtreerides, mis väärib mäluks saamist. Brainis vaatame olemasolevad teadmised ka uuesti üle, kui lähtedokumendid muutuvad ja kasutajad parandusi teevad. Mõlemal juhul tingib sekkumise vajaduse sisu.
Lase leidmisel toita järgmist uuendust
Agent leiab fakti, kasutab seda ja jätab hoidla täpselt selliseks, nagu see oli. Kui süsteem ei salvesta, mis edasi juhtus, ei talleta miski, kas see fakt aitas või saatis agendi järjekordsesse tupikusse.
Salvesta tulemus, allikas ja kõik parandused. Braini ehitades tegime selle tööajaloo osaks sellest, mida see meeles peab: milline lähenemine õnnestus, milline allikas ei viinud kuhugi ja mida kasutaja parandas pärast seda, kui agent teatas, et on valmis. Brain lisab selle kogemuse oma perioodilistesse wiki-uuendustesse, et hilisemad ülesanded saaksid seda kasutada.
Ükski neist ei kajastu aga meenutamise võrdlustestis. Et teada saada, kas tsükkel töötab, tuleb anda agendile ülesanne, mida ta saab täita ainult mälu abil, ja lugeda, kui sageli ta selle täidab, arvestades ka kulu ja latentsust. Just seda teeb DolphinBench ja seepärast on parimad tulemused endiselt seitsmekümne kandis.
Kuidas luua Perplexity abil püsiva mäluga agenti
Perplexity Agent API ei paku Braini sarnast ennast ise hooldavat mälusüsteemi. Ütleme selle parem kohe ära. Kuid see annab sulle vajalikud mälu koostisosad: koha protseduuride hoidmiseks, viisi konteksti edasikandmiseks vestluskäikude vahel ja tööriistad, millega lugeda sinu kontrollitavast hoidlast ja sinna kirjutada.
Alusta protseduurimälust
Kohandatud Skill koondab juhised, protseduurid ja tugifailid ühe versiooninumbri alla. Platvormimeeskond saab oma juurutuskontrollid, tagasipööramise kriteeriumid ja aruandlusvormingu üks kord kirja panna ning lasta rakendustel viidata samale Skillile. Kui protseduur muutub, laadib meeskond üles uue versiooni.
Allikas: X
Profiil läheb tasandi võrra kõrgemale. Profiilid salvestavad agendi mudeli, juhised, tööriistad, Skillid, konnektorid ja käitamisseaded ühe versioonitud ID alla.
Lisasime mõlemad septembris koos hallatud konnektoritega, nii et projekti administraator saab heakskiidetud GitHubi või Slacki ühenduse üks kord seadistada ja lasta rakendustel sellele viidata, selle asemel et salvestada eraldi mandaate. Kui juurdepääs muutub, uuendab administraator ühendust ühes kohas.
Miks see mäluks loeb? Tuleme taas tagasi köögi juurde, kus mikrolaineahjus kala soojendati. Kes iganes järgmisena tuleb, saab järgida reeglit KALA KEELATUD, ilma et oleks kaebusi ise pealt näinud.
Skill teeb agendi jaoks sama töö, jättes ruumi sammudele, eranditele ja kontrollidele, mis mikrolaineahju uksele ära ei mahu. Skillid on kirja pandud, versioonitud ja kättesaadavad järgmine kord, kui ülesanne ette tuleb.
Kasutame Skille ka Dreami mäluvärskenduste suunamiseks. Kuid see, mida Skill ei tee, on iseseisev õppimine. Juhised muutuvad siis, kui üles laaditakse uus versioon, olgu selle teinud inimene või automatiseeritud protsess.
Kui soovid, et agent märkaks, et tagasipööramise kontroll ühe teenuse puhul aina ebaõnnestub, ja kohaneks, on tegemist varem kirjeldatud tsükliga, mis viib seanssidest vikisse.
Pead toimunu meeles hoidma, välja selgitama, mis peaks muutuma, ja tegema paranduse järgmiseks korraks kättesaadavaks. Selleks on vaja kaht järgmist osa.
Kanna töömälu vestlusvoorude vahel edasi
Agent käivitab juurutuskontrolli. Sa küsid: „Miks see ebaõnnestus?“ Mõistlik jätkuküsimus, eeldusel et agent näeb endiselt, millele „see“ viitab.
Meie Agent API toetab vestluse konteksti edasikandmiseks kahte viisi:
- Esita vestlus ise uuesti: Lisa varasemad sõnumid järgmise päringu sisendmassiivi. Sina otsustad, mida enne saatmist alles hoida, kokku võtta, varjata või välja jätta.
- Jätka lõpetatud vastusest: Salvesta selle ID ja edasta see järgmise sõnumiga parameetrina previous_response_id. Hoiame vestluse olekut serveri poolel, nii et sinu rakendus ei pea varasemaid vestlusvoore uuesti saatma. Saad jätkata ahela viimasest vastusest.
Uuesti esitamine annab sulle kontrolli selle üle, mida agent näeb, ja ID abil jätkamine säästab sind vestluse uuesti kokkupanemise vaevast. Mõlemal juhul esita kõik uued juhised, tööriistad või mudeliseaded, mida järgmine vastus vajab.
Kasuta oma episoodilist ja semantilist mälusalve
Selle osa jätab Agent API sinu hooleks.
Üks võimalus on funktsioonide kutsumine. Sina määratled tööriistad, agent taotleb kutset ning sinu rakendus käivitab selle ja tagastab tulemuse. Mälu puhul on lihtne lähtepunkt lugemistoiming enne agendi tegutsemist ja kirjutamistoiming pärast seda.
Kui logid ainult fakti, mille agent hankis, ei tea sa ikka veel, kas sellest oli abi. Kui logid tulemuse, allika ja kõik, mida kasutaja parandas, on sul episoodilise kihi algus olemas.
Meie MCP-tugi pakub veel ühe võimaluse. Kui ühilduv kaug-MCP-server pakub vajalikke toiminguid, saab agent neid kutsuda, ilma et peaksid igaüht neist kohandatud funktsiooniks mähkima.
Meie konnektorid annavad agendile juurdepääsu mälukirjete aluseks olevatele tõenditele. GitHub, Slack, Google Drive, Datadog, Linear ja Notion on meie hallatud kataloogis ning sisemiste süsteemide jaoks saad lisada kohandatud konnektoreid.
Lõpuks otsusta, millal ajalugu üle vaadatakse ja kehtivat käsitlust ajakohastatakse.
Testi, mis säilib uues seansis
Nüüd sulge vestlus. Alusta uut päringut ilma vanu sõnumeid uuesti esitamata või parameetrit previous_response_id edastamata, kuid anna agendile juurdepääs samale mälusalvele. Palu tal teha seotud tööd, ilma et kordaksid parandust.
Kui agent vajab meeldetuletust, pole sa veel lõpetanud.
Koosta juurutusagendi jaoks mõned testid selle kohta, mis peaks edasi kanduma:
- Parandus säilib: Agent hangib ja kasutab mõjutatud teenuse jaoks kinnitatud tagasipööramiskäsku.
- Parandus jääb oma ulatusse: Agent jätab teiste teenuste protseduurid puutumata.
- Uus teave asendab vanad juhised: Kui käsk taas muutub, kasutab agent kehtivat versiooni ja suudab muudatuse selle allikani tagasi jälgida.
Meie regressioonitestimise juhend näitab, kuidas salvestada agendi väljundeid ja hangitud tõendeid, kontrollida neid oodatud käitumise suhtes ning võrrelda käitamisi pärast juhiste või mudelite muutmist.
Hoia mudeli, Profiili ja Skilli versioonid muutumatuna, kui võrdled käitamisi mäluga ja ilma. Alusta iga võrdlust salve teadaolevast hetktõmmisest; muidu võib üks test õpetada agendile järgmise testi vastuse.
Kui midagi ebaõnnestub, salvesta see juhtum. Järgmine muudatus peab selle läbima.
Või jäta ehitamine vahele: Brain Computeris
Kui soovid osade asemel valmis tsüklit, on selleks Computer. Selle all töötab Brain, õppides neljast allikast: sinu seanssidest, ühendatud tööriistadest, sinu loodud failidest ja artefaktidest ning sinu parandustest. Braini taustavärskendused kinnistavad seda, mis endiselt kehtib, muudavad seda, mis on muutunud, ja märgivad aegunud teabe.
Sa ei pea seda tsüklit ise ehitama. Sa lihtsalt teed oma tööd.
Mälu hoiab meeles eelistusi ja üksikasju, mida oled jaganud. Brain seob projektid, inimesed, otsused ja pooleli oleva töö nende aluseks olevate tõenditega.
Saad Mälu vaates uurida, mida see on õppinud, jälgida kirjeid nende allikateni ning neid muuta või kustutada. Brain kasutab sinu enda tegevust, jätab inkognito seansid välja ja sellel on oma lüliti.
Näiteks Rhos olid ühe arveldusprojekti otsused laiali Slackis, Notionis, Jiras, Figmas ja Google Docsis. Meeskond seadistas Computeri muudatusi üleöö üle vaatama, vastuolusid märgistama ja Slackis hommikust kokkuvõtet avaldama.
Nende tarkvarainsener Oktawian Jurkiewicz märkas, et Computer lõi projekti jaoks ka mälu. „Meie seda ei määratlenud,“ ütleb ta. „Computer selgitas ise välja, milliseid andmepunkte ta igast allikast salvestama peaks.“
Meeskonna sõnul vähenes iganädalaste koosolekute aeg 2,5 tunnilt 15 minutile ning hinnanguliselt säästeti 12-nädalase projekti jooksul 120 töötundi.
Need 120 tundi on kogu töövoo teene: konnektorid, üleöö käitamised ja Slacki kokkuvõte. Kui suur osa säästetud ajast tuli ainuüksi mälust? Seda me veel mõõta ei oska.
Kuid see, mida me saame soovitada, on järgmine: oma lahenduse puhul pöördu tagasi varasema testi juurde – käita samaväärseid ülesandeid nii sisse- kui ka väljalülitatud mälukihiga ja võrdle seejärel lõpetamismäärasid, kulusid ja aega, sealhulgas aega, mille keegi kulutab tulemuse parandamisele.
KKK tehisintellektiagentide mälu kohta
Kas tehisintellektiagentidel saab olla mälu?
Jah. Tehisintellektiagendid saavad seansside vahel teavet säilitada salvestatud vestluste, faktide, eelistuste ja korduvkasutatavate protseduuride kaudu. Süsteem peab selle teabe hankima, kui see on asjakohane, ja seda uuendama, kui olud muutuvad.
Brain Perplexity Computeris loob näiteks töökonteksti seanssidest, ühendatud tööriistadest, failidest ja kasutaja parandustest.
Kui palju RAM-i tehisintellektiagent kasutab?
Ühtset nõuet pole. Kui sinu agent kutsub Perplexity Agent API kaudu majutatud mudelit, ei pea sa seda mudelit oma RAM-i laadima. Sinu rakendus ja kohalikud tööriistad vajavad siiski mälu.
Kohaliku mudeli käitamine on teistsugune. Kui parameetri kohta kulub neli bitti, moodustavad kaheksa miljardit parameetrit umbes 4 GB töötlemata kaaluandmeid. Tegelik mäluvajadus on suurem, kui arvestada kvantimise lisakulu, konteksti töötlemist ja mudelit käitavat tarkvara.
Milline on parim mälu tehisintellektiagendile?
Parim lahendus sõltub sellest, mida agent peab edasi kandma. Vestluse olek toetab jätkuküsimusi; episoodilised kirjed säilitavad toimunu; semantiline mälu hoiab kehtivaid teadmisi; protseduurimälu pakub korduvkasutatavaid juhiseid.
Enamik pidevat tööd saab kasu kombinatsioonist. Braini jaoks kasutame omavahel lingitud ja allikatega toetatud vikit. Oma lahenduse puhul testi, kas see seadistus aitab agendil ülesandeid lõpetada, parandusi rakendada ja aegunud juhised kasutusest kõrvaldada.