DI agentų atmintis: kaip kurti DI agentus su nuolatiniu kontekstu

Jei šešis mėnesius kiekvieną rytą tektų lydėti naują kolegą iki spausdintuvo, pradėtumėte nerimauti. Jei jis galėtų atpasakoti kiekvieną ankstesnį pasivaikščiojimą iki smulkmenų, bet jį vis tiek reikėtų palydėti, jo atmintis puiki… tačiau jums vis tiek tektų keltis nuo darbo stalo.

Šiuo metu DI agentų atmintis turi savą šio amžino ėjimo iki spausdintuvo versiją. „Letta“ generalinis direktorius Charles Packer teigia leidinyje The New Stack, kad atminties lyginamųjų testų rezultatai jau pasiekė lubas, nes jie matuoja prisiminimą, o šią problemą jis laiko išspręsta. Neišspręsta problema – kad agentas tobulėtų atlikdamas savo darbą pasitelkdamas išsaugotą kontekstą, be jokio pakartotinio mokymo.

Jo bendraįkūrėja Sarah Wooders lygina tai su naujo darbo pradžia: lyginamieji testai pateikia agentui visą reikiamą kontekstą, vieną nesusijusią užduotį po kitos, o tai visai nepanašu į tai, kaip dirba žmonės. Naują darbuotoją gali tekti palydėti iki spausdintuvo. Tačiau po trejų metų tikėtumėtės, kad galėsite jam duoti vienos eilutės užduotį nesikeldami nuo darbo stalo.

Tai standartas, kurio reikia siekti, ir tikslas, kuriuo grindžiama Brain – mūsų savaime tobulėjanti Perplexity Computer atminties sistema, kuri ankstesnį darbą ir pataisymus sutvarko į nuolat tobulėjančią žinių wiki.

Aptarsime, ką agentas turėtų įsiminti ir kaip patikrinti, ar tai padeda jam geriau atlikti darbą.

Kas yra DI agento atmintis?

DI agento atmintis – tai informacija, kurią agentas išsaugo iš ankstesnių sąveikų ir darbo, kartu su mechanizmais, skirtais ją atnaujinti ir naudoti. Nuolatinės atminties kontekstas perneša šią informaciją tarp sesijų, todėl uždarius pokalbį kitos užduoties nereikia pradėti nuo nulio.

Dauguma to, kas pateikiama šiuo pavadinimu, įsimena naudotoją. Jūsų nuostatas, kontaktus, pareigas, tai, kad norite PDF, o ne PNG failų. Tai lengvoji pusė.

Kurdami Brain – atminties sistemą, kuria grindžiamas Perplexity Computer, – daugiausia dėmesio skyrėme pačiam darbui. Kuris metodas pavyko? Kuris šaltinis iššvaistė dvidešimt minučių? Ką turėjote pataisyti po to, kai agentas paskelbė baigęs? Ši istorija suteikia kitai užduočiai geresnį atspirties tašką.

Brain šią informaciją saugo kaip failus agento Sandbox aplinkoje, suskirstytus į tris lygmenis:

• Aplanke sessions/ saugomi neapdoroti nuorašai ir jų santraukos.
• Aplanke notes/ saugoma apibendrinta informacija, suskirstyta pagal temas.
• Aplanke knowledge/ saugoma pati wiki: susieti Markdown puslapiai apie žmones, projektus ir sąvokas.

Niekas iš to savaime netobulėja. Naktį foniniai agentai, kuriuos vadiname „Dream“, perskaito tos dienos sesijas, jas apibendrina ir pataiso wiki ten, kur vaizdas pasikeitė. Šiuos pakeitimus parengiame ir patikriname prieš įrašydami juos per Git, todėl, jei kas nors atrodo ne taip, galima peržiūrėti skirtumus (diff).

Ar tai padeda agentui geriau atlikti darbą? Mūsų 30 dienų poriniame vertinime sesijose su Brain teisingumas pagerėjo 9,3 procentinio punkto, o prisiminimas – 8,9, kartu sunaudojant maždaug 15 % mažiau žetonų.

Padidinti

Šaltinis: X

Kokie yra agentinės atminties tipai?

Yra dvi pagrindinės rūšys, o skirstymas labai panašus į tą, kurį taikytumėte žmogui: tai, ką šiuo metu laikote galvoje, ir tai, ką vis dar žinosite kitą mėnesį.

Trumpalaikė atmintis

Trumpalaikėje atmintyje laikomas dabartinio pokalbio ar užduoties kontekstas. Jūsų užklausa, naujausios žinutės, įrankio iškvietimo rezultatas, dokumentas, kurį agentas ką tik atidarė. Pakanka informacijos, kad būtų galima nuspręsti, ką daryti toliau.

Ją taip pat galite sutikti pavadinimu „darbinė atmintis“. LLM atveju konteksto lange yra informacija, prieinama konkretaus modelio iškvietimo metu. Programa gali palaikyti papildomą užduoties būseną ir nuspręsti, kurias dalis pateikti kiekviename žingsnyje.

Be to, trumpalaikė nebūtinai reiškia vienkartinė. Karkasas gali išsaugoti pokalbio būseną ir tęsti jį rytoj – ji vis tiek priklauso tai gijai. Tačiau tai, ar kita užduotis gali naudoti šią informaciją, yra atskiras projektavimo sprendimas.

Ilgalaikė atmintis

Ilgalaikė atmintis daro informaciją prieinamą tarp sesijų. CoALA straipsnio autoriai pasiskolino iš kognityvinių mokslų tris kategorijas ir taip suteikė agentų kūrėjams žodyną patirčiai ir praktiniams įgūdžiams apibūdinti:

• Epizodinė atmintis – tai, kas įvyko: Tai apima ankstesnes sesijas, agento atliktus veiksmus ir gautą rezultatą. Sistemoje Brain šią istoriją teikia aplankas sessions/ – neapdorotais nuorašais ir jų santraukomis.
• Semantinė atmintis – tai, ką agentas laiko tiesa: Tai gali būti faktai apie naudotoją, jo projektus ir pasaulį, išgryninti iš pokalbių. Tokią informaciją saugo Brain knowledge/ wiki su nuorodomis į įrodymus.
• Procedūrinė atmintis – tai, kaip ką nors atlikti: Tai raginimai, pakartotinai naudojamos darbo eigos, Perplexity kuriami Skills, suteikiantys agentams darbui reikalingas instrukcijas ir įrankius. Galbūt dalį to jau turite, tik nevadinate atmintimi.

Įdomiausias darbas vyksta tarp lygmenų. Sesijoje užfiksuojama, kad atmetėte PNG failą. Jūsų nurodymas naudoti PDF tampa nuostata, kurią agentas gali taikyti ir toliau. Eksportavimo proceso pataisymas tampa tuo, ko jis gali laikytis kitą kartą.

Šis virsmas – nuo „tai įvyko“ iki „tai tiesa“ ir iki „štai kaip mes tai darome“ – yra dalis mokymosi problemos, nuo kurios pradėjome, ir būtent jam savo pastangas skiria naktiniai Brain agento Dream paleidimai.

Tarkime, kas nors bendroje virtuvėje mikrobangų krosnelėje pašildo žuvį. Pasipila skundai, atidaromas langas. Galiausiai atsiranda užrašas: ŽUVIES NEŠILDYTI.

Po šešių mėnesių kaltininkas jau išsikraustęs, bet užrašas liko. Tai ir yra išliekamumas. Atminties tipus galima paaiškinti pagal tai, kas išlieka:

• Darbinė atmintis – tai, ką sekate gamindami pietus, pavyzdžiui, kad sriubą reikia pamaišyti.
• Epizodinė atmintis – tai incidentas su žuvimi; kvapas, kuris visus lydėjo iki pat koridoriaus.
• Semantinė atmintis – tai iš jo įgytos žinios: pašildyta žuvis bendroje virtuvėje gali palikti ilgai neišsisklaidantį kvapą.
• Procedūrinė atmintis – tai nurodymas, lemiantis, kas vyksta toliau. Čia žuvies mikrobangų krosnelėje nešildykite. Užrašas leidžia taisyklės laikytis net tam, kas visiškai nematė incidento.

Yra ir dar vienas skirtumas, nes jis keičia tai, ką kuriame. 2025 m. gruodį pirmą kartą paskelbtoje apžvalgoje Memory in the Age of AI Agents teigiama, kad skirstymo į trumpalaikę ir ilgalaikę neužtenka – atmintį ji skirsto ir pagal formą:

• Žetonų lygmens: Tai aiškiai išreikštas turinys, kurį agentas skaito. Failai, saugomi įrašai, išgauti fragmentai.
• Parametrinė: Tai informacija, užkoduota išmoktuose svoriuose. Norint ją atnaujinti, reikia mokymo arba modelio redagavimo metodų.
• Latentinė: Tai informacija, išsaugota vidinėse reprezentacijose ir neužrašyta kaip skaitomas tekstas.

Čia daugiausia dėmesio skiriame žetonų lygmens atminčiai, t. y. informacijai, saugomai už modelio ribų ir prireikus įkeliamai į jo kontekstą. Brain Markdown wiki yra vienas iš pavyzdžių.

Padidinti

Atnaujindami puslapį keičiame tai, ką agentas galės perskaityti atlikdamas kitą užduotį, tačiau jo pagrindiniai svoriai lieka tie patys. Būtent tai įžangoje ir teigė Packer: tobulėti pasitelkiant agento išsaugomą kontekstą, be pakartotinio mokymo.

Kaip agento atminties tipai veikia kartu?

Agentas gali grįžti prie ankstesnio bandymo, pamatyti, kur suklydo, ir įkelti nurodymus, kuriuos jam davėte vėliau. Toje pačioje užduotyje dalyvauja kelios atminties rūšys, ir joms nereikia nei laukti savo eilės, nei atskirų duomenų bazių.

Čia išliekamumas lemia, kas lieka prieinama pasibaigus pokalbiui, o išgavimas – ar agentas tai kada nors vėl pamatys.

Sistemoje Brain išsaugome šį kelią nuo pamokos atgal iki įrodymų. Tarkime, paprašote Computer tęsti praėjusios savaitės projektą:

• Brain indeksas nurodo, kokie atminties puslapiai egzistuoja ir kur juos rasti.
• Brain atidaro projekto puslapį, kad perskaitytų išsaugotus sprendimus ir nurodymus.
• Jei pastaboje nurodyta, kad atmetėte tam tikrą metodą, agentas gali pagal jos citatą grįžti prie pokalbio ir patikrinti, kodėl.

Nuorodos į susijusius puslapius leidžia jam rasti susijusius žmones ar kitus projektus. Agentas tai daro skaitydamas failus ir juose ieškodamas. Pavyzdžiui, naudodamas grep, jis gali rasti projekto paminėjimus pagal pavadinimą.

Taip pat išbandėme, ką agentai laimi galėdami tyrinėti failus. Atliekant vidinį lyginamąjį testą su 150 klausimų apie finansinius dokumentus, tyrinėjimo agentas, naudojantis standartinius failų įrankius, pasiekė 0,627 atsakymų įvertinimą, o semantinė paieška tame pačiame tekstyne – apie 0,37.

Padidinti

Šaltinis: X

Kaip pagerinti DI agento atmintį?

2026 m. gegužę paskelbtame Orogat ir Mansour straipsnyje išskiriamos keturios pasikartojančios agentų atminties problemos: saugykla vis auga, pasenę įsitikinimai lieka nepataisyti, informacija pamirštama pritrūkus vietos, o išgaunant tik skaitoma, nieko neišmokstant iš to kreipimosi.

Jų siūlomas sprendimas – nustoti laikyti agentinę atmintį saugykla ir traktuoti ją kaip „būseną“, kuri kinta per keturias operacijas: įtraukimą, taisymą, pamiršimą ir išgavimą. Tai mūsų šio skyriaus kontrolinis sąrašas.

Rinkitės, ką įsiminti

Kai „blogas“ prisiminimas patenka į atmintį, jį paveldi kiekvienas tolesnis žingsnis.

Workday AI Research išbandė atrankinį metodą su maždaug 1500 kandidatinių prisiminimų iš lyginamojo testo LoCoMo: prieš išsaugant bet kurį iš jų, buvo užduodami penki klausimai:

• Ar jis naudingas? Ar tikėtina, kad jo vėl prireiks?
• Ar juo galima pasitikėti? Ar tai iš tikrųjų buvo pasakyta pokalbyje, ar modelis tai pridūrė pats?
• Ar jis naujas, ar jau išsaugotas?
• Ar jis vis dar aktualus?
• Ar tai ilgalaikis faktas, ar laikina būsena?

Modelio iškvietimo prireikė tik pirmajam klausimui. Kiti keturi buvo vykdomi kaip taisyklės ir iš viso užtruko mažiau nei 65 milisekundes. Šiuo metodu pasiektas 12 % didesnis tikslumas priimant sprendimus išsaugoti ar atmesti, kartu išsaugant 97 % aktualių prisiminimų.

Daugiausia prisidėjo paskutinis klausimas – pašalinus skirtį tarp ilgalaikės ir laikinos informacijos, sprendimų kokybė sumažėjo maždaug 18 %.

Taisykite atsakymą neprarasdami istorijos

Užfiksuokite, kada faktas tapo galiojančiu, koks šaltinis jį pagrindžia ir ką jis pakeitė. Jei šaltiniai nesutaria, palikite šį nesutarimą matomą, kol atsiras pakankamai įrodymų jam išspręsti. Net naujausias dokumentas gali būti klaidingas.

Brain atnaujina wiki pagal šaltinių dokumentus, jungčių rezultatus ir naudotojų pataisymus. Kiekvienas atminties įrašas susietas su savo šaltiniu. Mums reikia, kad agentas rastų dabartinį atsakymą ir turėtų kur pasitikrinti, jei tas atsakymas atrodo įtartinas.

Pamirškite sąmoningai

Straipsnyje vienas klaidų tipas vadinamas „talpos nulemtu pamiršimu“: informacija pašalinama, kad būtų laikomasi saugyklos ribos, o ne todėl, kad ji nebėra naudinga.

Grįžkime į bendrą virtuvę. Po šešių mėnesių niekam nerūpi, kas pašildė žuvį mikrobangų krosnelėje ar kiek laiko buvo atidarytas langas. Tačiau užrašas vis dar atlieka savo paskirtį.

Kai kitas žmogus gamins pietus, taisyklė bus prieinama. Jūs tiesiog suarchyvuojate skundus.

Workday aktualumo ir informacijos tipo patikros pradedamos dar prieš išsaugojimą – jos atrenka, kas verta tapti prisiminimu. Sistemoje Brain mes taip pat peržiūrime esamas žinias, kai keičiasi šaltinių dokumentai ir naudotojai atlieka pataisymus. Abiem atvejais įsikišti būtina dėl paties turinio.

Tegul išgavimas papildo kitą atnaujinimą

Agentas išgauna faktą, jį panaudoja ir palieka saugyklą lygiai tokią, kokią rado. Jei sistema neužfiksuoja, kas įvyko toliau, niekas neįrašo, ar tas faktas padėjo, ar nuvedė agentą į dar vieną aklavietę.

Užfiksuokite rezultatą, šaltinį ir bet kokį pataisymą. Kurdami Brain, šią darbo istoriją padarėme dalimi to, ką Brain įsimena: kuris metodas pavyko, kuris šaltinis nieko nedavė ir ką naudotojas pataisė po to, kai agentas paskelbė baigęs. Šią patirtį Brain įtraukia į periodinius wiki atnaujinimus, kad vėlesnės užduotys galėtų ja pasinaudoti.

Tačiau niekas iš to neatsispindi prisiminimo lyginamajame teste. Norint sužinoti, ar ciklas veikia, reikia duoti agentui užduotį, kurią jis gali atlikti tik pasitelkęs atmintį, ir suskaičiuoti, kaip dažnai jis ją atlieka, kartu įvertinant sąnaudas ir delsą. Būtent tai daro DolphinBench, ir todėl geriausi rezultatai vis dar tesiekia aštuntąją dešimtį.

Kaip naudojant Perplexity sukurti agentą su nuolatine atmintimi

Perplexity Agent API neturi savaime save prižiūrinčios atminties sistemos, tokios kaip Brain. Tai norime pasakyti iš karto. Tačiau ji suteikia jums reikiamas atminties dalis: vietą procedūroms saugoti, būdą perkelti kontekstą tarp pokalbio ėjimų ir įrankius, skirtus skaityti iš jūsų valdomos saugyklos ir į ją rašyti.

Pradėkite nuo procedūrinės atminties

Pasirinktinis Skill sujungia instrukcijas, procedūras ir pagalbinius failus į vieną paketą su versijos numeriu. Platformos komanda gali vieną kartą aprašyti savo diegimo patikras, atšaukimo kriterijus ir ataskaitų formatą, o tada leisti programoms remtis tuo pačiu Skill. Pasikeitus procedūrai, komanda įkelia naują versiją.

Padidinti

Šaltinis: X

Profilis pakyla dar vienu lygiu aukščiau. Profiliai išsaugo agento modelį, instrukcijas, įrankius, Skill, jungtis ir vykdymo nustatymus su vienu versijuotu ID.

Abi galimybes pridėjome rugsėjį kartu su valdomomis jungtimis, todėl projekto administratorius gali vieną kartą sukonfigūruoti patvirtintą GitHub ar Slack ryšį ir leisti programoms juo remtis, užuot saugojus atskirus prisijungimo duomenis. Pasikeitus prieigai, administratorius atnaujina ryšį vienoje vietoje.

Kodėl tai laikoma atmintimi? Dar kartą grįžkime į virtuvę, kurioje mikrobangų krosnelėje buvo šildoma žuvis. Kas ateis kitas, galės laikytis taisyklės „JOKIOS ŽUVIES“, net nematęs skundų.

Skill atlieka tą patį vaidmenį agentui, tik jame telpa žingsniai, išimtys ir patikros, kurie netilptų ant mikrobangų krosnelės durelių. Skill yra užrašomi, versijuojami ir pasiekiami, kai užduotis iškyla kitą kartą.

Skill naudojame ir Dream atminties atnaujinimams valdyti. Tačiau Skill pats savaime nesimoko. Instrukcijos pasikeičia, kai įkeliama nauja versija – žmogaus ar automatizuoto proceso.

Jei norite, kad agentas pastebėtų, jog vienos paslaugos atšaukimo patikra nuolat nepavyksta, ir prisitaikytų, tai jau anksčiau aptartas ciklas „nuo sesijų iki wiki“.

Turite išsaugoti tai, kas įvyko, nustatyti, ką reikia pakeisti, ir pasirūpinti, kad pataisymas būtų pasiekiamas kitą kartą. Tam reikia kitų dviejų dalių.

Perkelkite darbinę atmintį tarp pokalbio replikų

Agentas atlieka diegimo patikrą. Jūs klausiate: „Kodėl tai nepavyko?“ Pagrįstas papildomas klausimas – jei tik agentas vis dar mato, į ką nurodo „tai“.

Mūsų Agent API palaiko du būdus perkelti pokalbio kontekstą į tolesnes užklausas:

• Patys pakartokite pokalbį: įtraukite ankstesnes žinutes į kitos užklausos input masyvą. Prieš siųsdami patys nusprendžiate, ką palikti, apibendrinti, užmaskuoti ar atmesti.
• Tęskite nuo užbaigto atsakymo: išsaugokite jo ID ir su kita žinute perduokite jį kaip previous_response_id. Pokalbio būseną saugome serverio pusėje, todėl jūsų programai nereikia iš naujo siųsti ankstesnių replikų. Galite tęsti nuo naujausio grandinės atsakymo.

Pakartojimas leidžia jums valdyti, ką mato agentas, o tęsimas pagal ID sutaupo darbo iš naujo surenkant pokalbį. Bet kuriuo atveju pateikite visas naujas instrukcijas, įrankius ar modelio nustatymus, reikalingus kitam atsakymui.

Naudokite savo epizodinės ir semantinės atminties saugyklą

Šią dalį Agent API palieka jums.

Vienas būdas – funkcijų iškvietimas. Jūs apibrėžiate įrankius, agentas paprašo iškvietimo, o jūsų programa jį įvykdo ir grąžina rezultatą. Atminčiai paprastas atspirties taškas – skaitymo operacija prieš agentui imantis veiksmų ir rašymo operacija po to.

Jei registruosite tik agento išgautą faktą, vis tiek nežinosite, ar jis padėjo. Jei registruosite rezultatą, šaltinį ir tai, ką pataisė naudotojas, turėsite epizodinio sluoksnio pradžią.

Mūsų MCP palaikymas suteikia dar vieną būdą. Jei suderinamas nuotolinis MCP serveris teikia jums reikalingas operacijas, agentas gali jas iškviesti, o jums nereikia kiekvienos jų apgaubti pasirinktine funkcija.

Mūsų jungtys suteikia agentui prieigą prie įrodymų, kuriais grindžiami prisiminimai. GitHub, Slack, Google Drive, Datadog, Linear ir Notion yra mūsų valdomame kataloge, o vidinėms sistemoms galite pridėti pasirinktinių jungčių.

Galiausiai nuspręskite, kada peržiūrėti istoriją ir patikslinti dabartinį aprašą.

Patikrinkite, kas išlieka naujoje sesijoje

Dabar užbaikite pokalbį. Pradėkite naują užklausą nekartodami senų žinučių ir neperduodami previous_response_id, bet suteikite agentui prieigą prie tos pačios atminties saugyklos. Paprašykite jo atlikti susijusį darbą nekartojant pataisymo.

Jei jam reikia priminimo, darbas dar nebaigtas.

Diegimo agentui sukurkite kelis testus, tikrinančius, kas turėtų būti perkelta toliau:

• Pataisymas išlieka: agentas suranda ir naudoja patikrintą paveiktos paslaugos atšaukimo komandą.
• Pataisymas lieka savo apimtyje: agentas nekeičia kitų paslaugų procedūrų.
• Nauja informacija pakeičia senas gaires: kai komanda vėl pasikeičia, agentas naudoja dabartinę versiją ir gali atsekti pakeitimo šaltinį.

Mūsų regresinio testavimo receptų rinkinys parodo, kaip išsaugoti agento išvestis ir išgautus įrodymus, patikrinti juos pagal numatomą elgseną ir palyginti vykdymus pakeitus instrukcijas ar modelius.

Lygindami vykdymus su atmintimi ir be jos, nekeiskite modelio, Profilio ir Skill versijų. Kiekvieną palyginimą pradėkite nuo žinomos saugyklos momentinės kopijos; kitaip vienas testas gali išmokyti agentą kito testo atsakymo.

Kai kas nors nepavyksta, išsaugokite tą atvejį. Kitas pakeitimas turės jį sėkmingai išlaikyti.

Arba nieko nekurkite: Brain sistemoje Computer

Jei norite ne atskirų dalių, o užbaigto ciklo, rinkitės Computer. Jame veikia Brain, kuris mokosi iš keturių šaltinių: jūsų sesijų, prijungtų įrankių, jūsų kuriamų failų ir artefaktų bei jūsų pataisymų. Foniniai Brain atnaujinimai sustiprina tai, kas vis dar galioja, patikslina tai, kas pasikeitė, ir pažymi pasenusią informaciją.

Jums nereikia patiems kurti šio ciklo. Jūs tiesiog dirbate.

Atmintis išsaugo jūsų pasidalytas nuostatas ir informaciją. Brain susieja projektus, žmones, sprendimus ir nebaigtus darbus su juos pagrindžiančiais įrodymais.

Tai, ką jis išmoko, galite peržiūrėti Atminties rodinyje, atsekti įrašus iki jų šaltinių ir juos redaguoti ar ištrinti. Brain naudoja jūsų pačių veiklą, neįtraukia inkognito sesijų ir turi atskirą jungiklį.

Padidinti

Pavyzdžiui, Rho įmonėje sąskaitų išrašymo projekto sprendimai buvo išsibarstę po Slack, Notion, Jira, Figma ir Google Docs. Komanda nustatė Computer, kad šis per naktį peržiūrėtų pakeitimus, pažymėtų neatitikimus ir paskelbtų rytinę apžvalgą Slack.

Jų programinės įrangos inžinierius Oktawian Jurkiewicz pastebėjo, kad Computer taip pat kuria projekto atmintį. „Mes to neapibrėžėme, – sako jis. – Computer pats išsiaiškino, kuriuos duomenų taškus turėtų saugoti iš kiekvieno šaltinio.“

Komanda teigia sutrumpinusi savaitinių susitikimų trukmę nuo 2,5 valandos iki 15 minučių ir vertina, kad per 12 savaičių projektą sutaupė 120 darbo valandų.

Šios 120 valandų priskiriamos visai darbo eigai: jungtims, naktiniams vykdymams ir Slack apžvalgai. Kiek sutaupyto laiko lėmė vien atmintis? Kol kas to negalime įvertinti.

Tačiau galime patarti štai ką: kurdami savo sprendimą, grįžkite prie anksčiau aprašyto testo – atlikite lygiavertes užduotis su įjungtu ir išjungtu atminties sluoksniu, tada palyginkite užbaigimo rodiklius, sąnaudas ir laiką, įskaitant laiką, kurį kas nors praleidžia taisydamas rezultatą.

DUK apie DI agentų atmintį

Ar DI agentai gali turėti atmintį?

Taip. DI agentai gali išsaugoti informaciją tarp sesijų naudodami saugomus pokalbius, faktus, nuostatas ir pakartotinai naudojamas procedūras. Sistema turi išgauti šią informaciją, kai ji aktuali, ir atnaujinti ją pasikeitus aplinkybėms.

Pavyzdžiui, Brain sistemoje Perplexity Computer kuria darbinį kontekstą iš sesijų, prijungtų įrankių, failų ir naudotojų pataisymų.

Kiek RAM naudoja DI agentas?

Vieno visiems tinkančio reikalavimo nėra. Jei jūsų agentas per Perplexity Agent API kreipiasi į talpinamą modelį, jums nereikia įkelti to modelio į savo RAM. Tačiau jūsų programai ir vietiniams įrankiams atminties vis tiek reikia.

Vietinis modelio vykdymas – kitas atvejis. Esant keturiems bitams vienam parametrui, aštuoni milijardai parametrų sudaro maždaug 4 GB neapdorotų svorių duomenų. Faktiškai reikia daugiau atminties, įvertinus kvantavimo pridėtines sąnaudas, konteksto apdorojimą ir modelį vykdančią programinę įrangą.

Kokia atmintis geriausia DI agentui?

Geriausia sąranka priklauso nuo to, ką agentas turi perkelti toliau. Pokalbio būsena leidžia užduoti papildomus klausimus; epizodiniai įrašai išsaugo tai, kas įvyko; semantinė atmintis saugo dabartines žinias; procedūrinė atmintis teikia pakartotinai naudojamas instrukcijas.

Daugumai ilgalaikių darbų naudingas derinys. Brain atveju naudojame susietą, šaltiniais pagrįstą wiki. Kurdami savo sprendimą, patikrinkite, ar sąranka padeda agentui atlikti užduotis, pritaikyti pataisymus ir atsisakyti pasenusių gairių.