MI aģentu atmiņa: kā izveidot MI aģentus ar pastāvīgu kontekstu

Ja jums sešus mēnešus katru rītu būtu jāpavada jauns kolēģis līdz printerim, jūs sāktu uztraukties. Ja viņš spētu atstāstīt katru iepriekšējo gājienu līdz pēdējai detaļai, bet joprojām būtu jāpavada, viņa atmiņa būtu izcila… taču jums tik un tā nāktos celties no sava galda.

MI aģentu atmiņai pašlaik ir sava versija šim nebeidzamajam gājienam līdz printerim. Letta izpilddirektors Charles Packer norāda izdevumā The New Stack, ka atmiņas etalontesti ir sasnieguši piesātinājumu, jo tie mēra atcerēšanos, kas, viņaprāt, jau ir atrisināta. Neatrisinātā problēma ir tā, kā aģentam pilnveidoties savā darbā, izmantojot saglabāto kontekstu, bez jebkādas pārapmācības.

Viņa līdzdibinātāja Sarah Wooders to salīdzina ar jauna darba sākšanu: etalontesti aģentam iedod visu nepieciešamo kontekstu, uzdevumu pēc uzdevuma, kas savā starpā nav saistīti, un tas nemaz nelīdzinās tam, kā strādā cilvēki. Jaunu darbinieku, iespējams, būs jāpavada līdz printerim. Taču pēc trim gadiem jūs cerētu, ka varat viņam iedot vienas rindiņas norādījumu, pat necēloties no sava galda.

Tas ir standarts, uz kuru tiekties, un tas ir arī mērķis, kas ir pamatā Brain — mūsu pašpilnveidojošajai Perplexity Computer atmiņas sistēmai, kas iepriekšējo darbu un labojumus sakārto pastāvīgi mainīgā zināšanu viki.

Aplūkosim, kas aģentam būtu jāatceras un kā pārbaudīt, vai tas palīdz aģentam strādāt labāk.

Kas ir MI aģentu atmiņa?

MI aģentu atmiņa ir informācija, ko aģents saglabā no iepriekšējām mijiedarbībām un paveiktā darba, kā arī mehānismi tās atjaunināšanai un izmantošanai. Pastāvīgās atmiņas konteksts pārnes šo informāciju starp sesijām, tāpēc sarunas aizvēršana nenozīmē, ka nākamais uzdevums jāsāk no nulles.

Lielākā daļa no tā, kas tiek piedāvāts ar šo nosaukumu, atceras lietotāju. Tas atceras jūsu preferences, kontaktpersonas, lomu un to, ka vēlaties PDF, nevis PNG failus. Tā ir vieglākā puse.

Kad izveidojām Brain — atmiņas sistēmu, uz kuras balstās Perplexity Computer, mēs koncentrējāmies uz pašu darbu. Kura pieeja izdevās? Kura avota dēļ tika izšķiestas divdesmit minūtes? Kas jums bija jālabo pēc tam, kad aģents paziņoja, ka ir pabeidzis? Šī vēsture nākamajam uzdevumam dod labāku sākumpunktu.

Brain šo informāciju glabā kā failus aģenta smilšu kastē, sakārtotus trīs slāņos:

• sessions/ glabā neapstrādātus transkriptus un to kopsavilkumus.
• notes/ glabā izsijātu informāciju, sakārtotu pa tēmām.
• knowledge/ glabā pašu viki: savstarpēji saistītas Markdown lapas par cilvēkiem, projektiem un jēdzieniem.

Nekas no tā pats no sevis neuzlabojas. Naktī fona aģenti, ko saucam par „Dream”, izlasa dienas sesijas, tās apkopo un pārskata viki visur, kur situācija ir mainījusies. Pirms šo labojumu iesniegšanas ar Git mēs tos sagatavojam un pārbaudām, lai tad, ja kaut kas neizskatās pareizi, būtu pieejams diff, ko pārbaudīt.

Vai tas palīdz aģentam labāk paveikt darbu? Mūsu 30 dienu pāru novērtējumā sesijās ar iespējotu Brain pareizība uzlabojās par 9,3 procentpunktiem un atcerēšanās par 8,9 procentpunktiem, vienlaikus izmantojot aptuveni par 15 % mazāk tokenu.

Izvērst

Avots: X

Kādi ir aģentu atmiņas veidi?

Pastāv divi galvenie veidi, un šis dalījums ir līdzīgs tam, ko jūs piemērotu cilvēkam: tas, ko jūs tieši tagad paturat prātā, un tas, ko jūs joprojām zināsiet arī nākamajā mēnesī.

Īstermiņa atmiņa

Īstermiņa atmiņa glabā pašreizējās sarunas vai uzdevuma kontekstu. Jūsu pieprasījums, nesenie ziņojumi, rīka izsaukuma rezultāts, dokuments, ko aģents tikko atvēra. Pietiekami daudz informācijas, lai saprastu, ko darīt tālāk.

To dēvē arī par darba atmiņu. LLM gadījumā konteksta logs satur informāciju, kas ir pieejama konkrēta modeļa izsaukuma laikā. Lietojumprogramma var uzturēt papildu uzdevuma stāvokli un izlemt, kuras daļas nodot katrā solī.

Turklāt īstermiņa atmiņa nebūt nav vienreizlietojama. Ietvars var saglabāt sarunas stāvokli un atsākt to rīt — tas joprojām pieder šim pavedienam. Taču tas, vai cits uzdevums var izmantot šo informāciju, ir atsevišķs dizaina lēmums.

Ilgtermiņa atmiņa

Ilgtermiņa atmiņa padara informāciju pieejamu starp sesijām. CoALA rakstā no kognitīvās zinātnes aizgūtas trīs kategorijas, sniedzot aģentu veidotājiem terminoloģiju pieredzes un praktisko zināšanu aprakstīšanai:

• Epizodiskā atmiņa ir tas, kas notika: tā ietver iepriekšējās sesijas, aģenta veiktās darbības un iegūto rezultātu. Sistēmā Brain šo vēsturi nodrošina sessions/ ar neapstrādātiem transkriptiem un to kopsavilkumiem.
• Semantiskā atmiņa ir tas, ko aģents uzskata par patiesu: tie var būt fakti par lietotāju, viņa projektiem un pasauli, kas izsijāti no sarunām. Šāda veida informāciju glabā Brain viki knowledge/, kurā ir saites uz pierādījumiem.
• Procedurālā atmiņa ir tas, kā kaut ko darīt: tās ir uzvednes, atkārtoti izmantojamas darbplūsmas un Skills, ko veido Perplexity, lai aģentiem sniegtu darbam nepieciešamos norādījumus un rīkus. Iespējams, jums daļa no tā jau ir, pat ja to nesaucat par atmiņu.

Interesantākais darbs notiek starp slāņiem. Sesijā tiek fiksēts, ka jūs noraidījāt PNG failu. Jūsu norādījums izmantot PDF kļūst par preferenci, ko aģents var paturēt arī turpmāk. Eksportēšanas procesa labojums kļūst par kaut ko, kam tas var sekot nākamreiz.

Šī pārveide — no „tas notika” uz „tā ir patiesība” un tālāk uz „lūk, kā mēs to darām” — ir daļa no mācīšanās problēmas, ar kuru sākām, un tieši tam savas pūles velta Brain nakts Dream aģenta palaidieni.

Pieņemsim, ka kāds koplietošanas virtuvē mikroviļņu krāsnī uzsilda zivi. Sākas sūdzības, tiek atvērts logs. Galu galā parādās zīme: ZIVIS NESILDĪT.

Pēc sešiem mēnešiem vainīgais ir izvācies, bet zīme ir palikusi. Tā ir pastāvība. Atmiņas veidus var izskaidrot ar to, kas saglabājas:

• Darba atmiņa ir tas, kam sekojat līdzi, gatavojot pusdienas, piemēram, ka zupa ir jāapmaisa.
• Epizodiskā atmiņa ir zivs incidents — smaka, kas visiem sekoja līdz pat gaitenim.
• Semantiskā atmiņa ir zināšanas, ko no tā guvāt: zivs uzsildīšana koplietošanas virtuvē var atstāt ilgstošu smaku.
• Procedurālā atmiņa ir norādījums, kas nosaka, kas notiks tālāk. Šeit zivis mikroviļņu krāsnī nesildīt. Zīme ļauj noteikumam sekot arī tam, kurš visu incidentu palaida garām.

Ir vēl viena atšķirība, jo tā maina to, ko mēs veidojam. Pārskatā Memory in the Age of AI Agents, kas pirmo reizi publicēts 2025. gada decembrī, teikts, ka ar dalījumu īstermiņa un ilgtermiņa atmiņā nepietiek — atmiņa jāšķiro arī pēc formas:

• Tokenu līmeņa: tas ir eksplicītais saturs, ko aģents lasa. Faili, saglabāti ieraksti, izgūti fragmenti.
• Parametriskā: tā ir informācija, kas iekodēta apgūtajos svaros. Lai to atjauninātu, nepieciešama apmācība vai modeļa rediģēšanas metodes.
• Latentā: tā ir informācija, kas saglabāta iekšējos attēlojumos, to nepierakstot kā lasāmu tekstu.

Šeit mēs koncentrējamies uz tokenu līmeņa atmiņu, t. i., informāciju, kas tiek glabāta ārpus modeļa un vajadzības gadījumā ielasīta tā kontekstā. Viens piemērs ir Brain Markdown viki.

Izvērst

Kad atjauninām lapu, mēs mainām to, ko aģents var lasīt nākamajā uzdevumā, bet tā pamatā esošie svari paliek nemainīgi. Tieši to Packer minēja ievadā: kļūt labākam, izmantojot kontekstu, ko aģents saglabā, bez pārapmācības.

Kā aģentu atmiņas veidi darbojas kopā?

Aģents var atgriezties pie agrāka mēģinājuma, saprast, kur radās kļūda, un ielādēt norādījumus, ko pēc tam sniedzāt. Vienā un tajā pašā uzdevumā ir iesaistīti vairāki atmiņas veidi, un katram no tiem nav jāgaida sava kārta vai jāizmanto atsevišķa datubāze.

Šajā gadījumā pastāvība nosaka, kas paliek pieejams pēc sarunas beigām, savukārt izgūšana nosaka, vai aģents to vispār vēl kādreiz redzēs.

Sistēmā Brain mēs saglabājam šo ceļu no mācības atpakaļ līdz pierādījumiem. Pieņemsim, ka lūdzat Computer turpināt pagājušās nedēļas projektu:

• Brain indekss tam norāda, kādas atmiņas lapas pastāv un kur tās atrast.
• Brain atver projekta lapu, lai izlasītu saglabātos lēmumus un norādījumus.
• Ja piezīmē teikts, ka noraidījāt kādu pieeju, aģents var sekot tās atsaucei atpakaļ līdz sarunai un pārbaudīt, kāpēc.

Saites uz saistītajām lapām ļauj tam uzmeklēt iesaistītos cilvēkus vai citus projektus. Aģents to dara, lasot failus un meklējot tajos. Piemēram, grep ļauj tam atrast projekta pieminējumus pēc nosaukuma.

Esam arī pārbaudījuši, ko aģenti iegūst no iespējas izpētīt failus. Iekšējā etalontestā ar 150 jautājumiem par finanšu dokumentiem izpētes aģents, izmantojot standarta failu rīkus, sasniedza atbilžu novērtējumu 0,627, salīdzinot ar aptuveni 0,37 semantiskajai meklēšanai tajā pašā korpusā.

Izvērst

Avots: X

Kā uzlabot MI aģentu atmiņu?

Orogat un Mansour 2026. gada maija rakstā identificētas četras atkārtotas kļūmes aģentu atmiņā: krātuve turpina augt, novecojuši uzskati netiek pārskatīti, informācija tiek aizmirsta, kad beidzas vieta, un izgūšana nolasa datus, no apmeklējuma neko neiemācoties.

Viņu ierosinātais risinājums ir pārstāt uzskatīt aģentu atmiņu par krātuvi un uzskatīt to par „stāvokli”, kas attīstās četrās darbībās: uzņemšana, pārskatīšana, aizmiršana, izgūšana. Tas ir mūsu kontrolsaraksts šai sadaļai.

Rūpīgi izvēlieties, ko atcerēties

Tiklīdz „slikta” atmiņa ir iekļauta, katrs nākamais solis to manto.

Workday AI Research pārbaudīja selektīvu pieeju aptuveni 1500 kandidātatmiņām no LoCoMo etalontesta, pirms jebkuras no tām saglabāšanas uzdodot piecus jautājumus:

• Vai tā ir noderīga? Vai tā, visticamāk, atkal būs vajadzīga?
• Vai tā ir uzticama? Vai sarunā tas tiešām tika teikts, vai arī modelis to piedomāja?
• Vai tā ir jauna vai jau saglabāta?
• Vai tā ir aktuāla?
• Vai tas ir noturīgs fakts vai pārejošs stāvoklis?

Modeļa izsaukums bija vajadzīgs tikai pirmajam jautājumam. Pārējie četri tika izpildīti kā noteikumi, kopā aizņemot mazāk nekā 65 milisekundes. Metode sasniedza par 12 % augstāku precizitāti lēmumos par saglabāšanu vai atmešanu, vienlaikus saglabājot 97 % atbilstošo atmiņu.

Vislielākā ietekme bija pēdējam jautājumam: atmetot atšķirību starp noturīgu un īslaicīgu informāciju, lēmumu kvalitāte samazinājās aptuveni par 18 %.

Pārskatiet atbildi, nezaudējot vēsturi

Reģistrējiet, kad fakts kļuva derīgs, kurš avots to apstiprina un ko tas aizstāja. Ja avoti nesaskan, paturiet šo nesaskaņu redzamu, līdz ir pietiekami daudz pierādījumu, lai to atrisinātu. Arī jaunākais dokuments var būt kļūdains.

Brain atjaunina viki, izmantojot avota dokumentus, savienotāju rezultātus un lietotāju labojumus. Katrs atmiņas ieraksts ir saistīts ar savu avotu. Mums ir vajadzīgs, lai aģents atrastu pašreizējo atbildi un lai tam būtu, kur meklēt, ja šī atbilde šķiet aizdomīga.

Aizmirstiet apzināti

Rakstā viens no kļūmju veidiem dēvēts par „ietilpības izraisītu aizmiršanu”: informācija tiek dzēsta, lai ievērotu krātuves ierobežojumu, nevis tāpēc, ka tā vairs nav noderīga.

Atgriezīsimies koplietošanas virtuvē. Pēc sešiem mēnešiem nevienu neinteresē, kurš uzsildīja zivi mikroviļņu krāsnī vai cik ilgi logs bija atvērts. Taču zīmei joprojām ir sava funkcija.

Kad nākamais cilvēks gatavos pusdienas, noteikums būs pieejams. Sūdzības jūs vienkārši arhivējat.

Workday aktualitātes un informācijas veida pārbaudes sākas pirms saglabāšanas, filtrējot to, kas ir pelnījis kļūt par atmiņu. Sistēmā Brain mēs arī pārskatām esošās zināšanas, kad mainās avota dokumenti un lietotāji veic labojumus. Abos gadījumos iejaukšanos padara nepieciešamu saturs.

Ļaujiet izgūšanai papildināt nākamo atjauninājumu

Aģents izgūst faktu, izmanto to un atstāj krātuvi tieši tādu, kādu to atrada. Ja vien sistēma nefiksē, kas notika pēc tam, nekas nereģistrē, vai šis fakts palīdzēja vai aizveda aģentu kārtējā strupceļā.

Reģistrējiet rezultātu, avotu un jebkādus labojumus. Veidojot Brain, mēs padarījām šo darba vēsturi par daļu no tā, ko tas atceras: kura pieeja izdevās, kurš avots nekur neaizveda un ko lietotājs izlaboja pēc tam, kad aģents paziņoja, ka ir pabeidzis. Brain iekļauj šo pieredzi savos periodiskajos viki atjauninājumos, lai vēlākos uzdevumos to varētu izmantot.

Tomēr nekas no tā neparādās atcerēšanās etalontestā. Lai uzzinātu, vai cikls darbojas, aģentam jādod uzdevums, ko tas var izpildīt tikai ar atmiņas palīdzību, un jāskaita, cik bieži tas to izpilda, ņemot vērā arī izmaksas un latentumu. Tieši to dara DolphinBench, un tāpēc labākie rezultāti joprojām ir septiņdesmit punktu robežās.

Kā ar Perplexity izveidot aģentu ar pastāvīgu atmiņu

Perplexity Agent API nepiedāvā pašuzturošu atmiņas sistēmu, piemēram, Brain. To labāk pateiksim jau sākumā. Taču tas sniedz nepieciešamās atmiņas sastāvdaļas: vietu procedūru glabāšanai, veidu, kā pārnest kontekstu starp replikām, un rīkus, lai lasītu no krātuves, kuru kontrolējat, un rakstītu tajā.

Sāciet ar procedurālo atmiņu

Pielāgots Skill apvieno instrukcijas, procedūras un papildu failus ar versijas numuru. Platformas komanda var vienreiz uzrakstīt savas izvietošanas pārbaudes, atgriešanas kritērijus un atskaišu formātu, un pēc tam lietotnes var atsaukties uz to pašu Skill. Kad procedūra mainās, komanda augšupielādē jaunu versiju.

Izvērst

Avots: X

Profils ir vēl vienu līmeni augstāk. Profili saglabā aģenta modeli, instrukcijas, rīkus, Skills, savienotājus un izpildes iestatījumus ar vienu ID, kam ir versijas.

Abus mēs pievienojām septembrī kopā ar pārvaldītiem savienotājiem, lai projekta administrators varētu vienreiz konfigurēt apstiprinātu GitHub vai Slack savienojumu un ļaut lietotnēm uz to atsaukties, nevis glabāt atsevišķus akreditācijas datus. Kad piekļuve mainās, administrators atjaunina savienojumu vienuviet.

Kāpēc tas ir uzskatāms par atmiņu? Atkal atgriezīsimies virtuvē, kur mikroviļņu krāsnī tika sildītas zivis. Ikviens, kurš ierodas nākamais, var ievērot „NEKĀDU ZIVJU”, pats nedzirdējis sūdzības.

Skill aģentam veic to pašu uzdevumu, atstājot vietu darbībām, izņēmumiem un pārbaudēm, kas neietilptu uz mikroviļņu krāsns durvīm. Skills ir pierakstīti, tiem ir versijas, un tie ir pieejami nākamreiz, kad šis uzdevums atkal rodas.

Mēs izmantojam Skills arī Dream atmiņas atjauninājumu vadīšanai. Taču Skill nemācās patstāvīgi. Instrukcijas mainās, kad tiek augšupielādēta jauna versija, neatkarīgi no tā, vai to dara cilvēks vai automatizēts process.

Ja vēlaties, lai aģents pamanītu, ka atgriešanas pārbaude vienam pakalpojumam atkārtoti neizdodas, un pielāgotos, tas ir iepriekš aprakstītais cikls no sesijām uz wiki.

Jums ir jāsaglabā notikušais, jānosaka, kam jāmainās, un labojums jāpadara pieejams nākamajā reizē. Tam vajadzīgas nākamās divas sastāvdaļas.

Pārnesiet darba atmiņu starp sarunas gājieniem

Aģents veic izvietošanas pārbaudi. Jūs jautājat: „Kāpēc tas neizdevās?” Saprātīgs papildjautājums, ja vien aģents joprojām redz, uz ko attiecas „tas”.

Mūsu Agent API piedāvā divus veidus, kā pārnest sarunas kontekstu tālāk:

• Atkārtojiet sarunu paši: iekļaujiet iepriekšējos ziņojumus nākamā pieprasījuma ievades masīvā. Jūs izlemjat, ko saglabāt, apkopot, aizklāt vai izmest pirms nosūtīšanas.
• Turpiniet no pabeigtas atbildes: saglabājiet tās ID un nododiet to kā previous_response_id kopā ar nākamo ziņojumu. Mēs saglabājam sarunas stāvokli servera pusē, tāpēc jūsu lietotnei nav atkārtoti jānosūta iepriekšējie gājieni. Varat turpināt no jaunākās atbildes ķēdē.

Atkārtošana ļauj jums kontrolēt, ko aģents redz, bet turpināšana pēc ID atbrīvo jūs no sarunas atkārtotas salikšanas. Jebkurā gadījumā norādiet visas jaunās instrukcijas, rīkus vai modeļa iestatījumus, kas nepieciešami nākamajai atbildei.

Izmantojiet savu epizodiskās un semantiskās atmiņas krātuvi

Šo daļu Agent API atstāj jūsu ziņā.

Viens no ceļiem ir funkciju izsaukšana. Jūs definējat rīkus, aģents pieprasa izsaukumu, un jūsu lietotne to izpilda un atgriež rezultātu. Atmiņai vienkāršs sākumpunkts ir lasīšanas darbība, pirms aģents rīkojas, un rakstīšanas darbība pēc tam.

Ja reģistrējat tikai faktu, ko aģents izguva, jūs joprojām nezināt, vai tas palīdzēja. Reģistrējiet rezultātu, avotu un visu, ko lietotājs izlaboja, un jums jau būs epizodiskā slāņa sākums.

Mūsu MCP atbalsts sniedz vēl vienu ceļu. Ja saderīgs attālais MCP serveris nodrošina jums vajadzīgās darbības, aģents var tās izsaukt, jums katru no tām nepārveidojot par pielāgotu funkciju.

Mūsu savienotāji dod aģentam piekļuvi pierādījumiem, uz kuriem balstās atmiņas. GitHub, Slack, Google Drive, Datadog, Linear un Notion ir mūsu pārvaldīto savienotāju katalogā, un iekšējām sistēmām varat pievienot pielāgotus savienotājus.

Visbeidzot izlemiet, kad tiek pārskatīta vēsture un kad tiek pārstrādāts pašreizējais apraksts.

Pārbaudiet, kas saglabājas jaunā sesijā

Tagad aizveriet sarunu. Sāciet jaunu pieprasījumu, neatkārtojot vecos ziņojumus un nenododot previous_response_id, taču nodrošiniet aģentam piekļuvi tai pašai atmiņas krātuvei. Lūdziet tam veikt saistītu darbu, neatkārtojot labojumu.

Ja tam ir vajadzīgs atgādinājums, jūs vēl neesat pabeiguši.

Izvietošanas aģentam izveidojiet dažus testus, kas pārbauda, kam būtu jāsaglabājas:

• Labojums saglabājas: aģents izgūst un izmanto pārbaudīto atgriešanas komandu attiecīgajam pakalpojumam.
• Labojums paliek savā tvērumā: aģents neskar citu pakalpojumu procedūras.
• Jauna informācija aizstāj vecos norādījumus: kad komanda atkal mainās, aģents izmanto pašreizējo versiju un var izsekot izmaiņas līdz to avotam.

Mūsu regresijas testēšanas rokasgrāmatā parādīts, kā saglabāt aģenta izvades un izgūtos pierādījumus, pārbaudīt tos pret paredzēto uzvedību un salīdzināt izpildes reizes pēc instrukciju vai modeļu maiņas.

Salīdzinot izpildes reizes ar atmiņu un bez tās, saglabājiet nemainīgas modeļa, Profila un Skill versijas. Sāciet katru salīdzinājumu no zināma krātuves momentuzņēmuma; pretējā gadījumā viens tests var iemācīt aģentam atbildi uz nākamo.

Kad kaut kas neizdodas, saglabājiet šo gadījumu. Nākamajām izmaiņām tas būs jāiztur.

Vai arī neveidojiet paši: Brain sistēmā Computer

Ja vēlaties nevis atsevišķas daļas, bet gatavu ciklu, tas ir Computer. Tā pamatā darbojas Brain, mācoties no četriem avotiem: jūsu sesijām, pievienotajiem rīkiem, jūsu izveidotajiem failiem un artefaktiem, kā arī jūsu labojumiem. Brain fona atjauninājumi nostiprina to, kas joprojām ir spēkā, pārskata to, kas ir mainījies, un atzīmē novecojušu informāciju.

Jums šis cikls nav jāveido pašiem. Jūs vienkārši strādājat.

Atmiņa saglabā jūsu kopīgotās preferences un detaļas. Brain sasaista projektus, cilvēkus, lēmumus un nepabeigtos darbus ar pierādījumiem, uz kuriem tie balstās.

Varat pārbaudīt, ko tas ir iemācījies, atmiņas skatā, izsekot ierakstus līdz to avotiem un tos rediģēt vai dzēst. Brain izmanto jūsu pašu darbības, neiekļauj inkognito sesijas, un tam ir savs pārslēgs.

Izvērst

Piemēram, uzņēmumā Rho rēķinu izrakstīšanas projekta lēmumi bija izkaisīti pa Slack, Notion, Jira, Figma un Google Docs. Komanda iestatīja Computer, lai tas naktī pārskatītu izmaiņas, atzīmētu neatbilstības un publicētu rīta kopsavilkumu pakalpojumā Slack.

Viņu programmatūras inženieris Oktawian Jurkiewicz pamanīja, ka Computer veido arī projekta atmiņu. „Mēs to nedefinējām,” viņš saka. „Computer pats izdomāja, kurus datu punktus tam vajadzētu saglabāt no katra avota.”

Komanda ziņo, ka iknedēļas sanāksmju laiks samazinājies no 2,5 stundām līdz 15 minūtēm, un lēš, ka 12 nedēļu projekta laikā ietaupītas 120 darba stundas.

Šīs 120 stundas tiek attiecinātas uz visu darbplūsmu: savienotājiem, nakts izpildēm un Slack kopsavilkumu. Cik daudz no ietaupītā laika ir nodrošinājusi tieši atmiņa? To mēs vēl nevaram kvantificēt.

Taču mēs varam ieteikt šo: veidojot savu risinājumu, atgriezieties pie iepriekš minētā testa – izpildiet līdzvērtīgus uzdevumus ar ieslēgtu un izslēgtu atmiņas slāni, pēc tam salīdziniet izpildes rādītājus, izmaksas un laiku, tostarp laiku, ko kāds pavada, labojot rezultātu.

Bieži uzdotie jautājumi par MI aģentu atmiņu

Vai MI aģentiem var būt atmiņa?

Jā. MI aģenti var saglabāt informāciju starp sesijām, izmantojot saglabātas sarunas, faktus, preferences un atkārtoti izmantojamas procedūras. Sistēmai šī informācija ir jāizgūst, kad tā ir būtiska, un jāatjaunina, kad mainās apstākļi.

Piemēram, Brain sistēmā Perplexity Computer veido darba kontekstu no sesijām, pievienotajiem rīkiem, failiem un lietotāju labojumiem.

Cik daudz RAM izmanto MI aģents?

Vienas noteiktas prasības nav. Ja jūsu aģents izsauc mitinātu modeli, izmantojot Perplexity Agent API, jums šis modelis nav jāielādē savā RAM. Jūsu lietotnei un lokālajiem rīkiem tomēr ir vajadzīga atmiņa.

Lokāla modeļa palaišana ir cita lieta. Ar četriem bitiem uz parametru astoņi miljardi parametru veido aptuveni 4 GB neapstrādātu svaru datu. Faktiski nepieciešamā atmiņa ir lielāka, ja ņem vērā kvantizācijas papildu slodzi, konteksta apstrādi un programmatūru, kas darbina modeli.

Kāda ir labākā atmiņa MI aģentam?

Labākā konfigurācija ir atkarīga no tā, kas aģentam jāpārnes uz priekšu. Sarunas stāvoklis ļauj uzdot papildjautājumus; epizodiskie ieraksti saglabā notikušo; semantiskā atmiņa glabā pašreizējās zināšanas; procedurālā atmiņa nodrošina atkārtoti izmantojamas instrukcijas.

Lielākajai daļai ilgstošu darbu noder kombinācija. Brain darbībai mēs izmantojam savstarpēji saistītu, avotos balstītu wiki. Veidojot savu risinājumu, pārbaudiet, vai konfigurācija palīdz aģentam izpildīt uzdevumus, piemērot labojumus un atmest novecojušus norādījumus.