AI ఏజెంట్ మెమరీ: శాశ్వత సందర్భంతో AI ఏజెంట్‌లను ఎలా రూపొందించాలి

ఆరు నెలల పాటు ప్రతి ఉదయం ఒక కొత్త సహోద్యోగిని ప్రింటర్ దగ్గరకు తీసుకెళ్లాల్సి వస్తే, మీకు ఆందోళన మొదలవుతుంది. గతంలో వెళ్లిన ప్రతి సారినీ వారు పూసగుచ్చినట్లు వల్లె వేయగలిగినా, ఇంకా ఎవరో ఒకరు వెంట రావాల్సి వస్తే, వారి జ్ఞాపకశక్తి అద్భుతమే…కానీ మీరు మాత్రం ఇంకా మీ డెస్క్ నుంచి లేచి వెళ్లాల్సిందే.

ప్రస్తుతం AI ఏజెంట్ మెమరీ కూడా ఈ అంతులేని ప్రింటర్ నడక లాంటి స్థితిలోనే ఉంది. మెమరీ బెంచ్‌మార్క్‌లు రీకాల్‌ను కొలుస్తాయి కాబట్టి అవి సంతృప్త స్థాయికి చేరుకున్నాయని Letta CEO Charles Packer The New Stackలో చెప్పారు; ఆయన దృష్టిలో రీకాల్ ఇప్పటికే పరిష్కారమైన సమస్య. ఇంకా పరిష్కారం కాని సమస్య ఏమిటంటే, మళ్లీ శిక్షణ ఇవ్వాల్సిన అవసరం లేకుండా, ఏజెంట్ తాను నిలుపుకునే కాంటెక్స్ట్ ద్వారా తన పనిలో మెరుగుపడటం.

ఆయన సహ-వ్యవస్థాపకురాలు Sarah Wooders దీన్ని కొత్త ఉద్యోగంలో చేరడంతో పోలుస్తారు—బెంచ్‌మార్క్‌లు ఏజెంట్‌కు అవసరమైన కాంటెక్స్ట్ మొత్తాన్ని ముందే అందిస్తాయి—ఒకదానితో ఒకటి సంబంధం లేని టాస్క్‌లు ఒకదాని తర్వాత ఒకటి వస్తాయి, మనుషులు పనిచేసే తీరు అస్సలు అలా ఉండదు. కొత్తగా చేరిన ఉద్యోగిని ప్రింటర్ దగ్గరకు తీసుకెళ్లాల్సి రావచ్చు. కానీ మూడేళ్లు గడిచాక, మీ డెస్క్ నుంచి లేవకుండానే ఒక్క లైన్ సూచనతో వారికి పని అప్పగించగలగాలని మీరు ఆశిస్తారు.

మనం చేరుకోవాల్సిన ప్రమాణం అదే. Perplexity Computer కోసం మేము రూపొందించిన స్వీయ-మెరుగుదల మెమరీ సిస్టమ్ Brain వెనుక ఉన్న లక్ష్యం కూడా అదే; ఇది గత పనులను, దిద్దుబాట్లను నిరంతరం అభివృద్ధి చెందే నాలెడ్జ్ వికీగా క్రమబద్ధీకరిస్తుంది.

ఏజెంట్ ఏమి గుర్తుంచుకోవాలి, అది ఏజెంట్ మెరుగ్గా పని చేయడానికి సహాయపడుతుందో లేదో ఎలా పరీక్షించాలి అనే విషయాలను ఇక్కడ చర్చిస్తాం.

AI ఏజెంట్ మెమరీ అంటే ఏమిటి?

AI ఏజెంట్ మెమరీ అంటే, గత ఇంటరాక్షన్‌లు, పనుల నుంచి ఏజెంట్ నిలుపుకునే సమాచారం, దాన్ని అప్‌డేట్ చేసి ఉపయోగించుకునే యంత్రాంగాలు. శాశ్వత మెమరీ కాంటెక్స్ట్ ఆ సమాచారాన్ని ఒక సెషన్ నుంచి మరో సెషన్‌కు తీసుకెళ్తుంది, కాబట్టి ఒక సంభాషణను మూసివేసినంత మాత్రాన తదుపరి టాస్క్‌ను మొదటి నుంచి ప్రారంభించాల్సిన అవసరం ఉండదు.

ఆ పేరుతో విడుదలయ్యే వాటిలో చాలావరకు యూజర్‌ను గుర్తుంచుకుంటాయి. మీ ప్రాధాన్యతలు, మీ కాంటాక్ట్‌లు, మీ పాత్ర, మీకు PNGలు కాకుండా PDFలు కావాలనే విషయం. అది తేలికైన సగం మాత్రమే.

మేము Brainను నిర్మించినప్పుడు—ఇది Perplexity Computer వెనుక ఉన్న మెమరీ సిస్టమ్—మేము పనిపైనే దృష్టి పెట్టాం. ఏ విధానం విజయవంతమైంది? ఏ సోర్స్ ఇరవై నిమిషాలు వృథా చేసింది? పని పూర్తయిందని ఏజెంట్ ప్రకటించిన తర్వాత మీరు ఏమి సరిదిద్దాల్సి వచ్చింది? ఆ చరిత్ర తదుపరి టాస్క్‌కు మెరుగైన ప్రారంభ స్థానాన్ని ఇస్తుంది.

Brain ఈ సమాచారాన్ని ఏజెంట్ శాండ్‌బాక్స్‌లో ఫైల్స్‌గా నిల్వ చేస్తుంది, వాటిని మూడు లేయర్‌లుగా క్రమబద్ధీకరిస్తుంది:

• sessions/ ముడి ట్రాన్స్‌క్రిప్ట్‌లను, వాటి సారాంశాలను కలిగి ఉంటుంది.
• notes/ అంశాల వారీగా క్రమబద్ధీకరించిన, సంగ్రహించిన సమాచారాన్ని కలిగి ఉంటుంది.
• knowledge/ వికీని కలిగి ఉంటుంది; అంటే వ్యక్తులు, ప్రాజెక్ట్‌లు, భావనల గురించి ఒకదానితో ఒకటి లింక్ చేయబడిన Markdown పేజీలు.

వీటిలో ఏదీ దానంతట అదే మెరుగుపడదు. రాత్రిపూట, మేము “Dream” అని పిలిచే బ్యాక్‌గ్రౌండ్ ఏజెంట్‌లు ఆ రోజు సెషన్‌లను చదివి, వాటిని సంగ్రహించి, పరిస్థితి ఎక్కడ మారితే అక్కడ వికీని సవరిస్తాయి. ఆ సవరణలను Git ద్వారా కమిట్ చేసే ముందు మేము వాటిని స్టేజ్ చేసి తనిఖీ చేస్తాం, కాబట్టి ఏదైనా తేడాగా అనిపిస్తే పరిశీలించడానికి ఒక diff అందుబాటులో ఉంటుంది.

ఇది ఏజెంట్‌ను పనిలో మెరుగ్గా మారుస్తుందా? మా 30 రోజుల జత మూల్యాంకనంలో, Brain ఎనేబుల్ చేసిన సెషన్‌లు కచ్చితత్వాన్ని 9.3 శాతం పాయింట్లు, రీకాల్‌ను 8.9 పాయింట్లు పెంచాయి, అదే సమయంలో దాదాపు 15% తక్కువ టోకెన్‌లను ఉపయోగించాయి.

విస్తరించు

మూలం: X

ఏజెంటిక్ మెమరీ రకాలు ఏమిటి?

ఇవి స్థూలంగా రెండు రకాలు, ఈ విభజన ఒక వ్యక్తి విషయంలో మనం చేసే విభజన లాంటిదే: ప్రస్తుతం మీరు మనసులో పెట్టుకున్నది, వచ్చే నెల కూడా మీకు గుర్తుండేది.

స్వల్పకాలిక మెమరీ

స్వల్పకాలిక మెమరీ ప్రస్తుత సంభాషణ లేదా టాస్క్‌కు సంబంధించిన కాంటెక్స్ట్‌ను కలిగి ఉంటుంది. మీ అభ్యర్థన, ఇటీవలి మెసేజ్‌లు, టూల్ కాల్ ఫలితం, ఏజెంట్ ఇప్పుడే తెరిచిన డాక్యుమెంట్. తర్వాత ఏమి చేయాలో నిర్ణయించడానికి సరిపడా సమాచారం.

దీన్ని వర్కింగ్ మెమరీ అని కూడా అంటారు. LLM విషయంలో, ఒక నిర్దిష్ట మోడల్ కాల్ సమయంలో అందుబాటులో ఉండే సమాచారాన్ని కాంటెక్స్ట్ విండో కలిగి ఉంటుంది. అప్లికేషన్ అదనంగా టాస్క్ స్థితిని నిర్వహించి, ప్రతి దశలో ఏ భాగాలను అందించాలో నిర్ణయించవచ్చు.

అలాగే, స్వల్పకాలికం అంటే తప్పనిసరిగా పారేసేది అని కాదు. ఒక ఫ్రేమ్‌వర్క్ సంభాషణ స్థితిని సేవ్ చేసి రేపు కొనసాగించవచ్చు—అది ఇప్పటికీ ఆ థ్రెడ్‌కే చెందుతుంది. కానీ ఆ సమాచారాన్ని మరో టాస్క్ ఉపయోగించుకోగలదా అనేది వేరే డిజైన్ నిర్ణయం.

దీర్ఘకాలిక మెమరీ

దీర్ఘకాలిక మెమరీ సమాచారాన్ని అన్ని సెషన్‌లలోనూ అందుబాటులో ఉంచుతుంది. CoALA పేపర్ కాగ్నిటివ్ సైన్స్ నుంచి మూడు వర్గాలను స్వీకరించి, అనుభవాలు, పని నేర్పు గురించి మాట్లాడేందుకు ఏజెంట్ బిల్డర్‌లకు ఒక పదజాలాన్ని అందించింది:

• ఎపిసోడిక్ మెమరీ అంటే జరిగినది: ఇందులో గత సెషన్‌లు, ఏజెంట్ తీసుకున్న దశలు, దానికి వచ్చిన ఫలితం ఉంటాయి. Brainలో, sessions/ ముడి ట్రాన్స్‌క్రిప్ట్‌లు, వాటి సారాంశాల ద్వారా ఈ చరిత్రను అందిస్తుంది.
• సెమాంటిక్ మెమరీ అంటే ఏజెంట్ నిజమని భావించేది: సంభాషణల నుంచి సంగ్రహించిన యూజర్, వారి ప్రాజెక్ట్‌లు, వారి ప్రపంచం గురించిన వాస్తవాలు ఇందులో ఉండవచ్చు. Brain యొక్క knowledge/ వికీ ఈ రకమైన సమాచారాన్ని, ఆధారాలకు తిరిగి వెళ్లే లింక్‌లతో సహా కలిగి ఉంటుంది.
• ప్రొసీజరల్ మెమరీ అంటే పనులు ఎలా చేయాలో తెలియడం: ఇవి ప్రాంప్ట్‌లు, మళ్లీ ఉపయోగించగల వర్క్‌ఫ్లోలు, ఒక పనికి అవసరమైన సూచనలను, టూల్స్‌ను ఏజెంట్‌లకు అందించడానికి Perplexity రూపొందించే నైపుణ్యాలు. దీన్ని మెమరీ అని పిలవకపోయినా, ఇందులో కొంత మీ దగ్గర ఇప్పటికే ఉండవచ్చు.

అసలు ఆసక్తికరమైన పని లేయర్‌ల మధ్య జరుగుతుంది. మీరు ఒక PNGని తిరస్కరించారని ఒక సెషన్ నమోదు చేస్తుంది. PDFలను ఉపయోగించమని మీరు ఇచ్చిన సూచన, ఏజెంట్ ముందుకు తీసుకెళ్లగల ప్రాధాన్యతగా మారుతుంది. ఎక్స్‌పోర్ట్ ప్రక్రియకు చేసిన దిద్దుబాటు, తదుపరిసారి అది అనుసరించగల విధానంగా మారుతుంది.

“ఇది జరిగింది” నుంచి “ఇది నిజం” వరకు, అక్కడి నుంచి “మేము దీన్ని ఇలా చేస్తాం” వరకు జరిగే ఆ మార్పు, మనం మొదట్లో ప్రస్తావించిన నేర్చుకునే సమస్యలో భాగం; Brain యొక్క రాత్రిపూట Dream ఏజెంట్ రన్‌లు తమ శ్రమను వెచ్చించేది కూడా దీనిపైనే.

ఎవరో ఒకరు ఉమ్మడి వంటగదిలో చేపలను మైక్రోవేవ్‌లో వేడి చేశారనుకోండి. ఫిర్యాదులు వస్తాయి, ఒక కిటికీ తెరుస్తారు. చివరికి, ఒక బోర్డు వెలుస్తుంది: చేపలు నిషిద్ధం.

ఆరు నెలల తర్వాత, ఆ పని చేసిన వ్యక్తి వెళ్లిపోయారు, కానీ బోర్డు మాత్రం అలాగే ఉంది. నిలిచి ఉండటం అంటే అదే. ఏది మిగిలి ఉంటుందో దాని ఆధారంగా మెమరీ రకాలను వివరించవచ్చు:

• వర్కింగ్ మెమరీ అంటే మధ్యాహ్న భోజనం తయారు చేస్తున్నప్పుడు మీరు గమనిస్తూ ఉండేది, సూప్‌ను కలుపుతూ ఉండాలి అన్నట్టుగా.
• ఎపిసోడిక్ మెమరీ అంటే చేపల సంఘటన; అందరినీ వరండా వరకు వెంటాడిన ఆ వాసన.
• సెమాంటిక్ మెమరీ అంటే దాని నుంచి మీరు నేర్చుకున్న జ్ఞానం—ఉమ్మడి వంటగదిలో చేపలను మళ్లీ వేడి చేస్తే వాసన చాలాసేపు నిలిచిపోవచ్చు.
• ప్రొసీజరల్ మెమరీ అంటే తర్వాత ఏమి జరగాలో నిర్దేశించే సూచన. ఇక్కడ చేపలను మైక్రోవేవ్‌లో వేడి చేయవద్దు. ఆ సంఘటన మొత్తం తెలియని వ్యక్తి కూడా ఆ బోర్డును చూసి నియమాన్ని పాటించగలరు.

మనం నిర్మిస్తున్న దాన్ని ఇది మారుస్తుంది కాబట్టి, మరో వ్యత్యాసం కూడా ఉంది. డిసెంబర్ 2025లో మొదట ప్రచురితమైన Memory in the Age of AI Agents అనే సర్వే, స్వల్పకాలికం వర్సెస్ దీర్ఘకాలికం అనే విభజన సరిపోదని చెబుతుంది—అది మెమరీని దాని రూపం ఆధారంగా కూడా వర్గీకరిస్తుంది:

• టోకెన్-స్థాయి: ఇది ఏజెంట్ చదివే స్పష్టమైన కంటెంట్. ఫైల్స్, నిల్వ చేసిన రికార్డులు, తిరిగి పొందిన చంక్‌లు.
• పారామెట్రిక్: ఇది నేర్చుకున్న వెయిట్‌లలో ఎన్‌కోడ్ అయిన సమాచారం. దీన్ని అప్‌డేట్ చేయడానికి శిక్షణ లేదా మోడల్-ఎడిటింగ్ పద్ధతులు అవసరం.
• లేటెంట్: ఇది చదవగలిగే టెక్స్ట్‌గా రాయబడకుండా, అంతర్గత ప్రాతినిధ్యాలలో నిలిచి ఉండే సమాచారం.

ఇక్కడ మేము టోకెన్-స్థాయి మెమరీపై దృష్టి పెడుతున్నాం; అంటే మోడల్ బయట నిల్వ చేసి, అవసరమైనప్పుడు దాని కాంటెక్స్ట్‌లోకి చదివే సమాచారం. Brain యొక్క Markdown వికీ దీనికి ఒక ఉదాహరణ.

విస్తరించు

మేము ఒక పేజీని అప్‌డేట్ చేసినప్పుడు, ఏజెంట్ తన తదుపరి టాస్క్‌లో చదవగలిగే దాన్ని మారుస్తాం, కానీ దాని అంతర్లీన వెయిట్‌లు అలాగే ఉంటాయి. పరిచయంలో Packer చెప్పిన విషయం ఇదే: మళ్లీ శిక్షణ అవసరం లేకుండా, ఏజెంట్ నిలుపుకునే కాంటెక్స్ట్ ద్వారా మెరుగుపడటం.

ఏజెంట్ మెమరీ రకాలు కలిసి ఎలా పని చేస్తాయి?

ఏజెంట్ గతంలో చేసిన ప్రయత్నాన్ని మళ్లీ పరిశీలించి, అది ఎక్కడ తప్పు జరిగిందో చూసి, ఆ తర్వాత మీరు ఇచ్చిన సూచనలను లోడ్ చేయగలదు. ఒకే టాస్క్‌లో అనేక రకాల మెమరీలు పాల్గొంటాయి, వాటిలో ప్రతిదానికీ వేరే వంతు గానీ, ప్రత్యేక డేటాబేస్ గానీ అవసరం లేదు.

ఇక్కడ, సంభాషణ ముగిసిన తర్వాత ఏది అందుబాటులో ఉంటుందో పర్సిస్టెన్స్ నిర్ణయిస్తుంది, ఏజెంట్ దాన్ని మళ్లీ ఎప్పుడైనా చూస్తుందా లేదా అనేది రిట్రీవల్ నిర్ణయిస్తుంది.

Brainలో, పాఠం నుంచి తిరిగి ఆధారం వరకు ఉన్న ఆ మార్గాన్ని మేము కాపాడుతాం. గత వారం ప్రాజెక్ట్‌ను కొనసాగించమని మీరు Computerను అడిగారనుకోండి:

• ఏ మెమరీ పేజీలు ఉన్నాయో, వాటిని ఎక్కడ కనుగొనాలో Brain ఇండెక్స్ దానికి చెబుతుంది.
• సేవ్ చేసిన నిర్ణయాలను, సూచనలను చదవడానికి Brain ప్రాజెక్ట్ పేజీని తెరుస్తుంది.
• మీరు ఒక విధానాన్ని తిరస్కరించారని ఏదైనా నోట్‌లో ఉంటే, ఏజెంట్ దాని సైటేషన్‌ను అనుసరించి ఆ సంభాషణకు తిరిగి వెళ్లి, ఎందుకో తనిఖీ చేయగలదు.

సంబంధిత పేజీలకు ఉన్న లింక్‌ల ద్వారా, ఇందులో పాల్గొన్న వ్యక్తులను లేదా ఇతర ప్రాజెక్ట్‌లను అది వెతకగలదు. ఏజెంట్ ఫైల్స్‌ను చదవడం, శోధించడం ద్వారా దీన్ని చేస్తుంది. ఉదాహరణకు, grep ద్వారా ఒక ప్రాజెక్ట్ పేరుతో దాని ప్రస్తావనలను కనుగొనగలదు.

ఫైల్స్‌ను అన్వేషించగలగడం వల్ల ఏజెంట్‌లకు ఏమి లాభం కలుగుతుందో కూడా మేము పరీక్షించాం. 150 ఆర్థిక-డాక్యుమెంట్ ప్రశ్నలతో చేసిన అంతర్గత బెంచ్‌మార్క్‌లో, ప్రామాణిక ఫైల్ టూల్స్ ఉపయోగించిన ఎక్స్‌ప్లోరేషన్ ఏజెంట్ 0.627 సమాధాన స్కోర్ సాధించింది, అదే కార్పస్‌పై సెమాంటిక్ సెర్చ్ స్కోర్ దాదాపు 0.37 మాత్రమే.

విస్తరించు

మూలం: X

AI ఏజెంట్ మెమరీని ఎలా మెరుగుపరచాలి?

Orogat, Mansour రాసిన మే 2026 పేపర్ ఏజెంట్ మెమరీలో పదే పదే ఎదురయ్యే నాలుగు వైఫల్యాలను గుర్తించింది: స్టోర్ పెరుగుతూనే ఉంటుంది, పాత నమ్మకాలు సవరించబడవు, స్థలం అయిపోయినప్పుడు సమాచారం మరచిపోబడుతుంది, రిట్రీవల్ చదువుతుంది కానీ ఆ సందర్శన నుంచి ఏమీ నేర్చుకోదు.

ఏజెంటిక్ మెమరీని స్టోరేజ్‌గా చూడటం మానేసి, నాలుగు ఆపరేషన్‌ల ద్వారా అభివృద్ధి చెందే “స్థితి”గా చూడాలని వారు పరిష్కారం ప్రతిపాదిస్తారు: స్వీకరించడం, సవరించడం, మరచిపోవడం, తిరిగి పొందడం. ఈ విభాగానికి అదే మా చెక్‌లిస్ట్.

ఏది గుర్తుంచుకోవాలో జాగ్రత్తగా ఎంచుకోండి

ఒక “చెడ్డ” మెమరీ లోపలికి వచ్చాక, ప్రతి దశ దాన్ని వారసత్వంగా పొందుతుంది.

Workday AI Research LoCoMo బెంచ్‌మార్క్ నుంచి దాదాపు 1,500 అభ్యర్థి మెమరీలపై ఒక ఎంపిక విధానాన్ని పరీక్షించింది; వాటిలో దేనినైనా ఉంచుకునే ముందు ఐదు ప్రశ్నలు అడిగింది:

• ఇది ఉపయోగకరమా? ఇది మళ్లీ ప్రస్తావనకు వచ్చే అవకాశం ఉందా?
• ఇది నమ్మదగినదా? సంభాషణలో నిజంగా ఇది చెప్పారా, లేక మోడల్ దాన్ని తనంతట తాను పూరించిందా?
• ఇది కొత్తదా, లేక ఇప్పటికే నిల్వ చేసినదా?
• ఇది తాజాదా?
• ఇది శాశ్వత వాస్తవమా, లేక తాత్కాలిక స్థితా?

మొదటి ప్రశ్నకు మాత్రమే మోడల్ కాల్ అవసరమైంది. మిగతా నాలుగు నియమాలుగా అమలై, మొత్తం కలిపి 65 మిల్లీసెకన్ల కంటే తక్కువ సమయంలో పూర్తయ్యాయి. ఈ పద్ధతి ఉంచాలా-తొలగించాలా నిర్ణయాలలో 12% అధిక ప్రెసిషన్ సాధించింది, అదే సమయంలో సంబంధిత మెమరీలలో 97% నిలుపుకుంది.

అతిపెద్ద ప్రభావం చూపింది చివరి ప్రశ్నే—శాశ్వత, తాత్కాలిక సమాచారం మధ్య వ్యత్యాసాన్ని తీసేస్తే, నిర్ణయ నాణ్యత దాదాపు 18% పడిపోయింది.

చరిత్రను కోల్పోకుండా సమాధానాన్ని సవరించండి

ఒక వాస్తవం ఎప్పటి నుంచి చెల్లుబాటులోకి వచ్చింది, దానికి ఏ సోర్స్ ఆధారం, అది దేని స్థానాన్ని భర్తీ చేసింది అనేవి నమోదు చేయండి. సోర్స్‌లు విభేదిస్తే, దాన్ని పరిష్కరించడానికి సరిపడా ఆధారాలు దొరికే వరకు ఆ విభేదాన్ని కనిపించేలా ఉంచండి. సరికొత్త డాక్యుమెంట్ కూడా తప్పు కావచ్చు.

సోర్స్ డాక్యుమెంట్‌లు, కనెక్టర్ ఫలితాలు, యూజర్ దిద్దుబాట్లను ఉపయోగించి Brain వికీని అప్‌డేట్ చేస్తుంది. ప్రతి మెమరీ ఎంట్రీ దాని సోర్స్‌కు తిరిగి లింక్ అవుతుంది. ఏజెంట్ ప్రస్తుత సమాధానాన్ని కనుగొనాలి, ఆ సమాధానం అనుమానాస్పదంగా అనిపిస్తే వెతకడానికి దానికి ఏదో ఒక ఆధారం ఉండాలి.

ఉద్దేశపూర్వకంగా మరచిపోండి

ఈ పేపర్ ఒక వైఫల్య విధానాన్ని “సామర్థ్య-ఆధారిత మరపు” అని పిలుస్తుంది: సమాచారం ఉపయోగకరంగా ఉండటం ఆగిపోయినందుకు కాకుండా, స్టోరేజ్ పరిమితిని పాటించడానికి తొలగించబడుతుంది.

మళ్లీ ఉమ్మడి వంటగది విషయానికి వద్దాం. ఆరు నెలల తర్వాత, చేపలను ఎవరు మైక్రోవేవ్‌లో వేడి చేశారో, కిటికీ ఎంతసేపు తెరిచి ఉందో ఎవరూ పట్టించుకోరు. కానీ ఆ బోర్డుకు మాత్రం ఇంకా పని ఉంది.

తర్వాతి వ్యక్తి భోజనం తయారు చేసుకుంటే, ఆ నియమం అందుబాటులో ఉంటుంది. మీరు ఫిర్యాదులను మాత్రం ఆర్కైవ్ చేస్తే చాలు.

Workday యొక్క తాజాదనం, సమాచార-రకం తనిఖీలు స్టోరేజ్‌కు ముందే మొదలై, ఏది మెమరీగా మారడానికి అర్హమైనదో ఫిల్టర్ చేస్తాయి. Brainలో, సోర్స్ డాక్యుమెంట్‌లు మారినప్పుడు, యూజర్‌లు దిద్దుబాట్లు చేసినప్పుడు మేము ఇప్పటికే ఉన్న జ్ఞానాన్ని కూడా మళ్లీ పరిశీలిస్తాం. రెండు సందర్భాల్లోనూ, జోక్యం చేసుకోవాల్సిన అవసరాన్ని కంటెంటే నిర్ణయిస్తుంది.

రిట్రీవల్ తదుపరి అప్‌డేట్‌కు ఉపయోగపడేలా చేయండి

ఏజెంట్ ఒక వాస్తవాన్ని తిరిగి పొంది, దాన్ని ఉపయోగించి, స్టోర్‌ను సరిగ్గా ఎలా ఉందో అలాగే వదిలేస్తుంది. ఇప్పుడు, ఆ తర్వాత ఏమి జరిగిందో సిస్టమ్ నమోదు చేయకపోతే, ఆ వాస్తవం సహాయపడిందా లేక ఏజెంట్‌ను మరో దారి లేని మార్గంలోకి పంపిందా అనేది ఎక్కడా నమోదు కాదు.

ఫలితాన్ని, సోర్స్‌ను, ఏదైనా దిద్దుబాటును నమోదు చేయండి. మేము Brainను నిర్మించినప్పుడు, ఆ పని చరిత్రను అది గుర్తుంచుకునే దానిలో భాగంగా చేశాం: ఏ విధానం విజయవంతమైంది, ఏ సోర్స్ ఎటూ దారి తీయలేదు, పని పూర్తయిందని ఏజెంట్ ప్రకటించిన తర్వాత యూజర్ ఏమి సరిదిద్దారు. Brain ఆ అనుభవాన్ని క్రమం తప్పకుండా చేసే తన వికీ అప్‌డేట్‌లలో చేర్చుతుంది, కాబట్టి తర్వాతి టాస్క్‌లు దాన్ని ఉపయోగించుకోగలవు.

అయితే, ఇవేవీ రీకాల్ బెంచ్‌మార్క్‌లో కనిపించవు. ఈ లూప్ పని చేస్తోందో లేదో తెలుసుకోవాలంటే, మెమరీతో మాత్రమే పూర్తి చేయగల టాస్క్‌ను ఏజెంట్‌కు ఇచ్చి, ఖర్చు, లేటెన్సీతో సహా అది ఎంత తరచుగా దాన్ని పూర్తి చేస్తుందో లెక్కించాలి. DolphinBench చేసేది అదే, అందుకే అత్యుత్తమ స్కోర్‌లు ఇంకా డెబ్బైలలోనే ఉన్నాయి.

Perplexity ఉపయోగించి శాశ్వత మెమరీ ఉన్న ఏజెంట్‌ను ఎలా నిర్మించాలి

Perplexity యొక్క Agent API Brain లాంటి స్వీయ-నిర్వహణ మెమరీ సిస్టమ్‌తో రాదు. ఈ విషయాన్ని మేము ముందే చెప్పాలనుకుంటున్నాం. కానీ మీకు అవసరమైన మెమరీ భాగాలను అది అందిస్తుంది: ప్రొసీజర్‌లను ఉంచడానికి ఒక చోటు, టర్న్‌ల మధ్య కాంటెక్స్ట్‌ను తీసుకెళ్లడానికి ఒక మార్గం, మీరు నియంత్రించే స్టోర్ నుంచి చదవడానికి, దానిలో రాయడానికి టూల్స్.

విధానపరమైన మెమరీతో ప్రారంభించండి

కస్టమ్ నైపుణ్యం సూచనలు, విధానాలు, సహాయక ఫైల్‌లను ఒక వెర్షన్ నంబర్ కింద ప్యాకేజీ చేస్తుంది. ఒక ప్లాట్‌ఫామ్ బృందం తన డిప్లాయ్‌మెంట్ తనిఖీలు, రోల్‌బ్యాక్ ప్రమాణాలు, రిపోర్టింగ్ ఫార్మాట్‌ను ఒకసారి రాసి, ఆ తర్వాత అప్లికేషన్‌లు అదే నైపుణ్యాన్ని సూచించేలా చేయవచ్చు. విధానం మారినప్పుడు, బృందం కొత్త వెర్షన్‌ను అప్‌లోడ్ చేస్తుంది.

విస్తరించు

మూలం: X

ప్రొఫైల్ ఒక స్థాయి పైకి వెళ్తుంది. ప్రొఫైల్‌లు ఏజెంట్ యొక్క మోడల్, సూచనలు, టూల్‌లు, నైపుణ్యాలు, కనెక్టర్‌లు, రన్ సెట్టింగ్‌లను ఒకే వెర్షన్ చేయబడిన ID కింద సేవ్ చేస్తాయి.

మేము సెప్టెంబర్‌లో ఈ రెండింటినీ జోడించాము, వాటితో పాటు నిర్వహించబడే కనెక్టర్‌లను కూడా జోడించాము, కాబట్టి ప్రాజెక్ట్ అడ్మినిస్ట్రేటర్ ఆమోదించిన GitHub లేదా Slack కనెక్షన్‌ను ఒకసారి కాన్ఫిగర్ చేసి, అప్లికేషన్‌లు వేర్వేరు క్రెడెన్షియల్‌లను నిల్వ చేయడానికి బదులుగా దానిని సూచించేలా చేయవచ్చు. యాక్సెస్ మారినప్పుడు, అడ్మినిస్ట్రేటర్ కనెక్షన్‌ను ఒకే చోట అప్‌డేట్ చేస్తారు.

ఇది మెమరీగా ఎందుకు పరిగణించబడుతుంది? మళ్లీ ఒకసారి, మైక్రోవేవ్‌లో చేపలు వేడి చేసిన ఆ వంటగదికి తిరిగి వెళ్దాం. తర్వాత ఎవరు వచ్చినా, ఫిర్యాదులను స్వయంగా చూడకపోయినా ‘NO FISH’ (చేపలు వద్దు) సూచనను పాటించగలరు.

నైపుణ్యం ఏజెంట్ కోసం అదే పని చేస్తుంది, మైక్రోవేవ్ తలుపుపై సరిపోని దశలు, మినహాయింపులు, తనిఖీలకు కూడా దానిలో చోటు ఉంటుంది. నైపుణ్యాలు రాసి ఉంచబడతాయి, వెర్షన్ చేయబడతాయి, తదుపరిసారి ఆ పని వచ్చినప్పుడు అందుబాటులో ఉంటాయి.

Dream యొక్క మెమరీ అప్‌డేట్‌లకు మార్గనిర్దేశం చేయడానికి కూడా మేము నైపుణ్యాలను ఉపయోగిస్తాము. కానీ నైపుణ్యం చేయనిది ఏమిటంటే, సొంతంగా నేర్చుకోవడం. ఒక వ్యక్తి గానీ, ఆటోమేటెడ్ ప్రాసెస్ గానీ కొత్త వెర్షన్‌ను అప్‌లోడ్ చేసినప్పుడు సూచనలు మారతాయి.

ఒక సర్వీస్‌లో రోల్‌బ్యాక్ తనిఖీ పదే పదే విఫలమవుతోందని ఏజెంట్ గమనించి సర్దుబాటు చేసుకోవాలని మీరు కోరుకుంటే, అది ఇంతకు ముందు చెప్పిన సెషన్‌ల నుండి వికీకి వెళ్లే లూప్.

మీరు ఏమి జరిగిందో నిలుపుకోవాలి, ఏమి మారాలో నిర్ణయించాలి, తదుపరిసారి ఆ సవరణను అందుబాటులో ఉంచాలి. దానికి తదుపరి రెండు భాగాలు అవసరం.

టర్న్‌ల మధ్య వర్కింగ్ మెమరీని కొనసాగించండి

ఏజెంట్ డిప్లాయ్‌మెంట్ తనిఖీని రన్ చేస్తుంది. మీరు ‘అది ఎందుకు విఫలమైంది?’ అని అడుగుతారు. “అది” దేనిని సూచిస్తుందో ఏజెంట్‌కు ఇంకా కనిపిస్తుంటే, ఇది సహేతుకమైన తదుపరి ప్రశ్న.

మా Agent API సంభాషణ సందర్భాన్ని ముందుకు తీసుకెళ్లడానికి రెండు మార్గాలకు మద్దతు ఇస్తుంది:

• సంభాషణను మీరే రీప్లే చేయండి: మునుపటి సందేశాలను తదుపరి అభ్యర్థన యొక్క ఇన్‌పుట్ అర్రేలో చేర్చండి. పంపే ముందు ఏమి ఉంచాలో, సారాంశం చేయాలో, రీడాక్ట్ చేయాలో, లేదా తొలగించాలో మీరే నిర్ణయిస్తారు.
• పూర్తయిన ప్రతిస్పందన నుండి కొనసాగించండి: దాని IDని సేవ్ చేసి, తదుపరి సందేశంతో previous_response_id గా పంపండి. మేము సంభాషణ స్థితిని సర్వర్ వైపు ఉంచుతాము, కాబట్టి మీ అప్లికేషన్ మునుపటి టర్న్‌లను మళ్లీ పంపాల్సిన అవసరం లేదు. చైన్‌లోని తాజా ప్రతిస్పందన నుండి మీరు కొనసాగించవచ్చు.

రీప్లే చేయడం ఏజెంట్ ఏమి చూస్తుందో దానిపై మీకు నియంత్రణ ఇస్తుంది, IDతో కొనసాగించడం సంభాషణను మళ్లీ కూర్చే పనిని మీకు తప్పిస్తుంది. ఏ విధంగా చేసినా, తదుపరి ప్రతిస్పందనకు అవసరమైన కొత్త సూచనలు, టూల్‌లు, లేదా మోడల్ సెట్టింగ్‌లను అందించండి.

మీ సొంత ఎపిసోడిక్, సెమాంటిక్ స్టోర్‌ను తీసుకురండి

Agent API మీకు వదిలిపెట్టే భాగం ఇదే.

ఒక మార్గం ఫంక్షన్ కాలింగ్. మీరు టూల్‌లను నిర్వచిస్తారు, ఏజెంట్ కాల్‌ను అభ్యర్థిస్తుంది, మీ అప్లికేషన్ దానిని అమలు చేసి ఫలితాన్ని తిరిగి ఇస్తుంది. మెమరీ కోసం, సరళమైన ప్రారంభ పద్ధతి ఏమిటంటే ఏజెంట్ చర్య తీసుకునే ముందు ఒక రీడ్ ఆపరేషన్, ఆ తర్వాత ఒక రైట్ ఆపరేషన్.

ఏజెంట్ తిరిగి పొందిన వాస్తవాన్ని మాత్రమే లాగ్ చేస్తే, అది సహాయపడిందో లేదో మీకు ఇంకా తెలియదు. ఫలితం, మూలం, వినియోగదారు సరిచేసిన ప్రతిదాన్ని లాగ్ చేస్తే, మీకు ఎపిసోడిక్ లేయర్ ప్రారంభం లభిస్తుంది.

మా MCP సపోర్ట్ మీకు మరో మార్గాన్ని ఇస్తుంది. మీకు అవసరమైన ఆపరేషన్‌లను అనుకూలమైన రిమోట్ MCP సర్వర్ అందుబాటులో ఉంచితే, మీరు ప్రతి దానిని కస్టమ్ ఫంక్షన్‌గా చుట్టకుండానే ఏజెంట్ వాటిని కాల్ చేయగలదు.

మా కనెక్టర్‌లు మెమరీల వెనుక ఉన్న ఆధారాలకు ఏజెంట్‌కు యాక్సెస్ ఇస్తాయి. GitHub, Slack, Google Drive, Datadog, Linear, Notion మా నిర్వహించబడే కేటలాగ్‌లో ఉన్నాయి, అంతర్గత సిస్టమ్‌ల కోసం మీరు కస్టమ్ కనెక్టర్‌లను జోడించవచ్చు.

చివరగా, చరిత్రను ఎప్పుడు సమీక్షించాలో, ప్రస్తుత వివరణను ఎప్పుడు సవరించాలో నిర్ణయించండి.

కొత్త సెషన్‌లో ఏమి నిలుస్తుందో పరీక్షించండి

ఇప్పుడు సంభాషణను మూసివేయండి. పాత సందేశాలను రీప్లే చేయకుండా లేదా previous_response_id ను పంపకుండా కొత్త అభ్యర్థనను ప్రారంభించండి, కానీ ఏజెంట్‌కు అదే మెమరీ స్టోర్‌కు యాక్సెస్ ఇవ్వండి. సవరణను మళ్లీ చెప్పకుండా సంబంధిత పనిని చేయమని దానిని అడగండి.

దానికి మళ్లీ గుర్తు చేయాల్సి వస్తే, మీ పని ఇంకా పూర్తి కాలేదు.

డిప్లాయ్‌మెంట్ ఏజెంట్ కోసం, ముందుకు కొనసాగాల్సిన వాటి చుట్టూ కొన్ని పరీక్షలను రూపొందించండి:

• సవరణ నిలిచి ఉంటుంది: ప్రభావిత సర్వీస్ కోసం ధృవీకరించబడిన రోల్‌బ్యాక్ కమాండ్‌ను అది తిరిగి పొంది ఉపయోగిస్తుంది.
• సవరణ పరిధిలోనే ఉంటుంది: ఇతర సర్వీస్‌ల విధానాలను అది మార్చదు.
• కొత్త సమాచారం పాత మార్గదర్శకత్వాన్ని భర్తీ చేస్తుంది: కమాండ్ మళ్లీ మారినప్పుడు, అది ప్రస్తుత వెర్షన్‌ను ఉపయోగిస్తుంది మరియు ఆ మార్పును దాని మూలం వరకు గుర్తించగలదు.

ఏజెంట్ అవుట్‌పుట్‌లను, తిరిగి పొందిన ఆధారాలను ఎలా సేవ్ చేయాలో, ఆశించిన ప్రవర్తనతో వాటిని ఎలా సరిచూడాలో, సూచనలు లేదా మోడల్‌లను మార్చిన తర్వాత రన్‌లను ఎలా పోల్చాలో మా రిగ్రెషన్-టెస్టింగ్ కుక్‌బుక్ చూపిస్తుంది.

మెమరీతో మరియు మెమరీ లేకుండా రన్‌లను పోల్చేటప్పుడు మోడల్, ప్రొఫైల్, నైపుణ్యం వెర్షన్‌లను స్థిరంగా ఉంచండి. ప్రతి పోలికను స్టోర్ యొక్క తెలిసిన స్నాప్‌షాట్ నుండి ప్రారంభించండి; లేకపోతే, ఒక పరీక్ష తదుపరి పరీక్షకు సమాధానాన్ని ఏజెంట్‌కు నేర్పించవచ్చు.

ఏదైనా విఫలమైనప్పుడు, ఆ కేసును సేవ్ చేయండి. తదుపరి మార్పు తప్పనిసరిగా దానిలో ఉత్తీర్ణత సాధించాలి.

లేదా నిర్మాణాన్ని దాటవేయండి: Computerలో Brain

మీకు కావాల్సింది భాగాలు కాకుండా పూర్తయిన లూప్ అయితే, అదే Computer. దాని కింద Brain నడుస్తుంది, నాలుగు మూలాల నుండి నేర్చుకుంటుంది: మీ సెషన్‌లు, కనెక్ట్ చేసిన టూల్‌లు, మీరు రూపొందించే ఫైల్‌లు మరియు ఆర్టిఫ్యాక్ట్‌లు, మీ సవరణలు. Brain యొక్క బ్యాక్‌గ్రౌండ్ అప్‌డేట్‌లు ఇప్పటికీ చెల్లుబాటు అయ్యే వాటిని బలపరుస్తాయి, మారిన వాటిని సవరిస్తాయి, పాతబడిన సమాచారాన్ని గుర్తిస్తాయి.

ఆ లూప్‌ను మీరే నిర్మించాల్సిన అవసరం లేదు. మీరు కేవలం మీ పని చేయండి.

మెమరీ మీరు పంచుకున్న ప్రాధాన్యతలను, వివరాలను గుర్తుంచుకుంటుంది. Brain ప్రాజెక్ట్‌లు, వ్యక్తులు, నిర్ణయాలు, అసంపూర్తి పనిని వాటి వెనుక ఉన్న ఆధారాలతో అనుసంధానిస్తుంది.

అది ఏమి నేర్చుకుందో మీరు మెమరీ వీక్షణలో పరిశీలించవచ్చు, ఎంట్రీలను వాటి మూలాల వరకు అనుసరించవచ్చు, వాటిని సవరించవచ్చు లేదా తొలగించవచ్చు. Brain మీ సొంత యాక్టివిటీని ఉపయోగిస్తుంది, అజ్ఞాత సెషన్‌లను మినహాయిస్తుంది, దానికి ప్రత్యేక టోగుల్ ఉంది.

విస్తరించు

ఉదాహరణకు, Rhoలో ఒక ఇన్‌వాయిసింగ్ ప్రాజెక్ట్ నిర్ణయాలు Slack, Notion, Jira, Figma, Google Docs అంతటా చెల్లాచెదురుగా ఉండేవి. రాత్రిపూట మార్పులను సమీక్షించడానికి, అస్థిరతలను గుర్తించడానికి, Slackలో ఉదయపు సారాంశాన్ని ప్రచురించడానికి బృందం Computerను సెటప్ చేసింది.

వారి సాఫ్ట్‌వేర్ ఇంజనీర్ Oktawian Jurkiewicz, Computer ఆ ప్రాజెక్ట్ కోసం మెమరీని కూడా రూపొందిస్తోందని గమనించారు. “మేము దానిని నిర్వచించలేదు,” అని ఆయన చెప్పారు. “ప్రతి మూలం నుండి ఏ డేటా పాయింట్‌లను నిల్వ చేయాలో Computer స్వయంగా గుర్తించింది.”

వారపు సమావేశ సమయాన్ని 2.5 గంటల నుండి 15 నిమిషాలకు తగ్గించినట్లు బృందం నివేదించింది, 12 వారాల ప్రాజెక్ట్‌లో 120 పని గంటలు ఆదా అయినట్లు అంచనా వేసింది.

ఆ 120 గంటల ఘనత మొత్తం వర్క్‌ఫ్లోకు చెందుతుంది: కనెక్టర్‌లు, రాత్రిపూట రన్‌లు, Slack సారాంశం. ఆదా అయిన సమయంలో ఎంత భాగం కేవలం మెమరీ వల్ల వచ్చింది? దానిని మేము ఇంకా లెక్కించలేము.

కానీ మేము సలహా ఇవ్వగలిగేది ఏమిటంటే, మీ సొంత నిర్మాణం కోసం, ఇంతకు ముందు చెప్పిన పరీక్షకు తిరిగి వెళ్లండి—మెమరీ లేయర్ ఆన్‌లో మరియు ఆఫ్‌లో ఉన్నప్పుడు సమానమైన పనులను రన్ చేసి, ఆ తర్వాత పూర్తి రేట్లు, ఖర్చు, సమయాన్ని పోల్చండి, ఫలితాన్ని సరిచేయడానికి ఎవరైనా వెచ్చించే సమయంతో సహా.

AI ఏజెంట్ మెమరీ గురించి తరచుగా అడిగే ప్రశ్నలు

AI ఏజెంట్‌లకు మెమరీ ఉండగలదా?

అవును. నిల్వ చేసిన సంభాషణలు, వాస్తవాలు, ప్రాధాన్యతలు, పునర్వినియోగించదగిన విధానాల ద్వారా AI ఏజెంట్‌లు సెషన్‌ల అంతటా సమాచారాన్ని నిలుపుకోగలవు. ఆ సమాచారం సంబంధితమైనప్పుడు సిస్టమ్ దానిని తిరిగి పొందాలి, పరిస్థితులు మారినప్పుడు దానిని అప్‌డేట్ చేయాలి.

ఉదాహరణకు, Perplexity Computerలోని Brain సెషన్‌లు, కనెక్ట్ చేసిన టూల్‌లు, ఫైల్‌లు, వినియోగదారు సవరణల నుండి పని సందర్భాన్ని రూపొందిస్తుంది.

AI ఏజెంట్ ఎంత RAM ఉపయోగిస్తుంది?

ఒకే నిర్దిష్ట అవసరం అంటూ ఏదీ లేదు. మీ ఏజెంట్ Perplexity Agent API ద్వారా హోస్ట్ చేయబడిన మోడల్‌ను కాల్ చేస్తే, ఆ మోడల్‌ను మీ సొంత RAMలోకి లోడ్ చేయాల్సిన అవసరం లేదు. అయినా మీ అప్లికేషన్‌కు, లోకల్ టూల్‌లకు మెమరీ అవసరం.

లోకల్ మోడల్‌ను రన్ చేయడం వేరు. ప్రతి పారామీటర్‌కు నాలుగు బిట్‌ల చొప్పున, ఎనిమిది బిలియన్ పారామీటర్‌లు సుమారు 4 GB రా వెయిట్ డేటాకు సమానం. క్వాంటైజేషన్ ఓవర్‌హెడ్, కాంటెక్స్ట్ ప్రాసెసింగ్, మోడల్‌ను రన్ చేసే సాఫ్ట్‌వేర్‌ను కలిపితే అసలు అవసరమైన మెమరీ ఇంకా ఎక్కువగా ఉంటుంది.

AI ఏజెంట్‌కు ఉత్తమమైన మెమరీ ఏది?

ఉత్తమ సెటప్ ఏజెంట్ ఏమి ముందుకు తీసుకెళ్లాలి అనే దానిపై ఆధారపడి ఉంటుంది. సంభాషణ స్థితి తదుపరి ప్రశ్నలకు మద్దతు ఇస్తుంది; ఎపిసోడిక్ రికార్డులు ఏమి జరిగిందో భద్రపరుస్తాయి; సెమాంటిక్ మెమరీ ప్రస్తుత జ్ఞానాన్ని కలిగి ఉంటుంది; విధానపరమైన మెమరీ పునర్వినియోగించదగిన సూచనలను అందిస్తుంది.

కొనసాగుతున్న చాలా పనులకు వీటి కలయిక ప్రయోజనకరంగా ఉంటుంది. Brain కోసం మేము లింక్ చేయబడిన, మూలాల ఆధారిత వికీని ఉపయోగిస్తాము. మీ సొంత నిర్మాణం కోసం, ఏజెంట్ పనులను పూర్తి చేయడానికి, సవరణలను వర్తింపజేయడానికి, కాలం చెల్లిన మార్గదర్శకత్వాన్ని విరమించడానికి ఆ సెటప్ సహాయపడుతుందో లేదో పరీక్షించండి.