AI एजंट मेमरी: कायमस्वरूपी संदर्भ असलेले AI एजंट्स कसे तयार करावेत

हे मार्गदर्शक स्पष्ट करते की AI एजंट मेमरी म्हणजे काय, वर्किंग, एपिसोडिक, सिमँटिक आणि प्रक्रियात्मक मेमरी एकत्र कशा काम करतात, आणि कायमस्वरूपी संदर्भाद्वारे सुधारणारे एजंट्स कसे तयार करायचे व त्यांची चाचणी कशी करायची.

Post by Aravind Srinivas on Perplexity Computer's background Dream agent, with a diagram of the self-improvement loop: online sessions produce raw history, Dream reads and reconciles it with connectors, then compiles, cites, and commits updates to the Brain, which feeds the next session's context.

जर तुम्हाला एखाद्या नवीन सहकाऱ्याला सहा महिने दररोज सकाळी प्रिंटरपर्यंत घेऊन जावे लागले, तर तुम्हाला काळजी वाटू लागेल. जर त्यांना आधीची प्रत्येक फेरी अगदी तपशीलवार तोंडपाठ सांगता येत असेल, पण तरीही सोबत न्यावे लागत असेल, तर त्यांची स्मरणशक्ती उत्कृष्ट आहे…पण तरीही तुम्हाला तुमच्या डेस्कवरून उठावेच लागेल.

सध्या AI एजंट मेमरीमध्ये हीच कधीही न संपणारी प्रिंटर-फेरी वेगळ्या रूपात दिसते. Letta चे CEO Charles Packer The New Stack मध्ये म्हणतात की मेमरी बेंचमार्क संपृक्त झाले आहेत, कारण ते रिकॉल मोजतात, आणि त्यांच्या मते ती समस्या सुटलेली आहे. खरी अनुत्तरित समस्या म्हणजे एजंटने कोणत्याही पुनर्प्रशिक्षणाशिवाय, स्वतः जपलेल्या संदर्भाच्या आधारे आपल्या कामात सुधारणा करणे.

त्यांच्या सह-संस्थापक Sarah Wooders याची तुलना नवीन नोकरी सुरू करण्याशी करतात—बेंचमार्क एजंटला आवश्यक असलेला सर्व संदर्भ हातात देतात—एकामागून एक असंबंधित कामे, जे लोकांच्या काम करण्याच्या पद्धतीशी अजिबात जुळत नाही. नवीन कर्मचाऱ्याला कदाचित प्रिंटरपर्यंत घेऊन जावे लागेल. पण तीन वर्षांनंतर, तुम्ही डेस्कवरून न उठता त्यांना फक्त एका ओळीची सूचना देऊ शकाल, अशी तुमची अपेक्षा असेल.

हेच ते मानक आहे ज्याच्या दिशेने आपल्याला काम करायचे आहे, आणि Perplexity Computer साठीची आमची स्वतःत सुधारणा करणारी मेमरी प्रणाली Brain मागचा उद्देशही हाच आहे; ती पूर्वीचे काम आणि दुरुस्त्या सतत विकसित होणाऱ्या ज्ञान विकीमध्ये संघटित करते.

एजंटने काय लक्षात ठेवायला हवे आणि त्यामुळे एजंटला अधिक चांगले काम करण्यास मदत होते की नाही हे कसे तपासायचे, याबद्दल आपण पाहू.

AI एजंट मेमरी म्हणजे काय?

AI एजंट मेमरी म्हणजे एजंटने आधीच्या संवादांमधून आणि कामातून जपून ठेवलेली माहिती, तसेच ती अद्ययावत करण्याची आणि वापरण्याची यंत्रणा. कायमस्वरूपी मेमरी संदर्भ ही माहिती एका सत्रातून दुसऱ्या सत्रात घेऊन जातो, त्यामुळे संभाषण बंद केले म्हणजे पुढचे काम अगदी सुरुवातीपासून सुरू करावे लागते असे नाही.

या नावाखाली उपलब्ध होणाऱ्या बहुतेक गोष्टी वापरकर्त्याला लक्षात ठेवतात. तुमच्या आवडीनिवडी, तुमचे संपर्क, तुमची भूमिका, तुम्हाला PNG ऐवजी PDF हवे आहेत ही गोष्ट. हा सोपा अर्धा भाग आहे.

जेव्हा आम्ही Brain तयार केले, म्हणजे Perplexity Computer मागील मेमरी प्रणाली, तेव्हा आम्ही प्रत्यक्ष कामावरच लक्ष केंद्रित केले. कोणता दृष्टिकोन यशस्वी झाला? कोणत्या स्रोतामुळे वीस मिनिटे वाया गेली? एजंटने काम पूर्ण झाल्याचे जाहीर केल्यानंतर तुम्हाला काय दुरुस्त करावे लागले? हा इतिहास पुढच्या कामाला अधिक चांगली सुरुवात करून देतो.

Brain ही माहिती एजंटच्या सँडबॉक्समध्ये फाइल्सच्या स्वरूपात साठवतो आणि ती तीन स्तरांमध्ये संघटित करतो:

  • sessions/ मध्ये मूळ ट्रान्सक्रिप्ट्स आणि त्यांचे सारांश असतात.
  • notes/ मध्ये विषयानुसार संघटित केलेली सार-रूप माहिती असते.
  • knowledge/ मध्ये स्वतः विकी असतो; लोक, प्रकल्प आणि संकल्पनांविषयीची एकमेकांशी लिंक केलेली Markdown पाने.

यापैकी काहीही आपोआप सुधारत नाही. रात्रीच्या वेळी, ज्यांना आम्ही “Dream” म्हणतो असे पार्श्वभूमीत चालणारे एजंट दिवसभरातील सत्रे वाचतात, त्यांचा सारांश तयार करतात आणि जिथे चित्र बदलले आहे तिथे विकीमध्ये सुधारणा करतात. Git द्वारे कमिट करण्यापूर्वी आम्ही ते बदल स्टेज करून तपासतो, त्यामुळे काही चुकीचे वाटल्यास तपासण्यासाठी diff उपलब्ध असतो.

यामुळे एजंट कामात अधिक चांगला होतो का? आमच्या 30 दिवसांच्या पेअर्ड मूल्यमापनात, Brain सक्षम असलेल्या सत्रांमध्ये अचूकता 9.3 टक्केवारी गुणांनी आणि रिकॉल 8.9 गुणांनी सुधारले, तसेच सुमारे 15% कमी टोकन वापरले गेले.

स्रोत: X

एजंटिक मेमरीचे प्रकार कोणते आहेत?

याचे दोन ढोबळ प्रकार आहेत, आणि ही विभागणी एखाद्या व्यक्तीसाठी आपण करू त्या विभागणीसारखीच आहे: आत्ता तुमच्या डोक्यात काय आहे, आणि पुढच्या महिन्यातही तुम्हाला काय माहीत असेल.

अल्पकालीन मेमरी

अल्पकालीन मेमरीमध्ये सध्याच्या संभाषणाचा किंवा कामाचा संदर्भ असतो. तुमची विनंती, अलीकडील संदेश, टूल कॉलचा निकाल, एजंटने नुकताच उघडलेला दस्तऐवज. पुढे काय करायचे हे ठरवण्यासाठी पुरेशी माहिती.

याला वर्किंग मेमरी असेही म्हटले जाते. LLM साठी, कॉन्टेक्स्ट विंडोमध्ये विशिष्ट मॉडेल कॉलदरम्यान उपलब्ध असलेली माहिती असते. ॲप्लिकेशन कामाची अतिरिक्त स्थिती राखू शकते आणि प्रत्येक टप्प्यावर त्यातील कोणते भाग पुरवायचे हे ठरवू शकते.

आणि अल्पकालीन म्हणजे नेहमीच वापरून टाकून देण्याजोगी असे नाही. एखादे फ्रेमवर्क संभाषणाची स्थिती जतन करून उद्या ती पुन्हा सुरू करू शकते—तरीही ती त्याच थ्रेडशी संबंधित असते. पण ती माहिती दुसरे काम वापरू शकते की नाही, हा एक स्वतंत्र डिझाइन निर्णय आहे.

दीर्घकालीन मेमरी

दीर्घकालीन मेमरीमुळे माहिती वेगवेगळ्या सत्रांमध्ये उपलब्ध होते. CoALA पेपरने संज्ञानात्मक विज्ञानातून तीन श्रेणी घेतल्या, ज्यामुळे एजंट तयार करणाऱ्यांना अनुभव आणि कार्यपद्धतीचे ज्ञान यांच्यासाठी एक शब्दसंग्रह मिळाला:

  • एपिसोडिक मेमरी म्हणजे जे घडले ते: यात आधीची सत्रे, एजंटने उचललेली पावले आणि त्याला मिळालेला निकाल यांचा समावेश होतो. Brain मध्ये, sessions/ हा इतिहास मूळ ट्रान्सक्रिप्ट्स आणि त्यांच्या सारांशांद्वारे पुरवते.
  • सिमॅंटिक मेमरी म्हणजे एजंट जे सत्य मानतो ते: ही संभाषणांमधून काढलेली, वापरकर्त्याविषयी, त्यांच्या प्रकल्पांविषयी आणि त्यांच्या जगाविषयीची तथ्ये असू शकतात. Brain चा knowledge/ विकी अशा प्रकारची माहिती पुराव्यांच्या लिंक्ससह ठेवतो.
  • प्रोसीजरल मेमरी म्हणजे गोष्टी कशा करायच्या ते: यात प्रॉम्प्ट्स, पुन्हा वापरता येणारे वर्कफ्लो, आणि एखाद्या कामासाठी आवश्यक सूचना व टूल्स एजंटना देण्यासाठी Perplexity तयार करत असलेली कौशल्ये यांचा समावेश होतो. याला मेमरी न म्हणता, यापैकी काही गोष्टी कदाचित तुमच्याकडे आधीच असतील.

खरे रंजक काम या स्तरांच्या दरम्यान घडते. तुम्ही PNG नाकारल्याची नोंद सत्रात होते. PDF वापरण्याची तुमची सूचना एक प्राधान्य बनते, जे एजंट पुढे कायम ठेवू शकतो. एक्सपोर्ट प्रक्रियेतील दुरुस्ती अशी गोष्ट बनते जिचे पालन तो पुढच्या वेळी करू शकतो.

“हे घडले” पासून “हे सत्य आहे” आणि तिथून “आम्ही हे असे करतो” पर्यंतचे हे रूपांतर, आम्ही सुरुवातीला मांडलेल्या शिकण्याच्या समस्येचाच एक भाग आहे, आणि Brain च्या रात्रीच्या Dream एजंट रनचे प्रयत्न याच गोष्टीवर खर्च होतात.

समजा, कोणीतरी सामायिक स्वयंपाकघरात मायक्रोवेव्हमध्ये मासे गरम करतो. तक्रारी येतात, खिडकी उघडली जाते. शेवटी, एक फलक लागतो: मासे नकोत.

सहा महिन्यांनंतर, ती दोषी व्यक्ती तिथून निघून गेली आहे, पण फलक अजूनही तिथेच आहे. यालाच टिकवणूक म्हणतात. काय टिकून राहते यावरून तुम्ही मेमरीचे प्रकार समजावून सांगू शकता:

  • वर्किंग मेमरी म्हणजे दुपारचे जेवण बनवताना तुम्ही ज्या गोष्टींचा मागोवा ठेवता त्या, जसे की सूप ढवळायला हवे.
  • एपिसोडिक मेमरी म्हणजे माशांची ती घटना; सर्वांच्या मागोमाग कॉरिडॉरपर्यंत पोहोचलेला तो वास.
  • सिमॅंटिक मेमरी म्हणजे तुम्ही त्यातून घेतलेले ज्ञान—सामायिक स्वयंपाकघरात मासे पुन्हा गरम केल्यास त्यांचा वास बराच वेळ रेंगाळू शकतो.
  • प्रोसीजरल मेमरी म्हणजे पुढे काय घडेल हे ठरवणारी सूचना. इथे मायक्रोवेव्हमध्ये मासे गरम करू नका. संपूर्ण घटना चुकवलेल्या व्यक्तीलाही हा फलक पाहून नियमाचे पालन करता येते.

आणखी एक फरक आहे, कारण त्यामुळे आपण काय तयार करत आहोत हेच बदलते. डिसेंबर 2025 मध्ये पहिल्यांदा प्रकाशित झालेले Memory in the Age of AI Agents हे सर्वेक्षण सांगते की केवळ अल्पकालीन विरुद्ध दीर्घकालीन एवढे पुरेसे नाही—ते मेमरीचे स्वरूपानुसारही वर्गीकरण करते:

  • टोकन-स्तरीय: हा एजंट वाचतो तो स्पष्ट मजकूर आहे. फाइल्स, साठवलेले रेकॉर्ड, पुनर्प्राप्त केलेले तुकडे.
  • पॅरामेट्रिक: ही शिकलेल्या वेट्समध्ये एन्कोड केलेली माहिती आहे. ती अद्ययावत करण्यासाठी प्रशिक्षण किंवा मॉडेल-संपादन पद्धती आवश्यक असतात.
  • लेटंट: ही वाचता येण्याजोग्या मजकुराच्या स्वरूपात न लिहिता अंतर्गत प्रतिरूपांमध्ये राखून ठेवलेली माहिती आहे.

येथे आपण टोकन-स्तरीय मेमरीवर लक्ष केंद्रित करत आहोत; म्हणजेच, मॉडेलच्या बाहेर साठवलेली आणि गरज पडल्यास त्याच्या संदर्भात वाचली जाणारी माहिती. Brain चा Markdown विकी हे त्याचे एक उदाहरण आहे.

आम्ही एखादे पान अपडेट करतो, तेव्हा एजंट त्याच्या पुढच्या कामात काय वाचू शकतो हे बदलते, पण त्याचे मूळ वेट्स तसेच राहतात. प्रस्तावनेत Packer यांनी मांडलेला मुद्दा हाच आहे: पुनर्प्रशिक्षणाशिवाय, एजंटने जपलेल्या संदर्भाद्वारे अधिक चांगले होणे.

एजंट मेमरीचे प्रकार एकत्र कसे काम करतात?

एजंट आधीच्या प्रयत्नाकडे पुन्हा पाहू शकतो, तो कुठे चुकला हे पाहू शकतो आणि त्यानंतर तुम्ही दिलेल्या सूचना लोड करू शकतो. एकाच कामात मेमरीचे अनेक प्रकार गुंतलेले असतात, आणि त्या प्रत्येकाला स्वतंत्र पाळी किंवा वेगळा डेटाबेस लागत नाही.

इथे, संभाषण संपल्यानंतर काय उपलब्ध राहते हे टिकवणूक ठरवते, तर एजंटला ते पुन्हा कधीतरी दिसेल की नाही हे पुनर्प्राप्ती ठरवते.

मेमरीचा प्रकार

सत्रांदरम्यान काय टिकून राहते?

ती काय साठवते?

Brain/ Computer ती संदर्भात कशी आणतात?

वर्किंग

जतन केलेली कामाची स्थिती पुनर्संचयित करता येते, पण ॲप्लिकेशन प्रत्येक कॉलसाठी जे पुरवते तेवढेच मॉडेलला दिसते.

सध्याचा प्रॉम्प्ट, अलीकडील टर्न्स, टूलचे निकाल आणि पुनर्प्राप्त केलेली माहिती

इंडेक्समुळे एजंटला उपलब्ध मेमरी शोधण्यास मदत होते; फाइल्स वाचल्याने संबंधित मजकूर जोडला जातो.

एपिसोडिक

जतन केलेल्या सत्रांच्या नोंदी आणि सारांश.

काय घडले: आधीचे प्रयत्न, कृती, निकाल आणि दुरुस्त्या.

तपशिलांची गरज असताना, एजंट सत्रातील आधारभूत पुराव्यांपर्यंत पोहोचण्यासाठी उद्धरणांचा मागोवा घेतो.

सिमॅंटिक

देखभाल केलेले ज्ञान, जिथे नोंद असेल तिथे आवृत्ती इतिहासासह.

लोक, प्रकल्प, आवडीनिवडी आणि त्यांच्यातील संबंधांविषयीची तथ्ये.

एजंट knowledge/ पाने वाचतो, फाइल्समध्ये शोध घेतो आणि [[wikilinks]] चा मागोवा घेतो.

प्रोसीजरल

जतन केलेल्या सूचना, कौशल्ये आणि वर्कफ्लो, जोपर्यंत त्यांत सुधारणा केली जात नाही किंवा ते काढून टाकले जात नाहीत तोपर्यंत.

एखादे काम कसे करायचे.

गरज असताना Computer संबंधित कौशल्ये आणि सूचना लोड करतो.

Brain मध्ये, आम्ही धड्यापासून पुराव्यापर्यंत परत जाणारा हा मार्ग जपतो. समजा, तुम्ही Computer ला मागच्या आठवड्यातील एखादा प्रकल्प पुढे सुरू ठेवायला सांगता:

  • कोणती मेमरी पाने अस्तित्वात आहेत आणि ती कुठे शोधायची, हे Brain चा इंडेक्स त्याला सांगतो.
  • जतन केलेले निर्णय आणि सूचना वाचण्यासाठी Brain प्रकल्पाचे पान उघडतो.
  • तुम्ही एखादा दृष्टिकोन नाकारल्याचे एखाद्या नोटमध्ये म्हटले असल्यास, एजंट त्याच्या उद्धरणाचा मागोवा घेत मूळ संभाषणापर्यंत जाऊन त्यामागचे कारण तपासू शकतो.

संबंधित पानांच्या लिंक्समुळे त्याला त्यात सहभागी असलेल्या व्यक्ती किंवा इतर प्रकल्प शोधता येतात. एजंट हे फाइल्स वाचून आणि त्यांत शोध घेऊन करतो. उदाहरणार्थ, grep वापरून त्याला एखाद्या प्रकल्पाच्या नावाचे उल्लेख शोधता येतात.

फाइल्स एक्सप्लोर करता आल्यामुळे एजंटना काय फायदा होतो, याचीही आम्ही चाचणी केली आहे. आर्थिक दस्तऐवजांवरील 150 प्रश्नांच्या एका अंतर्गत बेंचमार्कमध्ये, मानक फाइल टूल्स वापरणाऱ्या एक्सप्लोरेशन एजंटने 0.627 चा उत्तर स्कोअर गाठला, तर त्याच कॉर्पसवरील सिमॅंटिक सर्चचा स्कोअर सुमारे 0.37 होता.

स्रोत: X

AI एजंट मेमरी कशी सुधारायची?

Orogat आणि Mansour यांचा मे 2026 मधील एक पेपर एजंट मेमरीमधील चार वारंवार घडणारी अपयशे ओळखतो: स्टोअर सतत वाढत राहते, कालबाह्य समजुतींमध्ये सुधारणा होत नाही, जागा संपल्यावर माहिती विसरली जाते, आणि पुनर्प्राप्ती वाचन करते पण त्या भेटीतून काहीही शिकत नाही.

त्यांनी सुचवलेला उपाय म्हणजे एजंटिक मेमरीला स्टोरेज मानणे थांबवणे आणि तिला चार क्रियांद्वारे विकसित होणारी “स्थिती” मानणे: ग्रहण करणे, सुधारणे, विसरणे, पुनर्प्राप्त करणे. हीच या विभागासाठी आमची चेकलिस्ट आहे.

काय लक्षात ठेवायचे याबाबत निवडक राहा

एकदा “वाईट” मेमरी आत शिरली की, पुढची प्रत्येक पायरी तिचा वारसा घेते.

Workday AI Research ने LoCoMo बेंचमार्कमधील सुमारे 1,500 संभाव्य मेमरींवर निवडक दृष्टिकोनाची चाचणी केली, आणि त्यांपैकी कोणतीही ठेवण्यापूर्वी पाच प्रश्न विचारले:

  • ती उपयुक्त आहे का? ती पुन्हा समोर येण्याची शक्यता आहे का?
  • ती विश्वासार्ह आहे का? संभाषणात खरोखर असे म्हटले होते, की मॉडेलने ते स्वतःहून भरले?
  • ती नवीन आहे, की आधीच साठवलेली आहे?
  • ती ताजी आहे का?
  • ते टिकाऊ तथ्य आहे की तात्पुरती स्थिती?

फक्त पहिल्या प्रश्नासाठी मॉडेल कॉलची गरज होती. उरलेले चार प्रश्न नियम म्हणून चालले आणि त्यांना मिळून 65 मिलिसेकंदांपेक्षा कमी वेळ लागला. या पद्धतीने ठेवायचे की काढायचे या निर्णयांमध्ये 12% अधिक प्रिसिजन मिळवली, आणि संबंधित मेमरींपैकी 97% राखून ठेवल्या.

सर्वात मोठे योगदान शेवटच्या प्रश्नाचे होते—टिकाऊ आणि तात्पुरत्या माहितीतील फरक काढून टाकल्यास निर्णयांची गुणवत्ता सुमारे 18% ने घसरली.

इतिहास न गमावता उत्तर सुधारा

एखादे तथ्य केव्हापासून वैध झाले, कोणता स्रोत त्याला आधार देतो आणि त्याने कशाची जागा घेतली, याची नोंद ठेवा. स्रोतांमध्ये मतभेद असल्यास, तो सोडवण्यासाठी पुरेसे पुरावे मिळेपर्यंत तो मतभेद दृश्यमान ठेवा. सर्वात नवीन दस्तऐवजही चुकीचा असू शकतो.

Brain स्रोत दस्तऐवज, कनेक्टरचे निकाल आणि वापरकर्त्यांनी केलेल्या दुरुस्त्या वापरून विकी अपडेट करतो. प्रत्येक मेमरी नोंद तिच्या स्रोताशी लिंक केलेली असते. एजंटला सध्याचे उत्तर सापडणे आणि ते उत्तर संशयास्पद वाटल्यास तपासण्यासाठी कुठेतरी आधार असणे, हे आम्हाला आवश्यक आहे.

हेतुपुरस्सर विसरा

हा पेपर एका अपयश प्रकाराला “क्षमता-आधारित विसरणे” म्हणतो: माहिती उपयुक्त राहिली नाही म्हणून नव्हे, तर स्टोरेजची मर्यादा पाळण्यासाठी काढून टाकली जाते.

पुन्हा सामायिक स्वयंपाकघराकडे वळूया. सहा महिन्यांनंतर, मायक्रोवेव्हमध्ये मासे कोणी गरम केले किंवा खिडकी किती वेळ उघडी राहिली याची कोणालाच पर्वा नसते. पण फलकाचे काम अजूनही बाकी आहे.

पुढची व्यक्ती जेवण बनवायला आली, तर नियम उपलब्ध असेल. तुम्ही फक्त तक्रारी संग्रहित करता.

Workday च्या ताजेपणा आणि माहिती-प्रकार तपासण्या स्टोरेजपूर्वीच सुरू होतात, आणि मेमरी बनण्यास काय पात्र आहे ते गाळून घेतात. Brain मध्ये, स्रोत दस्तऐवज बदलतात आणि वापरकर्ते दुरुस्त्या करतात तसतसे आम्ही विद्यमान ज्ञानाचाही पुन्हा आढावा घेतो. दोन्ही बाबतीत, हस्तक्षेप करण्याची गरज मजकुरामुळे निर्माण होते.

पुनर्प्राप्तीचा उपयोग पुढच्या अपडेटसाठी करा

एजंट एखादे तथ्य पुनर्प्राप्त करतो, ते वापरतो आणि स्टोअर जसे होते तसेच सोडून देतो. आता, पुढे काय घडले हे सिस्टमने नोंदवले नाही, तर त्या तथ्यामुळे मदत झाली की एजंट आणखी एका बंद मार्गावर गेला, याची कुठेही नोंद होत नाही.

निकाल, स्रोत आणि कोणतीही दुरुस्ती यांची नोंद ठेवा. Brain तयार करताना, आम्ही कामाचा तो इतिहास त्याच्या स्मरणाचा भाग बनवला: कोणता दृष्टिकोन यशस्वी झाला, कोणत्या स्रोतातून काहीच हाती लागले नाही, आणि एजंटने काम पूर्ण झाल्याचे जाहीर केल्यानंतर वापरकर्त्याने काय दुरुस्त केले. Brain तो अनुभव त्याच्या नियतकालिक विकी अपडेट्समध्ये समाविष्ट करतो, जेणेकरून पुढची कामे त्याचा वापर करू शकतील.

तथापि, यापैकी काहीही रिकॉल बेंचमार्कमध्ये दिसत नाही. हे चक्र काम करत आहे की नाही हे जाणून घेण्याचा मार्ग म्हणजे एजंटला असे काम देणे जे तो फक्त मेमरीच्या साहाय्यानेच पूर्ण करू शकतो, आणि खर्च व लेटन्सीसह तो ते किती वेळा पूर्ण करतो हे मोजणे. DolphinBench नेमके हेच करते, आणि म्हणूनच सर्वोच्च स्कोअर अजूनही सत्तरच्या घरात आहेत.

Perplexity वापरून कायमस्वरूपी मेमरी असलेला एजंट कसा तयार करायचा

Perplexity चे Agent API Brain सारखी स्वतःची देखभाल करणारी मेमरी प्रणाली देत नाही. हे आम्ही सुरुवातीलाच स्पष्ट करू इच्छितो. पण ते तुम्हाला आवश्यक असलेल्या मेमरीचे घटक नक्कीच देते: कार्यपद्धती ठेवण्यासाठी जागा, टर्न्सदरम्यान संदर्भ पुढे नेण्याचा मार्ग, आणि तुमच्या नियंत्रणाखालील स्टोअरमधून वाचण्यासाठी व त्यात लिहिण्यासाठी टूल्स.

प्रक्रियात्मक मेमरीपासून सुरुवात करा

कस्टम कौशल्य सूचना, प्रक्रिया आणि सहाय्यक फाइल्स एका आवृत्ती क्रमांकाखाली एकत्र पॅकेज करते. प्लॅटफॉर्म टीम तिच्या डिप्लॉयमेंट तपासण्या, रोलबॅक निकष आणि अहवालाचे स्वरूप एकदाच लिहू शकते आणि नंतर ॲप्लिकेशन्सना तेच कौशल्य संदर्भित करू देऊ शकते. प्रक्रिया बदलल्यावर, टीम नवीन आवृत्ती अपलोड करते.

स्रोत: X

प्रोफाइल याच्या एक पायरी पुढे जाते. प्रोफाइल्स एजंटचे मॉडेल, सूचना, टूल्स, कौशल्ये, कनेक्टर आणि रन सेटिंग्ज एकाच आवृत्तीबद्ध ID अंतर्गत सेव्ह करतात.

आम्ही सप्टेंबरमध्ये ही दोन्ही वैशिष्ट्ये जोडली, त्यासोबत व्यवस्थापित कनेक्टरही जोडले, जेणेकरून प्रोजेक्ट प्रशासक मंजूर GitHub किंवा Slack कनेक्शन एकदाच कॉन्फिगर करू शकतो आणि स्वतंत्र क्रेडेन्शियल्स साठवण्याऐवजी ॲप्लिकेशन्सना ते संदर्भित करू देऊ शकतो. ॲक्सेस बदलल्यावर, प्रशासक एकाच ठिकाणी कनेक्शन अपडेट करतो.

याला मेमरी का म्हणायचे? पुन्हा एकदा, मायक्रोवेव्हमध्ये मासे गरम केलेल्या त्या स्वयंपाकघराकडे परत जाऊया. पुढे जो कोणी येईल तो तक्रारी स्वतः न पाहताही NO FISH (मासे नकोत) या नियमाचे पालन करू शकतो.

कौशल्य एजंटसाठी हेच काम करते, आणि त्यात मायक्रोवेव्हच्या दारावर न मावणाऱ्या पायऱ्या, अपवाद आणि तपासण्यांसाठीही जागा असते. कौशल्ये लिखित, आवृत्तीबद्ध असतात आणि पुढच्या वेळी ते काम आल्यावर उपलब्ध असतात.

Dream च्या मेमरी अपडेट्सना मार्गदर्शन करण्यासाठीही आम्ही कौशल्ये वापरतो. पण कौशल्य जे करत नाही ते म्हणजे स्वतःहून शिकणे. नवीन आवृत्ती अपलोड केल्यावर सूचना बदलतात, मग ती एखाद्या व्यक्तीने अपलोड केलेली असो वा स्वयंचलित प्रक्रियेने.

एखाद्या सेवेवर रोलबॅक तपासणी वारंवार अयशस्वी होत आहे हे एजंटने लक्षात घ्यावे आणि त्यानुसार बदल करावा असे तुम्हाला वाटत असेल, तर तो आधी सांगितलेला सत्रांकडून विकीकडे जाणारा लूप आहे.

काय घडले ते जतन करणे, काय बदलायला हवे ते ठरवणे आणि पुढच्या वेळी ती दुरुस्ती उपलब्ध करून देणे आवश्यक आहे. त्यासाठी पुढचे दोन भाग लागतात.

टर्न्सदरम्यान वर्किंग मेमरी पुढे न्या

एजंट डिप्लॉयमेंट तपासणी चालवतो. तुम्ही विचारता, ‘ते अयशस्वी का झाले?’ हा एक योग्य पुढचा प्रश्न आहे, बशर्ते “ते” कशाचा संदर्भ देते हे एजंटला अजूनही दिसत असेल.

आमचा Agent API संभाषणाचा संदर्भ पुढे नेण्याच्या दोन पद्धतींना सपोर्ट करतो:

  • संभाषण स्वतः पुन्हा पाठवा: आधीचे मेसेज पुढच्या रिक्वेस्टच्या input ॲरेमध्ये समाविष्ट करा. पाठवण्यापूर्वी काय ठेवायचे, सारांशित करायचे, लपवायचे किंवा वगळायचे हे तुम्ही ठरवता.
  • पूर्ण झालेल्या प्रतिसादापासून पुढे सुरू ठेवा: त्याचा ID सेव्ह करा आणि पुढच्या मेसेजसोबत तो previous_response_id म्हणून पास करा. आम्ही संभाषणाची स्थिती सर्व्हर-साइडवर ठेवतो, त्यामुळे तुमच्या ॲप्लिकेशनला आधीचे टर्न्स पुन्हा पाठवावे लागत नाहीत. तुम्ही साखळीतील नवीनतम प्रतिसादापासून पुढे सुरू ठेवू शकता.

रिप्लेमुळे एजंटला काय दिसते यावर तुमचे नियंत्रण राहते, आणि ID द्वारे पुढे सुरू ठेवल्याने संभाषण पुन्हा जुळवण्याचे तुमचे काम वाचते. कोणतीही पद्धत वापरली तरी, पुढच्या प्रतिसादासाठी आवश्यक असलेल्या नवीन सूचना, टूल्स किंवा मॉडेल सेटिंग्ज द्या.

तुमचे स्वतःचे एपिसोडिक आणि सिमँटिक स्टोअर आणा

हा भाग Agent API तुमच्यावर सोडतो.

एक मार्ग म्हणजे फंक्शन कॉलिंग. तुम्ही टूल्स परिभाषित करता, एजंट कॉलची विनंती करतो आणि तुमचे ॲप्लिकेशन तो कार्यान्वित करून निकाल परत करते. मेमरीसाठी, एजंट कृती करण्यापूर्वी एक रीड ऑपरेशन आणि नंतर एक राइट ऑपरेशन ही सुरुवातीसाठी सोपी पद्धत आहे.

एजंटने मिळवलेली केवळ माहितीच लॉग केली, तर ती उपयुक्त ठरली की नाही हे तुम्हाला तरीही कळत नाही. निकाल, स्रोत आणि वापरकर्त्याने केलेल्या दुरुस्त्या लॉग केल्या, तर तुमच्याकडे एपिसोडिक स्तराची सुरुवात होते.

आमचा MCP सपोर्ट तुम्हाला आणखी एक मार्ग देतो. एखादा सुसंगत रिमोट MCP सर्व्हर तुम्हाला आवश्यक असलेली ऑपरेशन्स उपलब्ध करून देत असेल, तर प्रत्येक ऑपरेशन कस्टम फंक्शन म्हणून रॅप न करताही एजंट ती कॉल करू शकतो.

आमचे कनेक्टर एजंटला आठवणींमागील पुराव्यांपर्यंत ॲक्सेस देतात. GitHub, Slack, Google Drive, Datadog, Linear आणि Notion आमच्या व्यवस्थापित कॅटलॉगमध्ये आहेत, आणि अंतर्गत सिस्टमसाठी तुम्ही कस्टम कनेक्टर जोडू शकता.

शेवटी, इतिहासाचे पुनरावलोकन केव्हा होईल आणि सध्याच्या नोंदीत सुधारणा केव्हा होईल हे ठरवा.

नव्या सत्रात काय टिकते ते तपासा

आता संभाषण बंद करा. जुने मेसेज पुन्हा न पाठवता किंवा previous_response_id पास न करता नवीन रिक्वेस्ट सुरू करा, पण एजंटला त्याच मेमरी स्टोअरचा ॲक्सेस द्या. दुरुस्ती पुन्हा न सांगता त्याला संबंधित काम करायला सांगा.

त्याला आठवण करून द्यावी लागत असेल, तर तुमचे काम अजून पूर्ण झालेले नाही.

डिप्लॉयमेंट एजंटसाठी, काय पुढे टिकून राहायला हवे यावर आधारित काही चाचण्या तयार करा:

  • दुरुस्ती टिकून राहते: तो प्रभावित सेवेसाठी पडताळलेली रोलबॅक कमांड मिळवतो आणि वापरतो.
  • दुरुस्ती तिच्या व्याप्तीतच राहते: तो इतर सेवांच्या प्रक्रियांना हात लावत नाही.
  • नवीन माहिती जुन्या मार्गदर्शनाची जागा घेते: कमांड पुन्हा बदलल्यावर, तो सध्याची आवृत्ती वापरतो आणि तो बदल त्याच्या स्रोतापर्यंत शोधू शकतो.

आमची रिग्रेशन-टेस्टिंग कुकबुक एजंटचे आउटपुट आणि मिळवलेले पुरावे कसे सेव्ह करायचे, अपेक्षित वर्तनाशी त्यांची तुलना कशी करायची आणि सूचना किंवा मॉडेल्स बदलल्यानंतर रन्सची तुलना कशी करायची हे दाखवते.

मेमरीसह आणि मेमरीशिवाय रन्सची तुलना करताना मॉडेल, प्रोफाइल आणि कौशल्याच्या आवृत्त्या स्थिर ठेवा. प्रत्येक तुलना स्टोअरच्या ज्ञात स्नॅपशॉटपासून सुरू करा; अन्यथा, एखादी चाचणी पुढच्या चाचणीचे उत्तर एजंटला शिकवू शकते.

काहीतरी अयशस्वी झाल्यावर, ती केस सेव्ह करा. पुढच्या बदलाने त्यात उत्तीर्ण व्हायलाच हवे.

किंवा स्वतः बिल्ड करणे टाळा: Computer मधील Brain

तुम्हाला भाग नव्हे तर पूर्ण झालेला लूप हवा असेल, तर तो म्हणजे Computer. Brain त्याच्या मुळाशी चालते आणि चार स्रोतांमधून शिकते: तुमची सत्रे, कनेक्ट केलेली टूल्स, तुम्ही तयार केलेल्या फाइल्स आणि आर्टिफॅक्ट्स, आणि तुमच्या दुरुस्त्या. Brain चे बॅकग्राउंड अपडेट्स अजूनही लागू असलेल्या गोष्टी पक्क्या करतात, बदललेल्या गोष्टी सुधारतात आणि कालबाह्य माहिती चिन्हांकित करतात.

तो लूप तुम्हाला स्वतः तयार करावा लागत नाही. तुम्ही फक्त तुमचे काम करा.

मेमरी तुम्ही शेअर केलेली प्राधान्ये आणि तपशील जतन करते. Brain प्रोजेक्ट्स, लोक, निर्णय आणि अपूर्ण काम यांना त्यांच्यामागील पुराव्यांशी जोडते.

Brain ने काय शिकले ते तुम्ही मेमरी व्ह्यूमध्ये तपासू शकता, नोंदींचा त्यांच्या स्रोतांपर्यंत मागोवा घेऊ शकता आणि त्या संपादित किंवा हटवू शकता. Brain तुमच्या स्वतःच्या ॲक्टिव्हिटीचा वापर करते, गुप्त सत्रे वगळते आणि त्यासाठी स्वतंत्र टॉगल आहे.

उदाहरणार्थ, Rho मध्ये एका इनव्हॉइसिंग प्रोजेक्टचे निर्णय Slack, Notion, Jira, Figma आणि Google Docs मध्ये विखुरलेले होते. रात्रभर बदलांचे पुनरावलोकन करण्यासाठी, विसंगती चिन्हांकित करण्यासाठी आणि Slack मध्ये सकाळचा सारांश प्रकाशित करण्यासाठी टीमने Computer सेट केले.

त्यांचे सॉफ्टवेअर इंजिनिअर Oktawian Jurkiewicz यांच्या लक्षात आले की Computer त्या प्रोजेक्टसाठी मेमरीही तयार करत होते. “आम्ही ते परिभाषित केले नव्हते,” ते सांगतात. “प्रत्येक स्रोतामधून कोणते डेटा पॉइंट्स साठवायचे हे Computer ने स्वतः शोधून काढले.”

टीमच्या म्हणण्यानुसार साप्ताहिक मीटिंगचा वेळ 2.5 तासांवरून 15 मिनिटांपर्यंत कमी झाला आणि 12 आठवड्यांच्या प्रोजेक्टमध्ये 120 कामाचे तास वाचल्याचा त्यांचा अंदाज आहे.

या 120 तासांचे श्रेय संपूर्ण वर्कफ्लोला दिले जाते: कनेक्टर, रात्रभर चालणारे रन्स आणि Slack सारांश. वाचलेल्या वेळेपैकी किती वेळ केवळ मेमरीमुळे वाचला? हे आम्ही अद्याप मोजू शकत नाही.

पण तुमच्या स्वतःच्या बिल्डसाठी आम्ही इतका सल्ला नक्की देऊ शकतो: आधीच्या चाचणीकडे परत जा—मेमरी स्तर चालू आणि बंद ठेवून समतुल्य कामे चालवा, नंतर पूर्णत्वाचे दर, खर्च आणि वेळ यांची तुलना करा, ज्यामध्ये निकाल दुरुस्त करण्यात एखाद्या व्यक्तीने घालवलेला वेळही समाविष्ट असेल.

AI एजंट मेमरीबद्दल वारंवार विचारले जाणारे प्रश्न

AI एजंट्सना मेमरी असू शकते का?

होय. साठवलेली संभाषणे, तथ्ये, प्राधान्ये आणि पुन्हा वापरता येणाऱ्या प्रक्रियांच्या माध्यमातून AI एजंट्स सत्रांदरम्यान माहिती जतन करू शकतात. ती माहिती संबंधित असेल तेव्हा सिस्टमने ती मिळवली पाहिजे आणि परिस्थिती बदलल्यावर ती अपडेट केली पाहिजे.

उदाहरणार्थ, Perplexity Computer मधील Brain सत्रे, कनेक्ट केलेली टूल्स, फाइल्स आणि वापरकर्त्याच्या दुरुस्त्यांमधून कामाचा संदर्भ तयार करते.

AI एजंट किती RAM वापरतो?

याची कोणतीही एकच आवश्यकता नाही. तुमचा एजंट Perplexity Agent API द्वारे होस्ट केलेले मॉडेल कॉल करत असेल, तर ते मॉडेल तुमच्या स्वतःच्या RAM मध्ये लोड करण्याची गरज नाही. तरीही तुमच्या ॲप्लिकेशनला आणि स्थानिक टूल्सना मेमरी लागते.

स्थानिक पातळीवर मॉडेल चालवणे वेगळे आहे. प्रति पॅरामीटर चार बिट्स या दराने, आठ अब्ज पॅरामीटर्स म्हणजे अंदाजे 4 GB रॉ वेट डेटा. क्वांटायझेशन ओव्हरहेड, संदर्भ प्रक्रिया आणि मॉडेल चालवणारे सॉफ्टवेअर यांचा समावेश केल्यावर प्रत्यक्ष लागणारी मेमरी जास्त असते.

AI एजंटसाठी सर्वोत्तम मेमरी कोणती?

सर्वोत्तम सेटअप एजंटला काय पुढे न्यायचे आहे यावर अवलंबून असतो. संभाषणाची स्थिती पुढच्या प्रश्नांना सपोर्ट करते; एपिसोडिक नोंदी काय घडले ते जतन करतात; सिमँटिक मेमरी सध्याचे ज्ञान ठेवते; प्रक्रियात्मक मेमरी पुन्हा वापरता येणाऱ्या सूचना पुरवते.

बहुतेक चालू कामांना यांच्या संयोजनाचा फायदा होतो. Brain साठी आम्ही लिंक केलेली, स्रोत-आधारित विकी वापरतो. तुमच्या स्वतःच्या बिल्डसाठी, हा सेटअप एजंटला कामे पूर्ण करण्यात, दुरुस्त्या लागू करण्यात आणि कालबाह्य मार्गदर्शन निवृत्त करण्यात मदत करतो का हे तपासा.