Μνήμη πρακτόρων AI: Πώς να δημιουργήσετε πράκτορες AI με μόνιμο πλαίσιο

Αν έπρεπε να συνοδεύετε έναν νέο συνάδελφο στον εκτυπωτή κάθε πρωί για έξι μήνες, θα αρχίζατε να ανησυχείτε. Αν μπορούσε να αφηγηθεί κάθε προηγούμενη διαδρομή με κάθε λεπτομέρεια αλλά εξακολουθούσε να χρειάζεται συνοδεία, η μνήμη του θα ήταν εξαιρετική…αλλά εσείς θα σηκωνόσασταν ακόμα από το γραφείο σας.

Η μνήμη των πρακτόρων AI έχει, προς το παρόν, τη δική της εκδοχή αυτής της ατέρμονης διαδρομής ως τον εκτυπωτή. Ο CEO της Letta, Charles Packer, λέει στο The New Stack ότι τα benchmarks μνήμης έχουν κορεστεί επειδή μετρούν την ανάκληση, την οποία θεωρεί λυμένο πρόβλημα. Το ανοιχτό πρόβλημα είναι να βελτιώνεται ένας πράκτορας στη δουλειά του μέσω του πλαισίου που διατηρεί, χωρίς καμία επανεκπαίδευση.

Η συνιδρύτριά του, Sarah Wooders, το συγκρίνει με το ξεκίνημα σε μια νέα δουλειά—τα benchmarks δίνουν στον πράκτορα όλο το πλαίσιο που χρειάζεται—εργασία μετά από άσχετη εργασία, κάτι που δεν μοιάζει καθόλου με τον τρόπο που δουλεύουν οι άνθρωποι. Ένας νέος υπάλληλος ίσως χρειάζεται συνοδεία ως τον εκτυπωτή. Τρία χρόνια μετά, όμως, θα ελπίζατε να του δίνετε μια οδηγία μίας γραμμής χωρίς να σηκώνεστε από το γραφείο σας.

Αυτό είναι το πρότυπο προς το οποίο αξίζει να χτίζουμε και ο στόχος πίσω από το Brain, το αυτοβελτιούμενο σύστημα μνήμης μας για το Perplexity Computer, το οποίο οργανώνει την προηγούμενη δουλειά και τις διορθώσεις σε ένα διαρκώς εξελισσόμενο wiki γνώσης.

Θα εξετάσουμε τι πρέπει να θυμάται ένας πράκτορας και πώς να ελέγξετε αν αυτό τον βοηθά να κάνει καλύτερη δουλειά.

Τι είναι η μνήμη πρακτόρων AI;

Η μνήμη πρακτόρων AI είναι οι πληροφορίες που διατηρεί ένας πράκτορας από προηγούμενες αλληλεπιδράσεις και εργασίες, μαζί με τους μηχανισμούς για την ενημέρωση και τη χρήση τους. Το πλαίσιο της μόνιμης μνήμης μεταφέρει αυτές τις πληροφορίες από συνεδρία σε συνεδρία, ώστε το κλείσιμο μιας συνομιλίας να μη σημαίνει ότι η επόμενη εργασία ξεκινά από το μηδέν.

Τα περισσότερα από όσα κυκλοφορούν με αυτό το όνομα θυμούνται τον χρήστη. Τις προτιμήσεις σας, τις επαφές σας, τον ρόλο σας, το γεγονός ότι θέλετε PDF αντί για PNG. Αυτό είναι το εύκολο μισό.

Όταν δημιουργήσαμε το Brain, το σύστημα μνήμης πίσω από το Perplexity Computer, εστιάσαμε στην ίδια τη δουλειά. Ποια προσέγγιση πέτυχε; Ποια πηγή σπατάλησε είκοσι λεπτά; Τι χρειάστηκε να διορθώσετε αφού ο πράκτορας ανακοίνωσε ότι τελείωσε; Αυτό το ιστορικό δίνει στην επόμενη εργασία ένα καλύτερο σημείο εκκίνησης.

Το Brain αποθηκεύει αυτές τις πληροφορίες ως αρχεία στο Sandbox του πράκτορα, οργανωμένα σε τρία επίπεδα:

• Το sessions/ περιέχει τις ακατέργαστες μεταγραφές και τις περιλήψεις τους.
• Το notes/ περιέχει συμπυκνωμένες πληροφορίες οργανωμένες ανά θέμα.
• Το knowledge/ περιέχει το ίδιο το wiki: συνδεδεμένες σελίδες Markdown για ανθρώπους, έργα και έννοιες.

Τίποτα από αυτά δεν βελτιώνεται από μόνο του. Κατά τη διάρκεια της νύχτας, πράκτορες παρασκηνίου που ονομάζουμε «Dream» διαβάζουν τις συνεδρίες της ημέρας, τις συνοψίζουν και αναθεωρούν το wiki όπου η εικόνα έχει αλλάξει. Προετοιμάζουμε και ελέγχουμε αυτές τις αλλαγές πριν τις υποβάλουμε μέσω Git, ώστε να υπάρχει ένα diff για έλεγχο όταν κάτι δεν φαίνεται σωστό.

Κάνει όμως τον πράκτορα καλύτερο στη δουλειά του; Στην 30ήμερη αξιολόγησή μας κατά ζεύγη, οι συνεδρίες με ενεργοποιημένο το Brain βελτίωσαν την ορθότητα κατά 9,3 ποσοστιαίες μονάδες και την ανάκληση κατά 8,9, χρησιμοποιώντας περίπου 15% λιγότερα tokens.

Μεγέθυνση

Πηγή: X

Ποιοι είναι οι τύποι μνήμης πρακτόρων;

Υπάρχουν δύο γενικές κατηγορίες, και ο διαχωρισμός μοιάζει πολύ με αυτόν που θα κάνατε για έναν άνθρωπο: τι έχετε στο μυαλό σας αυτή τη στιγμή και τι θα εξακολουθείτε να γνωρίζετε τον επόμενο μήνα.

Βραχυπρόθεσμη μνήμη

Η βραχυπρόθεσμη μνήμη περιέχει το πλαίσιο της τρέχουσας συνομιλίας ή εργασίας. Το αίτημά σας, τα πρόσφατα μηνύματα, το αποτέλεσμα μιας κλήσης εργαλείου, το έγγραφο που μόλις άνοιξε ο πράκτορας. Αρκετές πληροφορίες για να καταλάβει τι πρέπει να κάνει στη συνέχεια.

Θα τη συναντήσετε επίσης ως μνήμη εργασίας. Για ένα LLM, το παράθυρο πλαισίου περιέχει τις πληροφορίες που είναι διαθέσιμες κατά τη διάρκεια μιας συγκεκριμένης κλήσης του μοντέλου. Η εφαρμογή μπορεί να διατηρεί μια πρόσθετη κατάσταση εργασίας και να αποφασίζει ποια τμήματα θα παρέχει σε κάθε βήμα.

Και βραχυπρόθεσμη δεν σημαίνει απαραίτητα αναλώσιμη. Ένα framework μπορεί να αποθηκεύσει την κατάσταση της συνομιλίας και να τη συνεχίσει αύριο—εξακολουθεί να ανήκει σε εκείνο το νήμα. Το αν όμως μια άλλη εργασία μπορεί να χρησιμοποιήσει τις πληροφορίες είναι ξεχωριστή σχεδιαστική απόφαση.

Μακροπρόθεσμη μνήμη

Η μακροπρόθεσμη μνήμη καθιστά τις πληροφορίες διαθέσιμες από συνεδρία σε συνεδρία. Το άρθρο CoALA δανείστηκε τρεις κατηγορίες από τη γνωσιακή επιστήμη, δίνοντας σε όσους δημιουργούν πράκτορες ένα λεξιλόγιο για τις εμπειρίες και την τεχνογνωσία:

• Η επεισοδιακή μνήμη είναι αυτό που συνέβη: Περιλαμβάνει προηγούμενες συνεδρίες, τα βήματα που έκανε ένας πράκτορας, το αποτέλεσμα που πέτυχε. Στο Brain, το sessions/ παρέχει αυτό το ιστορικό μέσω ακατέργαστων μεταγραφών και των περιλήψεών τους.
• Η σημασιολογική μνήμη είναι αυτό που ο πράκτορας θεωρεί αληθές: Μπορεί να είναι γεγονότα για τον χρήστη, τα έργα του και τον κόσμο του, συμπυκνωμένα από τις συνομιλίες. Το wiki knowledge/ του Brain περιέχει αυτό το είδος πληροφοριών, με συνδέσμους προς τα τεκμήρια.
• Η διαδικαστική μνήμη είναι ο τρόπος με τον οποίο γίνονται τα πράγματα: Πρόκειται για προτροπές, επαναχρησιμοποιήσιμες ροές εργασίας, τις δεξιότητες που δημιουργεί η Perplexity για να δίνει στους πράκτορες τις οδηγίες και τα εργαλεία που απαιτεί μια εργασία. Ίσως έχετε ήδη κάποια από αυτά χωρίς να τα αποκαλείτε μνήμη.

Η ενδιαφέρουσα δουλειά γίνεται ανάμεσα στα επίπεδα. Μια συνεδρία καταγράφει ότι απορρίψατε ένα PNG. Η οδηγία σας να χρησιμοποιούνται PDF γίνεται μια προτίμηση που ο πράκτορας μπορεί να μεταφέρει στο μέλλον. Μια διόρθωση στη διαδικασία εξαγωγής γίνεται κάτι που μπορεί να ακολουθήσει την επόμενη φορά.

Αυτή η μετατροπή, από το «αυτό συνέβη» στο «αυτό ισχύει» και στο «έτσι το κάνουμε», αποτελεί μέρος του προβλήματος μάθησης με το οποίο ξεκινήσαμε, και σε αυτήν αφιερώνουν την προσπάθειά τους οι νυχτερινές εκτελέσεις του πράκτορα Dream του Brain.

Ας πούμε ότι κάποιος ζεσταίνει ψάρι στον φούρνο μικροκυμάτων σε μια κοινόχρηστη κουζίνα. Ακολουθούν παράπονα, ανοίγει ένα παράθυρο. Τελικά, εμφανίζεται μια πινακίδα: ΟΧΙ ΨΑΡΙ.

Έξι μήνες αργότερα, ο υπαίτιος έχει φύγει, αλλά η πινακίδα όχι. Αυτό σημαίνει μονιμότητα. Μπορείτε να εξηγήσετε τους τύπους μνήμης μέσα από αυτό που επιβιώνει:

• Η μνήμη εργασίας είναι αυτό που παρακολουθείτε ενώ φτιάχνετε μεσημεριανό, όπως ότι η σούπα θέλει ανακάτεμα.
• Η επεισοδιακή μνήμη είναι το περιστατικό με το ψάρι: η μυρωδιά που ακολούθησε όλους στον διάδρομο.
• Η σημασιολογική μνήμη είναι η γνώση που αποκομίσατε από αυτό—το ζέσταμα ψαριού μπορεί να αφήσει μια επίμονη μυρωδιά σε μια κοινόχρηστη κουζίνα.
• Η διαδικαστική μνήμη είναι η οδηγία που καθορίζει τι θα γίνει στη συνέχεια. Μη ζεσταίνετε ψάρι στον φούρνο μικροκυμάτων εδώ. Η πινακίδα επιτρέπει σε κάποιον που δεν είδε τίποτα από το περιστατικό να ακολουθήσει τον κανόνα.

Υπάρχει και μία ακόμη διάκριση, επειδή αλλάζει αυτό που χτίζουμε. Μια επισκόπηση που δημοσιεύτηκε για πρώτη φορά τον Δεκέμβριο του 2025, η Memory in the Age of AI Agents, αναφέρει ότι η διάκριση σε βραχυπρόθεσμη και μακροπρόθεσμη δεν αρκεί—ταξινομεί επίσης τη μνήμη ανάλογα με τη μορφή της:

• Επιπέδου token: Πρόκειται για το ρητό περιεχόμενο που διαβάζει ο πράκτορας. Αρχεία, αποθηκευμένες εγγραφές, ανακτημένα τμήματα.
• Παραμετρική: Πρόκειται για πληροφορίες κωδικοποιημένες σε εκπαιδευμένα βάρη. Η ενημέρωσή τους απαιτεί εκπαίδευση ή μεθόδους επεξεργασίας μοντέλου.
• Λανθάνουσα: Πρόκειται για πληροφορίες που διατηρούνται σε εσωτερικές αναπαραστάσεις χωρίς να καταγράφονται ως αναγνώσιμο κείμενο.

Εδώ εστιάζουμε στη μνήμη επιπέδου token, δηλαδή στις πληροφορίες που αποθηκεύονται εκτός του μοντέλου και εισάγονται στο πλαίσιό του όταν χρειάζεται. Το wiki Markdown του Brain είναι ένα παράδειγμα.

Μεγέθυνση

Όταν ενημερώνουμε μια σελίδα, αλλάζουμε αυτό που μπορεί να διαβάσει ο πράκτορας στην επόμενη εργασία του, αλλά τα υποκείμενα βάρη του παραμένουν ίδια. Αυτό είναι το επιχείρημα του Packer από την εισαγωγή: βελτίωση μέσω του πλαισίου που διατηρεί ο πράκτορας, χωρίς επανεκπαίδευση.

Πώς συνεργάζονται οι τύποι μνήμης πρακτόρων;

Ένας πράκτορας μπορεί να επανεξετάσει μια προηγούμενη προσπάθεια, να δει πού έκανε λάθος και να φορτώσει τις οδηγίες που του δώσατε στη συνέχεια. Στην ίδια εργασία εμπλέκονται διάφορα είδη μνήμης, και δεν χρειάζεται το καθένα τη δική του σειρά ή ξεχωριστή βάση δεδομένων.

Εδώ, η μονιμότητα καθορίζει τι παραμένει διαθέσιμο μετά το τέλος της συνομιλίας, ενώ η ανάκτηση καθορίζει αν ο πράκτορας θα το ξαναδεί ποτέ.

Στο Brain, διατηρούμε αυτή τη διαδρομή από το δίδαγμα πίσω στα τεκμήρια. Ας πούμε ότι ζητάτε από το Computer να συνεχίσει ένα έργο από την προηγούμενη εβδομάδα:

• Το ευρετήριο του Brain του υποδεικνύει ποιες σελίδες μνήμης υπάρχουν και πού θα τις βρει.
• Το Brain ανοίγει τη σελίδα του έργου για να διαβάσει τις αποθηκευμένες αποφάσεις και οδηγίες.
• Αν μια σημείωση αναφέρει ότι απορρίψατε μια προσέγγιση, ο πράκτορας μπορεί να ακολουθήσει την παραπομπή της πίσω στη συνομιλία και να ελέγξει γιατί.

Οι σύνδεσμοι προς σχετικές σελίδες του επιτρέπουν να αναζητήσει τους ανθρώπους ή τα άλλα έργα που εμπλέκονται. Ο πράκτορας το κάνει αυτό διαβάζοντας και αναζητώντας σε αρχεία. Το grep, για παράδειγμα, του επιτρέπει να βρει αναφορές σε ένα έργο με βάση το όνομά του.

Έχουμε επίσης ελέγξει τι κερδίζουν οι πράκτορες από τη δυνατότητα εξερεύνησης αρχείων. Σε ένα εσωτερικό benchmark 150 ερωτήσεων για χρηματοοικονομικά έγγραφα, ένας πράκτορας εξερεύνησης που χρησιμοποιούσε τυπικά εργαλεία αρχείων πέτυχε βαθμολογία απαντήσεων 0,627, σε σύγκριση με περίπου 0,37 για τη σημασιολογική αναζήτηση στο ίδιο σώμα κειμένων.

Μεγέθυνση

Πηγή: X

Πώς να βελτιώσετε τη μνήμη πρακτόρων AI;

Ένα άρθρο των Orogat και Mansour του Μαΐου 2026 εντοπίζει τέσσερις επαναλαμβανόμενες αστοχίες στη μνήμη πρακτόρων: ο χώρος αποθήκευσης μεγαλώνει συνεχώς, οι παρωχημένες πεποιθήσεις δεν αναθεωρούνται, οι πληροφορίες ξεχνιούνται όταν εξαντλείται ο χώρος και η ανάκτηση διαβάζει χωρίς να μαθαίνει τίποτα από την επίσκεψη.

Η λύση που προτείνουν είναι να πάψουμε να αντιμετωπίζουμε τη μνήμη πρακτόρων ως αποθηκευτικό χώρο και να την αντιμετωπίζουμε ως μια «κατάσταση» που εξελίσσεται μέσω τεσσάρων λειτουργιών: εισαγωγή, αναθεώρηση, λήθη, ανάκτηση. Αυτή είναι η λίστα ελέγχου μας για αυτή την ενότητα.

Να είστε επιλεκτικοί ως προς το τι απομνημονεύεται

Μόλις μπει μια «κακή» ανάμνηση, κάθε βήμα την κληρονομεί.

Η Workday AI Research δοκίμασε μια επιλεκτική προσέγγιση σε περίπου 1.500 υποψήφιες αναμνήσεις από το benchmark LoCoMo, θέτοντας πέντε ερωτήσεις πριν διατηρήσει οποιαδήποτε από αυτές:

• Είναι χρήσιμη; Είναι πιθανό να ξαναχρειαστεί;
• Είναι αξιόπιστη; Το είπε πράγματι η συνομιλία ή το συμπλήρωσε το μοντέλο;
• Είναι νέα ή έχει ήδη αποθηκευτεί;
• Είναι επίκαιρη;
• Είναι μόνιμο γεγονός ή παροδική κατάσταση;

Μόνο η πρώτη ερώτηση χρειάστηκε κλήση μοντέλου. Οι άλλες τέσσερις εκτελέστηκαν ως κανόνες σε λιγότερο από 65 χιλιοστά του δευτερολέπτου συνολικά. Η μέθοδος πέτυχε 12% υψηλότερη ακρίβεια στις αποφάσεις διατήρησης ή απόρριψης, διατηρώντας το 97% των σχετικών αναμνήσεων.

Ο μεγαλύτερος παράγοντας ήταν η τελευταία ερώτηση—όταν αφαιρέθηκε η διάκριση μεταξύ μόνιμων και προσωρινών πληροφοριών, η ποιότητα των αποφάσεων μειώθηκε περίπου κατά 18%.

Αναθεωρήστε την απάντηση χωρίς να χάσετε το ιστορικό

Καταγράψτε πότε ένα γεγονός έγινε έγκυρο, ποια πηγή το υποστηρίζει και τι αντικατέστησε. Αν οι πηγές διαφωνούν, διατηρήστε αυτή τη διαφωνία ορατή μέχρι να υπάρξουν αρκετά στοιχεία για να επιλυθεί. Και το νεότερο έγγραφο μπορεί να είναι λάθος.

Το Brain ενημερώνει το wiki χρησιμοποιώντας έγγραφα πηγής, αποτελέσματα συνδέσμων και διορθώσεις χρηστών. Κάθε καταχώριση μνήμης παραπέμπει στην πηγή της. Θέλουμε ο πράκτορας να βρίσκει την τρέχουσα απάντηση και να έχει πού να ψάξει αν αυτή η απάντηση φαίνεται ύποπτη.

Ξεχάστε σκόπιμα

Το άρθρο ονομάζει έναν τρόπο αστοχίας «λήθη λόγω χωρητικότητας»: οι πληροφορίες αφαιρούνται για να τηρηθεί ένα όριο αποθήκευσης και όχι επειδή έπαψαν να είναι χρήσιμες.

Πίσω στην κοινόχρηστη κουζίνα. Μετά από έξι μήνες, κανείς δεν νοιάζεται ποιος ζέστανε το ψάρι στον φούρνο μικροκυμάτων ή πόσο καιρό έμεινε ανοιχτό το παράθυρο. Η πινακίδα όμως έχει ακόμα ρόλο να παίξει.

Αν ο επόμενος φτιάξει μεσημεριανό, ο κανόνας θα είναι διαθέσιμος. Απλώς αρχειοθετείτε τα παράπονα.

Οι έλεγχοι επικαιρότητας και τύπου πληροφοριών της Workday ξεκινούν πριν από την αποθήκευση, φιλτράροντας ό,τι αξίζει να γίνει ανάμνηση. Στο Brain, επανεξετάζουμε επίσης την υπάρχουσα γνώση καθώς αλλάζουν τα έγγραφα πηγής και οι χρήστες κάνουν διορθώσεις. Σε κάθε περίπτωση, το περιεχόμενο είναι αυτό που καθιστά αναγκαία την παρέμβαση.

Αξιοποιήστε την ανάκτηση για την επόμενη ενημέρωση

Ο πράκτορας ανακτά ένα γεγονός, το χρησιμοποιεί και αφήνει τον χώρο αποθήκευσης ακριβώς όπως τον βρήκε. Αν λοιπόν το σύστημα δεν καταγράψει τι συνέβη στη συνέχεια, τίποτα δεν καταγράφει αν αυτό το γεγονός βοήθησε ή οδήγησε τον πράκτορα σε άλλο αδιέξοδο.

Καταγράψτε το αποτέλεσμα, την πηγή και κάθε διόρθωση. Όταν δημιουργήσαμε το Brain, κάναμε αυτό το ιστορικό εργασιών μέρος όσων θυμάται: ποια προσέγγιση πέτυχε, ποια πηγή δεν οδήγησε πουθενά και τι διόρθωσε ο χρήστης αφού ο πράκτορας ανακοίνωσε ότι τελείωσε. Το Brain ενσωματώνει αυτή την εμπειρία στις περιοδικές ενημερώσεις του wiki, ώστε να μπορούν να την αξιοποιήσουν οι επόμενες εργασίες.

Τίποτα από αυτά, ωστόσο, δεν φαίνεται σε ένα benchmark ανάκλησης. Ο τρόπος για να μάθετε αν ο βρόχος λειτουργεί είναι να δώσετε στον πράκτορα μια εργασία που μπορεί να ολοκληρώσει μόνο με μνήμη και να μετρήσετε πόσο συχνά την ολοκληρώνει, λαμβάνοντας υπόψη το κόστος και την καθυστέρηση. Αυτό κάνει το DolphinBench, και γι’ αυτό οι κορυφαίες βαθμολογίες εξακολουθούν να κυμαίνονται μεταξύ 70 και 80.

Πώς να δημιουργήσετε έναν πράκτορα με μόνιμη μνήμη χρησιμοποιώντας την Perplexity

Το Agent API της Perplexity δεν διαθέτει ένα αυτοσυντηρούμενο σύστημα μνήμης όπως το Brain. Προτιμούμε να το πούμε από την αρχή. Αυτό που σας δίνει όμως είναι τα κομμάτια της μνήμης που χρειάζεστε: ένα σημείο για να διατηρείτε διαδικασίες, έναν τρόπο να μεταφέρετε το πλαίσιο μεταξύ γύρων, καθώς και εργαλεία για ανάγνωση από και εγγραφή σε έναν χώρο αποθήκευσης που ελέγχετε εσείς.

Ξεκινήστε με τη διαδικαστική μνήμη

Μια προσαρμοσμένη δεξιότητα συγκεντρώνει οδηγίες, διαδικασίες και υποστηρικτικά αρχεία υπό έναν αριθμό έκδοσης. Μια ομάδα πλατφόρμας μπορεί να γράψει μία φορά τους ελέγχους ανάπτυξης, τα κριτήρια επαναφοράς και τη μορφή αναφοράς της και, στη συνέχεια, οι εφαρμογές μπορούν να παραπέμπουν στην ίδια δεξιότητα. Όταν η διαδικασία αλλάζει, η ομάδα ανεβάζει μια νέα έκδοση.

Μεγέθυνση

Πηγή: X

Ένα Προφίλ πηγαίνει ένα επίπεδο πιο πάνω. Τα Προφίλ αποθηκεύουν το μοντέλο, τις οδηγίες, τα εργαλεία, τις δεξιότητες, τους συνδέσμους και τις ρυθμίσεις εκτέλεσης του πράκτορα υπό ένα ενιαίο αναγνωριστικό με έκδοση.

Προσθέσαμε και τα δύο τον Σεπτέμβριο, μαζί με τους διαχειριζόμενους συνδέσμους, ώστε ένας διαχειριστής έργου να μπορεί να διαμορφώσει μία φορά μια εγκεκριμένη σύνδεση GitHub ή Slack και να επιτρέπει στις εφαρμογές να παραπέμπουν σε αυτήν αντί να αποθηκεύουν ξεχωριστά διαπιστευτήρια. Όταν η πρόσβαση αλλάζει, ο διαχειριστής ενημερώνει τη σύνδεση σε ένα μόνο σημείο.

Γιατί αυτό μετράει ως μνήμη; Ας επιστρέψουμε για άλλη μια φορά στην κουζίνα με το ψάρι στον φούρνο μικροκυμάτων. Όποιος έρθει μετά μπορεί να ακολουθήσει την οδηγία «ΟΧΙ ΨΑΡΙΑ» χωρίς να έχει γίνει μάρτυρας των παραπόνων.

Μια δεξιότητα κάνει την ίδια δουλειά για έναν πράκτορα, με χώρο για τα βήματα, τις εξαιρέσεις και τους ελέγχους που δεν χωράνε στην πόρτα ενός φούρνου μικροκυμάτων. Οι δεξιότητες είναι καταγεγραμμένες, έχουν εκδόσεις και είναι διαθέσιμες την επόμενη φορά που θα προκύψει η εργασία.

Χρησιμοποιούμε δεξιότητες και για να καθοδηγούμε τις ενημερώσεις μνήμης του Dream. Αυτό όμως που μια δεξιότητα δεν κάνει είναι να μαθαίνει από μόνη της. Οι οδηγίες αλλάζουν όταν ανεβαίνει μια νέα έκδοση, είτε από έναν άνθρωπο είτε από μια αυτοματοποιημένη διαδικασία.

Αν θέλετε ο πράκτορας να παρατηρήσει ότι ο έλεγχος επαναφοράς αποτυγχάνει συνεχώς σε μία υπηρεσία και να προσαρμοστεί, αυτός είναι ο βρόχος από τις συνεδρίες στο wiki που περιγράψαμε νωρίτερα.

Πρέπει να διατηρήσετε όσα συνέβησαν, να καταλάβετε τι πρέπει να αλλάξει και να κάνετε τη διόρθωση διαθέσιμη την επόμενη φορά. Γι' αυτό χρειάζονται τα δύο επόμενα κομμάτια.

Μεταφέρετε τη μνήμη εργασίας από γύρο σε γύρο

Ο πράκτορας εκτελεί έναν έλεγχο ανάπτυξης. Εσείς ρωτάτε: «Γιατί απέτυχε αυτό;» Μια εύλογη επόμενη ερώτηση, αρκεί ο πράκτορας να μπορεί ακόμα να δει σε τι αναφέρεται το «αυτό».

Το Agent API μας υποστηρίζει δύο τρόπους μεταφοράς του πλαισίου της συνομιλίας στα επόμενα αιτήματα:

• Αναπαράγετε μόνοι σας τη συνομιλία: Συμπεριλάβετε τα προηγούμενα μηνύματα στον πίνακα εισόδου του επόμενου αιτήματος. Εσείς αποφασίζετε τι θα κρατήσετε, θα συνοψίσετε, θα αποκρύψετε ή θα απορρίψετε πριν το στείλετε.
• Συνεχίστε από μια ολοκληρωμένη απόκριση: Αποθηκεύστε το αναγνωριστικό της και περάστε το ως previous_response_id με το επόμενο μήνυμα. Διατηρούμε την κατάσταση της συνομιλίας στην πλευρά του διακομιστή, ώστε η εφαρμογή σας να μη χρειάζεται να ξαναστέλνει τους προηγούμενους γύρους. Μπορείτε να συνεχίσετε από την πιο πρόσφατη απόκριση της αλυσίδας.

Η αναπαραγωγή σάς δίνει έλεγχο σε ό,τι βλέπει ο πράκτορας, ενώ η συνέχιση μέσω αναγνωριστικού σάς γλιτώνει από τον κόπο να συναρμολογήσετε ξανά τη συνομιλία. Σε κάθε περίπτωση, παρέχετε τυχόν νέες οδηγίες, εργαλεία ή ρυθμίσεις μοντέλου που χρειάζονται για την επόμενη απόκριση.

Χρησιμοποιήστε τη δική σας αποθήκη επεισοδιακής και σημασιολογικής μνήμης

Αυτό είναι το κομμάτι που το Agent API αφήνει σε εσάς.

Μία επιλογή είναι η κλήση συναρτήσεων. Εσείς ορίζετε τα εργαλεία, ο πράκτορας ζητά μια κλήση και η εφαρμογή σας την εκτελεί και επιστρέφει το αποτέλεσμα. Για τη μνήμη, ένα απλό σημείο εκκίνησης είναι μια λειτουργία ανάγνωσης πριν ενεργήσει ο πράκτορας και μια λειτουργία εγγραφής μετά.

Αν καταγράφετε μόνο το γεγονός που ανέκτησε ο πράκτορας, εξακολουθείτε να μη γνωρίζετε αν βοήθησε. Αν καταγράφετε το αποτέλεσμα, την πηγή και ό,τι διόρθωσε ο χρήστης, έχετε την αρχή ενός επεισοδιακού επιπέδου.

Η υποστήριξη MCP που προσφέρουμε σας δίνει άλλη μια επιλογή. Αν ένας συμβατός απομακρυσμένος διακομιστής MCP εκθέτει τις λειτουργίες που χρειάζεστε, ο πράκτορας μπορεί να τις καλέσει χωρίς να χρειάζεται να περιτυλίξετε την καθεμία ως προσαρμοσμένη συνάρτηση.

Οι σύνδεσμοί μας δίνουν στον πράκτορα πρόσβαση στα στοιχεία πίσω από τις αναμνήσεις. Τα GitHub, Slack, Google Drive, Datadog, Linear και Notion περιλαμβάνονται στον διαχειριζόμενο κατάλογό μας και μπορείτε να προσθέσετε προσαρμοσμένους συνδέσμους για εσωτερικά συστήματα.

Τέλος, αποφασίστε πότε θα γίνεται η επισκόπηση του ιστορικού και η αναθεώρηση της τρέχουσας εκδοχής.

Ελέγξτε τι διατηρείται σε μια νέα συνεδρία

Τώρα κλείστε τη συνομιλία. Ξεκινήστε ένα νέο αίτημα χωρίς να αναπαράγετε τα παλιά μηνύματα ή να περάσετε previous_response_id, αλλά δώστε στον πράκτορα πρόσβαση στην ίδια αποθήκη μνήμης. Ζητήστε του να κάνει σχετική εργασία χωρίς να επαναλάβετε τη διόρθωση.

Αν χρειάζεται υπενθύμιση, δεν έχετε τελειώσει ακόμα.

Για τον πράκτορα ανάπτυξης, δημιουργήστε μερικές δοκιμές γύρω από όσα πρέπει να μεταφέρονται:

• Η διόρθωση διατηρείται: Ανακτά και χρησιμοποιεί την επαληθευμένη εντολή επαναφοράς για την επηρεαζόμενη υπηρεσία.
• Η διόρθωση παραμένει εντός εμβέλειας: Αφήνει ανέγγιχτες τις διαδικασίες των άλλων υπηρεσιών.
• Οι νέες πληροφορίες αντικαθιστούν τις παλιές οδηγίες: Όταν η εντολή αλλάξει ξανά, χρησιμοποιεί την τρέχουσα έκδοση και μπορεί να εντοπίσει την αλλαγή μέχρι την πηγή της.

Ο οδηγός μας για τις δοκιμές παλινδρόμησης δείχνει πώς να αποθηκεύετε τα αποτελέσματα του πράκτορα και τα στοιχεία που ανακτήθηκαν, να τα ελέγχετε σε σχέση με την αναμενόμενη συμπεριφορά και να συγκρίνετε εκτελέσεις μετά την αλλαγή οδηγιών ή μοντέλων.

Διατηρήστε σταθερές τις εκδόσεις του μοντέλου, του Προφίλ και της δεξιότητας ενώ συγκρίνετε εκτελέσεις με και χωρίς μνήμη. Ξεκινήστε κάθε σύγκριση από ένα γνωστό στιγμιότυπο της αποθήκης· διαφορετικά, μια δοκιμή μπορεί να διδάξει στον πράκτορα την απάντηση της επόμενης.

Όταν κάτι αποτυγχάνει, αποθηκεύστε την περίπτωση. Η επόμενη αλλαγή θα πρέπει να την περνάει.

Ή παραλείψτε την κατασκευή: το Brain στο Computer

Αν αυτό που θέλετε είναι ο ολοκληρωμένος βρόχος και όχι τα επιμέρους κομμάτια, αυτό είναι το Computer. Το Brain λειτουργεί από κάτω, μαθαίνοντας από τέσσερις πηγές: τις συνεδρίες σας, τα συνδεδεμένα εργαλεία, τα αρχεία και τα αντικείμενα που δημιουργείτε και τις διορθώσεις σας. Οι ενημερώσεις παρασκηνίου του Brain ενισχύουν ό,τι εξακολουθεί να ισχύει, αναθεωρούν ό,τι έχει αλλάξει και επισημαίνουν τις παρωχημένες πληροφορίες.

Δεν χρειάζεται να κατασκευάσετε μόνοι σας αυτόν τον βρόχο. Απλώς κάνετε τη δουλειά σας.

Η Μνήμη διατηρεί τις προτιμήσεις και τις λεπτομέρειες που έχετε κοινοποιήσει. Το Brain συνδέει έργα, ανθρώπους, αποφάσεις και ημιτελείς εργασίες με τα στοιχεία που τα τεκμηριώνουν.

Μπορείτε να ελέγξετε τι έμαθε στην προβολή Μνήμης, να ανατρέξετε στις πηγές των καταχωρίσεων και να τις επεξεργαστείτε ή να τις διαγράψετε. Το Brain χρησιμοποιεί τη δική σας δραστηριότητα, εξαιρεί τις συνεδρίες ανώνυμης περιήγησης και διαθέτει τον δικό του διακόπτη.

Μεγέθυνση

Στη Rho, για παράδειγμα, οι αποφάσεις ενός έργου τιμολόγησης ήταν διάσπαρτες σε Slack, Notion, Jira, Figma και Google Docs. Η ομάδα ρύθμισε το Computer ώστε να εξετάζει τις αλλαγές κατά τη διάρκεια της νύχτας, να επισημαίνει ασυνέπειες και να δημοσιεύει μια πρωινή σύνοψη στο Slack.

Ο μηχανικός λογισμικού της ομάδας, Oktawian Jurkiewicz, παρατήρησε ότι το Computer δημιουργούσε επίσης μνήμη για το έργο. «Δεν το ορίσαμε εμείς», λέει. «Το Computer βρήκε μόνο του ποια σημεία δεδομένων έπρεπε να αποθηκεύει από κάθε πηγή.»

Η ομάδα αναφέρει ότι μείωσε τον χρόνο των εβδομαδιαίων συσκέψεων από 2,5 ώρες σε 15 λεπτά και εκτιμά ότι εξοικονόμησε 120 ώρες εργασίας κατά τη διάρκεια του έργου των 12 εβδομάδων.

Οι 120 ώρες αποδίδονται σε ολόκληρη τη ροή εργασίας: στους συνδέσμους, στις νυχτερινές εκτελέσεις και στη σύνοψη στο Slack. Πόσος από τον χρόνο που εξοικονομήθηκε οφείλεται μόνο στη μνήμη; Δεν μπορούμε ακόμα να το ποσοτικοποιήσουμε.

Αυτό που μπορούμε όμως να συμβουλεύσουμε είναι, για τη δική σας υλοποίηση, να επιστρέψετε στη δοκιμή που περιγράψαμε νωρίτερα — εκτελέστε ισοδύναμες εργασίες με το επίπεδο μνήμης ενεργό και ανενεργό και, στη συνέχεια, συγκρίνετε τα ποσοστά ολοκλήρωσης, το κόστος και τον χρόνο, συμπεριλαμβανομένου του χρόνου που αφιερώνει κάποιος για να διορθώσει το αποτέλεσμα.

Συχνές ερωτήσεις για τη μνήμη των πρακτόρων AI

Μπορούν οι πράκτορες AI να έχουν μνήμη;

Ναι. Οι πράκτορες AI μπορούν να διατηρούν πληροφορίες από συνεδρία σε συνεδρία μέσω αποθηκευμένων συνομιλιών, γεγονότων, προτιμήσεων και επαναχρησιμοποιήσιμων διαδικασιών. Το σύστημα πρέπει να ανακτά αυτές τις πληροφορίες όταν είναι σχετικές και να τις ενημερώνει όταν αλλάζουν οι συνθήκες.

Το Brain στο Perplexity Computer, για παράδειγμα, δημιουργεί πλαίσιο εργασίας από συνεδρίες, συνδεδεμένα εργαλεία, αρχεία και διορθώσεις των χρηστών.

Πόση RAM χρησιμοποιεί ένας πράκτορας AI;

Δεν υπάρχει μία ενιαία απαίτηση. Αν ο πράκτοράς σας καλεί ένα φιλοξενούμενο μοντέλο μέσω του Perplexity Agent API, δεν χρειάζεται να φορτώσετε αυτό το μοντέλο στη δική σας RAM. Η εφαρμογή και τα τοπικά σας εργαλεία εξακολουθούν να χρειάζονται μνήμη.

Η εκτέλεση ενός τοπικού μοντέλου είναι διαφορετική υπόθεση. Με τέσσερα bit ανά παράμετρο, οκτώ δισεκατομμύρια παράμετροι αντιστοιχούν σε περίπου 4 GB ακατέργαστων δεδομένων βαρών. Η πραγματική μνήμη που απαιτείται είναι μεγαλύτερη αν συνυπολογίσετε την επιβάρυνση της κβάντισης, την επεξεργασία του πλαισίου και το λογισμικό που εκτελεί το μοντέλο.

Ποια είναι η καλύτερη μνήμη για έναν πράκτορα AI;

Η καλύτερη διαμόρφωση εξαρτάται από το τι πρέπει να μεταφέρει ο πράκτορας στη συνέχεια. Η κατάσταση της συνομιλίας υποστηρίζει τις επόμενες ερωτήσεις· οι επεισοδιακές καταγραφές διατηρούν όσα συνέβησαν· η σημασιολογική μνήμη περιέχει την τρέχουσα γνώση· η διαδικαστική μνήμη παρέχει επαναχρησιμοποιήσιμες οδηγίες.

Οι περισσότερες συνεχιζόμενες εργασίες ωφελούνται από έναν συνδυασμό. Για το Brain χρησιμοποιούμε ένα διασυνδεδεμένο wiki που βασίζεται σε πηγές. Για τη δική σας υλοποίηση, ελέγξτε αν η διαμόρφωση βοηθά τον πράκτορα να ολοκληρώνει εργασίες, να εφαρμόζει διορθώσεις και να αποσύρει παρωχημένες οδηγίες.