Memori agen AI: Cara membangun agen AI dengan konteks persisten

Panduan ini menjelaskan apa itu memori agen AI, bagaimana memori kerja, episodik, semantik, dan prosedural bekerja bersama, serta cara membangun dan menguji agen yang terus berkembang melalui konteks persisten.

Post by Aravind Srinivas on Perplexity Computer's background Dream agent, with a diagram of the self-improvement loop: online sessions produce raw history, Dream reads and reconciles it with connectors, then compiles, cites, and commits updates to the Brain, which feeds the next session's context.

Jika Anda harus mengantar rekan kerja baru ke printer setiap pagi selama enam bulan, Anda tentu mulai khawatir. Jika mereka bisa menceritakan ulang setiap perjalanan sebelumnya dengan sangat detail tetapi tetap perlu diantar, daya ingat mereka memang luar biasa…tetapi Anda tetap harus beranjak dari meja.

Memori agen AI saat ini mengalami versi dari perjalanan ke printer yang tak berujung ini. CEO Letta, Charles Packer, mengatakan di The New Stack bahwa tolok ukur memori sudah jenuh karena mengukur kemampuan mengingat, yang menurutnya sudah terpecahkan. Masalah yang masih terbuka adalah bagaimana agen bisa makin baik dalam pekerjaannya melalui konteks yang disimpannya, tanpa pelatihan ulang.

Salah satu pendirinya, Sarah Wooders, membandingkannya dengan memulai pekerjaan—tolok ukur memberikan semua konteks yang dibutuhkan agen—tugas demi tugas yang tidak saling berhubungan, yang sama sekali tidak mencerminkan cara orang bekerja. Karyawan baru mungkin perlu diantar ke printer. Namun setelah tiga tahun, Anda tentu berharap bisa memberi mereka arahan satu baris tanpa beranjak dari meja.

Itulah standar yang ingin kami capai, sekaligus tujuan di balik Brain, sistem memori kami yang dapat meningkatkan dirinya sendiri untuk Perplexity Computer, yang menata pekerjaan dan koreksi sebelumnya menjadi wiki pengetahuan yang terus berkembang.

Kami akan membahas apa yang seharusnya diingat oleh agen dan cara menguji apakah hal itu membantu agen bekerja lebih baik.

Apa itu memori agen AI?

Memori agen AI adalah informasi yang disimpan agen dari interaksi dan pekerjaan sebelumnya, beserta mekanisme untuk memperbarui dan menggunakannya. Konteks memori persisten membawa informasi tersebut lintas sesi, sehingga menutup percakapan tidak berarti harus memulai tugas berikutnya dari nol.

Sebagian besar produk yang dirilis dengan nama itu mengingat pengguna. Preferensi Anda, kontak Anda, peran Anda, fakta bahwa Anda menginginkan PDF, bukan PNG. Itu bagian yang mudah.

Saat kami membangun Brain, sistem memori di balik Perplexity Computer, kami berfokus pada pekerjaan itu sendiri. Pendekatan mana yang berhasil? Sumber mana yang membuang waktu dua puluh menit? Apa yang harus Anda koreksi setelah agen menyatakan pekerjaannya selesai? Riwayat itu memberi tugas berikutnya titik awal yang lebih baik.

Brain menyimpan informasi ini sebagai file di kotak pasir agen, yang ditata dalam tiga lapisan:

  • sessions/ berisi transkrip mentah beserta ringkasannya.
  • notes/ berisi informasi hasil penyaringan yang ditata berdasarkan topik.
  • knowledge/ berisi wiki itu sendiri; halaman Markdown yang saling terhubung tentang orang, proyek, dan konsep.

Semua itu tidak membaik dengan sendirinya. Pada malam hari, agen latar belakang yang kami sebut “Dream” membaca sesi hari itu, merangkumnya, dan merevisi wiki di bagian mana pun yang gambarannya telah berubah. Kami menyiapkan dan memeriksa suntingan tersebut sebelum meng-commit-nya melalui Git, sehingga ada diff yang bisa diperiksa saat ada sesuatu yang tampak janggal.

Apakah hal ini membuat agen lebih baik dalam bekerja? Dalam evaluasi berpasangan selama 30 hari yang kami lakukan, sesi yang menggunakan Brain meningkatkan ketepatan sebesar 9,3 poin persentase dan recall sebesar 8,9, sambil menggunakan sekitar 15% lebih sedikit token.

Sumber: X

Apa saja jenis memori agentik?

Secara garis besar, ada dua jenis, dan pembagiannya mirip dengan yang Anda gunakan untuk manusia: apa yang sedang Anda ingat saat ini, dan apa yang masih akan Anda ketahui bulan depan.

Memori jangka pendek

Memori jangka pendek menyimpan konteks untuk percakapan atau tugas saat ini. Permintaan Anda, pesan terbaru, hasil pemanggilan alat, dokumen yang baru saja dibuka agen. Informasi yang cukup untuk menentukan langkah selanjutnya.

Anda juga akan menemukan istilah memori kerja (working memory) untuk hal ini. Bagi LLM, jendela konteks menyimpan informasi yang tersedia selama pemanggilan model tertentu. Aplikasi dapat mengelola status tugas tambahan dan menentukan bagian mana yang diberikan di setiap langkah.

Dan jangka pendek tidak selalu berarti sekali pakai. Sebuah framework dapat menyimpan status percakapan dan melanjutkannya besok—informasi itu tetap milik utas tersebut. Namun, apakah tugas lain dapat menggunakan informasi itu merupakan keputusan desain yang terpisah.

Memori jangka panjang

Memori jangka panjang membuat informasi tersedia lintas sesi. Makalah CoALA meminjam tiga kategori dari ilmu kognitif, sehingga para pembuat agen memiliki kosakata untuk pengalaman dan pengetahuan praktis:

  • Memori episodik adalah apa yang terjadi: Ini mencakup sesi-sesi sebelumnya, langkah-langkah yang diambil agen, dan hasil yang diperolehnya. Di Brain, sessions/ menyediakan riwayat ini melalui transkrip mentah beserta ringkasannya.
  • Memori semantik adalah apa yang dianggap benar oleh agen: Ini bisa berupa fakta tentang pengguna, proyek mereka, dan dunia mereka, yang disaring dari percakapan. Wiki knowledge/ milik Brain menyimpan jenis informasi ini, dengan tautan kembali ke buktinya.
  • Memori prosedural adalah cara melakukan sesuatu: Ini berupa prompt, alur kerja yang dapat digunakan ulang, serta Skill yang dibuat Perplexity untuk memberi agen instruksi dan alat yang dibutuhkan suatu pekerjaan. Anda mungkin sudah memiliki sebagian dari ini tanpa menyebutnya memori.

Pekerjaan yang menarik terjadi di antara lapisan-lapisan tersebut. Sebuah sesi mencatat bahwa Anda menolak PNG. Instruksi Anda untuk menggunakan PDF menjadi preferensi yang dapat dibawa agen ke depannya. Koreksi pada proses ekspor menjadi sesuatu yang dapat diikutinya di lain waktu.

Konversi itu, dari “ini terjadi” ke “ini benar” hingga “beginilah cara kami melakukannya”, adalah bagian dari masalah pembelajaran yang kami angkat di awal, dan di situlah agen Dream milik Brain yang berjalan setiap malam mencurahkan upayanya.

Misalkan seseorang memanaskan ikan di microwave di dapur bersama. Muncul keluhan, jendela dibuka. Akhirnya, sebuah tanda dipasang: DILARANG IKAN.

Enam bulan kemudian, pelakunya sudah pindah, tetapi tandanya masih ada. Itulah persistensi. Anda dapat menjelaskan jenis-jenis memori melalui apa yang bertahan:

  • Memori kerja adalah apa yang Anda pantau saat membuat makan siang, seperti sup yang perlu diaduk.
  • Memori episodik adalah insiden ikan itu; bau yang mengikuti semua orang hingga ke lorong.
  • Memori semantik adalah pengetahuan yang Anda petik darinya—memanaskan ikan dapat meninggalkan bau yang tak kunjung hilang di dapur bersama.
  • Memori prosedural adalah instruksi yang mengatur apa yang terjadi selanjutnya. Jangan memanaskan ikan di microwave di sini. Tanda tersebut memungkinkan orang yang sama sekali tidak mengetahui insiden itu untuk tetap mengikuti aturannya.

Ada juga satu perbedaan lagi, karena hal itu mengubah apa yang kami bangun. Sebuah survei yang pertama kali diterbitkan pada Desember 2025, Memory in the Age of AI Agents, menyatakan bahwa pembagian jangka pendek versus jangka panjang saja tidak cukup—survei itu juga mengelompokkan memori berdasarkan bentuknya:

  • Tingkat token: Ini adalah konten eksplisit yang dibaca agen. File, catatan tersimpan, potongan yang diambil.
  • Parametrik: Ini adalah informasi yang dienkode dalam bobot hasil pembelajaran. Memperbaruinya memerlukan pelatihan atau metode penyuntingan model.
  • Laten: Ini adalah informasi yang tersimpan dalam representasi internal tanpa dituliskan sebagai teks yang dapat dibaca.

Di sini kami berfokus pada memori tingkat token; yaitu, informasi yang disimpan di luar model dan dibaca ke dalam konteksnya saat diperlukan. Wiki Markdown milik Brain adalah salah satu contohnya.

Saat kami memperbarui sebuah halaman, kami mengubah apa yang dapat dibaca agen pada tugas berikutnya, tetapi bobot dasarnya tetap sama. Itulah poin Packer di bagian pendahuluan: menjadi lebih baik melalui konteks yang disimpan agen, tanpa pelatihan ulang.

Bagaimana jenis-jenis memori agen bekerja sama?

Agen dapat meninjau kembali upaya sebelumnya, melihat di mana letak kesalahannya, dan memuat instruksi yang Anda berikan sesudahnya. Ada beberapa jenis memori yang terlibat dalam tugas yang sama, dan masing-masing tidak perlu mendapat giliran sendiri atau basis data terpisah.

Di sini, persistensi menentukan apa yang tetap tersedia setelah percakapan berakhir, sedangkan pengambilan menentukan apakah agen akan pernah melihatnya lagi.

Jenis memori

Apa yang bertahan lintas sesi?

Apa yang disimpannya?

Bagaimana Brain/ Computer membawanya ke dalam konteks?

Kerja

Status tugas yang tersimpan dapat dipulihkan, tetapi model hanya melihat apa yang diberikan aplikasi untuk setiap pemanggilan.

Prompt saat ini, giliran percakapan terbaru, hasil alat, dan informasi yang diambil

Indeks membantu agen menemukan memori yang tersedia; membaca file menambahkan konten yang relevan.

Episodik

Catatan dan ringkasan sesi yang disimpan.

Apa yang terjadi: upaya, tindakan, hasil, dan koreksi sebelumnya.

Agen mengikuti kutipan ke bukti sesi pendukung saat membutuhkan detailnya.

Semantik

Pengetahuan yang dikelola, dengan riwayat versi jika tercatat.

Fakta tentang orang, proyek, preferensi, serta hubungan di antara semuanya.

Agen membaca halaman knowledge/, mencari di file, dan mengikuti [[wikilinks]].

Prosedural

Instruksi, skill, dan alur kerja yang disimpan hingga direvisi atau dihapus.

Cara melakukan suatu tugas.

Computer memuat Skill dan instruksi yang relevan saat diperlukan.

Di Brain, kami mempertahankan jalur dari pelajaran kembali ke buktinya. Misalkan Anda meminta Computer melanjutkan proyek dari minggu lalu:

  • Indeks Brain memberitahunya halaman memori mana saja yang ada dan di mana menemukannya.
  • Brain membuka halaman proyek untuk membaca keputusan dan instruksi yang tersimpan.
  • Jika sebuah catatan menyebutkan bahwa Anda menolak suatu pendekatan, agen dapat mengikuti kutipannya kembali ke percakapan dan memeriksa alasannya.

Tautan ke halaman terkait memungkinkannya mencari orang atau proyek lain yang terlibat. Agen melakukannya dengan membaca dan mencari file. Misalnya, grep memungkinkannya menemukan penyebutan sebuah proyek berdasarkan namanya.

Kami juga telah menguji apa yang diperoleh agen dari kemampuan menjelajahi file. Dalam tolok ukur internal berisi 150 pertanyaan dokumen keuangan, agen eksplorasi yang menggunakan alat file standar mencapai skor jawaban 0,627, dibandingkan sekitar 0,37 untuk pencarian semantik pada korpus yang sama.

Sumber: X

Bagaimana cara meningkatkan memori agen AI?

Sebuah makalah Mei 2026 oleh Orogat dan Mansour mengidentifikasi empat kegagalan berulang pada memori agen: penyimpanan terus membesar, keyakinan yang usang tidak direvisi, informasi terlupakan saat ruang habis, dan pengambilan hanya membaca tanpa belajar apa pun dari kunjungan tersebut.

Solusi yang mereka usulkan adalah berhenti memperlakukan memori agentik sebagai penyimpanan dan memperlakukannya sebagai “status” yang berkembang melalui empat operasi: menyerap, merevisi, melupakan, mengambil. Itulah daftar periksa kami untuk bagian ini.

Pilih dengan cermat apa yang perlu diingat

Begitu memori yang “buruk” masuk, setiap langkah akan mewarisinya.

Workday AI Research menguji pendekatan selektif pada sekitar 1.500 kandidat memori dari tolok ukur LoCoMo, dengan mengajukan lima pertanyaan sebelum memutuskan untuk menyimpan memori mana pun:

  • Apakah informasi ini berguna? Apakah kemungkinan besar akan muncul lagi?
  • Apakah informasi ini dapat dipercaya? Apakah percakapan benar-benar menyatakannya, atau model yang mengisinya sendiri?
  • Apakah informasi ini baru, atau sudah tersimpan?
  • Apakah informasi ini masih mutakhir?
  • Apakah ini fakta yang bertahan lama atau keadaan sementara?

Hanya pertanyaan pertama yang memerlukan pemanggilan model. Empat lainnya dijalankan sebagai aturan dalam waktu total kurang dari 65 milidetik. Metode ini mencapai presisi 12% lebih tinggi pada keputusan simpan-atau-buang sekaligus mempertahankan 97% memori yang relevan.

Kontributor terbesar adalah pertanyaan terakhir—jika perbedaan antara informasi yang bertahan lama dan yang sementara dihilangkan, kualitas keputusan turun sekitar 18%.

Revisi jawaban tanpa kehilangan riwayatnya

Catat kapan suatu fakta mulai berlaku, sumber mana yang mendukungnya, dan apa yang digantikannya. Jika sumber-sumber saling bertentangan, biarkan pertentangan itu tetap terlihat sampai ada cukup bukti untuk menyelesaikannya. Dokumen terbaru pun bisa saja salah.

Brain memperbarui wiki menggunakan dokumen sumber, hasil konektor, dan koreksi pengguna. Setiap entri memori menautkan kembali ke sumbernya. Kami perlu agen menemukan jawaban terkini dan memiliki tempat untuk memeriksa jika jawaban itu tampak mencurigakan.

Lupakan dengan sengaja

Makalah tersebut menyebut salah satu mode kegagalan sebagai “pelupaan akibat kapasitas”: informasi dihapus demi memenuhi batas penyimpanan, bukan karena informasi itu sudah tidak berguna lagi.

Kembali ke dapur bersama. Setelah enam bulan, tidak ada yang peduli siapa yang memanaskan ikan di microwave atau berapa lama jendela dibiarkan terbuka. Namun, tanda itu masih punya tugas.

Jika orang berikutnya membuat makan siang, aturannya akan tersedia. Anda cukup mengarsipkan keluhannya.

Pemeriksaan kebaruan dan jenis informasi dari Workday dimulai sebelum penyimpanan, menyaring apa yang layak menjadi memori. Di Brain, kami juga meninjau kembali pengetahuan yang sudah ada seiring perubahan dokumen sumber dan koreksi dari pengguna. Dalam kedua kasus, kontennyalah yang membuat intervensi diperlukan.

Jadikan pengambilan sebagai masukan untuk pembaruan berikutnya

Agen mengambil sebuah fakta, menggunakannya, lalu membiarkan penyimpanan tetap persis seperti sebelumnya. Kecuali sistem merekam apa yang terjadi selanjutnya, tidak ada yang mencatat apakah fakta itu membantu atau justru membawa agen ke jalan buntu lainnya.

Catat hasilnya, sumbernya, dan setiap koreksi. Saat membangun Brain, kami menjadikan riwayat kerja itu bagian dari apa yang diingatnya: pendekatan mana yang berhasil, sumber mana yang tidak membuahkan hasil, dan apa yang dikoreksi pengguna setelah agen menyatakan pekerjaannya selesai. Brain memasukkan pengalaman itu ke dalam pembaruan wiki berkalanya, sehingga tugas-tugas berikutnya dapat memanfaatkannya.

Namun, semua ini tidak terlihat pada tolok ukur kemampuan mengingat. Cara untuk mengetahui apakah siklus ini berjalan adalah dengan memberi agen tugas yang hanya bisa diselesaikan dengan memori, lalu menghitung seberapa sering agen menyelesaikannya, lengkap dengan biaya dan latensinya. Itulah yang dilakukan DolphinBench, dan itulah sebabnya skor tertinggi masih berada di kisaran tujuh puluhan.

Cara membangun agen dengan memori persisten menggunakan Perplexity

Agent API Perplexity tidak menyertakan sistem memori yang memelihara dirinya sendiri seperti Brain. Kami lebih suka menyampaikannya sejak awal. Namun, yang diberikannya adalah komponen-komponen memori yang Anda butuhkan: tempat untuk menyimpan prosedur, cara membawa konteks antargiliran, dan alat untuk membaca dari serta menulis ke penyimpanan yang Anda kendalikan.

Mulai dengan memori prosedural

Skill kustom mengemas instruksi, prosedur, dan file pendukung dengan nomor versi. Tim platform dapat menulis pemeriksaan deployment, kriteria rollback, dan format pelaporannya sekali saja, lalu membuat berbagai aplikasi merujuk ke Skill yang sama. Saat prosedurnya berubah, tim tersebut mengunggah versi baru.

Sumber: X

Profil berada satu tingkat di atasnya. Profil menyimpan model, instruksi, alat, Skill, konektor, dan pengaturan eksekusi agen dalam satu ID berversi.

Kami menambahkan keduanya pada bulan September, bersama dengan konektor terkelola, sehingga administrator proyek dapat mengonfigurasi koneksi GitHub atau Slack yang disetujui sekali saja dan membiarkan aplikasi merujuk ke koneksi tersebut alih-alih menyimpan kredensial terpisah. Saat akses berubah, administrator cukup memperbarui koneksi di satu tempat.

Mengapa ini dianggap sebagai memori? Sekali lagi, kembali ke dapur dengan ikan yang dipanaskan di microwave. Siapa pun yang datang berikutnya dapat mematuhi tulisan DILARANG IKAN tanpa harus menyaksikan keluhan-keluhannya.

Skill melakukan tugas yang sama untuk agen, dengan ruang untuk langkah, pengecualian, dan pemeriksaan yang tidak akan muat di pintu microwave. Skill ditulis, diberi versi, dan tersedia saat tugas tersebut muncul lagi.

Kami juga menggunakan Skill untuk memandu pembaruan memori Dream. Namun, yang tidak dilakukan Skill adalah belajar sendiri. Instruksinya berubah saat versi baru diunggah, baik oleh seseorang maupun oleh proses otomatis.

Jika Anda ingin agen menyadari bahwa pemeriksaan rollback terus gagal pada satu layanan lalu menyesuaikan diri, itulah siklus sesi-ke-wiki yang dibahas sebelumnya.

Anda perlu menyimpan apa yang terjadi, menentukan apa yang harus diubah, dan membuat koreksinya tersedia di lain waktu. Untuk itu, dibutuhkan dua komponen berikutnya.

Pertahankan memori kerja di antara giliran percakapan

Agen menjalankan pemeriksaan deployment. Anda bertanya, ‘Mengapa itu gagal?’ Pertanyaan lanjutan yang wajar, asalkan agen masih dapat melihat apa yang dimaksud dengan “itu”.

Agent API kami mendukung dua cara untuk meneruskan konteks percakapan:

  • Kirim ulang percakapan sendiri: Sertakan pesan-pesan sebelumnya dalam array input permintaan berikutnya. Anda yang menentukan apa yang akan disimpan, diringkas, disamarkan, atau dibuang sebelum mengirimkannya.
  • Lanjutkan dari respons yang sudah selesai: Simpan ID-nya dan teruskan sebagai previous_response_id bersama pesan berikutnya. Kami menyimpan status percakapan di sisi server, sehingga aplikasi Anda tidak perlu mengirim ulang giliran-giliran sebelumnya. Anda dapat melanjutkan dari respons terbaru dalam rangkaian tersebut.

Mengirim ulang memberi Anda kendali atas apa yang dilihat agen, sedangkan melanjutkan dengan ID menghemat upaya menyusun ulang percakapan. Dengan cara mana pun, sertakan instruksi, alat, atau pengaturan model baru yang diperlukan untuk respons berikutnya.

Gunakan penyimpanan episodik dan semantik Anda sendiri

Bagian inilah yang diserahkan Agent API kepada Anda.

Salah satu caranya adalah pemanggilan fungsi. Anda menentukan alatnya, agen meminta pemanggilan, lalu aplikasi Anda menjalankannya dan mengembalikan hasilnya. Untuk memori, titik awal yang sederhana adalah operasi baca sebelum agen bertindak dan operasi tulis sesudahnya.

Jika Anda hanya mencatat fakta yang diambil agen, Anda tetap tidak tahu apakah fakta itu membantu. Catat hasilnya, sumbernya, dan apa pun yang dikoreksi pengguna, maka Anda sudah memiliki awal dari lapisan episodik.

Dukungan MCP kami memberi Anda cara lain. Jika server MCP jarak jauh yang kompatibel menyediakan operasi yang Anda perlukan, agen dapat memanggilnya tanpa Anda harus membungkus masing-masing operasi sebagai fungsi kustom.

Konektor kami memberi agen akses ke bukti di balik memori. GitHub, Slack, Google Drive, Datadog, Linear, dan Notion tersedia di katalog terkelola kami, dan Anda dapat menambahkan konektor kustom untuk sistem internal.

Terakhir, tentukan kapan riwayat ditinjau dan gambaran terkini direvisi.

Uji apa yang bertahan di sesi baru

Sekarang, tutup percakapannya. Mulai permintaan baru tanpa mengirim ulang pesan lama atau meneruskan previous_response_id, tetapi berikan agen akses ke penyimpanan memori yang sama. Minta agen mengerjakan tugas terkait tanpa mengulangi koreksinya.

Jika agen masih perlu diingatkan, pekerjaan Anda belum selesai.

Untuk agen deployment, buat beberapa pengujian seputar hal-hal yang seharusnya terbawa:

  • Koreksi tetap bertahan: Agen mengambil dan menggunakan perintah rollback yang sudah diverifikasi untuk layanan yang terdampak.
  • Koreksi tetap dalam cakupannya: Agen tidak mengubah prosedur layanan lain.
  • Informasi baru menggantikan panduan lama: Saat perintahnya berubah lagi, agen menggunakan versi terkini dan dapat menelusuri perubahan tersebut hingga ke sumbernya.

Cookbook pengujian regresi kami menunjukkan cara menyimpan output agen dan bukti yang diambil, memeriksanya terhadap perilaku yang diharapkan, serta membandingkan hasil eksekusi setelah mengubah instruksi atau model.

Pertahankan versi model, Profil, dan Skill tetap sama saat membandingkan hasil eksekusi dengan dan tanpa memori. Mulai setiap perbandingan dari snapshot penyimpanan yang sudah diketahui; jika tidak, satu pengujian dapat mengajari agen jawaban untuk pengujian berikutnya.

Saat sesuatu gagal, simpan kasusnya. Perubahan berikutnya harus lulus uji kasus tersebut.

Atau lewati proses pembuatannya: Brain di Computer

Jika yang Anda inginkan adalah siklus yang sudah jadi, bukan komponen-komponennya, itulah Computer. Brain berjalan di dalamnya, belajar dari empat sumber: sesi Anda, alat yang terhubung, file dan Artifact yang Anda buat, serta koreksi Anda. Pembaruan latar belakang Brain memperkuat apa yang masih berlaku, merevisi apa yang telah berubah, dan menandai informasi yang sudah usang.

Anda tidak perlu membangun siklus itu sendiri. Anda cukup mengerjakan pekerjaan Anda.

Memori menyimpan preferensi dan detail yang telah Anda bagikan. Brain menghubungkan proyek, orang, keputusan, dan pekerjaan yang belum selesai dengan bukti di baliknya.

Anda dapat memeriksa apa yang dipelajarinya di tampilan Memori, menelusuri entri kembali ke sumbernya, serta mengedit atau menghapusnya. Brain menggunakan aktivitas Anda sendiri, mengecualikan sesi Incognito, dan memiliki tombol aktif/nonaktifnya sendiri.

Di Rho, misalnya, keputusan untuk sebuah proyek penagihan tersebar di Slack, Notion, Jira, Figma, dan Google Docs. Tim tersebut menyiapkan Computer untuk meninjau perubahan semalaman, menandai ketidakkonsistenan, dan menerbitkan ringkasan pagi di Slack.

Software engineer mereka, Oktawian Jurkiewicz, menyadari bahwa Computer juga membangun memori untuk proyek tersebut. “Kami tidak mendefinisikannya,” katanya. “Computer sendiri yang menentukan titik data mana yang harus disimpan dari setiap sumber.”

Tim tersebut melaporkan pemangkasan waktu rapat mingguan dari 2,5 jam menjadi 15 menit dan memperkirakan penghematan 120 jam kerja selama proyek 12 minggu tersebut.

Penghematan 120 jam tersebut berasal dari keseluruhan alur kerja: konektor, eksekusi semalaman, dan ringkasan di Slack. Berapa banyak waktu yang dihemat berasal dari memori saja? Kami belum bisa mengukurnya.

Namun, yang dapat kami sarankan untuk sistem yang Anda bangun sendiri adalah kembali ke pengujian sebelumnya—jalankan tugas yang setara dengan lapisan memori diaktifkan dan dinonaktifkan, lalu bandingkan tingkat penyelesaian, biaya, dan waktu, termasuk waktu yang dihabiskan seseorang untuk mengoreksi hasilnya.

FAQ memori agen AI

Bisakah agen AI memiliki memori?

Ya. Agen AI dapat menyimpan informasi di berbagai sesi melalui penyimpanan percakapan, fakta, preferensi, dan prosedur yang dapat digunakan kembali. Sistem harus mengambil informasi tersebut saat relevan dan memperbaruinya saat keadaan berubah.

Brain di Perplexity Computer, misalnya, membangun konteks kerja dari sesi, alat yang terhubung, file, dan koreksi pengguna.

Berapa banyak RAM yang digunakan agen AI?

Tidak ada satu persyaratan baku. Jika agen Anda memanggil model yang di-hosting melalui Perplexity Agent API, Anda tidak perlu memuat model tersebut ke RAM Anda sendiri. Aplikasi dan alat lokal Anda tetap memerlukan memori.

Menjalankan model secara lokal berbeda. Dengan empat bit per parameter, delapan miliar parameter setara dengan sekitar 4 GB data bobot mentah. Memori yang sebenarnya dibutuhkan lebih tinggi jika Anda memperhitungkan overhead kuantisasi, pemrosesan konteks, dan perangkat lunak yang menjalankan model.

Apa memori terbaik untuk agen AI?

Konfigurasi terbaik bergantung pada apa yang perlu dibawa agen ke tahap berikutnya. Status percakapan mendukung pertanyaan lanjutan; catatan episodik menyimpan apa yang terjadi; memori semantik menampung pengetahuan terkini; memori prosedural menyediakan instruksi yang dapat digunakan kembali.

Sebagian besar pekerjaan berkelanjutan mendapat manfaat dari kombinasi. Kami menggunakan wiki yang saling terhubung dan didukung sumber untuk Brain. Untuk sistem yang Anda bangun sendiri, uji apakah konfigurasi tersebut membantu agen menyelesaikan tugas, menerapkan koreksi, dan menyingkirkan panduan yang sudah usang.