Brain: Memori Agen sebagai Wiki Pengetahuan

Pengguna Computer melakukan pekerjaan yang mencakup beberapa bulan dan ratusan sesi. Pada sesi kesepuluh, sistem seharusnya jauh lebih produktif daripada sesi pertama. Sistem harus mengumpulkan konteks tentang pengguna, preferensi mereka, dan pekerjaan yang telah selesai.

Misalnya, ketika diminta untuk menggambar diagram alur kerja yang sebelumnya dijelaskan oleh pengguna, Computer harus mengingat detail tersebut dan menggunakannya untuk membuat dan menghasilkan figur dalam gaya pilihan pengguna. Pengguna tidak perlu menjelaskan ulang detail alur kerja atau menegaskan kembali preferensi mereka untuk artefak PDF daripada PNG; sistem harus dapat memulihkan konteks tersebut secara akurat dari sesi masa lalu dan menerapkannya secara otomatis.

Memori adalah fondasi perbaikan agen yang berkelanjutan. Sistem memori yang efektif harus terstruktur, dapat dilacak, dan mudah beradaptasi, memungkinkan agen untuk mencari pada luas dan kedalaman yang tepat untuk setiap tugas sambil mendasarkan setiap keputusan pada informasi terkini.

Pengantar

Menanamkan konteks yang relevan kepada agen adalah masalah yang memiliki banyak segi. Pertama, agen perlu mengetahui apa yang ada dan cara mengaksesnya. Kedua, ketika mereka menemukan sepotong informasi yang berguna, mereka harus yakin bahwa informasi tersebut lengkap, akurat, dan mutakhir. Sebuah fakta yang terisolasi memiliki nilai yang terbatas kecuali agen dapat menemukan informasi terkait, memverifikasi bahwa informasi tersebut berasal dari sumber terpercaya, dan memastikan bahwa informasi tersebut tidak perlu diperbarui dengan pengamatan yang lebih baru.

Memasukkan berkas memori statis secara langsung ke dalam konteks model memaksimalkan aksesibilitas ke agen, tetapi menghadirkan pertukaran presisi-pengingatan klasik. Terlalu banyak informasi akan menjenuhkan jendela konteks agen dengan item-item dengan relevansi yang semakin kecil, sementara terlalu sedikit akan menurunkan kualitas jawaban karena kurangnya konteks yang relevan. Sebaliknya, akses sesuai permintaan ke basis data eksternal lebih fleksibel, tetapi memindahkan beban navigasi ke agen. Basis data vektor sering kali menyimpan fragmen yang terputus, dan basis data grafik mengharuskan agen untuk mengetahui cara melakukan kueri secara efektif.

Baru-baru ini, kami memperkenalkan Brain, komponen inti dari sistem memori Computer yang memberikan yang terbaik dari kedua dunia. Brain adalah wiki pengetahuan terstruktur yang berada di atas berkas memori statis dan bukti. Kutipan menghubungkan pernyataan ke sumbernya, dan potongan informasi terkait dihubungkan secara lateral. Wiki yang terorganisir membuat konteks dapat dinavigasi sesuai permintaan, sementara artefak terperinci disimpan di lapisan di bawahnya.

Brain terhubung ke sistem memori komprehensif dengan tiga komponen kunci: penyimpanan memori tahan lama, agen latar depan yang menggunakan memori untuk menjawab kueri, dan agen latar belakang yang memperbarui dan meningkatkan memori. Gambar berikut menggambarkan komponen-komponen ini yang terletak di dalam arsitektur sistem keseluruhan Brain.

Dalam artikel ini, kami menjelaskan setiap lapisan secara mendalam, menjelaskan bagaimana Brain mengatur memori, bagaimana agen menggunakannya, dan bagaimana proses latar belakang menjaganya tetap mutakhir. Kami juga menyajikan hasil dari evaluasi internal yang memvalidasi desain Brain, menunjukkan bahwa itu meningkatkan kinerja agen dengan biaya yang lebih rendah.

Organisasi dan Penyimpanan Memori

Memori membutuhkan representasi yang berskala sesuai dengan riwayat lengkap pengguna tanpa memaksa setiap bagian konteks masuk ke dalam prompt. Sistem memori Computer merepresentasikan konteks persisten sebagai sistem berkas. Brain mensintesis pengetahuan di seluruh sumber mentah, menghubungkan subjek terkait dan menghubungkan klaim kembali ke sesi dan berkas yang mendukungnya. Struktur ini, yang dirinci di bawah ini, memungkinkan kita mengatur memori dalam bentuk yang sangat cocok untuk agen.

Memori Berbasis Sistem Berkas

Sesi Computer sudah ada di dalam kotak pasir dengan sistem berkas, shell, dan utilitas I/O. Dalam merancang Brain, kami ingin memperkenalkan sesedikit mungkin mesin baru dalam antarmuka antara model dan memori agen. Inilah sebabnya kami membangun Brain di atas lapisan konteks asli sistem berkas. Memori dimaterialisasikan sebagai berkas di kotak pasir di bawah direktori memory/, dan agen cukup menggunakan alat yang sama pada berkas memori yang sudah digunakannya untuk hal lain.

Di akar pohon memori terdapat tiga direktori tingkat atas yang mempertahankan konteks pada berbagai tingkat abstraksi. knowledge/ adalah Brain itu sendiri, wiki pengetahuan tersintesis yang menautkan entitas, konsep, proyek aktif, dan pembelajaran masa lalu; notes/ berisi cuplikan tersuling yang diatur sebagai folder bertopik; dan sessions/ menyimpan indeks, ringkasan, dan transkrip lengkap sebagai riwayat mentah. Angka di bawah ini menunjukkan tampilan tata letak yang disederhanakan.

Permukaan tersebut sengaja dibuat redundan. Untuk pertanyaan sederhana satu-hop, sering kali cukup dengan mencari cuplikan di dalam /notes untuk kata kunci, sementara lapisan /knowledge paling berguna untuk pertanyaan yang memerlukan penggabungan bukti di minggu atau bulan sesi Computer.

Brain: Wiki Pengetahuan

Brain diformat sebagai LLM wiki, sistem berkas Markdown tertaut. Bentuk Markdown yang terstruktur ringan ini memberikan tampilan holistik dari konteks yang ada, sehingga agen dapat dengan mudah memahami catatan apa saja yang tersedia, bagaimana hubungannya, dan di mana menemukannya. Setiap halaman adalah tampilan terkelola dari satu subjek; halaman tersebut harus tetap berguna bila dibaca sendiri sekaligus membuat eksplorasi lebih lanjut menjadi mudah melalui tautan.

Tautan terdiri dari dua jenis. [[wikilinks]] adalah tepi konteks. Tautan ini menghubungkan halaman secara lateral; sebuah proyek dapat menautkan ke pemiliknya, kliennya, atau konsep yang bergantung darinya. Mengikutinya menjawab "apa lagi yang perlu saya ketahui?". Referensi [cite:N] adalah tepi bukti. Tautan ini menghubungkan klaim ke bawah ke sesi mentah atau sumber konektor yang mendukungnya. Mengikutinya menjawab "bagaimana saya tahu ini benar?"

Angka di bawah ini menggambarkan seperti apa sebagian dari Brain bagi persona sintetis, seorang peneliti akses bernama Nadia. Brain miliknya mencakup halaman pada proyek sampel, lari desain universal di Jepang, menyintesis pengetahuan dari sesi dan konektor. Tampilan grafik menunjukkan bagaimana konteks dan tepi bukti yang ada di halaman menautkan entitas dan sumber terkait.

Brain didukung oleh Git untuk mempertahankan riwayat versi, mendukung sifatnya yang terus berkembang. Halaman dapat diedit seiring waktu, sementara catatan perubahan merekam pembaruan kunci dan memungkinkan agen untuk dengan mudah memeriksa versi masa lalu dan diff. Hal ini juga mendukung koordinasi agen, yang sangat penting karena beberapa agen mungkin menggunakan dan memperbarui Brain secara bersamaan.

Menggunakan Brain

Saat menjawab kueri pengguna, agen harus dapat menemukan konteks yang tepat pada tingkat detail yang tepat. Struktur Brain memudahkan agen untuk menjelajahi memori. Agen dapat memilih antara langkah-langkah yang dapat ditindaklanjuti seperti mengikuti tautan konteks untuk menemukan informasi terkait, mengikuti tautan bukti untuk memverifikasi klaim, atau memanggil sub-agen untuk mendapatkan dan mensintesis konteks tambahan. Kami mengarahkan proses eksplorasi agen dengan sejumlah cara yang bertujuan untuk memaksimalkan kemudahan akses agen terhadap informasi yang relevan.

Strategi Eksplorasi

Kami menyertakan indeks ringkas Brain di dalam pesan pengguna awal, sehingga agen mulai dengan pengetahuan kerja tentang apa yang sudah ada. Agen kemudian berinteraksi dengan Brain menggunakan operasi yang akrab: membaca item tertentu yang direferensikan oleh indeks, menggunakan grep untuk mencari di seluruh halaman, mengikuti tautan dan memeriksa kutipan, membandingkan revisi Git, dan turun ke sesi atau lintasan mentah. Blok kode di bawah ini menggambarkan contoh perintah untuk persona sintetis.

Agen menjelajahi konteks ini melalui loop yang diarahkan sendiri, daripada pipa tetap. Oleh karena itu, agen dapat terus mencari sampai merasa puas dengan konteks yang ditemukan. Agen juga dapat memilih kapan harus memeriksa kutipan dan bukti untuk menemukan atau memverifikasi detail. Masalah preferensi kecil dapat diadopsi langsung dari satu halaman Brain, sementara keputusan konsekuensial atau konflik antar sumber dapat membenarkan mengikuti kutipan dan membaca catatan asli. Struktur berbasis grafik memungkinkan agen memilih antara langkah-langkah konkret berikutnya, alih-alih mencari tanpa arah untuk informasi terkait.

Materialisasi Berkas

Agar eksplorasi agen dapat berfungsi, agen perlu memiliki akses ke seluruh pohon memory/ melalui sistem berkas kotak pasir. Menyalin seluruh pohon secara lokal setiap kali kotak pasir di-boot adalah hal yang mahal dan tidak perlu, karena agen tidak akan menyentuh sebagian besar berkas tersebut. Pilihan lainnya adalah menggunakan sistem berkas jarak jauh, sehingga agen dapat mengakses berkas apa pun tanpa menyalinnya secara lokal. Namun, agen sering kali melakukan ribuan operasi sistem berkas dalam satu perintah; jika masing-masing menjadi permintaan jaringan, biaya perjalanan pulang-pergi mulai mendominasi loop eksplorasi. Dalam pengujian internal, beban kerja grep sederhana pada jalur berbasis FUSE jarak jauh kira-kira 400 hingga 500 kali lebih lambat daripada operasi setara pada berkas lokal.

Sebagai gantinya, kami membangun kumpulan kerja lokal dari berkas yang dimaterialisasikan, sementara korpus yang lebih besar tetap berada di belakang sistem pengambilan memori. Computer melakukan pramuat peta awal (diambil dari memori terbaru, sesi, ringkasan, dan pengetahuan yang tersedia) ke kotak pasir saat di-boot. Agen Computer memiliki akses ke Memory Agent, sub-agen yang dapat melakukan pencarian semantik dan memuat kumpulan berkas baru. Ketika konteks yang diperlukan tidak ada, Computer dapat memanggil Memory Agent dengan deskripsi informasi yang diperlukan. Memory Agent mencari di antara berkas-berkas, mengembalikan sintesis teks langsung dan mematerialisasikan catatan pendukung sebagai berkas di bawah pohon memori. Dengan cara ini, kumpulan kerja berkembang secara alami dan bertahap dari waktu ke waktu, mempertahankan jalur yang stabil dan hubungan sumber untuk bukti yang sudah ada.

Desain ini secara bersih menyelesaikan hambatan latensi. Menyimpan berkas yang relevan secara lokal memastikan bahwa operasi sistem berkas yang diperlukan untuk eksplorasi tetap cepat, dan pengambilan batch memungkinkan kumpulan berkas yang dimaterialisasikan bertambah tanpa memerlukan panggilan terpisah untuk setiap berkas atau memuat sejumlah besar berkas yang tidak relevan. Desain agen bersarang juga memberikan manfaat pengambilan agen kepada Computer tanpa mengharuskan agen utama mencari korpus backend lengkap secara langsung setiap kali, mempertahankan jendela konteksnya sendiri untuk informasi bernilai tertinggi.

Memelihara Brain

Pengguna terus belajar dari pekerjaan yang mereka lakukan and percakapan yang mereka miliki, sehingga memori agen harus melakukan hal yang sama. Agar Brain tetap berguna, itu harus menjadi representasi ringkas dari pengetahuan paling penting. Halaman baru harus dibuat untuk entitas baru yang penting, informasi baru harus ditambahkan ke halaman Brain yang relevan, and konteks usang harus dihapus secara musiman. Misalnya, jika pekerjaan pengguna berubah, Brain harus mencerminkan perubahan tersebut; Brain harus berisi pekerjaan baru pengguna dan memprioritaskan informasi yang terkait dengan tanggung jawab and proyek baru mereka.

Brain dikelola oleh agen latar belakang yang kami sebut Dream. Agen Dream berjalan secara offline di atas memori berbasis berkas, mensintesis informasi baru ke dalam pembaruan Brain. Kami dengan cermat mendefinisikan ruang lingkup dan perilaku agen Dream untuk menjalankan tugas ini secara efisien, beserta pengaman khusus Dream untuk memastikan pembaruan Brain konsisten dan akurat.

Dream: Agen Latar Belakang untuk Penyempurnaan Memori

Agen Dream berjalan di kotak pasir dengan akses ke sistem berkas dan alat baca-saja yang sama seperti yang dimiliki sesi Computer interaktif, tetapi satu-satunya tujuan mereka adalah meningkatkan konteks untuk sesi mendatang. Setiap eksekusi dimulai dari Brain yang dihasilkan oleh eksekusi sebelumnya alih-alih membangun kembali konteks pengguna dari awal. Agen kemudian menggunakan Brain saat ini untuk mengorientasikan dirinya dan menghasilkan Brain yang diperbarui untuk digunakan oleh eksekusi mendatang.

Agen Dream menerima lingkungan dan memutuskan cara menjelajahinya, daripada menerima input tetap yang diratakan menjadi satu prompt. Agen ini dapat menavigasi memori berbasis berkas, menggunakan alat konektor baca-saja yang disetujui untuk memverifikasi sepotong pengetahuan, dan mendelegasikan bagian pekerjaan yang dibatasi ke sub-agen, termasuk Memory Agent. Ruang lingkup dan tanggung jawab agen Dream ditentukan sebagai Skill.

Secara garis besar, eksekusi Dream terdiri dari 4 fase:

1. Orientasi: Agen menyelesaikan prosedur orientasi yang berurutan. Agen mengidentifikasi ruang lingkup otoritatif, instruksi tetap, log penghapusan, input tambahan, and kondisi penghentian.
2. Meringkas sesi: Untuk setiap sesi yang baru (atau memiliki giliran baru) sejak pembaruan terakhir, agen menulis (atau memperbarui) ringkasan singkat tentang sesi tersebut.
3. Lampirkan fakta ke subjek: Agen menambahkan setiap pengamatan yang dianggapnya signifikan ke tempat yang tepat, yang biasanya berupa halaman wiki. Agen menyelidiki dan menanyai konektor terautentikasi jika tersedia.
4. Perbarui wiki pengetahuan: Agen memperbarui wiki berdasarkan temuannya. Agen dapat menghasilkan halaman baru untuk subjek yang tahan lama, merevisi halaman ketika sintesis saat ini telah berubah, atau menambahkan tautan atau kutipan baru yang mendukung klaim faktual. Agen juga dapat memilih untuk tidak membuat perubahan apa pun ketika grafik saat ini sudah benar.

Untuk memastikan bahwa setiap pembaruan pada Brain lengkap dan konsisten, agen menulis status yang diusulkan ke dalam pohon output bertahap. Tidak ada perubahan permanen yang dibuat sampai agen membuat semua pembaruan yang dianggapnya perlu. Mengoordinasikan keputusan tersebut dalam satu proses agen memungkinkan pembaruan grafik secara keseluruhan alih-alih sebagai halaman yang tidak terkait.

Setiap perubahan harus melewati dua jenis pemeriksaan verifikasi. Pemeriksaan validasi deterministik memastikan bahwa halaman dibentuk dengan baik dan memenuhi kriteria objektif, seperti frontmatter yang diperlukan dan format kutipan. Pemeriksaan verifikasi semantik memastikan bahwa usulan sintesis didukung oleh bukti yang dikumpulkan dan tetap konsisten dengan sisa grafik. Setelah agen selesai dengan sukses, langkah sinkronisasi terkontrol membandingkan output bertahap dengan status sebelumnya dan menerapkan perubahan ke repositori. Ketika langkah sinkronisasi selesai, kumpulan pengeditan akhir dapat diperiksa melalui riwayat versi Git.

Memvalidasi Brain

Sistem memori yang berguna harus mempertahankan bukti yang relevan, memunculkannya saat dibutuhkan, dan membantu agen mengubah bukti tersebut menjadi jawaban yang benar. Oleh karena itu, kami mengevaluasi Brain di berbagai tingkat: ablasi offline terkontrol, pemutaran ulang berpasangan berkelanjutan, dan eksperimen produksi acak.

Evaluasi Offline

Evaluasi offline utama kami menggunakan dataset internal sebanyak 640 pertanyaan di 44 persona sintetis. Persona tersebut mereproduksi pola turunan produksi dalam irama sesi, jumlah giliran, bauran topik, dan kepadatan fakta, tanpa berisi teks kueri produksi untuk menjaga privasi pengguna. Setiap akun diisi melalui jalur memori produksi, termasuk ekstraksi memori, ringkasan percakapan, dan kompilasi wiki pengetahuan oleh Dream. Untuk setiap pertanyaan, jawaban yang benar secara mekanis terikat pada bukti spesifik yang ada dalam riwayat akun.

Misalnya, untuk Nadia, persona sintetis peneliti akses yang diperkenalkan sebelumnya, dataset mencakup pertanyaan, "Organisasi mana saja yang saya temui di Kyoto dan Sendai?" Jawabannya (Sora City Lab di Kyoto dan Sapphir Mobility Coop di Sendai) muncul secara langsung pada halaman Wiki yang sesuai.

Kami membandingkan pertanyaan dan akun yang sama dengan wiki pengetahuan terkompilasi diaktifkan versus dinonaktifkan. Permukaan memori lainnya tetap tersedia dalam kedua kondisi tersebut. Hal ini mengisolasi kontribusi inkremental dari Brain, alih-alih membandingkan memori dengan tanpa memori. Secara keseluruhan, Brain meningkatkan kebenaran jawaban dari 0,600 menjadi 0,661, kenaikan sebesar 6,1 poin persentase, dan pengingatan bukti dari 0,573 menjadi 0,625, kenaikan sebesar 5,2 poin persentase. Efek terbesar terjadi pada pertanyaan tentang preferensi (+10,2 pp), penalaran temporal (+8,6 pp), dan mengekstrak detail dari aktivitas sebelumnya (+6,9 pp). Pada 84% pertanyaan, agen secara terverifikasi menyentuh sumber yang terikat pada bukti emas.

Kami juga menjalankan ablasi Brain yang cocok pada bagian dari dua tolok ukur publik. Pada LoCoMo, menghapus wiki mengurangi kebenaran jawaban sebesar 4,6 poin persentase secara rata-rata, selama tiga kali eksekusi dengan model yang berbeda. Pada LongMemEval-S, hal itu tidak menghasilkan perubahan yang signifikan secara statistik. Hasil ini konsisten dengan peran yang dimaksudkan untuk Brain. LongMemEval-S terutama menguji pemulihan fakta dari masing-masing sesi, di mana transkrip yang mendasarinya memberikan jalur redundan ke jawaban. LoCoMo memberikan penekanan yang lebih besar pada bukti yang tersebar di percakapan, pembicara, dan tanggal, menciptakan lebih banyak peluang bagi sintesis lintas sesi wiki untuk berkontribusi.

Secara keseluruhan, dengan Brain diaktifkan, agen produksi mencapai kebenaran jawaban 0,91 pada LongMemEval-S dan 0,83 pada LoCoMo. Karena eksperimen ini menggunakan subset tolok ukur, hasil tersebut bukanlah hasil tolok ukur yang pasti. Namun, ablasi tersebut tetap memberikan sinyal kuat bahwa wiki meningkatkan kinerja, terutama ketika bukti harus diintegrasikan lintas percakapan. Karena Brain adalah bagian dari Computer, alih-alih sistem pengambilan spesifik tolok ukur yang dioptimalkan, kami percaya bahwa daya saing hanya akan meningkat dengan tugas yang lebih menyerupai alur kerja produksi.

Evaluasi Online

Dataset offline tidak dapat menangkap setiap fitur riwayat pengguna nyata, jadi kami juga menjalankan evaluasi berpasangan harian atas kelompok turunan produksi baru. Pertanyaan tetap yang sama dijawab terhadap status pengguna yang cocok dengan Brain yang diaktifkan dan dinonaktifkan, kemudian dinilai untuk kebenaran, kekinian, dan pengingatan.

Hasil pendahuluan yang dilaporkan pada 18 Juni menunjukkan bahwa Brain meningkatkan kebenaran jawaban sebesar 25% dan pengingatan sebesar 16%. Peningkatan kinerja ini terus bertahan; selama 30 hari terakhir, sesi yang mengaktifkan Brain mengungguli kontrol pada setiap eksekusi dan setiap dimensi yang dinilai. Dalam istilah absolut, pengguna Computer menikmati peningkatan sebesar 9,3 poin dalam kebenaran, 8,0 poin dalam kekinian, dan 8,9 poin dalam pengingatan. Lintasan yang mengaktifkan Brain juga menggunakan sekitar 15% lebih sedikit token, 10% lebih murah, dan menyelesaikan pembuatan 10% lebih cepat.

Perbaikan Berkelanjutan

Kami terus menyempurnakan Brain untuk menghadirkan pengalaman memori terbaik bagi pengguna. Salah satu perubahan baru-baru ini menempatkan indeks ringkas Brain langsung di dalam konteks awal agen daripada mengharuskan agen untuk menemukan dan membacanya nanti. Dalam eksperimen acak, perlakuan prefill ini meningkatkan penggunaan Brain dan mengurangi ketidakpuasan terkait memori sebesar 6,9%.

Alat evaluasi offline juga berfungsi ganda sebagai bagian dari jalur peningkatan otonom. Usulan perubahan pada sub-agen memori Brain, keterampilan pengambilan, dan prompt dijalankan melalui ablasi yang cocok pada dataset internal dan tolok ukur publik kami. Agen Computer dapat mengiterasi hasil secara otonom, mempertahankan perubahan, delta, and biaya setiap iterasi sebagai catatan tahan lama dan hanya menyimpan perubahan yang menggerakkan angka. Hasilnya adalah sistem di mana evaluator Brain juga merupakan pengoptimalnya, mendorong perbaikan di masa depan.

Kesimpulan

Pembelajaran berkelanjutan adalah salah satu tantangan menentukan untuk membangun sistem agen yang bekerja selama berminggu-minggu dan berbulan-bulan. Kami percaya arsitektur memori paling baik diekspos sebagai lingkungan yang dapat langsung dieksplorasi oleh agen menggunakan perangkat biasa mereka. Mengekspos memori sebagai sistem berkas, dengan Brain sebagai wiki pengetahuan terstruktur di atasnya, membuat konteks dapat dinavigasi secara efisien melalui alat yang sederhana dan akrab.

Brain dirancang untuk peningkatan diri, sehingga sistem memori dapat terus membaik seiring bertambahnya penggunaan. Agen latar belakang Dream menyaring informasi segar ke dalam pembaruan Brain, memastikan bahwa agen latar depan selalu memulai sesi baru dengan tampilan konteks terbaru yang terorganisir. Alat evaluasi berfungsi ganda sebagai tempat pengujian untuk loop auto-penelitian pada arsitektur memori inti dan antarmuka yang menghadap agen.

Brain telah menghasilkan sesi agen yang lebih akurat dan berkinerja tinggi sekaligus mengurangi token yang dihabiskan. Desain bersama kami yang cermat antara Brain dengan tumpukan produksi Computer memastikan peningkatan ini diterjemahkan secara langsung ke dalam manfaat nyata bagi pengguna.

Kami terus membangun lebih banyak kemampuan untuk meningkatkan kualitas memori Computer. Sementara itu, bagi pengguna dengan Brain yang diaktifkan, memori akan meningkat di setiap sesi.