Brain: memoria axéntica como wiki de coñecemento

Os usuarios de Computer fan un traballo que abarca meses e centos de sesións. Para a décima sesión, o sistema debería ser moito máis produtivo que na primeira. Debería acumular contexto sobre o usuario, as súas preferencias e o traballo que xa se realizou.

Por exemplo, cando se lle pide que debuxe un diagrama dun fluxo de traballo que o usuario explicou anteriormente, Computer debería recordar os detalles e usalos para crear e emitir unha figura no estilo preferido do usuario. O usuario non debería ter que volver explicar os detalles do fluxo de traballo nin reiterar a súa preferencia por PDF fronte a artefactos PNG; o sistema debería ser quen de recuperar con precisión ese contexto de sesións pasadas e aplicalo automaticamente.

A memoria é a base da mellora continua dos axentes. Un sistema de memoria eficaz debe ser estruturado, rastreable e adaptable, o que permite aos axentes buscar coa amplitude e profundidade axeitadas para cada tarefa á vez que fundamentan cada decisión na información máis actual.

Introdución

Infundir contexto relevante aos axentes é un problema polifacético. En primeiro lugar, os axentes necesitan saber que existe e como acceder a el. En segundo lugar, cando atopan unha peza de información útil, necesitan estar seguros de que é completa, precisa e actualizada. Un feito illado ten un valor limitado a menos que o axente poida atopar información relacionada, verificar que provén dunha fonte de confianza e asegurarse de que non necesita ser actualizado cunha observación máis recente.

Meter ficheiros de memoria estáticos directamente no contexto do modelo maximiza a accesibilidade para os axentes, pero presenta unha compensación clásica de precisión e recuperación. Demasiada información saturará a ventá de contexto do axente con elementos de relevancia cada vez menor, mentres que moi pouca degradará a calidade da resposta debido á falta de contexto relevante. Pola contra, o acceso baixo demanda a bases de datos externas é máis flexible, pero desprazza a carga da navegación ao axente. As bases de datos vectoriais adoitan almacenar fragmentos desconectados, e as bases de datos de grafos requiren que os axentes sepan como consultar con eficacia.

Recentemente, introducirnos Brain, un compoñente fundamental do sistema de memoria de Computer que ofrece o mellor de ambos mundos. Brain é unha wiki de coñecemento estruturada que se atopa por riba dos ficheiros de memoria estáticos e as evidencias. As citas vinculan as afirmacións coas súas fontes, e as pezas de información relacionadas conéctanse lateralmente. A wiki organizada fai que o contexto sexa navegable baixo demanda, mentres que os artefactos detallados consérvanse na capa inferior.

Brain conéctase a un sistema de memoria completo con tres compoñentes clave: almacenamento de memoria duradeiro, axentes de primeiro plano que usan a memoria para responder consultas, e axentes de segundo plano que actualizan e melloran a memoria. A figura seguinte representa estes compoñentes situados dentro da arquitectura global do sistema de Brain.

Neste artigo, describimos en profundidade cada capa, explicando como organiza Brain a memoria, como a usan os axentes e como os procesos en segundo plano a manteñen actualizada. Tamén presentamos resultados de avaliacións internas que valida o deseño de Brain, demostrando que mellora o rendemento dos axentes a un menor custo.

Organización e almacenamento da memoria

A memoria necesita unha representación que se adapte a todo o historial dun usuario sen obrigar a meter cada anaco de contexto no aviso (prompt). O sistema de memoria de Computer representa o contexto persistente como un sistema de ficheiros. Brain sintetiza coñecemento a través de fontes sen procesar, conectando temas relacionados e relacionando as afirmacións coas sesións e ficheiros que as apoian. Esta estrutura, detallada a continuación, permítenos organizar a memoria nun formato especialmente axeitado para os axentes.

Memoria baseada en sistema de ficheiros

As sesións de Computer xa viven nun contorno illado cun sistema de ficheiros, un intérprete de ordes (shell) e utilidades de E/X. Ao deseñar Brain, quixemos introducir a menor cantidade posible de maquinaria nova na interface entre o modelo e a memoria do axente. Por este motivo, construímos Brain sobre unha capa de contexto nativa do sistema de ficheiros. A memoria materialízase como ficheiros no contorno illado baixo un directorio memory/, e o axente simplemente utiliza nas ficheiros de memoria as mesmas ferramentas que xa usa para todo o demais.

Na raíz da árbore de memoria atópanse tres directorios de nivel superior que manteñen o contexto en diferentes niveis de abstracción. knowledge/ é o propio Brain, unha wiki de coñecemento sintetizada que vincula entidades, conceptos, proxectos activos e aprendizaxes pasadas; notes/ contén fragmentos destilados organizados como cartafoles temáticos; e sessions/ contén índices, resumos e transcricións completas como historiales sen procesar. A figura seguinte mostra unha vista simplificada da disposición.

As superficies son deliberadamente redundantes. Para preguntas simples de salto único, a miúdo abonda con buscar fragmentos en /notes dunha palabra clave, mentres que a capa /knowledge é máis útil para preguntas que requiren coser evidencias a través de semanas ou meses de sesións de Computer.

Brain: A wiki de coñecemento

Brain ten o formato dunha wiki de LLM, un sistema de ficheiros Markdown conectados. Esta forma de Markdown lixeiramente estruturada ofrece unha visión holística do contexto existente, para que os axentes poidan comprender facilmente que rexistros están dispoñibles, como se relacionan e onde atopalos. Cada páxina é unha vista mantida dun tema; debe seguir sendo útil cando se le soa á vez que facilita unha maior exploración a través de ligazóns.

As ligazóns son de dous tipos. As [[wikilinks]] son arestas de contexto. Conectan as páxinas lateralmente; un proxecto pode ligar co seu propietario, o seu cliente ou cos conceptos dos que depende. Seguir estas respostas responde a "que máis necesito saber?"; as referencias [cite:N] son arestas de evidencia. Conectan as afirmacións cara abaixo coas sesións sen procesar ou fontes de conectores que as respaldan. Seguilas responde a "como sei que isto é certo?"

As cifras seguintes mostran como sería unha parte de Brain para unha persoa sintética, unha investigadora de accesibilidade chamada Nadia. O seu Brain inclúe unha páxina sobre un proxecto de mostra, un sprint de deseño universal no Xapón, sintetizando coñecemento de sesións e conectores. A vista de grafos demostra como o contexto e as arestas de evidencia presentes na páxina conectan entidades e fontes relacionadas.

Brain conta co respaldo de Git para preservar o historial de versións, o que permite soster a súa natureza en constante evolución. As páxinas pódense editar co tempo, mentres que os rexistros de cambios (changelogs) gravan as actualizacións clave e permiten aos axentes inspeccionar facilmente as versións anteriores e as diferenzas (diffs). Isto tamén facilita a coordinación axéntica, algo crítico xa que varios axentes poden estar a usar e actualizar Brain á vez.

Uso de Brain

Ao responder a unha consulta dun usuario, os axentes deben ser quen de atopar o contexto axeitado ao nivel de detalle correcto. A estrutura de Brain facilita que os axentes exploren a memoria. Os axentes poden elixir entre pasos accionables como seguir ligazóns de contexto para atopar información relacionada, seguir ligazóns de evidencia para verificar afirmacións ou chamar a un subaxente para obter e sintetizar contexto adicional. Orientamos o proceso de exploración axéntica dunha serie de formas dirixidas a maximizar a facilidade de acceso dos axentes á información relevante.

Estratexia de exploración

Incluímos un índice compacto de Brain dentro da mensaxe de usuario inicial, polo que o axente comeza con coñecemento de traballo do que xa existe. O axente interactúa entón con Brain usando operacións familiares: ler elementos específicos referenciados polo índice, usar grep para buscar a través de páxinas, seguir ligazóns e inspeccionar citas, comparar revisións de Git e descender a sesións ou traxectorias sen procesar. O bloque de código seguinte mostra comandos de mostra para unha persoa sintética.

Os axentes exploran este contexto a través dun bucle autodirixido, en lugar dunha canalización fixa. Polo tanto, o axente pode continuar a buscar ata que estea satisfeito co contexto atopado. O axente tamén pode elixir cando inspeccionar as citas e a evidencia para atopar ou verificar detalles. Un asunto menor de preferencia pode adoptarse directamente dunha única páxina de Brain, mentres que unha decisión consecuente ou un conflito entre fontes pode xustificar seguir a cita e ler o rexistro orixinal. A estrutura baseada en grafos permítelle ao axente elixir entre seguintes pasos concretos, en lugar de buscar sen rumbo información relacionada.

Materialización de ficheiros

Para que a exploración axéntica funcione, o axente necesita ter acceso a toda a árbore memory/ a través do sistema de ficheiros do contorno illado. Copiar toda a árbore localmente cada vez que se inicia un contorno illado é custoso e innecesario, xa que o axente non tocará a gran maioría deses ficheiros. Outra opción sería usar un sistema de ficheiros remoto, para que os axentes poidan acceder a calquera ficheiro sen copialos localmente. Con todo, os axentes adoitan realizar miles de operacións no sistema de ficheiros nun único comando; se cada unha se converte nunha solicitude de rede, o custo de ida e volta pasa a dominar o bucle de exploración. En probas internas, as cargas de traballo simples de grep nunha ruta remota respaldada por FUSE foron aproximadamente de 400 a 500 veces máis lentas que as operacións equivalentes en ficheiros locais.

Pin do anterior, construímos un conxunto de traballo local de ficheiros materializados, mentres que o corpus máis grande permanece detrás dun sistema de recuperación de memoria. Computer precarga un mapa inicial (sacado de memorias recentes, sesións, resumos e coñecemento dispoñible) no contorno illado cando se inicia. Os axentes de Computer teñen acceso a un axente de memoria, un subaxente que pode realizar buscas semánticas e cargar un novo conxunto de ficheiros. Cando falta o contexto necesario, Computer pode chamar ao axente de memoria cunha descrición da información requirida. O axente de memoria busca a través dos ficheiros, devolvendo unha síntese de texto inmediata e materializando os rexistros de apoio como ficheiros baixo a árbore de memoria. Deste xeito, o conxunto de traballo expándese de forma natural e gradual co tempo, preservando rutas estables e relacións de fontes para a evidencia xa presente.

Este deseño resolve de forma limpa o problema de cuotelo de estrangulamento (latencia). Almacenar os ficheiros relevantes localmente garante que as operacións do sistema de ficheiros necesarias para a exploración se manteñan rápidas, e a recuperación por lotes permite que o conxunto de ficheiros materializados creza sen requirir chamadas separadas para cada ficheiro ou cargar un gran número de ficheiros irrelevantes. O deseño de axentes anidados tamén lle dá a Computer os beneficios da recuperación axéntica sen esixir que o axente principal busque directamente no corpus de backend completo cada vez, preservando a súa propia ventá de contexto para a información de maior valor.

Mantemento de Brain

Os usuarios están a aprender constantemente do traballo que fan e das conversas que teñen, polo que a memoria axéntica necesita facer o mesmo. Para que Brain siga sendo útil, debería ser unha representación concisa do coñecemento máis importante. Deberían crearse novas páxinas para novas entidades importantes, debería engadirse nova información ás páxinas de Brain relevantes, e o contexto obsoleto debería eliminarse oportunamente. Por exemplo, se o traballo dun usuario cambia, Brain debería reflectir ese cambio; debería conter o novo traballo do usuario e priorizar a información relacionada coas súas novas responsabilidades e proxectos.

Brain é mantido por axentes en segundo plano aos que chamamos Dream. Os axentes de Dream executan sen conexión sobre a memoria baseada en ficheiros, sintetizando nova información en actualizacións de Brain. Definimos coidadosamente o alcance e o comportamento dos axentes de Dream para levar a cabo esta tarefa de forma eficiente, xunto con salvagardas específicas de Dream para garantir que as actualizacións de Brain sexan consistentes e precisas.

Dream: axentes en segundo plano para o refinamento da memoria

Os axentes de Dream executan en contornos illados con acceso ao mesmo sistema de ficheiros e ferramentas de só lectura que tería unha sesión interactiva de Computer, pero o seu único obxectivo é mellorar o contexto para futuras sesións. Cada execución comeza desde o Brain producido polas execucións anteriores en lugar de reconstruír o contexto do usuario desde cero. Despois, utiliza ese Brain actual para orientarse e produce un Brain actualizado para que o utilicen futuras execucións.

Un axente de Dream recibe un contorno e decide como exploralo, en vez de recibir unha entrada fixa aplanada nun único aviso (prompt). Pode navegar pola memoria baseada en ficheiros, utilizar ferramentas de conectores aprobadas de só lectura para verificar unha peza de coñecemento e delegar partes delimitadas do traballo a subaxentes, incluíndo o axente de memoria. O alcance e as responsabilidades do axente de Dream especifícanse como un Skill.

En termos xerais, unha execución de Dream consta de 4 fases:

1. Orientar: O axente completa un procedemento de orientación ordenado. Identifica o alcance autorizados, as instrucións permanentes, o rexistro de eliminacións, as entradas adicionais e as condicións de parada.
2. Resumir sesións: Para cada sesión que sexa nova (ou tivese novos xiros) desde a última actualización, o axente escribe (ou actualiza) un breve resumo da sesión.
3. Adxuntar feitos a suxeitos: O axente engade cada observación que considera significativa ao seu lugar axeitado, que normalmente é unha páxina de wiki. Sondaa e consulta conectores autenticados cando están dispoñibles.
4. Actualizar wiki de coñecemento: O axente actualiza a wiki en función dos seus descubrimentos. Pode producir novas páxinas para suxeitos duradeiros, revisar páxinas cando a síntese actual cambiou, ou engadir novas ligazóns ou citas que apoien unha afirmación baseada en feitos. Tamén pode elixir non facer ningún cambio cando o grafo actual xa é correcto.

Para garantir que calquera actualización de Brain sexa completa e consistente, os axentes escriben o estado proposto nunha árbore de saída provisional. Non se fan cambios permanentes ata que o axente realizou todas as actualizacións que considera necesarias. Coordinar esas decisións nun único proceso axéntico fai posible actualizar o grafo como un todo en lugar de facelo como páxinas non relacionadas.

Calquera cambio debe pasar dous tipos de comprobacións de verificación. As comprobacións de validación deterministas garanten que as páxinas estean ben formadas e cumpran criterios obxectivos, como os metadatos iniciais (frontmatter) requiridos e o formato de cita. As comprobacións de verificación semántica garanten que unha síntese proposta estea apoiada pola evidencia recollida e siga sendo consistente co resto do grafo. Despois de que o axente remate con éxito, un paso de sincronización controlado compara a saída provisional co estado anterior e aplica os cambios ao repositorio. Cando se completa un paso de sincronización, o conxunto final de edicións pódese inspeccionar a través do historial de versións de Git.

Validando Brain

Un sistema de memoria útil debe preservar a evidencia relevante, mostrala cando sexa necesaria e axudar ao axente a converter esa evidencia nunha resposta correcta. Por conseguinte, avaliamos Brain a múltiples niveis: ablacións controladas sen conexión, reprodución emparellada continua e experimentos de produción aleatorizados.

Avaliacións sen conexión

A nosa avaliación principal sen conexión utiliza un conxunto de datos interno de 640 preguntas en 44 persoas sintéticas. As persoas reproducen patróns derivados de produción en canto a cadencia de sesións, recuento de xiros, mestura de temas e densidade de feitos, á vez que non conteñen ningún texto de consulta de produción para preservar a privacidade do usuario. Cada conta énchese a través da canalización de produción de memoria, incluíndo a extracción de memoria, os resumos de conversas e a compilación da wiki de coñecemento por parte de Dream. Para cada pregunta, a resposta correcta está vinculada mecanicamente a unha evidencia específica presente no historial da conta.

Por exemplo, para Nadia, a persoa sintética investigadora de accesibilidade introducida anteriormente, o conxunto de datos inclúe a pregunta: "Qué organizacións estou a atopar en Kyoto e Sendai?" A resposta (Sora City Lab en Kyoto e Sapphir Mobility Coop en Sendai) aparece directamente na páxina de Wiki correspondente.

Comparamos as mesmas preguntas e contas coa wiki de coñecemento compilada activada fronte a desativada. As demais superficies de memoria seguen dispoñibles en ambas as condicións. Isto illá a contribución incremental de Brain, en vez de comparar a memoria con non ter memoria. En xeral, Brain incrementou a corrección das respostas de 0,600 a 0,661, un ganho de 6,1 puntos porcentuais, e a recuperación de evidencias de 0,573 a 0,625, un ganho de 5,2 puntos porcentuais. O efecto foi maior nas preguntas sobre preferencias (+10,2 pp), razoamento temporal (+8,6 pp) e extracción de detalles de actividade previa (+6,9 pp). No 84% das preguntas, o axente tocou de forma verificable unha fonte vinculada á evidencia ideal.

Tamén executamos ablacións de Brain emparelladas en subconxuntos de dous puntos de referencia públicos. En LoCoMo, eliminar a wiki reduciu a corrección das respostas nun 4,6 puntos porcentuais de media, en tres execucións con diferentes modelos. En LongMemEval-S non produciu ningún cambio estatisticamente significativo. Este resultado é coherente co rol previsto de Brain. LongMemEval-S proba principalmente a recuperación de feitos de sesións individuais, onde as transcricións subxentes proporcionan unha ruta redundante á resposta. LoCoMo pon maior énfase na evidencia espallada polas conversas, os relatores e as datas, creando máis oportunidades para que a síntese entre sesións da wiki contribúa.

En xeral, con Brain activado, o axente de produción logrou unha corrección de respostas de 0,91 en LongMemEval-S e de 0,83 en LoCoMo. Dado que estes experimentos utilizaron subconxuntos de puntos de referencia, non son resultados definitivos de puntos de referencia. Con todo, as ablacións aínda proporcionan un sinal forte de que a wiki mellora o rendemento, especialmente cando se debe integrar evidencia a través de conversas. Como Brain forma parte de Computer, en lugar dun sistema de recuperación optimizado e específico para puntos de referencia, cremos que a competitividade só aumentará con tarefas que se asemellen máis aos fluxos de traballo de produción.

Avaliacións en liña

Os conxuntos de datos sen conexión non poden capturar todas as características dos historiais de usuarios reais, polo que tamén executamos unha avaliación emparellada diaria sobre cohortes frescas derivadas de produción. As mesmas preguntas fixas respóndense fronte ao estado de usuario emparellado con Brain activado e desativado, e despois xúlgase a corrección, actualización e recuperación.

Os resultados preliminares informados o 18 de xuño demostraron que Brain aumenta a corrección das respostas nun 25% e a recuperación nun 16%. Estes aumentos de rendemento mantivéronse; durante os últimos 30 días, as sesións con Brain activado superaron ao grupo de control en cada execución e en cada dimensión xulgada. En termos absolutos, os usuarios de Computer gozaron de melloras de 9,3 puntos en corrección, 8,0 puntos en actualización e 8,9 puntos en recuperación. As traxectorias habilitadas para Brain tamén utilizaron aproximadamente un 15% menos de tokens, custaron un 10% menos e completaron a xeración un 10% máis rápido.

Mellora continua

Seguimos a perfeccionar Brain para ofrecer a mellor experiencia de memoria aos usuarios. Un cambio recente coloca o índice compacto de Brain directamente no contexto inicial do axente en lugar de requirir que o axente o descubra e lea máis tarde. Nun experimento aleatorizado, este tratamento de precarga aumentou o uso de Brain e reduciu a insatisfacción relacionada coa memoria nun 6,9%.

A infraestrutura de avaliación sen conexión tamén serve como parte dunha canalización de mellora autónoma. Os cambios propostos no subaxente de memoria de Brain, as habilidades de recuperación e os avisos execútanse a través das ablacións emparelladas no noso conxunto de datos interno e puntos de referencia públicos. Os axentes de Computer poden iterar nos resultados de forma autónoma, preservando o cambio, as diferencias e o custo de cada iteración como un rexistro duradeiro e gardando só os cambios que moven os números. O resultado é un sistema onde os avaliadores de Brain son tamén os seus optimizadores, impulsando futuras melloras.

Conclusión

A aprendizaxe continua é un dos retos definitorios para construír sistemas de axentes que funcionen durante semanas e meses. Cremos que as arquitecturas de memoria exhíbense mellor como contornos que os axentes poden explorar directamente usando os seus conxuntos de ferramentas ordinarios. Expoñer a memoria como un sistema de ficheiros, con Brain como unha wiki de coñecemento estruturada na parte superior, fai que o contexto sexa navegable de forma eficiente a través de ferramentas simples e coñecidas.

Brain está deseñado para a auto-mellora, de modo que o sistema de memoria poida seguir mellorando a medida que crece o uso. Os axentes en segundo plano de Dream destilan información recente en actualizacións de Brain, garantindo que os axentes en primeiro plano inicien sempre unha nova sesión cunha visión organizada do contexto máis recente. A infraestrutura de avaliación tamén funciona como un terreo de probas para bucles de auto-investigación na arquitectura central de memoria e nas interfaces orientadas aos axentes.

Xa agora, Brain deu lugar a sesións de axentes máis precisas e eficientes á vez que reduce os tokens empregados. O noso co-deseño coidado de Brain coa pila de produción de Computer garante que estas melloras se traduzan directamente en beneficios reais para os usuarios.

Seguimos construíndo máis capacidades para mellorar a calidade da memoria de Computer. Mentres tanto, para os usuarios con Brain activado, a memoria mellorará con cada sesión.