Brain: Memoria de agentes como wiki de conocimientos

Los usuarios de Computer realizan trabajos que abarcan meses y cientos de sesiones. Para la décima sesión, el sistema debe ser mucho más productivo que en la primera. Debe acumular contexto sobre el usuario, sus preferencias y el trabajo que ya se ha realizado.

Por ejemplo, cuando se le pide que dibuje un diagrama de un flujo de trabajo que el usuario explicó previamente, Computer debe recordar los detalles y utilizarlos para crear y generar una figura en el estilo preferido del usuario. El usuario no debería tener que volver a explicar los detalles del flujo de trabajo ni reiterar su preferencia por los artefactos PNG en lugar de PDF; el sistema debe ser capaz de recuperar con precisión dicho contexto de sesiones anteriores y aplicarlo de forma automática.

La memoria es el cimiento de la mejora continua de los agentes. Un sistema de memoria eficaz debe ser estructurado, trazable y adaptable, lo que permite a los agentes buscar con la amplitud y profundidad adecuadas para cada tarea, a la vez que fundamenta cada decisión en la información más actualizada.

Introducción

Inundar a los agentes con contexto relevante es un problema multifacético. En primer lugar, los agentes necesitan saber qué existe y cómo acceder a ello. En segundo lugar, cuando encuentran un fragmento de información útil, deben tener la certeza de que está completo, es preciso y está actualizado. Un hecho aislado tiene un valor limitado a menos que el agente pueda encontrar información relacionada, verificar que proviene de una fuente de confianza y asegurarse de que no requiere actualización con una observación más reciente.

Inundar los archivos de memoria estática directamente en el contexto del modelo maximiza la accesibilidad para los agentes, pero presenta una disyuntiva clásica entre precisión y recuperación. Demasiada información saturará la ventana de contexto del agente con elementos de relevancia cada vez menor, mientras que muy poca degradará la calidad de las respuestas debido a la falta de contexto relevante. En contraste, el acceso bajo demanda a bases de datos externas es más flexible, pero transfiere la carga de la navegación al agente. Las bases de datos vectoriales suelen almacenar fragmentos desconectados, y las bases de datos de grafos requieren que los agentes sepan cómo realizar consultas de manera eficaz.

Recientemente, introdujimos Brain, un componente central del sistema de memoria de Computer que ofrece lo mejor de ambos mundos. Brain es una wiki de conocimientos estructurada que se sitúa por encima de los archivos de memoria estática y las evidencias. Las citas vinculan las afirmaciones con sus fuentes, y las piezas de información relacionadas se conectan lateralmente. La wiki organizada hace que el contexto sea navegable bajo demanda, mientras que los artefactos detallados se conservan en la capa inferior.

Brain se conecta a un sistema de memoria completo con tres componentes clave: almacenamiento de memoria duradera, agentes en primer plano que utilizan la memoria para responder consultas, y agentes en segundo plano que actualizan y mejoran la memoria. La figura siguiente representa estos componentes situados dentro de la arquitectura general del sistema de Brain.

En este artículo, describimos cada capa en profundidad y explicamos cómo Brain organiza la memoria, cómo la utilizan los agentes y cómo los procesos en segundo plano la mantienen actualizada. Asimismo, presentamos los resultados de evaluaciones internas que validan el diseño de Brain y demuestran que mejora el rendimiento de los agentes a un menor costo.

Organización y almacenamiento de la memoria

La memoria necesita una representación que se adapte al historial completo de un usuario sin obligar a incluir cada fragmento de contexto en el mensaje. El sistema de memoria de Computer representa el contexto persistente como un sistema de archivos. Brain sintetiza el conocimiento a través de fuentes originales, conectando temas relacionados y vinculando las afirmaciones con las sesiones y los archivos que las respaldan. Esta estructura, que se detalla a continuación, nos permite organizar la memoria de una forma especialmente adecuada para los agentes.

Memoria basada en el sistema de archivos

Las sesiones de Computer ya residen en un entorno aislado con un sistema de archivos, un shell y utilidades de E/S. Al diseñar Brain, quisimos introducir la menor cantidad posible de mecanismos nuevos en la interfaz entre el modelo y la memoria del agente. Por este motivo, construimos Brain sobre una capa de contexto nativa del sistema de archivos. La memoria se materializa como archivos en el entorno aislado bajo un directorio memory/, y el agente simplemente utiliza en los archivos de memoria las mismas herramientas que ya emplea en todo lo demás.

En la raíz del árbol de memoria se encuentran tres directorios de nivel superior que mantienen el contexto en diversos niveles de abstracción. knowledge/ es el propio Brain, una wiki de conocimientos sintetizada que vincula entidades, conceptos, proyectos activos y aprendizajes pasados; notes/ contiene fragmentos destilados organizados como carpetas temáticas; y sessions/ alberga índices, resúmenes y transcripciones completas como historiales originales. La figura siguiente muestra una vista simplificada de la disposición.

Las superficies son deliberadamente redundantes. Para preguntas simples de un solo salto, a menudo basta con buscar fragmentos dentro de /notes en busca de una palabra clave, mientras que la capa /knowledge resulta más útil para preguntas que requieren entrelazar evidencias a lo largo de semanas o meses de sesiones de Computer.

Brain: La wiki de conocimientos

Brain tiene el formato de una wiki de LLM, un sistema de archivos Markdown enlazados. Esta forma de Markdown ligeramente estructurado proporciona una visión holística del contexto existente, de modo que los agentes puedan comprender fácilmente qué registros están disponibles, cómo se relacionan y dónde encontrarlos. Cada página es una vista mantenida de un solo tema; debe seguir siendo útil cuando se lea por sí sola y, al mismo tiempo, facilitar una mayor exploración mediante enlaces.

Los enlaces son de dos tipos. Los [[wikilinks]] son aristas de contexto. Conectan las páginas lateralmente; un proyecto puede enlazarse con su propietario, su cliente o los conceptos de los que depende. Su seguimiento responde a la pregunta "¿qué más necesito saber?" Las referencias [cite:N] son aristas de evidencia. Conectan las reclamaciones hacia abajo con las sesiones originales o las fuentes conectoras que las respaldan. Su seguimiento responde a la pregunta "¿cómo sé que esto es verdad?"

Las siguientes figuras muestran cómo sería una parte de Brain para una persona sintética, una investigadora de accesibilidad llamada Nadia. Su Brain incluye una página sobre un proyecto de muestra, un sprint de diseño universal en Japón, que sintetiza el conocimiento a partir de sesiones y conectores. La vista de grafo demuestra cómo el contexto y las aristas de evidencia presentes en la página vinculan entidades y fuentes relacionadas.

Brain cuenta con el respaldo de Git para preservar el historial de versiones, lo que da soporte a su naturaleza en constante evolución. Las páginas se pueden editar con el tiempo, mientras que los registros de cambios documentan las actualizaciones clave y permiten a los agentes inspeccionar fácilmente las versiones anteriores y las diferencias (diffs). Esto también favorece la coordinación de agentes, lo cual resulta fundamental, ya que múltiples agentes pueden estar utilizando y actualizando Brain al mismo tiempo.

Uso de Brain

Al responder a una consulta de los usuarios, los agentes deben ser capaces de encontrar el contexto adecuado al nivel de detalle correcto. La estructura de Brain facilita que los agentes exploren la memoria. Los agentes pueden elegir entre pasos ejecutables, tales como seguir enlaces de contexto para encontrar información relacionada, seguir enlaces de evidencia para verificar afirmaciones o llamar a un subagente para obtener y sintetizar contexto adicional. Dirigimos el proceso de exploración de los agentes de diversas maneras destinadas a maximizar la facilidad de acceso de los agentes a la información relevante.

Estrategia de exploración

Incluimos un índice compacto de Brain dentro del mensaje inicial del usuario, de modo que el agente comience con un conocimiento operativo de lo que ya existe. A continuación, el agente interactúa con Brain utilizando operaciones familiares: leer elementos específicos referenciados por el índice, utilizar grep para buscar entre las páginas, seguir enlaces e inspeccionar citas, comparar revisiones de Git y descender a sesiones o trayectorias originales. El bloque de código siguiente muestra comandos de ejemplo para una persona sintética.

Los agentes exploran este contexto a través de un bucle autodirigido, en lugar de una canalización fija. Por lo tanto, el agente puede continuar buscando hasta que esté satisfecho con el contexto encontrado. El agente también puede elegir cuándo inspeccionar las citas y las evidencias para encontrar o verificar detalles. Un asunto menor de preferencia puede adoptarse directamente desde una sola página de Brain, mientras que una decisión trascendental o un conflicto entre fuentes pueden justificar el seguimiento de la cita y la lectura del registro original. La estructura basada en grafos permite al agente elegir entre los siguientes pasos concretos, en lugar de buscar sin rumbo información relacionada.

Materialización de archivos

Para que la exploración de los agentes funcione, el agente necesita tener acceso a todo el árbol memory/ a través del sistema de archivos del entorno aislado. Copiar todo el árbol localmente cada vez que se arranca un entorno aislado es costoso e innecesario, ya que el agente no tocará la gran mayoría de esos archivos. Otra opción sería utilizar un sistema de archivos remoto, para que los agentes puedan acceder a cualquier archivo sin necesidad de copiarlos localmente. Sin embargo, los agentes suelen realizar miles de operaciones en el sistema de archivos en un solo comando; si cada una de ellas se convierte en una solicitud de red, el costo de ida y vuelta comienza a dominar el bucle de exploración. En pruebas internas, las cargas de trabajo simples con grep sobre una ruta remota respaldada por FUSE fueron aproximadamente de 400 a 500 veces más lentas que las operaciones equivalentes sobre archivos locales.

En su lugar, construimos un conjunto de trabajo local de archivos materializados, mientras que el corpus más grande permanece detrás de un sistema de recuperación de memoria. Computer precarga un mapa inicial (extraído de recuerdos recientes, sesiones, resúmenes y conocimientos disponibles) en el entorno aislado cuando arranca. Los agentes de Computer tienen acceso a un agente de memoria, un subagente que puede realizar búsquedas semánticas y cargar un nuevo conjunto de archivos. Cuando falta el contexto necesario, Computer puede llamar al agente de memoria con una descripción de la información requerida. El agente de memoria busca entre los archivos, devuelve una síntesis de texto inmediata y materializa los registros de soporte como archivos bajo el árbol de memoria. De este modo, el conjunto de trabajo se expande de forma natural y gradual con el tiempo, preservando rutas estables y relaciones de origen para la evidencia ya presente.

Este diseño resuelve de manera limpia el cuello de botella de la latencia. Almacenar los archivos relevantes de forma local garantiza que las operaciones del sistema de archivos necesarias para la exploración sigan siendo rápidas, y la recuperación por lotes permite que el conjunto de archivos materializados crezca sin necesidad de realizar llamadas separadas para cada archivo ni de cargar una gran cantidad de archivos irrelevantes. El diseño de agentes anidados también proporciona a Computer las ventajas de la recuperación agéntica sin obligar al agente principal a buscar directamente en todo el corpus de fondo cada vez, lo que preserva su propia ventana de contexto para la información de mayor valor.

Mantenimiento de Brain

Los usuarios aprenden constantemente del trabajo que realizan y de las conversaciones que mantienen, por lo que la memoria agéntica debe hacer lo mismo. Para que Brain siga siendo útil, debe ser una representación concisa del conocimiento más importante. Se deben crear nuevas páginas para las entidades nuevas importantes, se debe añadir información nueva a las páginas de Brain relevantes y se debe eliminar de manera oportuna el contexto obsoleto. Por ejemplo, si el trabajo de un usuario cambia, Brain debe reflejar dicho cambio; debe contener el nuevo trabajo del usuario y priorizar la información relacionada con sus nuevas responsabilidades y proyectos.

Brain cuenta con el mantenimiento de agentes en segundo plano que denominamos Dream. Los agentes de Dream se ejecutan sin conexión sobre la memoria basada en archivos y sintetizan nueva información en actualizaciones de Brain. Definimos cuidadosamente el alcance y el comportamiento de los agentes de Dream para llevar a cabo esta tarea de manera eficiente, junto con mecanismos de salvaguarda específicos de Dream para garantizar que las actualizaciones de Brain sean coherentes y precisas.

Dream: Agentes en segundo plano para el refinamiento de la memoria

Los agentes de Dream se ejecutan en entornos aislados con acceso al mismo sistema de archivos y a las mismas herramientas de solo lectura que tendría una sesión interactiva de Computer, pero su único objetivo es mejorar el contexto para futuras sesiones. Cada ejecución comienza a partir del Brain producido por ejecuciones anteriores en lugar de reconstruir el contexto del usuario desde cero. A continuación, utiliza ese Brain actual para orientarse y produce un Brain actualizado para que lo utilicen las futuras ejecuciones.

Un agente de Dream recibe un entorno y decide cómo explorarlo, en lugar de recibir una entrada fija aplanada en un único mensaje (prompt). Puede navegar por la memoria basada en archivos, utilizar herramientas conectoras de solo lectura aprobadas para verificar un fragmento de conocimiento y delegar partes acotadas del trabajo en subagentes, incluido el agente de memoria. El alcance y las responsabilidades del agente de Dream se especifican como un Skill.

En términos generales, una ejecución de Dream consta de 4 fases:

1. Orientar: El agente completa un procedimiento de orientación ordenado. Identifica el alcance autorizado, las instrucciones permanentes, el registro de eliminaciones, las entradas adicionales y las condiciones de parada.
2. Resumir sesiones: Por cada sesión que sea nueva (o que haya tenido nuevos turnos) desde la última actualización, el agente escribe (o actualiza) un breve resumen de la sesión.
3. Adjuntar hechos a los temas: El agente añade cada observación que considera significativa a su ubicación correspondiente, que suele ser una página de wiki. Examina y consulta conectores autenticados cuando están disponibles.
4. Actualizar la wiki de conocimientos: El agente actualiza la wiki en función de sus hallazgos. Puede producir nuevas páginas para temas duraderos, revisar páginas cuando la síntesis actual haya cambiado o añadir nuevos enlaces o citas que respalden una afirmación factual. También puede optar por no realizar cambios cuando el grafo actual ya sea correcto.

Para garantizar que cualquier actualización de Brain sea completa y coherente, los agentes escriben el estado propuesto en un árbol de salida provisional. No se realiza ningún cambio permanente hasta que el agente haya efectuado todas las actualizaciones que considere necesarias. Coordinar esas decisiones en un único proceso agéntico permite actualizar el grafo como un todo en lugar de hacerlo como páginas no relacionadas.

Cualquier cambio debe superar dos tipos de verificaciones. Las comprobaciones de validación deterministas garantizan que las páginas estén bien formadas y cumplan con criterios objetivos, tales como el frontmatter requerido y el formato de las citas. Las comprobaciones de verificación semántica aseguran que una síntesis propuesta esté respaldada por la evidencia recopilada y permanezca coherente con el resto del grafo. Una vez que el agente finaliza con éxito, un paso de sincronización controlado compara la salida provisional con el estado anterior y aplica los cambios al repositorio. Cuando se completa un paso de sincronización, el conjunto final de ediciones se puede inspeccionar a través del historial de versiones de Git.

Validación de Brain

Un sistema de memoria útil debe preservar la evidencia relevante, mostrarla cuando sea necesario y ayudar al agente a convertir dicha evidencia en una respuesta correcta. Por lo tanto, evaluamos Brain en múltiples niveles: pruebas de supresión (ablations) controladas sin conexión, reproducción emparejada continua y experimentos de producción aleatorios.

Evaluaciones sin conexión

Nuestra evaluación principal sin conexión utiliza un conjunto de datos interno de 640 preguntas distribuidas en 44 personas sintéticas. Las personas reproducen patrones derivados de la producción en cuanto a la cadencia de las sesiones, el recuento de turnos, la combinación de temas y la densidad de hechos, a la vez que no contienen texto de consultas de producción con el fin de preservar la privacidad del usuario. Cada cuenta se puebla a través de la canalización de memoria de producción, lo que incluye la extracción de memoria, los resúmenes de conversaciones y la compilación de la wiki de conocimientos por parte de Dream. Para cada pregunta, la respuesta correcta está vinculada mecánicamente a evidencias específicas presentes en el historial de la cuenta.

Por ejemplo, para Nadia, la persona sintética investigadora de accesibilidad presentada anteriormente, el conjunto de datos incluye la pregunta: "¿Con qué organizaciones me voy a reunir en Kioto y Sendai?" La respuesta (Sora City Lab en Kioto y Sapphir Mobility Coop en Sendai) aparece directamente en la página de wiki correspondiente.

Comparamos las mismas preguntas y cuentas con la wiki de conocimientos compilada activada frente a desactivada. Las demás superficies de memoria siguen disponibles en ambas condiciones. Esto aísla la contribución incremental de Brain, en lugar de comparar la memoria con la ausencia de memoria. En general, Brain incrementó la corrección de las respuestas de 0.600 a 0.661, lo que representa una ganancia de 6.1 puntos porcentuales, y la recuperación de evidencias de 0.573 a 0.625, lo que representa una ganancia de 5.2 puntos porcentuales. El efecto fue mayor en las preguntas sobre preferencias (+10.2 pp), razonamiento temporal (+8.6 pp) y extracción de detalles de actividad anterior (+6.9 pp). En el 84% de las preguntas, el agente accedió verificablemente a una fuente vinculada a la evidencia principal.

También ejecutamos pruebas de supresión (ablations) coincidentes de Brain en subconjuntos de dos pruebas comparativas públicas. En LoCoMo, eliminar la wiki redujo la corrección de las respuestas en 4.6 puntos porcentuales en promedio, durante tres ejecuciones con diferentes modelos. En LongMemEval-S no produjo ningún cambio estadísticamente significativo. Este resultado es coherente con el papel previsto de Brain. LongMemEval-S evalúa principalmente la recuperación de hechos de sesiones individuales, donde las transcripciones subyacentes proporcionan una ruta redundante hacia la respuesta. LoCoMo pone mayor énfasis en la evidencia dispersa a lo largo de conversaciones, hablantes y fechas, lo que genera más oportunidades para que la síntesis multisecional de la wiki contribuya.

En general, con Brain habilitado, el agente de producción alcanzó una corrección de respuestas de 0.91 en LongMemEval-S y de 0.83 en LoCoMo. Debido a que estos experimentos utilizaron subconjuntos de pruebas comparativas, no constituyen resultados definitivos de las pruebas comparativas. Sin embargo, las pruebas de supresión (ablations) siguen proporcionando una señal sólida de que la wiki mejora el rendimiento, especialmente cuando se debe integrar evidencia a través de conversaciones. Dado que Brain forma parte de Computer y no de un sistema de recuperación optimizado y específico para pruebas comparativas, consideramos que la competitividad no hará más que aumentar con tareas que se asemejen más a los flujos de trabajo de producción.

Evaluaciones en línea

Los conjuntos de datos sin conexión no pueden capturar todas las características de los historiales reales de los usuarios, por lo que también ejecutamos una evaluación emparejada diaria sobre cohortes recientes derivadas de la producción. Las mismas preguntas fijas se responden frente al estado de usuario emparejado con Brain habilitado y deshabilitado, para luego ser evaluadas en cuanto a corrección, vigencia y recuperación.

Los resultados preliminares informados el 18 de junio demostraron que Brain incrementa la corrección de las respuestas en un 25% y la recuperación en un 16%. Estas mejoras de rendimiento se han mantenido; durante los últimos 30 días, las sesiones con Brain habilitado superaron al grupo de control en cada ejecución y en cada dimensión evaluada. En términos absolutos, los usuarios de Computer disfrutaron de mejoras de 9.3 puntos en la corrección, 8.0 puntos en la vigencia y 8.9 puntos en la recuperación. Las trayectorias con Brain habilitado también utilizaron aproximadamente un 15% menos de tokens, costaron un 10% menos y completaron la generación un 10% más rápido.

Mejora continua

Hemos seguido perfeccionando Brain para ofrecer la mejor experiencia de memoria a los usuarios. Un cambio reciente sitúa el índice compacto de Brain directamente en el contexto inicial del agente, en lugar de requerir que el agente lo descubra y lo lea más tarde. En un experimento aleatorio, este tratamiento de precarga incrementó el uso de Brain y redujo la insatisfacción relacionada con la memoria en un 6.9%.

El banco de pruebas de evaluación sin conexión también funciona como parte de una canalización de mejora autónoma. Los cambios propuestos en el subagente de memoria de Brain, las habilidades de recuperación y los mensajes (prompts) se ejecutan a través de las pruebas de supresión coincidentes en nuestro conjunto de datos interno y en pruebas comparativas públicas. Los agentes de Computer pueden iterar sobre los resultados de forma autónoma, preservando la iteración de cada cambio, las diferencias (deltas) y el costo como un registro duradero, y conservando únicamente los cambios que mueven las métricas. El resultado es un sistema en el que los evaluadores de Brain son también sus optimizadores, lo que impulsa futuras mejoras.

Conclusión

El aprendizaje continuo es uno de los desafíos determinantes para construir sistemas de agentes que funcionen durante semanas y meses. Creemos que las arquitecturas de memoria se exponen mejor como entornos que los agentes pueden explorar directamente utilizando sus conjuntos de herramientas habituales. Exponer la memoria como un sistema de archivos, con Brain como una wiki de conocimientos estructurada en la parte superior, hace que el contexto sea navegable de manera eficiente a través de herramientas sencillas y familiares.

Brain está diseñado para la automejora, de modo que el sistema de memoria pueda seguir mejorando a medida que aumenta su uso. Los agentes en segundo plano de Dream destilan información nueva en actualizaciones de Brain, lo que garantiza que los agentes en primer plano comiencen siempre una nueva sesión con una vista organizada del contexto más reciente. El banco de pruebas de evaluación también funciona como un terreno de pruebas para bucles de autoaprendizaje en la arquitectura de memoria central y las interfaces orientadas al agente.

Brain ya ha dado lugar a sesiones de agentes más precisas y eficientes, a la vez que reduce los tokens consumidos. Nuestro cuidadoso diseño conjunto de Brain con la pila de producción de Computer garantiza que estas mejoras se traduzcan directamente en beneficios reales para los usuarios.

Continuamos desarrollando más capacidades para mejorar la calidad de la memoria de Computer. Mientras tanto, para los usuarios que tengan Brain habilitado, la memoria mejorará en cada sesión.