Los grandes modelos de lenguaje no «recuerdan» entre sesiones: su memoria se construye fuera del propio modelo. El proyecto Valet, descrito por su autor, demuestra una aproximación práctica: dividir la memoria en cinco capas que van de lo bruto a lo resumido y diseñar mecanismos para seleccionar qué contexto se envía al modelo en cada respuesta.
Qué cambia: de buscador a asistente con memoria
La diferencia fundamental es que un asistente con memoria guarda información de las interacciones (ubicaciones, preferencias, acciones recientes) y la agrega inteligentemente al prompt antes de cada consulta. En Valet esa memoria no está embebida en el modelo, sino en procesos auxiliares y en una base de datos SQLite contenida en un solo fichero.
Las cinco capas de memoria
- Capa A — Registro bruto: transcripción literal de cada mensaje (usuario y modelo). Se guarda íntegramente en la base de datos como fuente original.
- Capa B — Extracciones estructuradas: datos extraídos de las conversaciones que tienen formato (ubicaciones, fechas, tareas). Permiten búsquedas más precisas que el texto libre.
- Capa C — Perfil del usuario: rasgos estables o semiestables (preferencias, roles, información de contacto) que ayudan a personalizar respuestas.
- Capa D — Línea temporal de eventos: resumen ordenado de qué ocurrió y cuándo, para consultas que requieren recuerdo secuencial.
- Capa E — Resúmenes episódicos o de larga duración: condensados más humanos, útiles para recordar «cómo fue el día» o el gist de un viaje; pueden vivir y evolucionar por separado.
Cómo se encuentra y qué se envía al modelo
No basta con almacenar todo; hay que recuperar y presentar el contexto adecuado. En vez de inyectar toda la historia en cada petición, Valet utiliza selectores que buscan el fragmento o las capas relevantes y construyen un prompt reducido. Menos tokens con señal son más efectivos: demasiada información o datos no relacionados empeoran la calidad de la respuesta.
Implementación práctica y mantenimiento
El autor emplea SQLite como fichero único para simplificar despliegues en contenedores Docker. Cada mensaje incluye una marca que indica si ya fue procesado por las capas superiores, lo que funciona como una lista de tareas interna. Guardar todo es factible en volumen moderado (decenas de miles de mensajes al año), pero almacenar no equivale a recordar: es necesario indexar, extraer y resumir.
Qué debe hacer un administrador
- Decidir qué datos guardar en bruto y cuáles estructurar, pensando en privacidad y cumplimiento.
- Implementar mecanismos de indexado y búsqueda (por ejemplo, vectores o metadatos) para las capas B–D.
- Configurar estrategias de resumen periódicas para las capas E y de retención de datos para no acumular ruido.
- Probar que los selectores entregan el mínimo contexto relevante (presupuesto de atención) y ajustar umbrales para evitar degradación por exceso de tokens.
Limitaciones y el reto del olvido
Eliminar o «olvidar» información es complejo: hay que gestionar referencias cruzadas entre capas y decidir si borrar la fuente (Capa A) o solo los resúmenes derivados. Además, la simple acumulación de datos no mejora la utilidad si no se invierte en procesos de abstracción y curación.
En resumen, convertir un modelo de lenguaje en un asistente con memoria requiere una arquitectura alrededor del modelo que organice, filtre y resuma la información. Las cinco capas ofrecen una guía práctica: desde la grabación literal hasta los resúmenes episódicos, con mecanismos de búsqueda e índices que seleccionen el contexto justo para cada interacción.
Lee también:
- Kali Linux 2026.3 llega con KDE Plasma 6.7, kernel 7.1.5 y mejoras en NetHunter
- Nextcloud lanza Spreadsheet, editor colaborativo de hojas de cálculo para infraestructura propia
Fuente: atareao con Linux
