Open-webui lanzó la actualización v0.12.4 con ajustes orientados a optimizar el uso de contexto y el tráfico entre cliente y modelo. Las novedades más relevantes son la opción de cargar skills seleccionadas bajo demanda y mejoras en el sistema de compaction (resumen/compacción del contexto) que afectan a la interfaz y al funcionamiento en chats temporales y cortos.
Carga diferida de skills: qué cambia y por qué importa
La versión añade una opción para que los administradores activen “Load selected skills on demand” (Carga de skills seleccionadas bajo demanda). Al habilitar esta función desde Admin Settings > General o configurando la variable ENABLE_SKILL_LAZY_LOADING, las skills que estén seleccionadas en un chat o asociadas a un modelo dejan de enviarse con todas sus instrucciones en cada mensaje. En su lugar, se listan para que el modelo las cargue únicamente cuando las necesite.
Esto reduce la cantidad de texto enviado en cada intercambio y mitiga problemas relacionados con el límite de longitud de contexto, especialmente en sesiones con muchas habilidades adjuntas. La carga bajo demanda no impide que una skill mencionada explícitamente en el mensaje se cargue de forma inmediata; esa excepción mantiene la experiencia de uso cuando el prompt hace referencia directa a una habilidad.
La opción está desactivada por defecto y requiere la herramienta incorporada Skills para funcionar. Administradores y operadores de instancias de open-webui deberán evaluar si su flujo de trabajo se beneficia de la reducción del tamaño de los mensajes —por ejemplo, en despliegues con modelos que reciben instrucciones largas de varias skills— antes de activarla.
Compaction (resumen de contexto): visibilidad y alcance ampliados
Open-webui mejora cómo y dónde se aplica la compactación del contexto y cómo se comunica al usuario. Ahora aparece una línea marcada como “Context compacted” en el hilo de chat para señalar el mensaje en el que se resumieron mensajes antiguos; esa línea se puede desplegar para ver el resumen. Además, cuando la compactación se ejecuta entre llamadas a herramientas y afecta a una respuesta, la marca también aparece dentro de la respuesta que use esas herramientas.
Las notificaciones relacionadas con el progreso y los errores de compactación se muestran directamente en el chat en lugar de aparecer como avisos emergentes (pop-ups). También se añade una referencia en Chat Controls > Overview que apunta a ese mensaje marcado, facilitando la revisión del contexto compacto.
Importante para administradores y desarrolladores: la compactación ahora se ejecuta en más tipos de chats, incluyendo chats temporales y chats cortos que ya superen el umbral por su combinación de pregunta y una respuesta con mucho output de herramientas. Esto evita que acciones posteriores —como seguir la conversación, regenerar o editar respuestas— fallen por errores de longitud de contexto.
Qué deben hacer los administradores y propietarios de sitios
- Revisar la política de skills y activar ENABLE_SKILL_LAZY_LOADING solo si la instancia usa la herramienta Skills y se desea reducir el tamaño de los mensajes enviados al modelo.
- Probar la compactación en flujos reales (con chats temporales y respuestas que incluyan salida de herramientas) para confirmar que la nueva lógica evita errores de límite de contexto sin eliminar información clave del resumen.
- Informar a los equipos de soporte y a los usuarios avanzados sobre la aparición de la etiqueta “Context compacted” en los chats, para que sepan dónde buscar resúmenes cuando se ha reducido el historial.
Las notas de la versión también mencionan la posibilidad de ocultar controles individuales a usuarios desde Admin Settings > Interface o mediante la variable UI_VISIBILITY, lo que permite a administradores personalizar qué controles y herramientas ven los usuarios en la interfaz. Las entradas de cambios incluyen múltiples commits relacionados con estas y otras mejoras menores de usabilidad.
Lee también:
- Dokku lanza v0.38.32 con mejoras en despliegues, gestión de imágenes y configuración de Nginx
- OBS Studio 33.0 llega con motor de navegador actualizado y cambio en la carga de plugins
Fuente: Release notes from open-webui
