AKV: Tsinghua libera un sistema de caché KV que reduce costes y mejora el rendimiento de agentes de IA
Investigadores de Tsinghua y CUHK publicaron AKV, un sistema de código abierto que permite a los agentes de inteligencia artificial gestionar su caché KV sin resumir continuamente el historial. En sus evaluaciones, redujo el coste medio un 27,7% y mejoró la puntuación media en 1,7 puntos frente al resumen por umbral.
Equipo Aitualizate