Together Compiler: la compilación continua que acelera la inferencia hasta 2,6 veces
Together AI presentó Together Compiler, un sistema de compilación continua que utiliza agentes de inteligencia artificial para reescribir el forward pass de los modelos que sirve. Según la compañía, el sistema logra hasta 2,6 veces más tokens por segundo en menos de 24 horas por configuración.
Equipo Aitualizate