Baseten lanza joey-1, un modelo de IA especializado en decisiones rápidas y económicas
Baseten ha presentado joey-1, un modelo de inteligencia artificial de 2.000 millones de parámetros (2B) desarrollado por su laboratorio interno Base Labs. Su propuesta es diferente a la de los modelos de lenguaje tradicionales: en lugar de redactar respuestas, analiza información y devuelve decisiones estructuradas acompañadas de probabilidades calibradas.
El modelo está diseñado para tareas que requieren procesar grandes volúmenes de solicitudes, como clasificar tickets de soporte, dirigir peticiones al sistema correspondiente o aplicar controles de seguridad automatizados.
Su principal atractivo combina tres características: un precio de 0,01 dólares por millón de tokens de entrada, una latencia P50 de 20 milisegundos y pesos públicos bajo licencia MIT.
Según los resultados comunicados por Baseten, joey-1 también ocupa el primer lugar entre los modelos de menos de 4.000 millones de parámetros evaluados en la partición pública de Jev Decision Index 0.4.
Qué es joey-1 y cómo funciona
Joey-1 pertenece a una categoría de modelos especializados en tomar decisiones sobre información previamente proporcionada.
Su funcionamiento parte de un estado de entrada, que puede contener texto o imágenes, acompañado de una o varias preguntas. El modelo procesa esa información y devuelve probabilidades para las opciones disponibles en cada pregunta.
A diferencia de un modelo generativo convencional, joey-1 entrega directamente etiquetas y probabilidades, evitando que la aplicación tenga que interpretar una respuesta redactada en lenguaje natural.
El sistema admite tres tipos de preguntas:
- Choice: selecciona entre alternativas identificadas por nombre. Por ejemplo, determinar qué equipo debe hacerse cargo de un ticket.
- Yes/no: responde una pregunta binaria. Este tipo figura como noul en la API y devuelve la probabilidad correspondiente a la respuesta afirmativa.
- Score: asigna probabilidades a niveles ordenados de menor a mayor, como los diferentes grados de urgencia.
Una característica importante es que todas las preguntas pueden procesarse a partir de una única pasada inicial sobre el contexto compartido (prefill). Esto permite incorporar preguntas adicionales con un incremento reducido del coste de procesamiento.
El modelo también está entrenado para reconocer situaciones de incertidumbre mediante una opción de «no sé».
Precio de joey-1: 0,01 dólares por millón de tokens
Baseten ofrece joey-1 mediante su servicio Model APIs con una tarifa de 0,01 dólares por cada millón de tokens de entrada.
Los tokens de salida y los tokens de entrada almacenados en caché tienen un precio de 0,00 dólares.
El modelo también está listado en OpenRouter con un precio de 0,01 dólares por millón de tokens.
Esta estructura comercial apunta a operaciones repetitivas de gran escala, donde el coste de cada clasificación puede convertirse en un factor importante.
Ejemplo de costes para 10 millones de tickets
Baseten plantea un escenario de procesamiento de 10 millones de tickets de soporte mensuales, con aproximadamente 500 tokens por ticket.
| Concepto | Valor |
|---|---|
| Tickets procesados al mes | 10 millones |
| Tokens por ticket | 500 |
| Tokens de entrada totales | 5.000 millones |
| Coste estimado con joey-1 | 50 dólares |
| Coste estimado con mammoth-1 | 500 dólares |
| Diferencia estimada | 450 dólares |
En el escenario comunicado por la compañía, utilizar joey-1 representa un coste diez veces menor que emplear mammoth-1 para el mismo volumen de tokens.
El ejemplo ilustra el papel que Baseten asigna a su modelo más pequeño dentro de una familia de sistemas con diferentes capacidades y requisitos de procesamiento.
Benchmarks de joey-1: resultados frente a modelos más grandes
Baseten informa que joey-1 obtuvo 63,30 puntos en Jev Decision Index 0.4, dentro de su partición pública, y alcanzó el puesto 37 entre 230 modelos.
Con esta puntuación, la compañía lo sitúa como el modelo mejor clasificado por debajo de los 4.000 millones de parámetros en esa evaluación.
También supera los resultados comunicados para Clef de Cloudflare, de 27B, y Jev 1.14.
Resultados en Jev Decision Index 0.4
| Modelo | Parámetros | Puntuación |
|---|---|---|
| elephant-1 (Baseten) | 9B | 72,24 |
| joey-1 (Baseten) | 2B | 63,30 |
| Clef (Cloudflare) | 27B | 61,71 |
| Jev 1.14 | — | 60,70 |
Fuente de las puntuaciones: resultados comunicados por Baseten en su documentación del modelo. Son datos de la compañía y no verificaciones independientes.
Joey-1 queda 8,94 puntos por detrás de elephant-1, su modelo hermano de 9.000 millones de parámetros.
Baseten señala que elephant-1 mantiene una ventaja en todas las áreas evaluadas. Sin embargo, joey-1 supera a Jev 1.14 en cuatro de cinco áreas, incluidas lenguaje, herramientas y recuperación.
En una réplica del Artificial Analysis Decision Index realizada por Baseten, joey-1 alcanza 62,9 puntos, frente a los 65,9 de mammoth-1.
Latencia de 20 milisegundos
En cuanto a velocidad, Baseten comunica una latencia P50 de extremo a extremo de 20 milisegundos para joey-1, utilizando una petición media de 2.000 tokens.
Elephant-1 registra 49 milisegundos bajo la medición de la compañía.
Esto sitúa a joey-1 como un modelo aproximadamente 2,5 veces más rápido que elephant-1 en esa comparación.
Los valores de latencia corresponden a las mediciones publicadas por cada proveedor. Baseten mide tiempos de extremo a extremo en su infraestructura, mientras que Cloudflare comunica mediciones de su propia ejecución, por lo que las cifras entre ambas plataformas no son directamente comparables.
Tabla comparativa: joey-1 frente a elephant-1, Perplexity Decider y Cloudflare Clef-Flash
Las características publicadas permiten comparar a joey-1 con otras alternativas dedicadas a tareas de decisión y clasificación.
| Característica | joey-1 | elephant-1 | Perplexity Decider Flash v1.2 | Cloudflare Clef-Flash |
|---|---|---|---|---|
| Desarrollador | Baseten | Baseten | Perplexity | Cloudflare |
| Parámetros | 2B | 9B | 4B | 9B |
| Modelo base | Qwen3.5-2B | Qwen3.5-9B | Qwen3.5-4B | Qwen3.5-9B |
| Licencia | MIT | MIT | Apache-2.0 | Apache-2.0 |
| Modalidades | Texto e imágenes | Texto e imágenes | Texto e imágenes | Texto, JSON, imágenes y vídeo |
| Contexto | 16.384 / 262k dedicado | 16k / 262k dedicado | 262.144; entrenado hasta aproximadamente 32k | 16.384 por defecto |
| Precio por 1M de tokens de entrada | 0,01 USD | 0,035 USD | 0,01 USD | No divulgado |
| Puntuación Jev 0.4 | 63,30 | 72,24 | 60,06 | — |
| Latencia comunicada | 20 ms P50 | 49 ms P50 | — | 38,8 ms de mediana |
Nota: las puntuaciones de Jev 0.4 mostradas proceden de los datos comunicados por Baseten. Las latencias de Baseten y Cloudflare utilizan mediciones de infraestructura distintas y no constituyen una comparación directa.
La tabla muestra que joey-1 combina un tamaño menor con un precio de entrada inferior al de elephant-1, aunque este último obtiene una puntuación superior en Jev Decision Index.
También destaca la diferencia en los límites de contexto: Baseten anuncia hasta 262.000 tokens para joey-1 mediante despliegues dedicados, frente a los 16.384 disponibles en Model APIs.
Cómo se entrenó joey-1
Joey-1 fue desarrollado mediante un ajuste completo (full fine-tuning) del modelo de lenguaje Qwen3.5-2B.
Baseten mantuvo congelado el codificador de visión durante el entrenamiento y utilizó capas de atención completa con una máscara bidireccional organizada por bloques.
Esta arquitectura permite procesar conjuntamente el contexto de entrada y las preguntas de decisión.
Datos y configuración del entrenamiento
El conjunto utilizado comprende 6,21 millones de ejemplos de decisión, distribuidos en cuatro categorías.
| Categoría de entrenamiento | Porcentaje |
|---|---|
| Habilidades básicas de decisión | 58,3 % |
| Seguridad | 16,1 % |
| Evaluación y dominios expertos | 16,1 % |
| Datos públicos | 9,5 % |
El objetivo de entrenamiento combina entropía cruzada con un término de calibración basado en la puntuación Brier.
Esta combinación busca que las probabilidades devueltas por el modelo representen niveles de confianza útiles para los sistemas que consumen sus respuestas.
Baseten también incorporó una opción entrenada de incertidumbre o «no sé».
La configuración técnica comunicada incluye:
- Duración: una época de entrenamiento.
- Pasos: 43.390.
- Tasa de aprendizaje máxima: 1e-5.
- Precisión numérica: bf16.
- Hardware: dos nodos de ocho GPU NVIDIA H100 cada uno.
La calibración es uno de los componentes centrales de la propuesta. Una aplicación puede establecer un umbral de confianza para aceptar directamente una decisión o escalar los casos inciertos a elephant-1, mammoth-1 o una persona.
Disponibilidad: API, Hugging Face y despliegues propios
Baseten ofrece diferentes modalidades para utilizar joey-1.
Baseten Model APIs
El modelo está disponible mediante el identificador decision-models/baseten-joey-2b-latest, utilizando el endpoint /v1/systemone.
Esta modalidad incluye cero retención de datos por defecto y utiliza la tarifa de 0,01 dólares por millón de tokens de entrada.
Despliegues dedicados
Los despliegues dedicados permiten ampliar el contexto hasta 262.000 tokens.
También admiten pesos ajustados y la colocación del modelo junto a cargas de trabajo de modelos de lenguaje.
Autoalojamiento con pesos abiertos
Los pesos de joey-1 se encuentran publicados en Hugging Face bajo licencia MIT.
Para la ejecución autoalojada, Baseten indica que se pueden descargar los archivos y utilizar setup.sh.
Los requisitos comunicados incluyen una GPU compatible con CUDA y una imagen de PyTorch 2.8 con CUDA 12.8. La cantidad específica de memoria de vídeo necesaria no se detalla en la información de lanzamiento.
Tampoco se enumeran versiones cuantizadas oficiales.
Ajuste del modelo
Baseten permite realizar fine-tuning mediante Training Jobs y proporciona un fine-tuning cookbook como referencia para ese proceso.
Esta posibilidad se suma a los despliegues dedicados que admiten pesos personalizados.
Una familia de modelos que comparte la misma API
Joey-1 es el tercer integrante de la familia de modelos de decisión de Base Labs.
La semana anterior a su presentación, Baseten había lanzado mammoth-1, de 27.000 millones de parámetros, y elephant-1, de 9.000 millones.
Los tres modelos comparten datos de entrenamiento y utilizan el endpoint /v1/systemone.
Según Baseten, cambiar de un integrante de la familia a otro requiere modificar una sola línea.
La compatibilidad permite organizar sistemas de decisión en los que joey-1 atiende solicitudes de menor coste y los casos que necesitan una evaluación adicional pueden trasladarse a modelos más grandes.
De esta forma, el sistema puede aprovechar probabilidades calibradas y umbrales de confianza para determinar cuándo corresponde escalar una solicitud.
Baseten en contexto
Baseten desarrolla infraestructura para ejecutar modelos de inteligencia artificial y ofrece servicios como Model APIs, despliegues dedicados y Training Jobs.
A través de su laboratorio interno Base Labs, la compañía ha presentado la familia de modelos de decisión formada por mammoth-1, elephant-1 y joey-1.
Los tres comparten una interfaz de API y están orientados a procesar tareas de decisión mediante resultados estructurados y probabilidades.
Qué aporta joey-1 al procesamiento de decisiones con IA
El lanzamiento de joey-1 amplía la familia de modelos de Baseten con una alternativa de 2.000 millones de parámetros enfocada en velocidad, bajo coste y resultados estructurados.
Su planteamiento responde a una necesidad concreta: realizar clasificaciones, comprobaciones de seguridad y tareas de enrutamiento sin depender de respuestas extensas generadas en lenguaje natural.
El uso de probabilidades calibradas añade otra capacidad: establecer reglas para aceptar decisiones cuando existe suficiente confianza y trasladar las solicitudes inciertas a sistemas más grandes o a revisión humana.
Con pesos abiertos bajo licencia MIT, acceso mediante API y opciones de despliegue propio, joey-1 se incorpora al ecosistema de modelos especializados en decisiones automatizadas de alto volumen.
