Hugging Face ha lanzado Carbon-X, un modelo de inteligencia artificial de código abierto especializado en comprender secuencias de ADN y relacionarlas con el lenguaje natural.
Desarrollado por Hugging Face Bio junto a Zhongguancun Academy y TIGEM / Universidad de Nápoles Federico II, Carbon-X cuenta con 14.800 millones de parámetros y puede recibir ADN directamente en una conversación para responder preguntas en inglés sobre sus características biológicas.
El anuncio destaca por combinar un rendimiento cercano al de modelos frontera con un coste de inferencia considerablemente inferior. En las evaluaciones publicadas por Hugging Face, Carbon-X obtuvo una media del 66,7% en cinco pruebas de ADN, apenas 0,8 puntos porcentuales por debajo de GPT-6.1 Sol.
El modelo y sus resultados están disponibles en la tarjeta oficial de Carbon-X, mientras que Hugging Face presenta su lanzamiento en Introducing Carbon-X.
Qué es Carbon-X y para qué sirve
Carbon-X es un modelo de lenguaje construido a partir de Qwen3-14B y adaptado para trabajar simultáneamente con secuencias genéticas y texto.
Su característica principal es que el ADN y el lenguaje natural comparten un mismo flujo de tokens dentro de un único decodificador. Esta arquitectura permite procesar ambos tipos de información sin recurrir a un codificador de ADN independiente.
En una conversación, el usuario puede proporcionar una secuencia genética y solicitar al modelo que la interprete.
Entre sus capacidades se encuentran: - Análisis de mutaciones: predecir si determinadas variantes genéticas son benignas o patógenas. - Identificación de regiones reguladoras: reconocer fragmentos de ADN relacionados con el control de la actividad genética. - Clasificación de organismos: determinar grupos de organismos a partir de sus secuencias. - Predicción de ADN: anticipar las siguientes bases de una secuencia. - Explicaciones en lenguaje natural: responder en inglés a preguntas sobre el ADN proporcionado.
De esta manera, Carbon-X combina tareas propias del análisis genómico con una interfaz conversacional basada en lenguaje natural.
Cómo combina ADN y lenguaje natural
Una de las principales decisiones técnicas de Carbon-X es su tokenizador híbrido.
El modelo conserva el vocabulario BPE de Qwen3 para procesar texto y añade 5.515 tokens especializados en ADN, distribuidos de la siguiente manera:
| Tipo de token | Cantidad |
|---|---|
| Tokens de secuencias de 6 bases (6-mers) | 4.096 |
| Tokens de cola | 1.364 |
| Marcadores especiales | 3 |
| Total de tokens adicionales de ADN | 5.515 |
Los 6-mers se procesan sin solapamiento, de modo que cada token de ADN representa seis pares de bases.
Esta representación permite incorporar información genética al mismo sistema que utiliza el modelo para comprender y generar texto.
Carbon-X mantiene una arquitectura densa, sin mezcla de expertos (MoE). Sus principales características técnicas son:
| Característica | Especificación |
|---|---|
| Modelo de partida | Qwen3-14B |
| Parámetros | 14.800 millones |
| Arquitectura | Transformer denso |
| Capas | 40 |
| Tamaño oculto | 5.120 |
| Atención | GQA |
| Cabezas KV | 8 |
| Ventana de contexto | 40.960 tokens |
Un entrenamiento dividido en cuatro fases
Según la tarjeta oficial, Hugging Face entrenó Carbon-X mediante cuatro etapas destinadas a incorporar el ADN al modelo y desarrollar sus capacidades especializadas.
Primera fase: calentamiento de embeddings. El proceso comenzó con aproximadamente 10.000 millones de tokens. Durante esta etapa, el cuerpo principal del Transformer permaneció congelado mientras se entrenaban los nuevos embeddings de ADN.
Segunda fase: entrenamiento intermedio. El modelo recibió otros 302.000 millones de tokens, utilizando secuencias de 8.192 tokens.
La composición de este entrenamiento fue:
| Tipo de contenido | Proporción |
|---|---|
| ADN crudo | 55% |
| Inglés | 20% |
| Textos de biología | 15% |
| Datos de instrucciones | 10% |
Tercera fase: ajuste fino supervisado. Carbon-X pasó por tres épocas de entrenamiento sobre 20 subconjuntos de datos, con verificadores deterministas para evaluar las respuestas.
Cuarta fase: aprendizaje por refuerzo. El entrenamiento concluyó con dos rondas de GRPO asíncrono, utilizando TRL y vLLM.
Esta secuencia permitió partir de un modelo generalista y especializarlo en tareas de comprensión y predicción de ADN.
Resultados: Carbon-X frente a los modelos frontera
Hugging Face publicó los resultados de Carbon-X en cinco benchmarks relacionados con la comprensión de secuencias, la clasificación de variantes y la predicción genética.
Las cifras son las reportadas por la propia organización, con el modo de razonamiento extendido (thinking) desactivado para Carbon-X.
| Benchmark | Carbon-X |
|---|---|
| BioReason Coding | 74,9% |
| BioReason Non-SNV | 85,1% |
| GenomeQA | 63,6% |
| NextBase | 39,4% |
| FrontierVEP | 70,4% |
| Media de cinco benchmarks | 66,7% |
Carbon-X logró el mejor resultado entre todos los modelos evaluados en BioReason Coding, una prueba centrada en el efecto de variantes genéticas sobre regiones codificantes.
También obtuvo un resultado destacado en NextBase, dedicado a predecir las siguientes bases de una secuencia.
<h5 id="comparativa-de-rendimiento-medio">Comparativa de rendimiento medio</h5>| Modelo | Media en benchmarks de ADN |
|---|---|
| GPT-6.1 Sol | 67,5% |
| Carbon-X | 66,7% |
| Opus 5.5 | 60,9% |
| Kimi K3 | 50,4% |
De acuerdo con Hugging Face, Carbon-X supera en 27 puntos porcentuales al Qwen3-14B del que deriva.
Frente a GPT-6.1 Sol, la diferencia es de apenas 0,8 puntos porcentuales en el promedio de las cinco pruebas.
Los resultados también muestran diferencias entre tareas. En las preguntas sobre sitios de empalme (splice-site) incluidas en GenomeQA, Carbon-X obtuvo solamente un 29,8% de precisión, uno de sus puntos débiles.
Estos resultados corresponden a evaluaciones de investigación. Carbon-X no está validado clínicamente, por lo que sus predicciones no deben utilizarse para tomar decisiones médicas.
El coste: analizar millones de variantes por unos 300 dólares
Otro de los aspectos destacados del lanzamiento es el coste de ejecución.
Hugging Face calcula el coste de Carbon-X tomando como referencia una GPU NVIDIA H200 a 5 dólares por hora. Con esa configuración, reporta un coste por problema equivalente aproximadamente a 1/1.800 del coste de GPT-6.1 Sol.
La organización también estima cuánto supondría analizar los 2,4 millones de variantes de significado incierto presentes en ClinVar.
| Concepto | Carbon-X | Modelos frontera |
|---|---|---|
| Coste estimado de evaluar 2,4 millones de variantes de ClinVar | ≈ 300 USD | 32.000–4.000.000 USD |
| Coste relativo por problema frente a GPT-6.1 Sol | ≈ 1/1.800 | Referencia: GPT-6.1 Sol |
Las cantidades son estimaciones publicadas por Hugging Face y dependen de la metodología de cálculo utilizada.
La combinación de un modelo especializado y un coste de inferencia reducido constituye uno de los principales argumentos de Carbon-X para tareas que requieren procesar grandes cantidades de secuencias genéticas.
Carbon-X también puede actuar como subagente especializado
Hugging Face evaluó Carbon-X como herramienta complementaria de otros modelos de inteligencia artificial.
En este escenario, un modelo generalista consulta a Carbon-X para resolver preguntas relacionadas con ADN.
La organización reporta una mejora en el rendimiento de Kimi K3 al utilizar esta combinación.
| Configuración | Índice de ADN |
|---|---|
| Kimi K3 sin Carbon-X | 49,4% |
| Kimi K3 consultando a Carbon-X | 60,5% |
| Mejora | 11,1 puntos porcentuales |
Este resultado muestra el potencial de Carbon-X como componente especializado dentro de sistemas de agentes que combinan modelos con diferentes capacidades.
Carbon-X también conserva habilidades generales de seguimiento de instrucciones. En el benchmark IFEval consiguió un 79,3% de precisión estricta a nivel de prompt, según Hugging Face.
Cómo ejecutar Carbon-X y qué hardware necesita
Los pesos de Carbon-X están publicados en el repositorio oficial HuggingFaceBio/Carbon-X, bajo licencia Apache 2.0.
Para ejecutar el modelo completo en precisión bfloat16, Hugging Face indica que es suficiente una GPU de 80 GB.
El modelo es compatible con vLLM y Transformers.
<h5 id="despliegue-con-vllm">Despliegue con vLLM</h5>El comando oficial para servir Carbon-X es:
vllm serve HuggingFaceBio/Carbon-X --trust-remote-code
<h5 id="ejecucion-con-transformers">Ejecución con Transformers</h5>Carbon-X requiere Transformers v5 o posterior y la configuración trust_remote_code=True.
Hugging Face indica que debe mantenerse desactivado el razonamiento extendido mediante enable_thinking=False, la configuración utilizada en su entrenamiento posterior y en las evaluaciones reportadas.
<h5 id="versiones-gguf-para-ejecucion-local">Versiones GGUF para ejecución local</h5>Además de los pesos del modelo completo, Hugging Face ofrece cuantizaciones GGUF oficiales de Carbon-X.
Entre las versiones disponibles destacan:
| Cuantización | Tamaño |
|---|---|
| Q8_0 | 15,8 GB |
| Q4_K_M | 9,6 GB |
Para utilizar estas versiones con llama.cpp se necesita la compilación b11742 o posterior.
Este requisito está relacionado con el tokenizador híbrido del modelo: las compilaciones anteriores procesan incorrectamente los tokens de ADN.
Hugging Face en contexto
Hugging Face es la plataforma detrás de Hugging Face Bio, la unidad responsable de Carbon-X.
El modelo se desarrolló en colaboración con Zhongguancun Academy y TIGEM / Universidad de Nápoles Federico II.
