LangSmith BYOC llega a Azure y Google Cloud y alcanza la disponibilidad general en AWS
LangChain anunció una ampliación de LangSmith Bring Your Own Cloud (BYOC), su modalidad de despliegue que permite ejecutar el plano de datos de LangSmith dentro de la cuenta en la nube del cliente. La solución alcanza la disponibilidad general (GA) en Amazon Web Services (AWS), mientras que Microsoft Azure y Google Cloud se incorporan en versión beta.
Con esta arquitectura, las organizaciones pueden conservar sus trazas, evaluaciones, datasets, prompts y despliegues de agentes dentro de su propia infraestructura. LangChain se ocupa del aprovisionamiento, la orquestación, el escalado y las actualizaciones de la plataforma.
La ampliación permite utilizar LangSmith BYOC en tres grandes proveedores de nube y distribuir sus entornos de trabajo según las necesidades de cada organización.
Del autoalojado a BYOC
Hasta ahora, los equipos sujetos a requisitos estrictos de cumplimiento recurrían al despliegue autoalojado de LangSmith para mantener el control de su infraestructura y sus datos.
Ese modelo implicaba asumir directamente el mantenimiento de la plataforma, incluyendo parches, administración de bases de datos y migraciones de esquemas. Estas tareas requerían ingenieros de plataforma dedicados.
BYOC plantea una distribución diferente de responsabilidades: el cliente conserva la propiedad de la infraestructura y los datos sensibles, mientras LangChain administra las operaciones de LangSmith dentro de la red virtual del cliente.
Desde el lanzamiento de BYOC en AWS en agosto, los equipos que utilizan esta modalidad han destacado tres ventajas operativas: actualizaciones continuas sin ventanas de mantenimiento ni actualizaciones manuales con Helm, incorporación de nuevas funciones poco después de su llegada a LangSmith Cloud y escalado automático.
Cómo funciona la arquitectura BYOC de LangSmith
La arquitectura de BYOC separa LangSmith en dos componentes principales: un plano de control gestionado por LangChain y un plano de datos propiedad del cliente.
El plano de control, ejecutado por LangChain, concentra los servicios necesarios para administrar la plataforma. Incluye la autenticación, la configuración de organizaciones y espacios de trabajo, los metadatos de facturación, las claves API almacenadas mediante hash y los activos estáticos de la interfaz.
El plano de datos contiene la información sensible y los recursos operativos de LangSmith. Entre ellos se encuentran: trazas y prompts; datasets y experimentos; evaluaciones y despliegues de agentes; secretos asociados a los espacios de trabajo.
Este segundo componente se ejecuta dentro de la cuenta y la red virtual privada (VPC) del cliente. LangChain se encarga de aprovisionarlo y operarlo, incluyendo las actualizaciones de esquemas, las dependencias de ejecución y el escalado.
Una misma organización puede utilizar varios planos de datos, cada uno ubicado en una cuenta y región independientes. Cada plano contiene sus propios espacios de trabajo, lo que permite separar los recursos por región geográfica, entorno o unidad de negocio.
AWS alcanza disponibilidad general
En AWS, LangSmith BYOC ya cuenta con disponibilidad general.
El plano de datos se ejecuta dentro de la VPC existente del cliente. El cliente puede seleccionar las subredes donde se ejecutará la base de datos. Además, los equipos de seguridad pueden asociar sus propios grupos de seguridad a cada rol de aplicación.
Azure incorpora BYOC en versión beta
Microsoft Azure se suma a las plataformas compatibles con LangSmith BYOC mediante una versión beta.
En este entorno, el plano de datos se ejecuta dentro de una red virtual dedicada y utiliza un endpoint privado de API de Azure Kubernetes Service (AKS).
El despliegue incorpora Istio y KEDA mediante Helm para el enrutado de entrada y el escalado basado en eventos.
La telemetría del sistema se envía a Azure Monitor.
LangChain también anunció que el soporte de LangSmith Sandboxes en Azure llegará próximamente.
Google Cloud permite desplegar planos de datos en cualquier región
Google Cloud también incorpora compatibilidad con BYOC en versión beta.
Desde su lanzamiento, los clientes pueden ejecutar planos de datos de LangSmith en cualquier región de Google Cloud, mientras su administración se realiza desde el plano de control de LangSmith ubicado en Estados Unidos.
La implementación utiliza nombres delimitados por espacios de nombres (namespaces) para evitar conflictos con la infraestructura que ya existe en la cuenta del cliente.
Migración desde LangSmith autoalojado
LangChain también contempla el traslado de instalaciones autoalojadas de LangSmith hacia BYOC mediante un proceso dividido en dos partes.
La primera corresponde a los recursos de los espacios de trabajo y utiliza una herramienta de migración de código abierto.
Esta herramienta permite trasladar: usuarios y roles; datasets y experimentos; prompts; configuración de colas de anotación; reglas de automatización; paneles; recursos Fleet.
Durante este traslado, la instancia autoalojada original permanece intacta y en funcionamiento.
La segunda parte de la migración comprende las trazas, ejecuciones y comentarios de retroalimentación (feedback).
Este traslado se realiza de manera independiente y lo ejecuta LangChain mediante herramientas internas. La migración de trazas está disponible actualmente en AWS.
Herramientas abiertas y compatibilidad con modelos de IA
LangChain y LangGraph son proyectos de código abierto. Además, los módulos Terraform utilizados para BYOC son públicos, al igual que la herramienta de migración de recursos.
El plano de datos incluye un LLM Gateway que puede realizar llamadas a modelos de 11 proveedores de forma nativa.
También admite cualquier endpoint compatible con las interfaces de OpenAI o Anthropic, ampliando las opciones de conexión con modelos desde la infraestructura del cliente.
Cómo acceder a LangSmith BYOC
Las organizaciones interesadas en utilizar LangSmith BYOC deben contactar con el equipo de ventas de LangChain para solicitar el aprovisionamiento de un plano de datos BYOC.
La disponibilidad actual depende del proveedor elegido: AWS ofrece disponibilidad general, mientras Azure y Google Cloud se encuentran en beta.
En contexto
LangSmith BYOC llegó inicialmente a AWS en agosto y ahora amplía su compatibilidad a Azure y Google Cloud. La arquitectura permite mantener varios planos de datos independientes por cuenta y región, mientras LangChain administra su operación.
