Senior AI Platform Engineer – LLM Gateway

Senior AI Platform Engineer -

LLM Gateway

BBVA busca un profesional senior para incorporarse a la implantación de una plataforma

corporativa de LLM Gateway. La plataforma proporcionará un acceso común, seguro, gobernado y

observable a modelos fundacionales para los distintos casos de uso, aplicaciones y agentes de IA del

Grupo.

El objetivo del rol es contribuir a materializar e industrializar la solución, trabajando sobre la

arquitectura y los estándares corporativos definidos, y participando activamente en su evolución

técnica. No se busca un perfil exclusivamente funcional ni de consumo de APIs de IA: se requiere

experiencia práctica en plataformas cloud empresariales, seguridad, integración, operación y

automatización.

Resumen del puesto

Implementar y evolucionar las capacidades técnicas necesarias para que los consumidores

corporativos accedan a los modelos de IA generativa a través de un Gateway, evitando la gestión

distribuida de credenciales de proveedores y asegurando controles homogéneos de seguridad,

gobierno, observabilidad, resiliencia y costes.

Responsabilidades principales

● Implementar los componentes y configuraciones del LLM Gateway conforme a la

arquitectura, estándares y controles corporativos de BBVA.

● Diseño técnico de integraciones, patrones de consumo y evolución de capacidades de la

plataforma, aportando criterio de implementación y operabilidad.

● Integrar aplicaciones, agentes y servicios consumidores con el endpoint corporativo de

inferencia, facilitando patrones reutilizables de adopción.

● Integrar el LLM Gateway con los mecanismos corporativos existentes de identidad,

autenticación y autorización, aplicando los estándares definidos por BBVA para identidades

de workload, OAuth2/OIDC, JWT, audiencias, scopes y principio de mínimo privilegio.

● Configurar la gestión segura y centralizada de secretos y credenciales de proveedores,

incluida su segregación por entorno y su rotación.

● Implementar la configuración del Gateway necesaria para la conectividad con proveedores

de modelos y coordinar su validación con los equipos responsables de Redes y Seguridad,

incluyendo DNS, proxy, TLS, certificados y egress controlado.

● Configurar y evolucionar capacidades de gobierno y protección: políticas de acceso, rate

limiting, cuotas, enrutamiento, límites de consumo, filtrado/guardrails y trazabilidad.

● Implantar capacidades de resiliencia y calidad de servicio: timeouts, reintentos, circuit

breaking, manejo de errores, fallback cuando aplique y pruebas de carga.

● Instrumentar la plataforma para su operación: métricas, logs estructurados, trazas

distribuidas, alertas, cuadros de mando y soporte a auditoría.

● Habilitar la medición de consumo y costes por aplicación, agente, proyecto, entorno y

modelo, en coordinación con los equipos de control y FinOps.

● Automatizar despliegues, configuración y pruebas mediante Infraestructura como Código y

pipelines CI/CD.

● Elaborar documentación técnica, guías de integración, procedimientos operativos y material

de transferencia a los equipos de BBVA.

● Colaborar de forma estrecha con los equipos de Arquitectura, Ciberseguridad, IAM,

Cloud/Platform Engineering, Redes, SRE y equipos de desarrollo.

Requisitos técnicos

● Experiencia de al menos 6 años en ingeniería de plataforma, cloud engineering, integración

de sistemas distribuidos, API management o ámbitos equivalentes.

● Experiencia demostrable previa de al menos 1 año con integración de AI Gateways.

● Experiencia demostrable implantando y operando APIs, plataformas compartidas o servicios

transversales en entornos empresariales complejos.

● Experiencia práctica integrando APIs de inferencia y modelos de IA generativa en entornos

productivos con alta concurrencia, incluyendo autenticación, streaming, gestión de errores,

límites de consumo, latencia y uso de tokens.

● Experiencia con API Gateways, gestión de APIs o plataformas de integración equivalentes.

● Experiencia implementando capacidades de plataforma aplicadas a APIs: políticas de acceso,

rate limiting, cuotas, trazabilidad, observabilidad y gestión de errores.

● Conocimiento sólido de seguridad de APIs e integración con mecanismos corporativos

existentes de identidad y control de acceso: OAuth2, OIDC, JWT, gestión de secretos,

scopes, audiencias y principio de mínimo privilegio.

● Experiencia con AWS, especialmente en capacidades de identidad, gestión de secretos,

observabilidad, networking e Infraestructura como Código.

● Conocimiento de redes y seguridad cloud: VPC, egress controlado, proxy, DNS, TLS,

certificados y conectividad con servicios externos.

● Experiencia implementando observabilidad y operación de servicios: métricas, logs

estructurados, trazas distribuidas, alertas, SLI/SLO y diagnóstico de incidencias.

● Experiencia de desarrollo y automatización con Python, incluyendo implementación de APIs,

integraciones, middlewares o componentes de plataforma.

● Experiencia con Terraform, CloudFormation o CDK, CI/CD y gestión de configuración

versionada.

● Capacidad para trabajar coordinadamente con equipos de Arquitectura, IAM,

Ciberseguridad, Redes, Cloud/Platform Engineering y desarrollo en un entorno corporativo

regulado.

● Autonomía en identificación de problemas ante incidentes o problemas complejos tales

como cuellos de botella, problemas de integración, etc.

Conocimientos valorables

● Experiencia específica con AWS AgentCore Gateway, Amazon Bedrock u otras capacidades

AWS orientadas a IA generativa.

● Experiencia previa en la implantación de un LLM Gateway o plataforma de acceso

gobernado a modelos fundacionales.

● Integración con OpenAI y otros proveedores de modelos, así como con APIs compatibles con

OpenAI.

● Experiencia con patrones multi-modelo o multi-proveedor, enrutamiento de modelos,

fallback y mecanismos de resiliencia.

● Implementación de guardrails, filtrado de contenido, protección frente a prompt injection,

DLP y clasificación de datos.

● Conocimientos de FinOps aplicado a IA generativa, incluyendo medición, imputación y

optimización de costes por consumidor o caso de uso.

● Experiencia con Kubernetes/EKS, service mesh y prácticas SRE avanzadas.

● Experiencia previa en banca u otros sectores con elevados requisitos de seguridad,

trazabilidad, segregación y cumplimiento normativo.

SBA: 45.000€

Modalidad: Teletrabajo