(Senior) AI Platform Engineer (m/f/d)

<p>Du brennst für Kubernetes, Plattform-Engineering und moderne AI-Technologien? Du möchtest nicht nur einzelne Modelle deployen, sondern die Infrastruktur und Plattformen schaffen, auf denen innovative AI-Anwendungen zuverlässig, sicher und skalierbar betrieben werden?</p> <p>Dann bist du bei uns genau richtig.</p> <p>Als <strong>(Senior) AI Platform Engineer (m/f/d)</strong> entwickelst, betreibst und optimierst du moderne AI- und ML-Plattformen für unsere Kunden. Du arbeitest mit Kubernetes, GPU-Infrastrukturen, Infrastructure as Code sowie modernen CI/CD-, MLOps- und LLMOps-Ansätzen und unterstützt Unternehmen dabei, Generative AI und Machine Learning erfolgreich in den produktiven Einsatz zu bringen.</p> <p>Dich erwarten spannende Projekte in unterschiedlichsten Branchen, technologischer Gestaltungsspielraum und ein Team aus Cloud-, Plattform-, Data- und AI-Spezialisten, das Innovation nicht nur diskutiert, sondern täglich umsetzt.</p> <h2 id="aufgaben">Aufgaben</h2> <ul> <li>Planung, Aufbau und Betrieb von hochverfügbaren AI/ML-Plattformen und -Services, insbesondere auf Basis von Kubernetes in On-Premises-, Hybrid- und Cloud-Umgebungen.</li> <li>Design und Umsetzung skalierbarer GPU-Infrastrukturen innerhalb von Kubernetes-Clustern – inklusive GPU-Scheduling und -Sharing (z. B. Kueue, KAI-Scheduler, Run:ai, NVIDIA MIG/Time-Slicing) mit Blick auf Auslastung und Kosteneffizienz.</li> <li>Aufbau und Betrieb von Model-Serving- und Inferenz-Diensten (z. B. vLLM, NVIDIA Triton, KServe, NVIDIA NIM, Ray) für klassische ML-Modelle und Large Language Models.</li> <li>Entwicklung und Betrieb von MLOps-/LLMOps-Workflows für produktive GenAI-Services – inklusive Guardrails &amp; Policies, Evaluierung, Regressionstests sowie Kosten- und Qualitätsmonitoring.</li> <li>Bereitstellung von Fine-Tuning- und Re-Training-Workflows (z. B. LoRA, kontinuierliches Re-Training) auf der Plattform.</li> <li>Monitoring, Troubleshooting und Performance-Tuning von AI-Plattformen (u. a. GPU-Auslastung, Inferenz-Latenz, Durchsatz), um höchste Performance und Verfügbarkeit sicherzustellen.</li> <li>Beratung unserer Kunden in Bezug auf Best Practices, AI-Governance, Datensicherheit und Datenschutz im Kontext von AI-Plattformen auf Kubernetes.</li> <li>Enge Zusammenarbeit mit Data-Science-, Data-Platform- und Entwicklungsteams zur Sicherstellung der nahtlosen Integration von AI-Lösungen.</li> </ul> <h2 id="qualifikation">Qualifikation</h2> <ul> <li>Mindestens 3 Jahre Erfahrung im Betrieb und der Optimierung von Plattformen und Services at Scale in Kubernetes-Umgebungen, egal ob On-Premise oder in der Cloud.</li> <li>Fundierte Kenntnisse in der Architektur und dem Betrieb von skalierbaren Lösungen unter Verwendung von Kubernetes, idealerweise inklusive GPU-Workloads.</li> <li>Programmierkenntnisse in Python, idealerweise ergänzt um Golang oder Java.</li> <li>Erfahrung mit mindestens einem Model-Serving-Framework (z. B. vLLM, NVIDIA Triton, KServe) sowie erste oder vertiefte Erfahrung mit MLOps-Werkzeugen (z. B. MLflow, Kubeflow, ClearML).</li> <li>Erfahrung mit Infrastructure-as-Code-Tools wie Ansible und Terraform sowie CI/CD- und GitOps-Werkzeugen (z. B. Argo CD, Flux).</li> <li>Sehr gute Kommunikationsfähigkeiten in Deutsch und Englisch. Idealerweise hast du bereits Kunden beraten und kannst technische Themen zielgruppengerecht vermitteln – vom Engineering-Team bis zum Management.</li> </ul> <p><strong>Für die Senior-Rolle zusätzlich:</strong></p> <ul> <li>Mindestens 5 Jahre einschlägige Erfahrung im Plattform-Engineering.</li> <li>Architektur-Ownership: Du verantwortest das Design von AI-Plattformen end-to-end und triffst technologische Grundsatzentscheidungen.</li> <li>Technische Führung in Kundenprojekten (Lead-Rolle) sowie Mentoring von Kolleginnen und Kollegen.</li> </ul> <p><strong>Darüber hinaus verfügst du idealerweise über:</strong></p> <ul> <li>Erfahrung mit Cloud-AI-Diensten (z. B. AWS SageMaker/Bedrock, Azure ML/Azure OpenAI/Azure AI Foundry) und deren Integration mit Kubernetes-Workloads.</li> <li>Kenntnisse im Betrieb von LLM-basierten Architekturen, z. B. RAG-Pipelines, Vektordatenbanken und Embedding-Services sowie Agentic-AI-Ansätze und Model Context Protocol (MCP).</li> <li>Verständnis von System-Level-Grundlagen des LLM-Servings (Rate Limiting, Token Streaming, Load Balancing) und LLM-Konzepten wie Reasoning, Tool Calling und Prompt Templates.</li> <li>Erfahrung mit neuen Serving-Bausteinen wie llm-d oder Kubernetes Inference Gateway.</li> <li>Kenntnisse in der Absicherung von AI-Plattformen, z. B. TLS, RBAC und Network Policies innerhalb von Kubernetes-Umgebungen, sowie Grundverständnis von AI-Governance (z. B. EU AI Act).</li> <li>Zertifizierungen im Bereich relevanter Technologien (z. B. Certified Kubernetes Administrator/Developer, NVIDIA-Zertifizierungen).</li> <li>Bereitschaft zu gelegentlichen Reisen im DACH-Raum.</li> </ul> <h2 id="benefits">Benefits</h2> <p><strong>Wir bieten dir u.a.:</strong> </p> <ul> <li>Betriebliche Altersvorsorge </li> <li>Teamorientierte Unternehmenskultur mit regelmäßigen Teamevents </li> <li>Gezielte Förderung deiner fachlichen Weiterentwicklung </li> <li>Corporate Benefits Programm </li> <li>Flexible Arbeitszeiten </li> <li>Moderner Arbeitsplatz mit zeitgemäßer Ausstattung </li> <li>Remote-Work-Möglichkeiten</li> </ul> <p>Wir freuen uns auf deine Online-Bewerbung und darauf, mehr über dich zu erfahren.</p> <p><strong>We get IT done.</strong> 🚀</p>