(Senior) AI Platform Engineer (m/f/d) in Mainz

Karriere bei der evoila Germany Gmb H

Du möchtest dein nächstes Karrierelevel erreichen und in einem dynamischen, leistungsstarken Team mit echten Zukunftschancen arbeiten?

Die evoila Germany Gmb H ist ein eigentümergeführtes IT‑Unternehmen mit Fokus auf Cloud, Security und Data.

Unsere Kunden schätzen besonders unsere zukunftsorientierten Lösungen und unser Dev Ops‑Modell – von IT Consulting über Konzeption, Entwicklung und Implementierung bis hin zu Managed Services und Support.

Bei uns erlebst du Teamgeist und ein Umfeld, in dem du aktiv mitgestalten kannst, mit klaren Perspektiven für deine persönliche und fachliche Weiterentwicklung.

(Senior) AI Platform Engineer (m/f/d)

Du brennst für Kubernetes, Plattform-Engineering und moderne AI-Technologien?

Du möchtest nicht nur einzelne Modelle deployen, sondern die Infrastruktur und Plattformen schaffen, auf denen innovative AI-Anwendungen zuverlässig, sicher und skalierbar betrieben werden?

Dann bist du bei uns genau richtig.

Als

(Senior) AI Platform Engineer (m/f/d) entwickelst, betreibst und optimierst du moderne AI- und ML-Plattformen für unsere Kunden.

Du arbeitest mit Kubernetes, GPU-Infrastrukturen, Infrastructure as Code sowie modernen CI/CD-, MLOps- und LLMOps-Ansätzen und unterstützt Unternehmen dabei, Generative AI und Machine Learning erfolgreich in den produktiven Einsatz zu bringen.

Dich erwarten spannende Projekte in unterschiedlichsten Branchen, technologischer Gestaltungsspielraum und ein Team aus Cloud-, Plattform-, Data- und AI-Spezialisten, das Innovation nicht nur diskutiert, sondern täglich umsetzt.

Tätigkeitsschwerpunkte

• Planung, Aufbau und Betrieb von hochverfügbaren AI/ML-Plattformen und -Services, insbesondere auf Basis von Kubernetes in On-Premises-, Hybrid- und Cloud-Umgebungen.
• Design und Umsetzung skalierbarer GPU-Infrastrukturen innerhalb von Kubernetes-Clustern – inklusive GPU-Scheduling und -Sharing (z.

Kueue, KAI-Scheduler, Run: ai, NVIDIA MIG/Time-Slicing) mit Blick auf Auslastung und Kosteneffizienz.

• Aufbau und Betrieb von Model-Serving- und Inferenz-Diensten (z. B. v LLM, NVIDIA Triton, KServe, NVIDIA NIM, Ray) für klassische ML-Modelle und Large Language Models.
• Entwicklung und Betrieb von MLOps-/LLMOps-Workflows für produktive Gen AI-Services – inklusive Guardrails & Policies, Evaluierung, Regressionstests sowie Kosten- und Qualitätsmonitoring.
• Bereitstellung von Fine-Tuning- und Re-Training-Workflows (z. B. Lo RA, kontinuierliches Re-Training) auf der Plattform.
• Monitoring, Troubleshooting und Performance-Tuning von AI-Plattformen (u. a.

GPU-Auslastung, Inferenz-Latenz, Durchsatz), um höchste Performance und Verfügbarkeit sicherzustellen.

• Beratung unserer Kunden in Bezug auf Best Practices, AI-Governance, Datensicherheit und Datenschutz im Kontext von AI-Plattformen auf Kubernetes.
• Enge Zusammenarbeit mit Data-Science-, Data-Platform- und Entwicklungsteams zur Sicherstellung der nahtlosen Integration von AI-Lösungen.

Deine Qualifikation

• Mindestens 3 Jahre Erfahrung im Betrieb und der Optimierung von Plattformen und Services at Scale in Kubernetes-Umgebungen, egal ob On-Premise oder in der Cloud.
• Fundierte Kenntnisse in der Architektur und dem Betrieb von skalierbaren Lösungen unter Verwendung von Kubernetes, idealerweise inklusive GPU-Workloads.
• Programmierkenntnisse in Python, idealerweise ergänzt um Golang oder Java.
• Erfahrung mit mindestens einem Model-Serving-Framework (z.

B. v LLM, NVIDIA Triton, KServe) sowie erste oder vertiefte Erfahrung mit MLOps-Werkzeugen (z.

MLflow, Kubeflow, Clear ML).

• Erfahrung mit Infrastructure-as-Code-Tools wie Ansible und Terraform sowie CI/CD- und Git Ops-Werkzeugen (z. B. Argo CD, Flux).
• Sehr gute Kommunikationsfähigkeiten in Deutsch und Englisch.

Idealerweise hast du bereits Kunden beraten und kannst technische Themen zielgruppengerecht vermitteln – vom Engineering-Team bis zum Management.

Für die Senior-Rolle zusätzlich

• Mindestens 5 Jahre einschlägige Erfahrung im Plattform-Engineering.
• Architektur-Ownership: Du verantwortest das Design von AI-Plattformen end-to-end und triffst technologische Grundsatzentscheidungen.
• Technische Führung in Kundenprojekten (Lead-Rolle) sowie Mentoring von Kolleginnen und Kollegen.

Darüber hinaus verfügst du idealerweise über

• Erfahrung mit Cloud-AI-Diensten (z. B. AWS Sage Maker/Bedrock, Azure ML/Azure Open AI/Azure AI Foundry) und deren Integration mit Kubernetes-Workloads.
• Kenntnisse im Betrieb von LLM-basierten Architekturen, z. B. RAG-Pipelines, Vektordatenbanken und Embedding-Services sowie Agentic-AI-Ansätze und Model Context Protocol (MCP).
• Verständnis von System-Level-Grundlagen des LLM-Servings (Rate Limiting, Token Streaming, Load Balancing) und LLM-Konzepten wie Reasoning, Tool Calling und Prompt Templates.
• Erfahrung mit neuen Serving-Bausteinen wie llm-d oder Kubernetes Inference Gateway.
• Kenntnisse in der Absicherung von AI-Plattformen, z.

TLS, RBAC und Network Policies innerhalb von Kubernetes-Umgebungen, sowie Grundverständnis von AI-Governance (z.

EU AI Act).

• Zertifizierungen im Bereich relevanter Technologien (z. B. Certified Kubernetes Administrator/Developer, NVIDIA-Zertifizierungen).
• Bereitschaft zu gelegentlichen Reisen im DACH-Raum.

Wir bieten dir u. a.

• Betriebliche Altersvorsorge
• Teamorientierte Unternehmenskultur mit regelmäßigen Teamevents
• Gezielte Förderung deiner fachlichen Weiterentwicklung
• Corporate Benefits Programm
• Flexible Arbeitszeiten
• Moderner Arbeitsplatz mit zeitgemäßer Ausstattung
• Remote-Work-Möglichkeiten

Wir freuen uns auf deine Online-Bewerbung und darauf, mehr über dich zu erfahren.

We get IT done.