Senior AI Platform Engineer

Wir arbeiten mit einer führenden internationalen Beratung zusammen, die skalierbare, produktionsreife AI SaaS-Produkte in ihrem eigenen AI-Labor entwickelt. Dies ist eine Greenfield-Möglichkeit — Sie werden tiefgehende technische Expertise mit strategischer Vision kombinieren, um AI-gestützte Plattformen zu entwerfen und zu bauen, die die Geschäftsmodelle von Unternehmensklienten transformieren.

Das AI-Labor entwickelt hochmoderne, großangelegte AI-Produkte, die nachhaltige kommerzielle Auswirkungen liefern. Das Team arbeitet mit einer Startup-Mentalität: agil, flache Hierarchien und eine echte Neigung zu Experimenten und Eigenverantwortung.

Dies ist eine seltene Full-Stack-Plattform-Engineering-Rolle, die von der Infrastrukturarchitektur bis zur Operationalisierung von LLM reicht. Sie werden die Plattformschicht von Anfang bis Ende besitzen — von Kubernetes-Cluster-Betrieb und IaC bis hin zu Modellbereitstellung, RAG-Pipelines und LLMOps.

Wichtige Themen der Rolle:

• Entwurf und Weiterentwicklung einer Multi-Tenant-SaaS-Architektur mit Mandantenisolierung, mandantenbezogenen Kontrollen und Unternehmenssicherheit
• Automatisierte Mandantenbereitstellung, sichere Rollouts (Canary/Feature-Flags) und Schutz vor „noisy neighbors“
• Operationalisierung von LLMs von Ende zu Ende — Feinabstimmung, Bewertung, Hochleistungsbereitstellung, Überwachung und Einbettungs-Workflows
• Aufbau von MLOps-Grundlagen: automatisierte Trainingspipelines, Experimentverfolgung und skalierbare Modellbereitstellung
• Verwaltung von Kubernetes-Clustern, GPU-intensiven Workloads und Autoscaling auf AWS
• Erstellung einheitlicher CI/CD-Pipelines, die ML- und Anwendungs-Code nahtlos bereitstellen
• Implementierung umfassender Beobachtbarkeit: Protokolle, Metriken, Traces, Modell-/Datenabweichungserkennung
• Einbettung von Unternehmenssicherheit und Compliance — IAM, RBAC, VPC-Design, Geheimnisverwaltung, Verschlüsselung — auf jeder Ebene
• Entwurf gut architektierter ETL/ELT-Pipelines, Streaming-Systeme, Integration von Feature-Stores und Workflow-Orchestrierung

Technische Anforderungen:

• Plattform & Multi-Tenancy: Bewährte Muster für Mandantenisolierung (DB-per-Tenant, Schema-per-Tenant, zeilenbasierte Sicherheit), mandantenbewusste Caching, Schutz vor „noisy neighbors“
• Kubernetes & Infrastruktur: Tiefes Kubernetes: Cluster-Betrieb, HPA/VPA, Knotenpools, GPU-Planung, Karpenter, PDBs, Netzwerkrichtlinien, Multi-AZ-Design
• Service Mesh (Istio/Linkerd), Ingress-Muster (ALB/Nginx), sichere Egress, mTLS
• Infrastructure as Code über die Grundlagen hinaus: Terraform-Module, Terragrunt, Policy-as-Code (OPA/Conftest), Geheimnisautomatisierung
• GitOps (ArgoCD/Flux), progressive Bereitstellung (Argo Rollouts/Flagger), Feature-Flags, Canary- und Blue/Green-Bereitstellungen
• MLOps & Modelllebenszyklus: Modelllebenszyklus-Tools: MLflow/W&B, Modellregister, Experimentverfolgung, reproduzierbares Training, Datensatzversionierung (DVC/lakeFS)
• Pipeline-Orchestrierung: Airflow, Prefect oder Dagster + Artefakt-Speicher
• Modellbereitstellung: KServe, Seldon, BentoML oder Ray Serve — online, asynchrone/batch Inferenz, Autoscaling, Rollback
• LLMOps: Prompt- und Versionsverwaltung, Offline- + Online-Bewertungshilfen, RAG-Bewertung (Abrufmetriken, Fundiertheit), Leitplanken, Grundlagen des Red-Teaming
• Streaming-Inferenz (SSE/WebSockets), Caching, Routing, Fallback-Modelle
• Erfahrung mit Vektor-Datenbanken: pgvector, Pinecone, Weaviate oder Milvus — Einbettungslebenszyklus, Backfills, Re-Einbettung, Indexierungsstrategien
• Beobachtbarkeit & Sicherheit: OpenTelemetry, Tracing, SLOs — Prometheus/Grafana, Loki/ELK, Datadog/New Relic
• Vorfallmanagement: Nachbesprechungen, Betriebsanleitungen, Fehlerbudgets
• GDPR, Verschlüsselung im Ruhezustand/in der Übertragung, Geheimnisverwaltung (AWS Secrets Manager/Vault), KMS, Schlüsselrotation
• Vertrautheit mit SOC 2 / ISO 27001, Schwachstellenscanning (Trivy/Grype), SBOMs, SAST/DAST

Über Sie:

• Sie haben kundenorientierte SaaS-Produkte in großem Maßstab mit echten Nutzern ausgeliefert und betrieben.
• Sie haben die End-to-End-ML/AI-Infrastruktur besessen — von der Datenaufnahme bis zur Produktionsüberwachung.
• Sie ermöglichen es Ingenieuren und Datenwissenschaftlern, schneller durch Self-Service-Plattformen und automatisierte Workflows zu arbeiten.
• Sie haben eine Erfolgsbilanz beim Entwerfen von Systemen, die global über Regionen und Verkehrsströme skalieren.
• Sie sind mit Incident Response, Bereitschaftsdiensten und der Stabilisierung kritischer Produktionssysteme vertraut.
• Sie denken mit einer Produktmentalität — Kundenwert, Zuverlässigkeit und Markteinführungszeit über Technologie um ihrer selbst willen.
• Sie haben eine starke Neigung zur Automatisierung und zur Beseitigung manueller Betriebsbelastungen.
• Ausgezeichnete Kommunikationsfähigkeiten — asynchrone Zusammenarbeit, Dokumentation und Erklärung technischer Entscheidungen an nicht-technische Zielgruppen.

Was wird angeboten:

• Echte Greenfield-Plattform-Engineering-Verantwortung — bauen Sie es von Grund auf neu.
• Startup-Atmosphäre mit flachen Hierarchien innerhalb eines global etablierten Unternehmens.
• Hybrides Arbeiten, internationale Mobilität über ein breites Büronetzwerk.
• Umfangreiche Lern- und Entwicklungsprogramme.
• Wettbewerbsfähiges Paket einschließlich Bonus.