Senior System Engineer (Munich, Germany)

Über den Kunden: Ein gut finanziertes und schnell wachsendes Deep-Tech-Unternehmen, das 2019 gegründet wurde. Wir sind das größte Quantum-Softwareunternehmen in der EU und gehören laut CB Insights (2023) zu den 100 vielversprechendsten Unternehmen im Bereich KI weltweit, mit über 150 Mitarbeitern und wachsend, vollständig multikulturell und international.

Anforderungen

• Systemprogrammierungsexpertise: Über 10 Jahre Erfahrung in der Softwareentwicklung mit starker Beherrschung von Python. Sie sollten in der Lage sein, Systemagenten, APIs und CLI-Tools zu erstellen.
• Tiefes Kubernetes-Wissen: Sie verstehen die K8s-Interna über einfache Bereitstellungen hinaus. Erfahrung mit benutzerdefinierten Ressourcen-Definitionen (CRDs), Operatoren und der Architektur des Kubernetes-API-Servers.
• GPU-Ökosystem-Erfahrung: Praktische Erfahrung in der Verwaltung von NVIDIA-GPU-Clustern. Vertrautheit mit NVIDIA-Treibern, CUDA-Toolkit und der Container-Laufzeit (NVIDIA Container Toolkit).
• Linux-Interna: Tiefes Verständnis des Linux-Kernels, cgroups, Namespaces und der Systemleistungsoptimierung.
• Infrastructure as Code: Beherrschung deklarativer Infrastrukturtools (Terraform, Ansible) mit Fokus auf die Bereitstellung physischer Hardware anstelle von Cloud-VMs.
• Problemlösung: Nachweisliche Erfolge beim Debuggen komplexer verteilter Systeme, bei denen die Ursache im Code, Netzwerk oder Silizium liegen könnte.

Bevorzugte Qualifikationen

• HPC-Hintergrund: Erfahrung mit traditionellen Supercomputing-Planungssystemen (Slurm, PBS) oder modernen Batch-Planungssystemen (Volcano, Kueue, Ray).
• Bare-Metal-Bereitstellung: Erfahrung mit Tools wie Cluster API (CAPI), Metal3, Tinkerbell, Canonical MaaS oder OpenStack Ironic.
• Hochgeschwindigkeitsnetzwerke: Kenntnisse über RDMA, InfiniBand, GPUDirect und wie man diese Technologien für containerisierte Workloads zugänglich macht.
• AI/ML-Vertrautheit: Verständnis dafür, wie verteiltes Training funktioniert (z.B. PyTorch Distributed, Megatron-LM, DeepSpeed) und die Infrastrukturanforderungen großer Sprachmodelle (LLMs).
• Observability: Erfahrung im Aufbau von Monitoring für die Hardwaregesundheit (DCGM) und verteiltes Tracing für langlaufende Jobs.

Was Sie tun werden

• Aufbau der Steuerungsebene: Entwurf und Entwicklung der Softwareebene (APIs, Controller, Agenten), die den Lebenszyklus der Bare-Metal-AI-Infrastruktur automatisiert.
• Orchestrierung von Hochleistungsrechnern: Architektur von Planungslösungen für großangelegte verteilte Trainingsjobs über massive GPU-Cluster (NVIDIA H200/B200/B300), um effizientes Bin-Packing und Gang-Planung sicherzustellen.
• Optimierung des Fabrics: Feinabstimmung der softwaredefinierten Netzwerkschicht zur Unterstützung von latenzarmen Interconnects (InfiniBand/RDMA/RoCEv2), die für das Training mehrerer Knoten unerlässlich sind.
• Entwicklung von Kubernetes-Erweiterungen: Schreiben benutzerdefinierter Kubernetes-Operatoren und CRDs, um komplexe Hardware-Reale in nutzbare Schnittstellen für unsere Data Scientists zu abstrahieren.
• Hardware-Level-Debugging: Untersuchung und Behebung tiefgreifender Systemprobleme, die von PCIe-Busfehlern und NCCL-Kommunikationszeitüberschreitungen bis hin zu Kernel-Paniken auf Bare-Metal-Knoten reichen.
• Festlegung von Standards: Erstellung des „Goldenen Bildes“ für AI-Workloads, Verwaltung von Treibern, Firmware und OS-Optimierungen, um die maximale Leistung aus der Hardware herauszuholen.

Vorteile

• Unbefristeter Vertrag.
• Gleiches Gehalt garantiert.
• Variabler Leistungsbonus.
• Unterzeichnungsbonus.
• Umzugspaket (falls zutreffend).
• Private Krankenversicherung.
• Anspruch auf Bildungsbudget gemäß interner Richtlinie.
• Hybride Möglichkeit.
• Flexible Arbeitszeiten.
• Arbeiten in einem schnelllebigen Umfeld mit modernster Technologie.
• Karriereplan. Möglichkeit zu lernen und zu lehren.
• Fortschrittliches Unternehmen. Kultur glücklicher Menschen.