ML Infrastructure Engineer

Wir suchen derzeit einen ML Infrastructure Engineer in Deutschland. Treten Sie einer modernen AI-Infrastrukturumgebung bei, die sich auf die nächste Generation von maschinellem Lernen und großangelegten AI-Workloads konzentriert. Diese Rolle bietet die Möglichkeit, an der Schnittstelle von GPU-Leistungsengineering, Optimierung des tiefen Lernens und Entwicklung von Cloud-Infrastrukturen zu arbeiten. Sie werden direkt zur Benchmarking und Optimierung fortschrittlicher GPU-Plattformen beitragen, die das Training und die Inferenz komplexer neuronaler Netzwerke und AI-Systeme unterstützen.

Zusammenarbeit mit hochqualifizierten Ingenieuren und Hardware-Teams wird Ihnen helfen, Leistungsverbesserungen über Rechenarchitekturen, Software-Stacks und verteilte AI-Umgebungen voranzutreiben. Die Position ist ideal für Ingenieure, die leidenschaftlich an ML-Systemen, der Leistung großangelegter Modelle und Infrastrukturinnovationen interessiert sind. Mit Einblicken in moderne AI-Frameworks, Hochleistungs-GPU-Ökosysteme und internationale Zusammenarbeit bietet diese Rolle eine starke Plattform für technisches Wachstum und bedeutenden Einfluss in der AI-Branche.

• Benchmarking und Bewertung der GPU-Plattformleistung für maschinelles Lernen und AI-Workloads über verschiedene Architekturen, Frameworks und Softwareumgebungen.
• Enger Austausch mit Hardware- und Engineering-Teams zur Profilerstellung der GPU-Leistung auf System- und Kernel-Ebene und Identifizierung von Optimierungsmöglichkeiten.
• Analyse, Debugging und Optimierung von Trainings- und Inferenz-Workloads zur Verbesserung der Effizienz, Skalierbarkeit und der gesamten Hardware-Nutzung.
• Durchführung von Abnahmetests für neue GPU-Cluster zur Validierung von Leistung, Stabilität, Kompatibilität und betrieblicher Einsatzbereitschaft für AI-Workloads.
• Durchführung von Experimenten über mehrere GPU-Konfigurationen und Interconnect-Strategien zur Bewertung der systemweiten Skalierbarkeit und Leistungsabgleich.
• Entwicklung interner Tools, Dashboards und Reporting-Frameworks zur Visualisierung von Leistungskennzahlen, Engpässen und Infrastrukturtrends.
• Beitrag zu Best Practices in der Infrastruktur, Verbesserungen interner Tools und Benchmarking-Methoden für AI- und ML-Umgebungen.
• Unterstützung laufender Plattformoptimierungsbemühungen im Zusammenhang mit verteiltem Training, Inferenzbeschleunigung, Parallelitätsstrategien und hardwarebewusster Leistungstuning.

• Starke theoretische Grundlagen im maschinellen Lernen, in tiefen Lernarchitekturen und in den Prinzipien der AI-Systemoptimierung.
• Tiefes Verständnis von Techniken zur Leistungsoptimierung für das Training und die Inferenz großer neuronaler Netzwerke, einschließlich Parallelitätsstrategien, Kernel-Optimierung, Batching und Hardware-Beschleunigung.
• Umfangreiche Erfahrung mit modernen Deep-Learning-Frameworks wie PyTorch, JAX, Megatron-LM, TensorRT-LLM oder gleichwertigen Technologien.
• Solide Expertise mit GPU-Technologien und Software-Stacks, einschließlich CUDA, NCCL, GPU-Treibern und leistungsbezogenen Bibliotheken.
• Erfahrung in der Profilerstellung und im Debugging von GPU-Workloads mit Tools wie Nsight, nvprof, perf oder ähnlichen Leistungsanalyseplattformen.
• Vertrautheit mit containerisierten und verteilten Umgebungen, einschließlich Docker und Kubernetes.
• Starke Programmier- und Skriptfähigkeiten, insbesondere in Python und leistungsorientierten Entwicklungsabläufen.
• Exzellente Problemlösungs-, analytische Denk- und Kommunikationsfähigkeiten mit der Fähigkeit, unabhängig in hochgradig technischen Umgebungen zu arbeiten.
• Erfahrung mit LLM-Inferenz-Frameworks wie vLLM, SGLang oder TensorRT wird als großer Vorteil angesehen.
• Vertrautheit mit cloudbasierten ML-Ökosystemen wie AWS, Google Cloud Platform oder Azure ML ist von Vorteil.
• Beiträge zu Open-Source-ML-Tools, Benchmarking-Frameworks oder Infrastrukturprojekten sind sehr geschätzt.

• Wettbewerbsfähiges Vergütungspaket, das an Erfahrung und technische Expertise angepasst ist.
• Flexibles Remote-Arbeitsumfeld, das eine starke Work-Life-Balance unterstützt.
• Zugang zu kontinuierlichem Lernen, Karriereentwicklung und Wachstumschancen im Bereich der AI-Infrastruktur.
• Gelegenheit, an wirkungsvollen AI-Projekten zu arbeiten, die die Zukunft der Infrastruktur für maschinelles Lernen und Cloud-Computing gestalten.
• Kollaborative und innovationsgetriebene Ingenieurkultur mit starkem technischem Eigentum und Autonomie.
• Internationales Arbeitsumfeld mit Einblicken in global verteilte Teams und fortschrittliche AI-Technologien.
• Schnelles Umfeld, das sich auf mutiges Denken, Experimente und kontinuierliche technische Evolution konzentriert.
• Gelegenheit, zu Hochleistungs-AI-Systemen beizutragen, die von Entwicklern und Unternehmen weltweit genutzt werden.