ML Infrastructure Engineer

Wir suchen einen hochqualifizierten ML/AI Engineer, der unser Team verstärkt, um Benchmarking von GPU-Plattformen für maschinelles Lernen und KI-Workloads zu leiten und zu unterstützen. Sie spielen eine entscheidende Rolle bei der Bewertung der Leistung von GPU-basierter Hardware für verschiedene Deep Learning- und KI-Frameworks, um datengestützte Entscheidungen für die Plattformoptimierung und die Entwicklung der nächsten Hardware-Generation zu ermöglichen.

Ihre Aufgaben umfassen:

• Enge Zusammenarbeit mit Hardware- und Entwicklungsteams zur Profilerstellung und Analyse der GPU-Leistung auf System- und Kernel-Ebene.
• Bewertung und Vergleich der GPU-Leistung über verschiedene Plattformen, Architekturen und Software-Stacks (z.B. CUDA, ROCm).
• Debugging und Optimierung von ML-Workloads, um diese effizient auf GPU-Hardware auszuführen, Identifizierung und Behebung von Leistungsengpässen.
• Durchführung von Abnahmetests für neue GPU-Cluster, um sicherzustellen, dass Hardware und Software die Anforderungen an Leistung, Stabilität und Kompatibilität für KI-Workloads erfüllen.
• Durchführung von Experimenten über verschiedene GPU-Systemkonfigurationen, um die Auswirkungen variierender Interconnect-Strategien und systemweiter Optimierungen auf Leistung und Skalierbarkeit zu bewerten.
• Entwicklung von Tools und Dashboards zur Visualisierung von Leistungskennzahlen, Engpässen und Trends.
• Beitrag zu internen Tools, Frameworks und Best Practices.

Wir erwarten von Ihnen:

• Ein tiefes Verständnis der theoretischen Grundlagen des maschinellen Lernens.
• Tiefes Verständnis der Leistungsaspekte des Trainings und der Inferenz großer neuronaler Netzwerke (Daten-/Tensor-/Kontext-/Expertenparallelismus, Offloading, benutzerdefinierte Kerne, Hardwaremerkmale, Aufmerksamkeitsoptimierungen, dynamisches Batching usw.).
• Umfangreiche Erfahrung mit modernen Deep Learning-Frameworks (PyTorch, JAX, Megatron-LM, Tensor-LLM).
• Gutes Verständnis des GPU-Stacks: CUDA, NCCL, Treiber und relevante Bibliotheken.
• Vertrautheit mit containerisierten Umgebungen (z.B. Docker, Kubernetes).
• Starke Kommunikationsfähigkeiten und die Fähigkeit, selbstständig zu arbeiten.

Herausstechende Merkmale:

• Vertrautheit mit modernen LLM-Inferenz-Frameworks (vLLM, SGLang, TensorRT).
• Erfahrung in Python und Performance-Profiling-Tools (z.B. Nsight, nvprof, perf).
• Vertrautheit mit Cloud-ML-Plattformen wie AWS, GCP, Azure ML.
• Beiträge zu Open-Source-ML-Benchmarking-Tools.

Vorteile & Anreize:

• Wettbewerbsfähige Vergütung.
• Karrierewachstum und Lernmöglichkeiten.
• Flexibilität und Eigenverantwortung.
• Kollaborative und innovative Kultur.
• Gelegenheit, an bedeutenden KI-Projekten zu arbeiten.
• Internationales Umfeld und talentierte Teams.

Was es bedeutet, bei Nebius zu arbeiten: Schnelllebig - Mutiges Denken - Ständiges Wachstum - Bedeutungsvolle Auswirkungen - Vertrauen und echte Verantwortung - Gelegenheit, die Zukunft der KI zu gestalten.

Chancengleichheit: Nebius ist ein Arbeitgeber, der Chancengleichheit bietet. Wir setzen uns dafür ein, ein integratives und diverses Arbeitsumfeld zu fördern und Chancengleichheit in allen Aspekten der Beschäftigung zu gewährleisten. Wir diskriminieren nicht aufgrund von Rasse, Hautfarbe, Religion, Geschlecht (einschließlich Schwangerschaft), nationaler Herkunft, Abstammung, Alter, Behinderung, genetischen Informationen, Familienstand, Veteranenstatus, sexueller Orientierung, Geschlechtsidentität oder -ausdruck oder einer anderen durch geltendes Recht geschützten Eigenschaft.

Bewerber müssen berechtigt sein, in dem Land zu arbeiten, in dem sie sich bewerben, und müssen einen Nachweis über die Beschäftigungsberechtigung als Bedingung für die Einstellung vorlegen.

Wenn Sie während des Bewerbungsprozesses Unterstützung benötigen, lassen Sie es uns bitte wissen.