Senior HPC Performance Engineer, Senior HPC Performance Engineer

Join to apply for the Senior HPC Performance Engineer role at NVIDIA. NVIDIA ist führend in bahnbrechenden Entwicklungen in Künstlicher Intelligenz, Hochleistungsrechnen und Visualisierung. Die GPU, unsere Erfindung, dient als visueller Kortex moderner Computer und steht im Mittelpunkt unserer Produkte und Dienstleistungen. Unsere Arbeit eröffnet neue Universen zur Erkundung, ermöglicht erstaunliche Kreativität und Entdeckung und treibt das voran, was einst Science-Fiction-Inventionen waren, von Künstlicher Intelligenz bis hin zu autonomen Fahrzeugen.

Wir suchen einen motivierten Performance Engineer, der den Fahrplan unserer Kommunikationsbibliotheken beeinflusst. Die DL- und HPC-Anwendungen von heute haben eine enorme Rechenanforderung und laufen auf Skalen, die bis zu zehntausend GPUs reichen. Die GPUs sind innerhalb eines Knotens mit Hochgeschwindigkeitsverbindungen (z.B. NVLink, PCIe) und über die Knoten hinweg mit Hochgeschwindigkeitsnetzwerken (z.B. Infiniband, Ethernet) verbunden. Die Kommunikationsleistung zwischen den GPUs hat einen direkten Einfluss auf die End-to-End-Anwendungsleistung; und die Einsätze sind bei riesigen Skalen noch höher!

Was Sie tun werden:

• Durchführung einer eingehenden Leistungscharakterisierung und -analyse auf großen Multi-GPU- und Multi-Node-Clustern.
• Studie der Interaktion unserer Bibliotheken mit allen HW (GPU, CPU, Netzwerk) und SW-Komponenten im Stack.
• Bewertung von Machbarkeitsstudien, Durchführung von Abwägungsanalysen, wenn mehrere Lösungen verfügbar sind.
• Behebung und Ursachenanalyse von Leistungsproblemen, die von unseren Kunden gemeldet werden.
• Sammlung umfangreicher Leistungsdaten; Aufbau von Tools und Infrastruktur zur Visualisierung und Analyse der Informationen.
• Zusammenarbeit mit einem sehr dynamischen Team über mehrere Zeitzonen hinweg.

Was wir sehen müssen:

• M.S. (oder gleichwertige Erfahrung) oder PHD in Informatik oder einem verwandten Bereich mit relevanter Leistungstechnik und HPC-Erfahrung.
• 3+ Jahre Erfahrung mit paralleler Programmierung und mindestens einem Kommunikationslaufzeit (MPI, NCCL, UCX, NVSHMEM).
• Erfahrung in der Durchführung von Leistungsbenchmarks und Triage auf großen HPC-Clustern.
• Gutes Verständnis der Computerarchitektur, HW-SW-Interaktionen und Prinzipien der Betriebssysteme (d.h. Grundlagen der Systemsoftware).
• Implementierung von Mikrobenchmarks in C/C++, Lesen und Ändern des Codes, wenn erforderlich.
• Fähigkeit zur Fehlersuche bei Leistungsproblemen über den gesamten HW/SW-Stack.
• Versiert in einer Skriptsprache, vorzugsweise Python.
• Vertraut mit Containern, Cloud-Bereitstellung und Planungstools (Kubernetes, SLURM, Ansible, Docker).
• Anpassungsfähigkeit und Leidenschaft, neue Bereiche und Tools zu lernen.
• Flexibilität, effektiv über verschiedene Teams und Zeitzonen hinweg zu arbeiten und zu kommunizieren.

Wege, um sich von der Masse abzuheben:

• Praktische Erfahrung mit Infiniband/Ethernet-Netzwerken in Bereichen wie RDMA, Topologien, Staukontrolle.
• Erfahrung in der Fehlersuche bei Netzwerkproblemen in großflächigen Bereitstellungen.
• Vertrautheit mit CUDA-Programmierung und/oder GPUs.
• Erfahrung mit Deep Learning-Frameworks wie PyTorch, TensorFlow.

NVIDIA ist an der Spitze von Durchbrüchen in Künstlicher Intelligenz, Hochleistungsrechnen und Visualisierung. Unsere Teams bestehen aus engagierten, innovativen Fachleuten, die sich der Erweiterung der Grenzen der Technologie widmen. Wir bieten wettbewerbsfähige Gehälter, ein umfangreiches Leistungspaket und ein Arbeitsumfeld, das Vielfalt, Inklusion und Flexibilität fördert.

Als Arbeitgeber, der Chancengleichheit bietet, setzen wir uns dafür ein, einen unterstützenden und ermächtigenden Arbeitsplatz für alle zu schaffen.