Senior Deep Learning Compiler Engineer - PyTorch, Senior Deep Learning Compiler Engineer - PyTorch

Überblick

NVIDIA sucht leidenschaftliche Ingenieure, um die nächste Generation von Tools zu entwickeln, die von KI-Entwicklern und Forschern weltweit genutzt werden. Unser Team entwickelt Thunder, einen ehrgeizigen Source-to-Source-Compiler, der herausragende Leistung für PyTorch-Modelle auf NVIDIA-GPUs freischaltet. Dies ist eine einzigartige Gelegenheit, zu einem Projekt beizutragen, das das PyTorch-Ökosystem verbessert, indem moderne Compiler-Stacks wie PyTorch 2.0's TorchDynamo und TorchInductor verwendet werden, um leistungsstarke, Open-Source-Lösungen zu schaffen, die der gesamten Gemeinschaft zugutekommen.

Was Sie tun werden

Als Schlüsselmitglied unseres Teams werden Sie direkt zur Zukunft der beschleunigten KI beitragen. Ihre Rolle wird dynamisch und tief technisch sein, was Sie ins Zentrum der Compiler-Innovation stellt. Sie werden das Design, die Implementierung, Optimierung und Wartung der Kerncompiler-Technologien leiten, die massive Deep-Learning-Workloads beschleunigen. Dies ist eine hochgradig kollaborative Rolle, in der Sie eng mit den Ingenieuren zusammenarbeiten, die PyTorch für NVIDIA-Hardware entwickelt haben, um neue Funktionen zu entwickeln und an der Spitze der Framework-Entwicklung zu bleiben. Sie werden tief in die Leistungsanalyse eintauchen und Workloads, die auf Tausenden von GPUs laufen, genau untersuchen, um Optimierungsmöglichkeiten zu finden, die das zukünftige Design von Thunder prägen werden. Darüber hinaus werden Sie Teil eines lebendigen Ökosystems sein und eng mit führenden Compiler-, Bibliotheks- und Systemteams zusammenarbeiten – einschließlich Experten hinter nvFuser, TVM, XLA und CUDA – um die neuesten Forschungsergebnisse in praktische, wirkungsvolle Lösungen für die Open-Source-Gemeinschaft zu übersetzen.

Was wir sehen möchten

• Ein Bachelor-, Master- oder Ph.D. in Informatik oder einem verwandten technischen Bereich (oder gleichwertige Erfahrung).
• 8+ Jahre relevante Berufserfahrung.
• Ein starkes Verständnis von Python und Erfahrung im Aufbau komplexer, gut getesteter Softwaresysteme.
• Praktische Erfahrung mit Deep-Learning-Frameworks wie PyTorch oder JAX.
• Ein solides Fundament in Compiler-Konzepten wie abstrakten Syntaxbäumen (ASTs), Zwischenrepräsentationen (z.B. SSA-Form), Programmanalyse und Codegenerierung.
• Ausgezeichnete Kommunikations- und Kollaborationsfähigkeiten, die für die effektive Arbeit in einer verteilten, Open-Source-Umgebung unerlässlich sind.

Wie Sie sich von der Masse abheben können

• Frühere Beiträge zu Deep-Learning-Compiler-Projekten (z.B. TVM, MLIR, IREE) oder zu Deep-Learning-Frameworks selbst.
• Tiefe Expertise in den Interna von PyTorch, insbesondere in seinem Compiler-Stack (TorchDynamo, TorchInductor).
• Erfahrung mit JAX-ähnlichen funktionalen Transformationen und deren Anwendung im Compiler-Kontext.
• Vertrautheit mit paralleler Programmierung, verteilten Systemen und dem Schreiben von Hochleistungs-CUDA-Code.
• Eine Erfolgsbilanz bei der wirkungsvollen Teilnahme an Open-Source-Communities, z.B. durch Codebeiträge, Entwurfsdiskussionen oder Mentoring.

NVIDIA steht an der Spitze von Durchbrüchen in der Künstlichen Intelligenz, Hochleistungsrechnen und Visualisierung. Unsere Teams bestehen aus engagierten, innovativen Fachleuten, die sich dafür einsetzen, die Grenzen der Technologie zu erweitern. Wir bieten wettbewerbsfähige Gehälter, ein umfangreiches Leistungspaket und ein Arbeitsumfeld, das Vielfalt, Inklusion und Flexibilität fördert. Als Arbeitgeber, der Chancengleichheit bietet, setzen wir uns dafür ein, einen unterstützenden und ermächtigenden Arbeitsplatz für alle zu schaffen.

Beschäftigungsart: Vollzeit | Erfahrungsgrad: Mid-Senior Level