Senior Deep Learning Compiler Engineer - PyTorch

Schließen Sie sich uns an der Spitze der KI-Compiler-Technologie an und helfen Sie, die Zukunft des beschleunigten Rechnens zu gestalten. NVIDIA sucht leidenschaftliche Ingenieure, um die nächste Generation von Werkzeugen zu entwickeln, die von KI-Entwicklern und Forschern weltweit genutzt werden. Unser Team entwickelt Thunder, einen ehrgeizigen Source-to-Source-Compiler, der herausragende Leistung für PyTorch-Modelle auf NVIDIA-GPUs freischaltet. Dies ist eine einzigartige Gelegenheit, zu einem Projekt beizutragen, das das PyTorch-Ökosystem verbessert, indem moderne Compiler-Stacks wie PyTorch 2.0's TorchDynamo und TorchInductor verwendet werden, um leistungsstarke, Open-Source-Lösungen zu schaffen, die der gesamten Gemeinschaft zugutekommen.

Wenn Sie motiviert sind, komplexe Probleme zu lösen und einen grundlegenden Einfluss auf das KI-Ökosystem ausüben möchten, bewerben Sie sich, um unserem kollaborativen und innovativen Team beizutreten.

Was Sie tun werden:

Als Schlüsselmitglied unseres Teams werden Sie direkt zur Zukunft der beschleunigten KI beitragen. Ihre Rolle wird dynamisch und tief technisch sein, was Sie ins Zentrum der Compiler-Innovation stellt. Sie werden das Design, die Implementierung, Optimierung und Wartung der Kerncompiler-Technologien leiten, die massive Deep-Learning-Workloads beschleunigen. Dies ist eine hochgradig kollaborative Rolle, in der Sie eng mit den Ingenieuren zusammenarbeiten, die PyTorch für NVIDIA-Hardware entwickelt haben, und dabei helfen, neue Funktionen zu entwickeln und an der Spitze der Framework-Entwicklung zu bleiben.

Sie werden tief in die Leistungsanalyse eintauchen, Arbeitslasten, die auf Tausenden von GPUs laufen, genau untersuchen, um Optimierungsmöglichkeiten zu finden, die das zukünftige Design von Thunder prägen werden. Darüber hinaus werden Sie Teil eines lebendigen Ökosystems sein, das eng mit führenden Compiler-, Bibliotheks- und Systemteams zusammenarbeitet – einschließlich Experten hinter nvFuser, TVM, XLA und CUDA – um die neuesten Forschungsergebnisse in praktische, wirkungsvolle Lösungen für die Open-Source-Gemeinschaft zu übersetzen.

Was wir sehen müssen:

• Ein Bachelor-, Master- oder Doktortitel in Informatik oder einem verwandten technischen Bereich (oder gleichwertige Erfahrung).
• Über 8 Jahre relevante Berufserfahrung.
• Ein starkes Verständnis von Python und Erfahrung im Aufbau komplexer, gut getesteter Softwaresysteme.
• Praktische Erfahrung mit Deep-Learning-Frameworks wie PyTorch oder JAX. Sie verstehen, wie Modelle aufgebaut sind und wo die Leistungsherausforderungen liegen.
• Eine solide Grundlage in Compiler-Konzepten wie abstrakten Syntaxbäumen (ASTs), Zwischenrepräsentationen (z.B. SSA-Form), Programm-Analyse und Code-Generierung.
• Ausgezeichnete Kommunikations- und Kollaborationsfähigkeiten, die für die effektive Arbeit in einer verteilten, Open-Source-Umgebung unerlässlich sind.

Wege, sich von der Masse abzuheben:

• Frühere Beiträge zu Deep-Learning-Compiler-Projekten (z.B. TVM, MLIR, IREE) oder zu Deep-Learning-Frameworks selbst.
• Tiefgehende Expertise in den Interna von PyTorch, insbesondere in seinem Compiler-Stack (TorchDynamo, TorchInductor).
• Erfahrung mit JAX-ähnlichen funktionalen Transformationen und deren Anwendung im Compiler-Kontext.
• Vertrautheit mit paralleler Programmierung, verteilten Systemen und dem Schreiben von Hochleistungs-CUDA-Code.
• Eine nachweisliche Beteiligung an Open-Source-Communities, sei es durch Codebeiträge, Entwurfsdiskussionen oder Mentoring.

Wir bieten wettbewerbsfähige Gehälter, ein umfangreiches Leistungspaket und ein Arbeitsumfeld, das Vielfalt, Inklusion und Flexibilität fördert. Als Arbeitgeber, der Chancengleichheit bietet, setzen wir uns dafür ein, einen unterstützenden und ermächtigenden Arbeitsplatz für alle zu schaffen. Ihr Grundgehalt wird basierend auf Ihrem Standort, Ihrer Erfahrung und dem Gehalt von Mitarbeitern in ähnlichen Positionen festgelegt. Für Polen: Die Grundgehaltsspanne liegt bei 292.500 PLN - 507.000 PLN.