Senior GPU Networking Architect

NVIDIA hat die Computergraphik, PC-Gaming und beschleunigtes Rechnen seit über 25 Jahren transformiert. Es ist ein einzigartiges Erbe der Innovation, das durch großartige Technologie und erstaunliche Menschen angetrieben wird. Heute nutzen wir das unbegrenzte Potenzial von KI, um die nächste Ära des Rechnens zu definieren. Eine Ära, in der unsere GPU als das Gehirn von Computern, Robotern und selbstfahrenden Autos fungiert, die die Welt verstehen können. Um das zu tun, was noch nie zuvor gemacht wurde, braucht es Vision, Innovation und die besten Talente der Welt. Als NVIDIAN werden Sie in einer vielfältigen, unterstützenden Umgebung arbeiten, in der jeder inspiriert wird, sein Bestes zu geben. Kommen Sie zu unserem Team und sehen Sie, wie Sie einen bleibenden Einfluss auf die Welt ausüben können.

Wir suchen einen Senior GPU Networking Architect, der unserem Netzwerk-Softwareteam beitritt und starke GPU-Architektur- und Programmierkenntnisse mitbringt, um GPU-Kommunikationskerne zu entwickeln und zu verbessern. Diese Rolle verbindet GPU-Computing mit Netzwerken, indem sichergestellt wird, dass Kommunikationsprimitive sorgfältig zusammen mit den Hardwarefähigkeiten der GPU entwickelt werden. Treten Sie unserem Team von Ingenieuren bei, das die Softwaregrundlage für die größten KI-Systeme weltweit entwickelt.

Was Sie tun werden:

• GPU-Kommunikationskerne erstellen, implementieren und optimieren, die kollektive und Punkt-zu-Punkt-Operationen in groß angelegten KI-Systemen unterstützen.
• Tiefes Wissen über GPU-Architektur nutzen – Thread-Planung, Speicherhierarchie, Ausführungspipelines – um die Effizienz der Kerne zu verbessern, Latenz zu minimieren und Berechnungen mit Kommunikation zu überlappen.
• GPU-residente Kommunikationsprimitive und geräteseitige APIs entwickeln, die eine feingranulare, kernelinitiierte Datenbewegung über Knoten und Beschleuniger ermöglichen.
• GPU-Kerne end-to-end profilieren und optimieren, Engpässe an der Schnittstelle von Berechnung, Speicher und Netzwerk identifizieren und gezielte Optimierungen vorantreiben.
• Mit Netzwerksoftware-, Hardware- und KI-Framework-Teams zusammenarbeiten, um Kommunikationsstrategien zu co-designen, die mit GPU-Ausführungsmustern und aufkommenden Modellarchitekturen übereinstimmen.
• Proofs-of-Concept erstellen, Experimente durchführen und quantitative Modellierung durchführen, um neue Kommunikationsstrategien zu bewerten und zu validieren, bevor sie in die Produktion überführt werden.
• Zur Evolution von Programmiermodellen beitragen, die GPU-bewusste Netzwerkfähigkeiten für Anwendungsentwickler zugänglich machen.

Was wir sehen müssen:

• 5+ Jahre praktische Erfahrung in der CUDA-Programmierung, einschließlich Schreiben und Optimieren nicht-trivialer GPU-Kerne.
• M.Sc. oder gleichwertige Erfahrung in Informatik, Computertechnik oder einem eng verwandten Bereich.
• Starkes Verständnis der Grundlagen der GPU-Architektur: Warp-Planung, Shared Memory, L2-Cache, Speicherkoaleszenz, Belegungsoptimierung und asynchrone Ausführung.
• Erfahrung mit systemnaher C/C++-Entwicklung in leistungs-kritischen Umgebungen.
• Vertrautheit mit Mechanismen zur Datenbewegung von GPUs wie GPUDirect RDMA und GPU-initiierten Kommunikationen.
• Fähigkeit, GPU-Leistungsprofile zu lesen und zu analysieren (z.B. Nsight Compute, Nsight Systems) und Beobachtungen in umsetzbare Optimierungen zu übersetzen.
• Starke Zusammenarbeit in einer multinationalen, interdisziplinären Umgebung.

Wie Sie sich von der Masse abheben können:

• Erfahrung in der Entwicklung oder Optimierung von Kommunikationskernen in Bibliotheken wie NCCL, NVSHMEM oder ähnlichen GPU-bewussten Kommunikationsframeworks.
• Verständnis von Techniken der verteilten tiefen Lernparallelität, einschließlich Datenparallelität, Tensorparallelität, Pipeline-Parallelität, Expertenparallelität und Mischexpertenparallelität sowie der Kommunikationsmuster, die sie auf GPU-Kerne ausüben.
• Hintergrund in RDMA, InfiniBand, Hochgeschwindigkeitsnetzwerken und GPU-Systemtopologie, einschließlich NVLink, NVSwitch, PCIe und Netzwerkfabriken und deren Auswirkungen auf das Design von Kommunikationskernen.
• Erfahrung mit Überlappungstechniken wie Kernel-Pipelining, persistente Kerne oder kooperative Gruppen, um Kommunikationslatenz hinter Berechnungen zu verbergen.
• Nachgewiesene Erfahrung in der Bewertung und Optimierung von großangelegten LLM-Trainings- oder Inferenzlasten, einschließlich praktischer Arbeit mit Frameworks wie PyTorch, TensorRT-LLM oder vLLM und Vertrautheit mit aufkommenden Servierungsarchitekturen wie disaggregierter Servierung.

Bei NVIDIA arbeiten Sie mit Kollegen zusammen, die tiefes Fachwissen und innovative Denkweise in der Branche demonstrieren und die Grenzen dessen, was in KI und Hochleistungsrechnen möglich ist, erweitern. Wenn Sie leidenschaftlich an GPU-Architektur, Low-Level-Kernel-Optimierung und dem Aufbau des Kommunikationsgewebes für die nächste Generation von KI interessiert sind, möchten wir von Ihnen hören!

Allgemein als einer der begehrtesten Arbeitgeber der Technologiebranche angesehen, bietet NVIDIA hoch wettbewerbsfähige Gehälter und ein umfassendes Leistungspaket. Planen Sie Ihre Zukunft und sehen Sie, was wir Ihnen und Ihrer Familie anbieten können www.nvidiabenefits.com.