Senior Software Developer, AI Networking

NVIDIA verändert die Welt des AI Networking mit bahnbrechender Technologie. Wir freuen uns, einen AI Networking Software Developer zu unserem AI Networking SW-Entwicklungs- und Codesign-Team hinzuzufügen. Wir arbeiten mit der neuesten NVIDIA-Hardware und -Technologie. Wir führen Full-Stack-Benchmarks für Rechenzentrumssysteme im Maßstab für AI-Training/Inferenz und niedrigere Benchmarks durch. Wir streben nach Automatisierung und entwickeln viele Tools intern, während wir gleichzeitig allgemein akzeptierte Praktiken und Frameworks übernehmen. Darüber hinaus geben wir der Community etwas zurück, indem wir unsere eigenen Tools in öffentlichen GitHub-Repositories entwickeln. Unser Ziel ist es, sicherzustellen, dass groß angelegte Systeme die erwartete Leistung in der Praxis liefern, nicht nur auf dem Papier, indem wir Engpässe aufdecken und kontinuierliche Verbesserungen vorantreiben.

Was Sie tun werden:

• Entwicklung und Wartung von AI-Netzwerkkommunikationsframeworks und Anwendungen, die in Produktion auf den größten Supercomputern und Rechenzentren der Welt laufen.
• Entwicklung von Produktionstools und Benchmarks, die von mehreren Teams innerhalb und außerhalb von NVIDIA verwendet werden.
• Aktivierung neuer AI-Modelle innerhalb unserer Benchmarking-Infrastruktur und Bereitstellung von Einblicken durch End-to-End-Analysen von groß angelegten Workloads über Hardware- und Software-Stacks.
• Entwurf und Implementierung von Automatisierungssystemen, einschließlich groß angelegter Parametersuche zur Identifizierung optimaler Konfigurationen über komplexe Systeme.
• Enge Zusammenarbeit mit Netzwerk- und Hardwareteams, um neue Funktionen und Software-Schnittstellen in einer schnelllebigen, sich entwickelnden Umgebung co-zu entwerfen.

Was wir sehen müssen:

• B.Sc., M.Sc. Abschluss in Informatik / Software Engineering und 5+ Jahre oder gleichwertige Erfahrung.
• Professionelle Python-Entwicklungserfahrung.
• Erstellung wartbarer, langlebiger Tools, die dem Team keine hohe Wartungsbelastung auferlegen.
• Solide Linux-Expertise und Leidenschaft für die Arbeit in Kommandozeilenumgebungen.
• Fähigkeit, über einen breiten und sich entwickelnden Stack zu arbeiten, mit einem starken Antrieb zu lernen – von Hardware und Netzwerken bis hin zu groß angelegten AI-Systemen, die über gesamte Cluster laufen.

Wie Sie sich von der Masse abheben können:

• Kenntnisse und/oder Erfahrungen mit dem modernen AI-Ökosystem: PyTorch, LLMs, Inferenz und Training.
• Vertrautheit mit Cluster-Orchestrierungssystemen wie Slurm oder Kubernetes.
• Kenntnisse in MPI und HPC, InfiniBand, Ethernet und Networking.
• Erfahrung in Leistungsoptimierungen.