Senior Systems Software Engineer, Accelerated Kubernetes Performance and Scale - DGX Cloud

NVIDIA hat die Computergraphik, das PC-Gaming und das beschleunigte Rechnen seit mehr als 25 Jahren transformiert, angetrieben von großartiger Technologie und erstaunlichen Menschen. Wir nutzen jetzt das unbegrenzte Potenzial von KI, um die nächste Ära des Rechnens zu definieren, in der unsere GPUs Computer, Roboter und selbstfahrende Autos antreiben, die die Welt verstehen können. Als NVIDIAN arbeiten Sie in einer vielfältigen, unterstützenden Umgebung, in der die Menschen ermutigt werden, ihr Bestes zu geben und ihre Karrieren zu entwickeln. Wir bieten eine Präferenz für hybrides Arbeiten und sind offen für Remote-Arrangements, was Ihnen Flexibilität gibt, wie Sie Ihre beste Arbeit leisten können.

Die DGX Cloud-Organisation bei NVIDIA vereint bahnbrechende Hardware- und Software-Innovationen, um branchenführendes beschleunigtes Rechnen für die ehrgeizigsten KI-Arbeitslasten der Welt bereitzustellen. Wir sind eine Gruppe von zukunftsorientierten Ingenieuren, die einige der schwierigsten Herausforderungen der Welt angehen, Fortschritte vorantreiben und Millionen von Leben positiv beeinflussen.

Wir suchen einen Senior Systems Software Engineer mit tiefgreifender Expertise in verteilten Systemen, Kubernetes, Containern sowie Systemleistung und Skalierbarkeit. Der ideale Kandidat bringt umfassende praktische Erfahrung über den gesamten Stack mit, einschließlich GPU-Operatoren, Geräte-Plugins, verteiltem Inferenz-Serving und großen Cloud-Plattformen. Sie werden komplexe technische Probleme in großem Maßstab lösen und helfen, wie die KI-Infrastruktur in der Produktion läuft, zu gestalten. In dieser Schlüsselrolle konzentrieren Sie sich auf die Skalierung der KI-Infrastruktur, während Sie die Gesamtkosten im Auge behalten, die Kosten pro Token senken und zukünftige KI-Innovationen und KI-Fabriken ermöglichen.

Was Sie tun werden:

• Leiten Sie die End-to-End-Leistungs- und Skalierungsanalyse über den Kubernetes-basierten beschleunigten Runtime-Stack (Kontroll- und Datenebene), einschließlich NVIDIA-Komponenten wie GPU-Operator, Netzwerk-Operator, node-feature-discovery, topograph, dra-driver-nvidia-gpu und nvsentinel, und verfolgen Sie Probleme von der Orchestrierung bis zum Metall.
• Entwerfen und tragen Sie upstream architektonische Änderungen zum Kubernetes-Kontrollbereich und verwandten Projekten bei, um einen zuverlässigen Betrieb bei Hyperscale-Clustergrößen zu ermöglichen.
• Verbessern Sie die Container-Start- und Kaltstartlatenz, um ein reibungsloses, latenzfreies Inferenz-Skalieren auf Kubernetes über Tausende von GPU-Knoten zu ermöglichen.
• Bewerten, verbessern und tragen Sie zu Open-Source-Projekten bei, die Kubernetes zu einer herausragenden Plattform für KI-Arbeitslasten machen.
• Fördern Sie die Skalierbarkeit und Leistung vertraulicher Container (CoCo) auf Kubernetes, damit verschlüsselte Inferenz-Arbeitslasten strengen Effizienz- und Latenzanforderungen in der Produktion entsprechen.
• Verwenden Sie DSX und verwandte große Simulationsinfrastrukturen, um vollständige KI-Fabrik-Bereitstellungen zu modellieren und die Skalierbarkeit über Tausende von simulierten GPUs zu validieren.
• Zusammenarbeiten mit KI-Forschern, Entwicklern, Kunden und upstream Gemeinschaften, um automatisierte, skalierte Arbeitslasttests zu entwerfen.
• Dokumentieren Sie Methoden und Ergebnisse klar und präsentieren Sie Erkenntnisse intern und auf Branchenveranstaltungen.

Was wir sehen möchten:

• Abschluss (Bachelor oder Master) in Ingenieurwissenschaften oder gleichwertige Erfahrung, idealerweise in Elektrotechnik, Computertechnik oder Informatik.
• 5+ Jahre Erfahrung in Computerarchitektur, Netzwerken, Speichersystemen und beschleunigerbasierten Plattformen.
• Expertise in Kubernetes und Vertrautheit mit dem breiteren CNCF-Ökosystem.
• Tiefe Erfahrung mit großflächigen, parallelen, verteilten Beschleunigersystemen und Leistungsoptimierung von KI-Arbeitslasten.
• Erfahrung mit Leistungsmodellierung und Benchmarking für großflächige Systeme.
• Kenntnisse in Golang und/oder Python.
• Starke Vertrautheit mit dem NVIDIA-Software-Stack über Training und Inferenz.
• Expertise mit mindestens einem großen öffentlichen Cloud-Anbieter (z.B. AWS, Azure, GCP oder OCI).

Wie Sie sich von der Masse abheben können:

• Starke Betriebserfahrung mit einer der Kubernetes-Distributionen.
• Frühere Erfahrung in der Skalierung von Kubernetes-Clustern auf ultra-große Knoten- und Objektzahlen.
• Nachgewiesene Geschichte der Arbeit in der Open-Source-Community.
• Exzellente Kommunikations- und zwischenmenschliche Fähigkeiten.
• PhD oder gleichwertige Erfahrung in relevanten Bereichen.

Ihr Grundgehalt wird basierend auf Ihrem Standort, Ihrer Erfahrung und dem Gehalt von Mitarbeitern in ähnlichen Positionen festgelegt. Die Grundgehaltsspanne liegt zwischen 152.000 USD und 241.500 USD. Sie sind auch berechtigt für Aktien und Leistungen. NVIDIA verwendet KI-Tools in seinen Rekrutierungsprozessen. NVIDIA setzt sich für die Förderung eines integrativen Arbeitsumfelds ein und ist stolz darauf, ein Arbeitgeber mit Chancengleichheit zu sein.