Senior Developer Technology Engineer - Large Language Models & Generative AI

Seit mehr als zwei Jahrzehnten hat NVIDIA die visuelle Computertechnik, die Kunst und Wissenschaft der Computergrafik, revolutioniert. Mit unserer Erfindung der GPU - dem Motor der modernen visuellen Computertechnik - hat sich das Feld auf PC-Spiele, Filmproduktion, Produktdesign, medizinische Diagnosen, Forschung und KI ausgeweitet. Heutzutage verändern Large Language Models (LLMs) und Generative AI unsere Welt. Sie helfen uns, produktiv und kollaborativ zu sein, sie befeuern unsere Kreativität und ermöglichen die Kommunikation über Sprachbarrieren hinweg. Da sie rechnerisch äußerst anspruchsvoll sind, ist die Technologie von NVIDIA eine treibende Kraft hinter der breiteren Akzeptanz dieser KI-Modelle in Rechenzentren und Edge-Computing.

Was Sie tun werden:

• Engagieren Sie sich eng mit internen Ingenieurteams und externen Partnern, um lokale End-to-End-Herausforderungen bei der Bereitstellung von LLMs und Generative AI GPUs zu lösen.
• Wenden Sie leistungsstarke Profilierungs- und Debugging-Tools an, um die anspruchsvollsten GPU-beschleunigten End-to-End-KI-Anwendungen zu analysieren und unzureichende GPU-Nutzung zu erkennen, die zu suboptimaler Laufzeitleistung führt.
• Führen Sie praktische Schulungen durch, entwickeln Sie Beispielcode und halten Sie Präsentationen, um gute Anleitungen zur effizienten End-to-End-KI-Bereitstellung mit dem Ziel einer optimalen Laufzeitleistung zu geben.
• Leiten Sie Entwickler von KI-Anwendungen an, indem Sie Methoden für die effiziente Nutzung von DL-Frameworks anwenden, um die maximale Nutzung von GPU Tensor Cores für die bestmögliche Inferenzleistung zu erreichen.
• Arbeiten Sie mit GPU-Treiber- und Architekturteams sowie der NVIDIA-Forschung zusammen, um die Funktionen der nächsten GPU-Generation zu beeinflussen, indem Sie reale Arbeitsabläufe bereitstellen und Feedback zu den Bedürfnissen von Partnern und Kunden geben.

Was wir sehen müssen:

• Tiefes theoretisches Wissen über Transformer-Architekturen - insbesondere LLMs und Generative AI - sowie über konvolutionale neuronale Netzwerke.
• Über 8 Jahre Berufserfahrung in der lokalen GPU-Bereitstellung, Profilierung und Optimierung.
• BS- oder MS-Abschluss in Informatik, Ingenieurwesen oder einem verwandten Studiengang.
• Starke Kenntnisse in C/C++, Python, Softwaredesign und Programmiertechniken.
• Erfahrung mit KI-Inferenz-Frameworks.
• Erfahrung mit CUDA und der Nsight GPU-Profilierungs- und Debugging-Suite von NVIDIA.
• Starke mündliche und schriftliche Kommunikationsfähigkeiten in Englisch sowie Organisationsfähigkeiten mit einem logischen Ansatz zur Problemlösung, Zeitmanagement und Priorisierung von Aufgaben.
• Ausgezeichnete zwischenmenschliche Fähigkeiten.
• Einige Reisen sind erforderlich für Konferenzen und für Vor-Ort-Besuche bei externen Partnern.

Wege, um sich von der Masse abzuheben:

• Kenntnisse in GPU-beschleunigter KI-Inferenz, die von NVIDIA-APIs, insbesondere cuDNN, TensorRT und TensorRT-LLM, angetrieben wird.
• Erfahrung mit KI-Bereitstellungen auf NPUs und ARM-Architekturen.
• Bestätigte Expertenkenntnisse in Vulkan und/oder DX12.
• Detaillierte Kenntnisse der neuesten GPU-Architekturen.

Wir sind ein Arbeitgeber, der Chancengleichheit bietet, und schätzen Vielfalt in unserem Unternehmen. Wir diskriminieren nicht aufgrund von Rasse, Religion, Hautfarbe, nationaler Herkunft, Geschlecht, sexueller Orientierung, Alter, Familienstand, Veteranenstatus oder Behinderungsstatus.