AI Test Architect

Wir suchen einen AI Test Architect, der der E2E Verification-Gruppe beitritt, um innovative, groß angelegte verteilte Trainingslösungen auf NVIDIA AI End-to-End-Lösungen in großen Supercomputing-Clustern zu profilieren. Sie werden Einblicke in das Systemdesign und die Abstimmungsmechanismen für groß angelegte Berechnungen geben. Sie arbeiten mit den neuesten beschleunigten Computing- und Deep Learning-Software- und Hardware-Plattformen sowie mit Forschern, Entwicklern und Kunden zusammen, um verbesserte Workflows zu erstellen und neue, differenzierte Lösungen zu entwickeln.

Was Sie tun werden:

• Profilierung, Benchmarking und Analyse von Deep Learning-Modellen zur Identifizierung von Optimierungs- und Verbesserungsmöglichkeiten hinsichtlich Leistung, Effizienz und Genauigkeit, mit starkem Fokus auf Netzwerkaspekte.
• Enge Zusammenarbeit mit Datenwissenschaftlern, Forschern und Automatisierungsteams zur Gestaltung und Implementierung skalierbarer Trainingspipelines und -frameworks, die große hochleistungsfähige Netzwerkfähigkeiten demonstrieren.
• Aktualisierung über die neuesten Fortschritte in Deep Learning-Algorithmen, Architekturen, NVIDIA GPU-Technologien und Lösungen für hochleistungsfähige Netzwerke.
• Optimierung von Deep Learning-Modellen hinsichtlich Leistung, Speicherverbrauch und Energieeffizienz, während die Funktionen für hochleistungsfähige Netzwerke auf NVIDIA-Supercomputern maximiert werden.
• Bereitstellung von Einblicken und Empfehlungen basierend auf der Analyse von Ergebnissen aus groß angelegtem Training, insbesondere mit Fokus auf Netzwerkengpässe und Optimierungen, um die Modellergebnisse zu verbessern und Geschäftsziele zu erreichen.
• Zusammenarbeit mit Hardware-Ingenieuren zur Anleitung der Entwicklung und Integration effizienter Netzwerk-Lösungen für Deep Learning, einschließlich der Erforschung von Netzwerkarchitektur-Optimierungen und der Anwendung von Technologien wie RDMA oder InfiniBand.

Was wir sehen möchten:

• B.Sc. in Informatik, Software Engineering oder gleichwertige Erfahrung.
• Starkes Verständnis und praktische Erfahrung mit Machine Learning-Algorithmen und -Techniken, mit Spezialisierung auf Deep Learning und Expertise in hochleistungsfähigen Netzwerken.
• Über 8 Jahre Gesamterfahrung, einschließlich CUDA-Programmierung für Deep Learning-Frameworks wie TensorFlow, PyTorch, kombiniert mit Fachkenntnissen in Netzwerkbibliotheken und -protokollen.
• Fähigkeit zur Profilierung und Optimierung von Deep Learning-Workflows, mit Fokus auf netzwerkbezogene Engpässe und Optimierungen zur Verbesserung der Gesamtleistung und Effizienz.
• Außergewöhnliche analytische und problemlösende Fähigkeiten, mit einem scharfen Auge für Details, insbesondere bei der Identifizierung und Lösung von Netzwerkleistungsproblemen.
• Exzellente Kommunikations- und Teamfähigkeiten, die effektive Zusammenarbeit und Kooperation ermöglichen.
• Vertrautheit mit Supercomputern, parallelem Computing, verteilten Systemen und hochleistungsfähigen Netzwerktechnologien wie RDMA oder InfiniBand.

Wie Sie sich von der Masse abheben können:

• Nachgewiesene Erfahrung in der erfolgreichen Profilierung und Optimierung von groß angelegtem Deep Learning-Training auf NVIDIA-Supercomputern, mit erheblichem Fokus auf Verbesserungen im Bereich hochleistungsfähiger Netzwerke.
• Erfahrung mit verteiltem Deep Learning, verteilten Trainingsframeworks oder groß angelegten Datenpipelines, die durch hochleistungsfähige Netzwerk-Lösungen verbessert werden.
• Expertise in der Optimierung von Netzwerkparametern wie Bandbreite, Latenz oder Staukontrolle für Deep Learning-Workloads.
• Vertrautheit mit den Netzwerktechnologien von NVIDIA, wie Mellanox InfiniBand, und deren Integration in Deep Learning-Workflows.
• Starkes Verständnis von hochleistungsfähigen Netzwerkprotokollen und -standards und deren Anwendung auf Deep Learning.