Solutions Architect, Cloud Inference Services

NVIDIA’s Worldwide Field Operations (WWFO) Team sucht einen auf KI fokussierten Solutions Architect mit Expertise in der Inferenz von neuronalen Netzwerken und der Entwicklung/Betrieb von agentischen Pipelines. Ein Kandidat sollte ein Verständnis für die Inferenz von groß angelegten DNN sowie das End-to-End-Design von agentischen Utilities haben, unter Verwendung von Tools wie NVIDIA NeMo Agent Toolkit, LangChain, LLamaIndex, Haystack usw.

Als Solutions Architect in unserem Team werden Sie eine kundenorientierte technische Rolle übernehmen, um einem oder mehreren führenden NVIDIA Cloud Partnern (NCPs) zu helfen, den NVIDIA AI-Stack und andere Open-Source-GPU-beschleunigte Stacks zu integrieren und ihnen zu helfen, eine E2E-Lösung für KI-Dienste von Training bis Post-Training und Inferenz-Workloads zu entwickeln, bereitzustellen und zu unterstützen.

Sie werden an Projekten teilnehmen, die Technologien wie LLMs, VLMs, Physical-AI, agentische Pipelines und andere umfassen. Wir suchen jemanden, der immer an künstliche Intelligenz denkt, der in einem schnelllebigen, sich schnell entwickelnden Bereich gedeihen kann und der in der Lage ist, die Bemühungen zwischen Kunden, Unternehmensmarketing, Geschäftsentwicklung in der Industrie und Engineering zu koordinieren. Die Arbeit an verschiedenen Projekten und Aufgaben sowie das effiziente Multitasking bei gleichzeitiger Beibehaltung eines kundenorientierten Ansatzes sind in dieser Funktion entscheidend.

In dieser Rolle werden Sie die erste technische Anlaufstelle zwischen NVIDIA und unseren Partnern und Kunden sein. Zu Ihren Aufgaben gehört die Arbeit an Proof-of-Concept-Demonstrationen und die Leitung der Diskussion mit Entwicklern, Produktteams und wichtigen Führungskräften. Sie werden die Einführung der NVIDIA AI-Technologieplattform fördern und deren Bereitstellung in der Produktion vereinfachen. Die dynamische Interaktion mit verschiedenen Rollen innerhalb von NVIDIA und mit dem NCP und anderen Partnern ist ein wesentlicher Bestandteil der Rolle des Solutions Architect und wird Ihnen Erfahrung mit einer Vielzahl von Technologien bieten.

Was Sie tun werden:

• Direkt mit unseren NCPs und deren wichtigsten Kunden zusammenarbeiten, um deren Technologie zu verstehen und die besten Lösungen anzubieten.
• Lösungen basierend auf NVIDIA’s und Open-Source-NLP- und LLM-Technologie entwickeln und demonstrieren sowie diese in agentische Pipelines integrieren.
• Umfassende Analysen und Optimierungen durchführen, um die beste Leistung auf GPU-basierten Systemen sicherzustellen. Dies umfasst sowohl die Inferenzoptimierung als auch die Optimierung von End-to-End-agentischen Pipelines.
• Mit Engineering-, Produkt- und Vertriebsteams zusammenarbeiten, um die am besten geeigneten Lösungen für Kunden zu entwickeln und zu planen. Die Entwicklung und das Wachstum von Produktmerkmalen durch Kundenfeedback und Proof-of-Concept-Bewertungen ermöglichen.
• Branchenspezifisches Fachwissen aufbauen und ein Mitwirkender bei der Integration von NVIDIA-Technologie in KI-Cloud-Lösungen und Unternehmensarchitekturen werden.

Was wir sehen müssen:

• Ausgezeichnete mündliche, schriftliche Kommunikations- und technische Präsentationsfähigkeiten in Englisch.
• Master- oder Doktortitel in Informatik, künstlicher Intelligenz oder gleichwertige Erfahrung.
• 5+ Jahre Industrie- und/oder akademische Erfahrung in Bereichen, die mit maschinellem Lernen, tiefem Lernen und/oder Datenwissenschaft zu tun haben, mit Vorliebe für DNN-Inferenz.
• Berufserfahrung und Kenntnisse moderner LLM-, VLM- und Diffusionsarchitekturen mit Schwerpunkt auf MoE.
• Verständnis der wichtigsten Bibliotheken, die für DNN-Inferenz verwendet werden (z.B. TRT-LLM, Dynamo, RedHat Inference Server) sowie der Entwicklung agentischer Pipelines.
• Begeisterung für die Zusammenarbeit mit verschiedenen Ebenen und Teams innerhalb von Organisationen (Engineering, Produkt, Vertrieb und Marketing).
• Stark ausgeprägte analytische und problemlösende Fähigkeiten. Sie sind ein Selbststarter mit dem Drang nach Wachstum, Leidenschaft für kontinuierliches Lernen und dem Teilen von Erkenntnissen im Team.
• Starke Zeitmanagement- und Organisationsfähigkeiten zur Koordination mehrerer Initiativen, Prioritäten und Implementierungen neuer Technologien und Produkte in sehr anspruchsvollen Projekten.

Wie Sie sich von der Masse abheben können:

• Erfahrung mit der Inferenz sehr großer MoE-Architekturen für NLP, CV, ASR oder andere.
• Erfahrung mit DevOps-Technologien wie Docker, Kubernetes, Singularity usw.
• Verständnis von HPC-Systemen: Rechenzentrumsdesign, Hochgeschwindigkeitsverbindungen InfiniBand, Cluster-Speicher und damit verbundene Design- und/oder Managementerfahrungen.

NVIDIA hat beschleunigtes Rechnen revolutioniert. Heute treibt unsere KI-Infrastruktur globale Intelligenz an und transformiert jede Branche.