Solutions Architect, Cloud Inference Services

NVIDIA’s Worldwide Field Operations (WWFO) team sucht einen AI-fokussierten Solution Architect mit Expertise in der Inferenz von neuronalen Netzwerken und der Entwicklung/Betrieb von agentischen Pipelines. Ein Kandidat sollte ein Verständnis für die Inferenz von großen DNNs sowie das End-to-End-Design von agentischen Utilities mit Tools wie NVIDIA NeMo Agent Toolkit, LangChain, LLamaIndex, Haystack usw. haben.

Als Solutions Architect in unserem Team werden Sie eine kundenorientierte technische Rolle übernehmen, um einem oder mehreren führenden NVIDIA Cloud Partnern (NCPs) zu helfen, den NVIDIA AI-Stack und andere Open-Source-GPU-beschleunigte Stacks zu integrieren und ihnen zu helfen, eine E2E-Lösung für AI-Dienste von Training bis Post-Training und Inferenz-Workloads zu entwickeln, bereitzustellen und zu unterstützen. Sie werden an Projekten teilnehmen, die Technologien wie LLMs, VLMs, Physical-AI, agentische Pipelines und andere umfassen.

Wir suchen jemanden, der immer an künstlicher Intelligenz denkt, der in einem schnelllebigen, sich schnell entwickelnden Bereich gedeihen kann, und der in der Lage ist, die Bemühungen zwischen Kunden, Unternehmensmarketing, Geschäftsentwicklung in der Industrie und Engineering zu koordinieren. Die Arbeit an verschiedenen Projekten und Aufgaben sowie das effiziente Multitasking bei gleichzeitiger Beibehaltung eines kundenorientierten Ansatzes sind in dieser Funktion entscheidend.

In dieser Rolle werden Sie die erste technische Anlaufstelle zwischen NVIDIA und unseren Partnern und Kunden sein. Zu Ihren Aufgaben gehört die Arbeit an Proof-of-Concept-Demonstrationen und die Leitung der Diskussion mit Entwicklern, Produktteams und wichtigen Führungskräften. Sie werden die Einführung der NVIDIA AI-Technologieplattform fördern und deren Bereitstellung in der Produktion vereinfachen. Das dynamische Engagement mit verschiedenen Rollen innerhalb von NVIDIA und mit dem NCP und anderen Partnern ist ein wesentlicher Bestandteil der Rolle des Solutions Architect und wird Ihnen Erfahrung mit einer Vielzahl von Technologien bieten.

Was Sie tun werden:

• Direkt mit unseren NCPs und deren wichtigsten Kunden zusammenarbeiten, um deren Technologie zu verstehen und die besten Lösungen anzubieten.
• Lösungen basierend auf NVIDIA’s und Open-Source-NLP- und LLM-Technologie entwickeln und demonstrieren sowie diese in agentische Pipelines integrieren.
• Eine eingehende Analyse und Optimierung durchführen, um die beste Leistung auf GPU-basierten Systemen sicherzustellen. Dies umfasst die Inferenzoptimierung sowie die Optimierung von End-to-End-agentischen Pipelines.
• Mit Engineering-, Produkt- und Vertriebsteams zusammenarbeiten, um die am besten geeigneten Lösungen für Kunden zu entwickeln und zu planen.
• Die Entwicklung und das Wachstum von Produktfunktionen durch Kundenfeedback und Proof-of-Concept-Bewertungen ermöglichen.
• Branchenspezifisches Fachwissen aufbauen und ein Mitwirkender bei der Integration von NVIDIA-Technologie in AI-Cloud-Lösungen und Enterprise-Computing-Architekturen werden.

Was wir sehen möchten:

• Exzellente verbale, schriftliche Kommunikations- und technische Präsentationsfähigkeiten in Englisch.
• Master oder Ph.D. in Informatik, Künstlicher Intelligenz oder gleichwertige Erfahrung.
• 5+ Jahre Industrie- und/oder akademische Erfahrung in Bereichen, die mit maschinellem Lernen, Deep Learning und/oder Datenwissenschaft zu tun haben, mit Vorliebe für DNN-Inferenz.
• Berufserfahrung und Kenntnisse moderner LLM-, VLM- und Diffusionsarchitekturen mit Schwerpunkt auf MoE.
• Verständnis der wichtigsten Bibliotheken, die für DNN-Inferenz verwendet werden (z.B. TRT-LLM, Dynamo, RedHat Inference Server) sowie der Entwicklung agentischer Pipelines.
• Begeisterung für die Zusammenarbeit mit verschiedenen Ebenen und Teams in Organisationen (Engineering, Produkt, Vertrieb und Marketing).
• Stark ausgeprägte analytische und problemlösende Fähigkeiten. Sie sind ein Selbststarter mit dem Drang nach Wachstum, Leidenschaft für kontinuierliches Lernen und dem Teilen von Erkenntnissen im Team.
• Starke Zeitmanagement- und Organisationsfähigkeiten zur Koordination mehrerer Initiativen, Prioritäten und Implementierungen neuer Technologien und Produkte in sehr anspruchsvollen Projekten.

Wie Sie sich von der Masse abheben können:

• Erfahrung mit der Inferenz sehr großer MoE-Architekturen für NLP, CV, ASR oder andere.
• Erfahrung mit DevOps-Technologien wie Docker, Kubernetes, Singularity usw.
• Verständnis von HPC-Systemen: Design von Rechenzentren, Hochgeschwindigkeitsverbindungen InfiniBand, Cluster-Speicher und damit verbundene Design- und/oder Verwaltungserfahrungen.