Senior HPC and AI Network Software Architect

Wir suchen einen Senior HPC und AI Network Software Architect, um die nächste Generation skalierbarer KI-Infrastruktur aufzubauen. Die Rolle betont verteiltes Training, Echtzeitinferenz und Kommunikationseffizienz über große Systeme. Sie werden neue Software- und Hardwareansätze entwickeln, die Plattformentwicklung durch praktische Innovationen gestalten und zur Gestaltung von Systemen beitragen, die die schnellsten KI-Workloads weltweit antreiben.

Was Sie tun werden:

• Die Architektur skalierbarer Softwaresysteme für verteiltes KI-Training und -Inference aufbauen und weiterentwickeln, mit Fokus auf Durchsatz, Latenz, Resilienz und Speichereffizienz über Cluster-Scale-Deployments.
• Nächste Generation Kommunikations- und Laufzeitfähigkeiten in Bibliotheken wie NCCL, UCX und UCC entwickeln und evaluieren, die auf die sich entwickelnden Anforderungen von KI-Workloads zugeschnitten sind.
• Mit KI-Framework-Teams (z.B. TensorFlow, PyTorch, JAX) und internen Plattformteams zusammenarbeiten, um Integrationen zu erstellen, neue Ansätze zu erkunden und die End-to-End-Leistung und Zuverlässigkeit zu verbessern.
• Zusammenarbeit an Hardware- und systemlevel Funktionen über GPUs, DPUs und Interconnects, um die Datenbewegung zu beschleunigen und neue Fähigkeiten für Training, Inferenz und Modellbereitstellung im großen Maßstab zu ermöglichen.
• Innovation in Laufzeitsystemen, Kommunikationsbibliotheken und KI-spezifischen Protokollschichten vorantreiben, um neue Ideen in praktische Fähigkeiten und robuste Implementierungen umzusetzen.

Was wir sehen müssen:

• Ph.D. oder gleichwertige Berufserfahrung in Informatik, Computertechnik oder einem eng verwandten Bereich.
• Über 5 Jahre Erfahrung in der Systemprogrammierung, paralleler oder verteilter Verarbeitung, Hochleistungsnetzwerken oder großangelegter Datenbewegung, einschließlich Erfahrung im Entwerfen und Bauen komplexer Systeme.
• Starker Programmierhintergrund in C++, Python und idealerweise CUDA oder anderen GPU-Programmiermodellen, mit einer Erfolgsbilanz beim Bau von produktionsrelevanter, leistungsorientierter Software.
• Umfassende praktische Erfahrung mit KI-Frameworks (z.B. PyTorch, TensorFlow, JAX) und ein solides Verständnis dafür, wie Kommunikationsbibliotheken und Laufzeitsysteme großangelegtes Training und Inferenz erleichtern.
• Nachgewiesener Erfolg bei der Entwicklung und Verfeinerung von Hochdurchsatz-, Niedriglatenzsystemen, einschließlich der Fähigkeit, über Software-Stacks, Hardwarefähigkeiten und Systemengpässe hinweg zu argumentieren.
• Starke Zusammenarbeit in einem multinationalen, interdisziplinären Umfeld, mit der Fähigkeit, Ideen beizutragen, Schwung aufzubauen und effektiv mit leitenden Ingenieuren, Forschern und Partnerteams zu arbeiten.

Wie Sie sich von der Masse abheben können:

• Tiefe Expertise mit NCCL, UCX, UCC oder ähnlichen Kommunikationsbibliotheken, die in großangelegten KI- und HPC-Workloads verwendet werden.
• Starker Hintergrund in Netzwerken und Kommunikationsprotokollen, RDMA, kollektiven Kommunikationen, congestion-aware Transport oder accelerator-aware Networking.
• Umfassendes Wissen über das Training und die Bereitstellung großer Modelle im großen Maßstab, einschließlich Kommunikationsengpässen, Planungsherausforderungen und systemlevel Trade-offs zwischen Rechenleistung, Speicher und Fabric.
• Erfahrung in der Erstellung von Hardware-Software-Co-Design für verteilte KI-Systeme, einschließlich Beiträge, die GPU-, DPU-, Interconnect- oder Laufzeitfähigkeiten vorangebracht haben.
• Vertrautheit mit der Infrastruktur für die Bereitstellung von LLMs oder transformerbasierten Modellen, einschließlich Sharding, Pipelining, Expertenparallelismus oder hybriden Parallelismus.