Jr Software Engineer - ML Runtime - Rust

Über das Unternehmen: AI transformiert unsere Welt. Es kann kognitive Funktionen ausführen, die zuvor nur Menschen möglich waren, wie das Wahrnehmen von Interaktionen über verschiedene Modalitäten und Umgebungen hinweg - mit der Fähigkeit, schnell zu lernen und komplexe Probleme zu lösen. Das Unternehmen ist ein Anbieter von KI-Systemlösungen, der sehr leistungsstarke, energieeffiziente generative KI-Inferenzsysteme entwickelt. Unsere Mission ist es, durch die Schaffung von maßgeschneidertem Silizium, Hardware und Software die Beschleunigung der multimodalen generativen KI-Inferenz in großem Maßstab zu ermöglichen, mit sicheren, nachhaltigen und leistungsstarken Systemen für unsere Hyperscaler- und Neocloud-Datenzentrumskunden. Wir stehen an der Spitze der neuesten Forschung und Produktverbesserungen für generative KI-Inferenzlösungen, die KI noch vorteilhafter für neue, überzeugende generative KI-Anwendungen machen. Das Unternehmen ist ein gut finanziertes, schnelllebiges Startup mit Hauptsitzen in Sunnyvale, Kalifornien, und München, Deutschland. Wir haben auch viele talentierte Teammitglieder, die remote in Nordamerika und Europa arbeiten. Wir kümmern uns um unsere Mitarbeiter und deren Familien mit umfassenden Leistungen, wettbewerbsfähiger Vergütung, flexiblen Ausgabenoptionen und Anerkennungsprogrammen, denn der Aufbau von technologie-definierenden Lösungen beginnt mit einem gesunden, unterstützten Team. Kommen Sie zu uns, während wir die Zukunft der multimodalen generativen künstlichen Intelligenz gestalten!

Über die Rolle: Als Software Engineer im Low-Level Runtime-Team werden Sie Komponenten eines ML-Modell-Ausführungsrahmens entwickeln – eine hyper-optimierte Low-Level-Assembler-Architektur für unsere Hardware – sowie Komponenten verschiedener Modelle portieren, die darin ausgeführt werden sollen. In dieser Rolle werden Sie:

• Den Low-Level-ML-Modell-Ausführungsrahmen in Rust pflegen und weiterentwickeln
• Komponenten und ganze Modelle, die für unsere Hardware geschrieben wurden, verbessern
• Die Leistung von ML-Modellen optimieren, um die Leistung und Nutzung zu maximieren
• Modelle sowohl in virtuellen als auch in physischen Hardware-Umgebungen debuggen und produktiv machen

Bevorzugte Qualifikationen:

• Erfahrung mit der Programmiersprache Rust
• Allgemeines Bewusstsein für hochrangige ML-Modellkonzepte: LLMs, Aufmerksamkeitsarchitekturen
• Erfahrung mit der Entwicklung von Low-Level-Code – z.B. eingebettete Systeme
• Erfahrung mit Treibern und dem Aufbau von LLM-Engineering-Workflows

Schön zu haben:

• Erfahrung mit Google Cloud Platform oder ähnlichem
• Erfahrung mit Python
• Tiefes Wissen über moderne LLM-Aufmerksamkeitsarchitekturen (GDN, DSA, KDA usw.)

Das Unternehmen ist ein Arbeitgeber, der Chancengleichheit bietet. Wir glauben, dass ein diverses Team besser in der Lage ist, komplexe Probleme zu lösen und innovative Lösungen zu finden. Alle qualifizierten Bewerber werden unabhängig von Alter, Hautfarbe, Geschlechtsidentität oder -ausdruck, Familienstand, nationaler Herkunft, Behinderung, geschütztem Veteranenstatus, Rasse, Religion, Schwangerschaft, sexueller Orientierung oder einer anderen durch geltende Gesetze, Vorschriften und Verordnungen geschützten Eigenschaft berücksichtigt.