Senior Software Engineer — ML Inference & Numerics in München

Über Tensordyne

AI transformiert unsere Welt. Es kann kognitive Funktionen ausführen, die zuvor nur Menschen möglich waren, wie das Wahrnehmen von Interaktionen über verschiedene Modalitäten und Umgebungen hinweg - mit der Fähigkeit, schnell zu lernen und komplexe Probleme zu lösen. Tensordyne ist ein Unternehmen für KI-Systemlösungen, das sehr leistungsstarke, energieeffiziente generative KI-Inferenzsysteme entwickelt. Unsere Mission ist es, durch die Schaffung von maßgeschneidertem Silizium, Hardware und Software die multimodale Generative AI-Inferenzbeschleunigung in großem Maßstab zu ermöglichen, mit sicheren, nachhaltigen, leistungsstarken Systemen für unsere Hyperscaler- und Neocloud-Datenzentrumskunden.

Wir sind an der Spitze der neuesten Forschung und Produktverbesserungen für generative KI-Inferenzlösungen, die KI noch vorteilhafter für neue generative KI-Anwendungen machen werden. Tensordyne ist ein gut finanziertes, schnelllebiges Startup-Unternehmen mit Hauptsitzen in Sunnyvale, Kalifornien, und München, Deutschland. Wir haben auch viele talentierte Teammitglieder, die remote in Nordamerika und Europa arbeiten. Wir kümmern uns um unsere Mitarbeiter und deren Familien mit umfassenden Leistungen, wettbewerbsfähiger Vergütung, flexiblen Ausgabenoptionen und Anerkennungsprogrammen, denn der Aufbau von technologie-definierenden Lösungen beginnt mit einem gesunden, unterstützten Team. Kommen Sie zu uns, während wir die Zukunft der multimodalen generativen künstlichen Intelligenz gestalten!

Die Rolle

Helfen Sie dabei, die neuesten KI-Modelle auf unserem Silizium gut laufen zu lassen. Sie arbeiten vom Modellcode bis zur gemessenen Hardwareleistung: bringen Sie neue Architekturen zum Laufen, verfolgen Sie Genauigkeitsfehler und verbessern Sie Latenz, Durchsatz und Speicherverbrauch. Die größere Herausforderung besteht darin, diese Arbeit wiederholbar zu machen. Sie bauen ein agentisches Framework, das Implementierungen erkunden, Experimente durchführen, Ergebnisse überprüfen und die nächste Änderung anleiten kann. Jede Untersuchung sollte bessere Software, bessere Tests und einen kürzeren Weg für das nächste Modell hinterlassen.

Wir suchen einen hervorragenden Software-Ingenieur, der LLM-Inferenz tief versteht und weiß, wie man Codierungsagenten effektiv einsetzt. Sie werden wesentliche Teile unseres SDK besitzen und eng mit Ingenieuren in den Bereichen Modelle, Compiler, Laufzeit und Hardware zusammenarbeiten. Ihr besonderer Fokus liegt auf der numerischen Optimierung: herauszufinden, wo Präzision wichtig ist, wo Berechnungen günstiger sein können und wie die Modellqualität erhalten bleibt.

Was Sie tun werden:

• Erstellen Sie die agentischen Workflows.
• Geben Sie Agenten die Werkzeuge, um Modelle zu inspizieren, Implementierungen und numerische Einstellungen zu ändern, Emulations- und Hardwareexperimente durchzuführen und Fehler zu diagnostizieren.
• Bringen Sie neue Modelle schnell zum Laufen.
• Optimieren Sie Numerik.
• Gestalten Sie die nächste Chip-Generation.

Was wir von Ihnen benötigen:

• Sie verstehen LLM-Inferenz von Anfang bis Ende.
• Sie bauen ausgezeichnete Software.
• Sie sind vertraut mit agentischen Werkzeugen.
• Sie übernehmen Verantwortung und bringen andere mit.

Wir wären begeistert, wenn Sie:

• Expertise in der Verbesserung von Inferenzsystemen haben.
• Erfahrung mit ML-Compilern, Beschleuniger-SDKs oder Modellkompressionsbibliotheken haben.
• Beiträge zu verteilten Inferenz- oder Servierframeworks geleistet haben.

Tensordynes Kultur basiert auf den folgenden Werten:

• Menschen zuerst.
• Ethik und Integrität immer.
• Groß denken.
• Streben nach Exzellenz.
• Besitzen und erledigen.
• Jeden besser machen.

Tensordyne ist ein Arbeitgeber, der Chancengleichheit bietet. Wir glauben, dass vielfältige Teams besser in der Lage sind, komplexe Probleme zu lösen und außergewöhnliche Technologie zu entwickeln.