Senior Software Engineer, Inference Performance in München

Senior Software Engineer, Inference Performance in München

München Vollzeit 49500 - 60500 € / Jahr (geschätzt) Hybrid
ML Inference & Numerics

Auf einen Blick

  • Aufgaben: Entwickle Software, die KI-Modelle auf Hochleistungs-Hardware optimiert.
  • Unternehmen: Innovatives Startup im Bereich generative KI mit globalem Team.
  • Vorteile: Attraktive Vergütung, umfassende Leistungen und flexible Arbeitsmöglichkeiten.
  • Weitere Informationen: Dynamisches Umfeld mit großartigen Karrierechancen und Teamgeist.
  • Warum dieser Job: Gestalte die Zukunft der KI und arbeite an bahnbrechenden Technologien.
  • Qualifikationen: Erfahrung in Softwareentwicklung und tiefes Verständnis für Hardware-Leistung.

Das prognostizierte Gehalt liegt zwischen 49500 - 60500 € pro Jahr.

Über Tensordyne AI transformiert unsere Welt. Es kann kognitive Funktionen ausführen, die zuvor nur Menschen möglich waren, wie das Wahrnehmen von Interaktionen über verschiedene Modalitäten und Umgebungen hinweg - mit der Fähigkeit, schnell zu lernen und komplexe Probleme zu lösen. Tensordyne ist ein Unternehmen für KI-Systemlösungen, das sehr leistungsstarke, energieeffiziente generative KI-Inferenzsysteme entwickelt. Unsere Mission ist es, durch die Schaffung von maßgeschneidertem Silizium, Hardware und Software die multimodale Generative KI-Inferenzbeschleunigung in großem Maßstab zu ermöglichen, mit sicheren, nachhaltigen, leistungsstarken Systemen für unsere Hyperscaler- und Neocloud-Datenzentrumskunden.

Wir sind an der Spitze der neuesten Forschung und Produktverbesserungen für generative KI-Inferenzlösungen, die KI noch vorteilhafter für neue, überzeugende generative KI-Anwendungen machen. Tensordyne ist ein gut finanziertes, schnelllebiges Startup-Unternehmen mit Hauptsitzen in Sunnyvale, Kalifornien, und München, Deutschland. Wir haben auch viele talentierte Teammitglieder, die remote in Nordamerika und Europa arbeiten. Wir kümmern uns um unsere Mitarbeiter und deren Familien mit umfassenden Leistungen, wettbewerbsfähiger Vergütung, flexiblen Ausgabenoptionen und Anerkennungsprogrammen, denn der Aufbau von technologie-definierenden Lösungen beginnt mit einem gesunden, unterstützten Team. Kommen Sie zu uns, während wir die Zukunft der multimodalen generativen künstlichen Intelligenz gestalten!

Die Rolle: Sie werden den Software-Stack aufbauen, der ein Modell vom Code bis zur Hardware bringt: die Abstraktionen, Kerne, Bibliotheken und Werkzeuge, die Ingenieure und Agenten verwenden, um die maximale Leistung zu erreichen. Helfen Sie dabei, die neuesten KI-Modelle auf unserem Silizium zu optimieren. Unsere Hardware ist so konzipiert, dass sie einfach zu programmieren ist, sodass das Ziel nicht darin besteht, sie zu verbergen. Das Ziel ist es, das richtige Maß an Kontrolle auf jeder Ebene offenzulegen, von unserem compiler-gesteuerten Python SDK bis zu unserem Low-Level Rust-Programmierstack, und jede Leistungsabweichung messbar zu machen und jede Lösung dauerhaft zu gestalten.

Was Sie tun werden:

  • Den Stack aufbauen. APIs, Kernel-Abstraktionen und Bibliotheken in unserem Python SDK oder Rust-Stack entwerfen, damit Modellingenieure und Agenten eine hohe Leistung auf der Ebene erreichen können, die zu ihrem Problem passt.
  • Modelle schnell machen. Prioritätslasten, von LLMs bis zu multimodalen Modellen, auf echte Siliziumspitzenleistung bringen.
  • Engpässe über Kerne, Compiler, Laufzeit und Parallelität identifizieren und auf der richtigen Ebene beheben.
  • Die Lücke zwischen Modell und Messung schließen. Gemessene Leistung mit analytischen Modellen und Simulation vergleichen.
  • Die Agenten-Performance-Schleife aufbauen. Agenten die Profiler, Traces, Zähler und Benchmark-Hilfen geben, um eine Hypothese zu bilden, den Code zu ändern und das Ergebnis in Minuten zu messen.
  • Die Messlatte für Leistung setzen. Definieren, wie wir messen, Regressionen verfolgen und Ergebnisse berichten.
  • Für den nächsten Chip bauen. Abstraktionen entwerfen, die in zukünftige Hardwaregenerationen übertragen werden.

Was wir von Ihnen benötigen: Sie verstehen die Hardwareleistung. Sie haben KI-Workloads auf GPUs oder benutzerdefinierten Beschleunigern optimiert und können über die Nutzung von Rechenressourcen, Speicherhierarchie, Latenzversteckung, Synchronisation und Multi-Chip-Skalierung nachdenken. Sie bauen ausgezeichnete Software. Sie haben wesentliche Systeme vom Design bis zur Produktion verantwortet. Sie sind stark in Python und/oder mindestens einer Systemsprache wie Rust, C++ oder C und legen Wert auf Schnittstellen, Abstraktionen und Tests. Wir legen mehr Wert auf Engineering-Qualität als auf eine bestimmte Sprache.

Sie verstehen LLM-Inferenz von Anfang bis Ende. Sie können die Implementierung eines neuen Modells lesen und über Prefill, Dekodierung, Aufmerksamkeitsvarianten, KV-Caches, MoE und Parallelität nachdenken und wie sie sich auf Rechenleistung, Speicher und Kommunikation auswirken. Sie arbeiten mit Agenten. Agentische Entwicklung ist Ihre Arbeitsweise, kein Experiment. Sie würden lieber die Schleife bauen, die die Optimierung findet, als sie von Hand zu finden, und wissen, wann die Schleife noch einen Menschen benötigt. Sie bauen Dinge, mit denen andere erfolgreich sind. Sie haben APIs, Bibliotheken oder Performance-Tools entworfen, die von anderen Ingenieuren übernommen wurden. Sie treiben Probleme zur Lösung. Sie bilden klare Hypothesen, messen und folgen den Beweisen über Software- und Hardwaregrenzen hinweg. Sie übernehmen Verantwortung für das Ergebnis.

Wenn Sie einige dieser Punkte erfüllen, würden wir uns freuen, mit Ihnen zu sprechen. Wir wären begeistert, wenn Sie Erfahrung mit eingebetteter, bare-metal oder Low-Level-Runtime-Programmierung haben. Erfahrung mit MLIR, anderen Compiler-Frameworks oder Kernel-DSLs wie Triton, Pallas, NKI oder CuTe. Beiträge zu LLM-Serving-Stacks wie vLLM oder SGLang oder eine Erfolgsbilanz bei der Erreichung wettbewerbsfähiger Leistung bei End-to-End-Inferenz-Workloads auf einem Hardwareziel haben.

Warum Sie zu uns kommen sollten: Ihr Code wird entscheiden, wie schnell Modelle auf unserer Hardware laufen und wie einfach es für den nächsten Ingenieur oder Agenten ist, sie schneller zu machen. Sie werden eine Schicht eines neuen Programmiermodells besitzen, direkt mit den Personen arbeiten, die die Hardware entwerfen, und sehen, wie Ihre Entscheidungen auf echtem Silizium getestet werden und in die nächste Generation übertragen werden.

Tensordyne Werte: Groß denken. Ambitionierte technische und geschäftliche Ziele verfolgen. Nach Exzellenz streben. Qualität ist in allem, was wir bauen und liefern, wichtig. Übernehmen Sie Verantwortung und bringen Sie es zu Ende. Verantwortung übernehmen und Ergebnisse erzielen. Mit Integrität arbeiten. Direkt, transparent und respektvoll sein. Als Team gewinnen. Machen Sie die Menschen um Sie herum effektiver. Unterschiedliche Perspektiven wertschätzen. Die stärksten Teams hinterfragen Annahmen und bringen vielfältige Erfahrungen ein.

Senior Software Engineer, Inference Performance in München Arbeitgeber: ML Inference & Numerics

ML Inference & Numerics bietet ein dynamisches Arbeitsumfeld mit zahlreichen Möglichkeiten zur beruflichen Weiterentwicklung. Die Mitarbeiter profitieren von flexiblen Arbeitszeiten und der Zusammenarbeit an innovativen Technologien.

ML Inference & Numerics

Kontaktdaten:

ML Inference & Numerics Recruiting-Team

StudySmarter Expertenrat🤫

Wir sind der Meinung, dass du so Senior Software Engineer, Inference Performance in München erhalten könntest

✨Engagier dich in Entwickler-Communities!

Lass uns mal ehrlich sein: In der Software-Entwicklung sind Netzwerke Gold wert! Tummel dich in GitHub-Projekten, nehme an lokalen Meetups oder Hackathons teil und vernetze dich mit anderen Entwicklern. So steigerst du nicht nur deine Sichtbarkeit, sondern lernst auch die neuesten Trends und Technologien kennen.

✨Zeig deine Fähigkeiten!

Erstelle ein Portfolio, das deine besten Projekte und Code-Examples zeigt. Nichts überzeugt mehr als ein praktischer Beweis deiner Skills. Das kann auch helfen, bei ML Inference & Numerics anzuklopfen, wenn du dich auf die Stelle als Senior Software Engineer, Inference Performance bewirbst – so wissen sie gleich, was sie von dir erwarten können!

✨Nutze Jobplattformen speziell für Tech-Jobs!

Plattformen wie Stack Overflow Jobs oder AngelsList sind perfekte Orte, um Vollzeitstellen in der Software-Entwicklung zu finden. Hier sind viele tolle Unternehmen auf der Suche nach Talenten wie uns, also schau regelmäßig vorbei und bewirb dich direkt über die Website.

✨Such dir Mentoren und Feedback!

Hol dir Feedback von erfahrenen Entwicklern, die dir Tipps geben können, was Recruiter wirklich suchen. Ob über LinkedIn oder persönliche Kontakte: Menschen, die sich in der Branche auskennen, können enorm wertvoll sein, um dir zu helfen, dich optimal auf deine Bewerbung bei ML Inference & Numerics vorzubereiten!

Wir glauben, dass du diese Fähigkeiten brauchst, um Senior Software Engineer, Inference Performance in München mit Bravour zu bestehen

Hardware Performance Optimization
AI Workloads on GPUs
Custom Accelerators
Python
Rust
C++
C

Einige Tipps für deine Bewerbung 🫡

Highlights deiner Coding-Skills:In der Software-Entwicklung kommt es auf konkrete Fähigkeiten an. Vergiss nicht, relevante Programmiersprachen und Frameworks in deinen Lebenslauf aufzunehmen. Zeig uns, was du kannst – vielleicht mit einem Link zu deinem GitHub-Profil oder einer Übersicht deiner Side Projects, die deine Programmierkenntnisse illustrieren.

Dokumentation deiner Erfolge:Gerade bei einer Vollzeitstelle in der Software-Entwicklung sind konkrete Ergebnisse Gold wert. Nenn uns Zahlen und Ergebnisse aus deinen vorherigen Projekten. Hast du den Code optimiert oder Systemfehler behoben? Solche Erfolge zeigen, dass du die Sprache der Entwickler sprichst und einen echten Mehrwert bringst.

Attraktive Projektbeschreibungen:Wenn du an Projekten gearbeitet hast, die hervorstechen, beschreibe sie ausführlich in deinem Lebenslauf. Was war das Problem, das du gelöst hast? Welche Technologien hast du eingesetzt? Das gibt uns einen klaren Einblick in deine Herangehensweise und Problemlösungsfähigkeiten.

Motivation zeigen:In deinem Anschreiben solltest du deine Motivation für die Stelle im Bereich Software-Entwicklung bei ML Inference & Numerics klar herausstellen. Warum sprichst gerade du die Anforderungen für diese Vollzeitrolle an? Mach deutlich, was dich an der Arbeit bei uns reizt und wie du über das rein Technische hinaus wachsen möchtest.

Wie man sich auf ein Vorstellungsgespräch bei ML Inference & Numerics vorbereitet

✨Technische Vorbereitung auf die Coding-Challenges

In der Software-Entwicklung sind technische Fragen oft ein zentraler Teil des Interviews. Macht euch mit Plattformen wie LeetCode oder HackerRank vertraut, um eure Problemlösungsfähigkeiten zu trainieren. Zeigt im Interview viel Selbstbewusstsein beim Erklären eurer Ansätze!

✨Das eigene Portfolio im besten Licht präsentieren

Stellt sicher, dass ihr ein aussagekräftiges Portfolio habt, das einige eurer besten Projekte zeigt. Seid bereit, darüber zu sprechen, was eure Rolle war, welche Technologien ihr verwendet habt und welche Herausforderungen es gab. Das gibt den Interviewern einen Einblick in eure praktische Erfahrung.

✨Teamfähigkeit und Kommunikation betonen

In einer Vollzeit-Position wird Kommunikation im Team sehr wichtig sein. Seid bereit, Beispiele aus der Vergangenheit zu teilen, in denen ihr effektiv im Team gearbeitet habt. Dies zeigt, dass ihr nicht nur technische Fähigkeiten habt, sondern auch gut ins Team passt.

✨Vorbereitung auf Fragen zur Software-Architektur

Bereitet euch darauf vor, Fragen zur Software-Architektur zu beantworten. Themen wie RESTful APIs, Microservices und Cloud-Architekturen können Teil eures Interviews sein. Zeigt euer Verständnis durch Diskussionen und Beispiele aus eurer bisherigen Arbeit oder Projekte.