Senior / Lead Machine Learning Engineer, Serving - Germany

Über Inworld

Inworld ist ein produktorientiertes Forschungslabor von führenden KI-Forschern und -Ingenieuren, das erstklassige Echtzeit-Multimodal-Modelle und die einzige Echtzeit-Orchestrierungsplattform entwickelt, die für Tausende von Anfragen pro Sekunde optimiert ist. Wir haben mehr als 125 Millionen US-Dollar von Lightspeed, Section 32, Kleiner Perkins, Microsofts M12-Venture-Fonds, Founders Fund, Meta und Stanford unter anderem erhalten. Unsere Technologie hat Erfahrungen von Unternehmen wie NVIDIA, Microsoft Xbox, Niantic, Logitech Streamlabs, Wishroll, Little Umbrella und Bible Chat ermöglicht. Wir wurden auch von CB Insights als eines der 100 vielversprechendsten KI-Unternehmen weltweit anerkannt und gehören zu LinkedIn's Top 10 Startups in den USA.

Wer wir suchen

Vor einem Jahr gab es kaum zuverlässig funktionierende agentische Systeme und sub-sekündliche multimodale Inferenz in großem Maßstab. Niemand hat hier ein Jahrzehnt Erfahrung. Daher suchen wir keine Lebensläufe, sondern starke Menschen aus unterschiedlichen Hintergründen, die schnell lernen, in Ungewissheit gedeihen und uns zeigen können, was sie gebaut, kaputt gemacht und verstanden haben.

Erfahrungen, die wir nützlich finden

• Inference Optimization: Tiefes Verständnis moderner Serving-Frameworks und Techniken wie vLLM oder TRT-LLM.
• Model Acceleration: Praktische Erfahrung mit Quantisierung, Destillation, Caching-Strategien, kontinuierlichem Batching, paged attention und spekulativer Dekodierung.
• High-Performance Systems: Kenntnisse in C++, CUDA, Rust oder hochoptimiertem Python. Sie wissen, wie man Code profiliert und jede Leistung aus NVIDIA GPUs herausholt.
• Distributed Systems & Scaling: Erfahrung mit Kubernetes, Ray, benutzerdefiniertem Load Balancing, Multi-GPU/Multi-Node-Inferenz und zuverlässiger Handhabung von Tausenden gleichzeitigen Verbindungen.
• Öffentliche Arbeiten: Nicht triviale Systemprogrammierungsprojekte, Open-Source-Beiträge zu wichtigen Inferenz-Engines oder tiefgehende technische Berichte.
• Full-Cycle Ownership: Sie können ein Modell vom Forschungsteam übernehmen, es containerisieren, seine Bereitstellung optimieren und sicherstellen, dass es zuverlässig in der Produktion läuft.
• Hintergrund: PhD in Informatik, Physik, Mathematik oder gleichwertige praktische Erfahrung im Aufbau von Backend- oder ML-Systemen.

Professionelle Englischkenntnisse (schriftlich und mündlich) sind erforderlich, da Sie täglich mit unseren in den USA ansässigen Führungskräften und Ingenieurteams zusammenarbeiten werden.

Wer hier gedeiht

Sie benötigen keinen Fahrplan, um loszugehen; Sie sind damit vertraut, eine Richtung zu wählen und die Karte während des Gehens zu erstellen. Sie glauben, dass Engineering erst abgeschlossen ist, wenn es ausgeliefert und stabil ist. Sie haben eine Vorliebe für Auswirkungen über rein theoretische Optimierungen. Sie liefern nicht nur Code; Sie beschäftigen sich mit dem Warum. Sie sind der Erste, der eine Architektur in Frage stellt, wenn Sie denken, dass es einen besseren Weg gibt, das Kernproblem der Latenz oder des Durchsatzes zu lösen. Sie sind nicht zufrieden mit „der PM hat es gesagt.“ Sie gedeihen in tiefem Kontext und möchten die grundlegende Logik hinter jeder Entscheidung, die wir treffen, verstehen.

Wie es ist, hier zu arbeiten

Wir geben Ihnen unklare Probleme und erwarten, dass Sie sie klar machen. Wir schätzen Ingenieure, die sagen: „Ich weiß es noch nicht“ und dann den Benchmark oder Prototyp entwerfen, der es herausfindet. Wir betrachten Leistung, Latenz und Zuverlässigkeit als erstklassige Produktmerkmale, nicht als Box, die vor dem Start abgehakt werden muss. Der Einfluss kommt vor allem anderen, obwohl wir die gemeinsame Arbeit und Open-Source-Beiträge unterstützen, die das Feld voranbringen. Ihre Arbeit sollte sichtbar sein. Flache Struktur, schnelle Iterationen, minimaler Prozessaufwand.

Für Kandidaten, die in Zukunft an einer Umsiedlung in die San Francisco Bay Area interessiert sind, können vollständige US-Visum- und Umsiedlungsunterstützung verfügbar sein, vorbehaltlich der geschäftlichen Bedürfnisse und der geltenden rechtlichen und arbeitsrechtlichen Anforderungen.