Senior / Lead Machine Learning Engineer, Inference - Germany

Über Inworld

Inworld ist ein Forschungszentrum und Anbieter von Inferenzdiensten, das sich auf Echtzeit-KI für verbraucherorientierte Anwendungen konzentriert. Wir entwickeln erstklassige Sprachmodelle, bedienen LLMs und führen die Inferenz hinter modularen APIs durch, die für hochvolumige, Echtzeitarbeitslasten ausgelegt sind. Hunderte Millionen von Nutzern interagieren täglich mit Inworld-gestützten Apps, und wir bedienen über 10 Billionen LLM-Tokens pro Monat. Unsere Modelle und Infrastruktur unterstützen Verbraucheranwendungen in den Bereichen Begleiter, Gesundheitswesen, Fitness, Bildung, Medien und mehr. Unsere Arbeit umfasst Modellforschung, Echtzeitinferenz, großangelegte Bereitstellungsinfrastruktur und die APIs, die Entwickler nutzen, um diese Fähigkeiten in die Produktion zu bringen.

Wir haben mehr als 125 Millionen US-Dollar von Lightspeed Venture Partners, Section 32, Kleiner Perkins, Microsofts M12-Venture-Fonds, Founders Fund, Meta, Stanford und anderen gesammelt. Unsere Technologie hat Erfahrungen von Unternehmen wie NVIDIA, Microsoft Xbox, Niantic, Logitech Streamlabs, Wishroll, Little Umbrella und Bible Chat ermöglicht. Inworld wurde auch von CB Insights als eines der 100 vielversprechendsten KI-Unternehmen weltweit anerkannt und als eines der Top 10 Startups in den USA von LinkedIn ausgezeichnet.

Wer wir suchen

Vor einem Jahr gab es kaum zuverlässig funktionierende agentische Systeme und sub-sekündliche multimodale Inferenz in großem Maßstab. Niemand hat hier ein Jahrzehnt Erfahrung. Daher suchen wir keine Lebenslaufvorlagen – wir suchen starke Menschen aus unterschiedlichen Hintergründen, die schnell lernen, in Ungewissheit gedeihen und uns zeigen können, was sie gebaut, kaputt gemacht und verstanden haben.

Erfahrungen, die wir nützlich finden

• Inferenzoptimierung: Tiefes Verständnis moderner Bereitstellungsframeworks und Techniken wie vLLM oder TRT-LLM.
• Modellbeschleunigung: Praktische Erfahrung mit Quantisierung, Destillation, Caching-Strategien, kontinuierlichem Batching, paged attention und spekulativer Dekodierung.
• Hochleistungs-Systeme: Kenntnisse in C++, CUDA, Rust oder hochoptimiertem Python. Sie wissen, wie man Code profiliert und jede Menge Leistung aus NVIDIA GPUs herausholt.
• Verteilte Systeme & Skalierung: Erfahrung mit Kubernetes, Ray, benutzerdefiniertem Lastenausgleich, Multi-GPU/multi-node Inferenz und zuverlässiger Handhabung von Tausenden gleichzeitigen Verbindungen.
• Öffentliche Arbeiten: Nicht triviale Systemprogrammierungsprojekte, Open-Source-Beiträge zu wichtigen Inferenz-Engines oder tiefgehende technische Berichte.
• Vollzyklus-Eigentum: Sie können ein Modell vom Forschungsteam übernehmen, es containerisieren, seine Bereitstellung optimieren und sicherstellen, dass es zuverlässig in der Produktion läuft.
• Hintergrund: PhD in Informatik, Physik, Mathematik oder gleichwertige praktische Erfahrung im Aufbau von Backend- oder ML-Systemen.
• Berufliche Englischkenntnisse: Fließende Englischkenntnisse (schriftlich und mündlich) sind erforderlich, da Sie täglich mit unseren in den USA ansässigen Führungskräften und Ingenieurteams zusammenarbeiten werden.

Wer hier gedeiht

Sie benötigen keinen Fahrplan, um loszulegen; Sie sind damit vertraut, eine Richtung einzuschlagen und die Karte während des Gehens zu erstellen. Sie glauben, dass Engineering erst abgeschlossen ist, wenn es ausgeliefert und stabil ist. Sie haben eine Neigung zu Auswirkungen über rein theoretische Optimierungen. Sie liefern nicht nur Code; Sie beschäftigen sich obsessiv mit dem Warum. Sie sind der Erste, der eine Architektur in Frage stellt, wenn Sie denken, dass es einen besseren Weg gibt, das Kernproblem der Latenz oder des Durchsatzes zu lösen. Sie sind nicht zufrieden mit "der PM hat es gesagt". Sie gedeihen in tiefem Kontext und möchten die grundlegende Logik hinter jeder Entscheidung, die wir treffen, verstehen.

Wie es ist, hier zu arbeiten

Wir geben Ihnen unklare Probleme und erwarten, dass Sie sie klar machen. Wir schätzen Ingenieure, die sagen: "Ich weiß es noch nicht" und dann den Benchmark oder Prototyp entwerfen, der herausfindet, was los ist. Wir betrachten Leistung, Latenz und Zuverlässigkeit als erstklassige Produktmerkmale, nicht als Box, die vor dem Start abgehakt werden muss. Auswirkungen stehen über allem, obwohl wir die gemeinsame Arbeit und Open-Source-Beiträge unterstützen, die das Feld voranbringen. Ihre Arbeit sollte sichtbar sein. Flache Struktur, schnelle Iterationen, minimaler Prozessaufwand.

Für Kandidaten, die in Zukunft an eine Umsiedlung in die San Francisco Bay Area interessiert sind, können vollständige US-Visum- und Umsiedlungsunterstützung verfügbar sein, abhängig von den geschäftlichen Bedürfnissen und den geltenden rechtlichen und arbeitsrechtlichen Anforderungen.