Systems Software Engineer (Rust, ML Inference)

Die Firma sucht einen Systems Software Engineer, der unserem Systems-Team beitritt und im Kern unseres Echtzeit-Audio-AI-SDKs und der Inferenzinfrastruktur arbeitet. In dieser Rolle helfen Sie, das SDK zu warten, zu optimieren und zu erweitern, das die Sprachverbesserungs- und Voice-AI-Produkte des Unternehmens über eine Vielzahl von Plattformen, Laufzeiten und Sprachen hinweg antreibt.

Sie arbeiten hauptsächlich an unserem auf Rust basierenden Inferenz- und Systemcode, der die Airten-Echtzeitinferenz-Engine, DSP-Module, Telemetrie, Modellausführungspipeline und öffentliche SDKs unterstützt, die von Entwicklern weltweit verwendet werden. Ihre Arbeit wird sich direkt auf die Modellleistung, die Effizienz zur Laufzeit, die Zuverlässigkeit, die Entwicklererfahrung und unsere Fähigkeit auswirken, neuronale Audio-Modelle in latenzkritischen Produktionsumgebungen bereitzustellen.

Diese Rolle befindet sich an der Schnittstelle von Systemprogrammierung, ML-Inferenz, Echtzeitaudio und Entwicklerinfrastruktur. Sie müssen kein ML-Forscher sein, sollten jedoch begeistert sein, neuronale Netzwerke schnell, sicher und vorhersehbar in realen Anwendungen zum Laufen zu bringen.

Aufgaben

• ML Inference Engine & Runtime Development
  • Entwerfen, implementieren und optimieren Sie systemnahe Komponenten des Unternehmens-SDKs und der Inferenzlaufzeit.
  • Verbessern Sie die Leistung, den Speicherverbrauch und die Stabilität der Airten-Echtzeitinferenz-Engine.
  • Arbeiten Sie an der Modellausführung, Tensoroperationen, Planung, Streaming-Inferenz und Laufzeitabstraktionen.
  • Unterstützen Sie die Bereitstellung neuronaler Audio-Modelle über CPU, WASM und andere eingeschränkte Laufzeitumgebungen.
  • Erforschen und integrieren Sie Ideen aus modernen Inferenz-Engines und ML-Laufzeiten wie Burn, ONNX Runtime, tract, TensorRT oder ähnlichen Systemen.
  • Helfen Sie, die Kluft zwischen Forschungsmodellen und produktionsbereiten, latenzarmen Inferenzsystemen zu überbrücken.
• Audio, DSP & Real-Time ML Systems
  • Entwickeln und pflegen Sie DSP-Module und unterstützende Audioverarbeitungsinfrastruktur.
  • Optimieren Sie Streaming-Arbeitslasten unter strengen Latenz-, Jitter- und Speicherbeschränkungen.
  • Bauen Sie Werkzeuge zur Validierung der numerischen Korrektheit, des Echtzeitverhaltens und der Modellqualität über Plattformen hinweg.
  • Zusammenarbeiten mit ML-Forschern, um Modelle einfacher exportierbar, testbar, benchmarkbar und bereitstellbar zu machen.
  • Beitragen zu Modellerstellungs- und Bereitstellungsworkflows, einschließlich Formate wie ONNX, interne Modellformate oder Rust-native Darstellungen.
• Language Bindings & Platform Support
  • Pflegen und erweitern Sie unsere C-API und die öffentliche C-Bibliothek, die aus unserem internen Rust-Code generiert wurde.
  • Verbessern und unterstützen Sie SDK-Wrappers und Bindings für C++, Python und Rust über die öffentliche C-API.
  • Pflegen Sie WASM- und Node.js-SDKs, die direkt aus dem internen Rust-Quellcode erstellt wurden.
  • Sicherstellen konsistenter Verhaltensweisen, Leistungen und API-Garantien über Linux, macOS, Windows, WASM und eingebettete Umgebungen hinweg.
• Testing, Reliability & Tooling
  • Entwerfen, implementieren und erweitern Sie unsere Testpipeline, einschließlich Unit-Tests, Integrationstests, numerischen Tests und Leistungsbenchmarks.
  • Bauen Sie Werkzeuge zur Validierung von Echtzeitanforderungen, Speicherverbrauch, Modellausgaben und plattformübergreifender Konsistenz.
  • Verbessern Sie CI-Workflows, um eine sichere und schnelle Iteration an einem Closed-Source-Kern mit öffentlich zugänglichen SDKs zu gewährleisten.
  • Erstellen Sie Benchmarks und Profilierungsworkflows, die uns helfen, Laufzeitengpässe und Leistungsrückgänge zu verstehen.
  • Verbessern Sie die Beobachtbarkeit und Diagnostik für SDK-Integrationen in Kundenumgebungen.
• Documentation & Developer Experience
  • Schreiben und pflegen Sie technische Dokumentationen für SDK-APIs, Laufzeitinterna, Modellbereitstellung und Integrationsleitfäden.
  • Zusammenarbeiten mit Produkt- und entwicklerorientierten Teams zur Verbesserung der Einarbeitung und Benutzerfreundlichkeit.
  • Unterstützen Sie interne Teams und externe Entwickler, indem Sie SDK- und Inferenzprobleme diagnostizieren und robuste Lösungen vorschlagen.
  • Beitragen zum API-Design mit Fokus auf Ergonomie, Sicherheit, Portabilität und langfristige Wartbarkeit.

Anforderungen

• Technische Fähigkeiten
  • Starke Erfahrung in der Systemprogrammierung, idealerweise mit Rust.
  • Solides Verständnis von C/C++-Interoperabilität, ABIs und FFI-Design.
  • Erfahrung im Aufbau oder in der Wartung von SDKs, Bibliotheken, Inferenzlaufzeiten oder entwicklerorientierten Systemen.
  • Vertrautheit mit Echtzeitsystemen, Leistungsoptimierung, Speicherverwaltung und Profilierung.
  • Erfahrung im Schreiben von Tests und Benchmarks für niedrigstufigen oder leistungsrelevanten Code.
  • Komfortabel im Arbeiten über mehrere Plattformen wie Linux, macOS, Windows und WASM.
  • Fähigkeit, über API-Design, unsichere Grenzen, Eigentum, Fehlerbehandlung und langfristige Wartbarkeit nachzudenken.
• ML Inference & Audio Systems
  • Vertrautheit mit ML-Inferenzlaufzeiten oder der Bereitstellung neuronaler Netzwerke in der Produktion.
  • Erfahrung mit Modellformaten oder Inferenz-Engines wie ONNX, Burn, tract, TensorRT, TFLite, Core ML oder ähnlichen Systemen.
  • Verständnis, wie neuronale Netzwerke dargestellt, ausgeführt, optimiert und benchmarked werden.
  • Exposition gegenüber Echtzeitaudioanforderungen wie Latenz, Jitter, Pufferung, Streaming-Arbeitslasten und deterministische Verarbeitung.
  • Interesse daran, ML-Modelle außerhalb von Python-Forschungsumgebungen portabel, effizient und zuverlässig zu machen.
• Mindset & Collaboration
  • Starke Eigenverantwortung und Aufmerksamkeit für Details.
  • Komfortabel im Arbeiten in einem Closed-Source-Kern mit offenen SDK-Oberflächen.
  • Fähigkeit, über Kompromisse zwischen Leistung, Sicherheit, Portabilität und Entwicklererfahrung nachzudenken.
  • Klare schriftliche Kommunikationsfähigkeiten für Dokumentation und technische Entwurfsdiskussionen.
  • Freude an der Arbeit in einem schnelllebigen Startup-Umfeld mit realen Auswirkungen auf die Produktion.
  • Begeistert davon, Infrastruktur zu schaffen, die Voice-AI-Systeme in chaotischen, realen Audio-Bedingungen zuverlässig funktionieren lässt.

Vorteile

• Gelegenheit, in einem schnell wachsenden Voice-AI-Startup zu arbeiten, das von führenden Investoren unterstützt wird.
• Vergütung und Eigenkapital: Wettbewerbsfähiges Gehaltspaket, zusätzliche Vorteile und Aktienoptionen, die es Ihnen ermöglichen, am Erfolg des Unternehmens teilzuhaben.
• Startup-Kultur: Dynamisches, schnelles Umfeld mit leidenschaftlichen und kollaborativen Kollegen.
• Hoher Einfluss: Bahnbrechendes Startup in einer entscheidenden Wachstumsphase, das einen echten Unterschied in der Audioerfahrung der Menschen macht.
• Eigenverantwortung & Autonomie: Übernehmen Sie die volle Verantwortung für Projekte und liefern Sie schnell.
• Arbeiten Sie mit den Besten: Weltklasse-Team von Ingenieuren und Entwicklern mit viel Raum für berufliches Wachstum.
• Tragen Sie zur Zukunft bei: Definieren Sie die Landschaft der Voice-AI-Technologie.

Wenn Sie bereit sind, die Initiative zur Revolutionierung von Voice AI zu ergreifen und unser Startup zu neuen Höhen zu führen, würden wir uns freuen, von Ihnen zu hören. Bewerben Sie sich noch heute, um dem Team des Unternehmens beizutreten!