Systems Software Engineer (Rust, ML Inference)

ai-coustics entwickelt die Zuverlässigkeitsschicht für Voice AI, das System, das die Lücke zwischen rohem Audioeingang und zuverlässigem maschinellen Verständnis in der Produktion schließt. Durch die Kombination von modernster Sprach- und Audioforschung mit Echtzeit-SDKs in Produktionsqualität testen, beobachten und ermöglichen wir Voice AI-Systeme, in jeder Umgebung zu arbeiten. Unsere Software wird von schnell wachsenden Voice AI-Unternehmen in Europa und den Vereinigten Staaten genutzt, deren Produkte zuverlässige Leistung in großem Maßstab erfordern: Callcenter-Agenten, Sprachagenten, Telefonie-Apps und Unternehmens-Sprachassistenten.

Wir glauben, dass Sprache die Hauptschnittstelle für Technologie werden wird, und ai-coustics baut die grundlegende Infrastruktur auf, um Audioeingaben zuverlässig, messbar und einfach bereitzustellen. Wir werden von führenden Frühphaseninvestoren unterstützt, darunter Connect Ventures, Partech, Inovia Capital sowie von Angel-Investoren von HuggingFace, DeepMind und Amazon, die über umfassende Expertise in KI und Entwicklerinfrastruktur verfügen. Diese Partner teilen unsere Vision und helfen uns, ein erstklassiges Team aufzubauen, das mit hohen Verantwortungs- und Geschwindigkeitsniveaus arbeitet. Wir suchen Menschen, die Verantwortung übernehmen, systemisch denken und herausfordernde Probleme der realen Welt in enger Zusammenarbeit mit unseren Kunden lösen möchten.

Wenn Sie motiviert sind, Technologien zu entwickeln, die in der Praxis eingesetzt werden, eine aufstrebende Kategorie zu gestalten und einen neuen Standard dafür zu setzen, wie Voice AI in der realen Welt funktioniert, werden Sie sich bei ai-coustics wohlfühlen.

Aufgaben

• ML Inference Engine & Runtime Development
  • Entwerfen, Implementieren und Optimieren von systemnahen Komponenten des ai-coustics SDK und der Inferenzlaufzeit
  • Verbessern der Leistung, Speichernutzung und Stabilität der Airten Echtzeitinferenz-Engine
  • Arbeiten an Modellausführung, Tensoroperationen, Planung, Streaming-Inferenz und Laufzeitabstraktionen
  • Unterstützen der Bereitstellung von neuronalen Audiomodellen über CPU, WASM und andere eingeschränkte Laufzeitumgebungen
  • Erforschen und Integrieren von Ideen aus modernen Inferenz-Engines und ML-Laufzeiten wie Burn, ONNX Runtime, tract, TensorRT oder ähnlichen Systemen
  • Die Lücke zwischen Forschungsmodellen und produktionsbereiter, latenzarmer Inferenz überbrücken
• Audio, DSP & Real-Time ML Systems
  • Entwickeln und Pflegen von DSP-Modulen und unterstützender Audioverarbeitungsinfrastruktur
  • Optimieren von Streaming-Arbeitslasten unter strengen Latenz-, Jitter- und Speicherkonstanten
  • Werkzeuge zum Validieren der numerischen Korrektheit, des Echtzeitverhaltens und der Modellqualität über Plattformen hinweg erstellen
  • Mit ML-Forschern zusammenarbeiten, um Modelle einfacher exportierbar, testbar, benchmarkbar und bereitstellbar zu machen
  • Zu Workflows für die Modellkonvertierung und -bereitstellung beitragen, einschließlich Formate wie ONNX, interne Modellformate oder Rust-native Darstellungen
• Language Bindings & Platform Support
  • Unsere C-API und die öffentliche C-Bibliothek, die aus unserem internen Rust-Code generiert wurde, pflegen und erweitern
  • SDK-Wrapper und Bindungen für C++, Python und Rust über die öffentliche C-API verbessern und unterstützen
  • WASM- und Node.js-SDKs, die direkt aus dem internen Rust-Quellcode erstellt wurden, pflegen
  • Sicherstellen, dass Verhalten, Leistung und API-Garantien über Linux, macOS, Windows, WASM und eingebettete Umgebungen konsistent sind
• Testing, Reliability & Tooling
  • Unser Testpipeline entwerfen, implementieren und erweitern, einschließlich Unit-Tests, Integrationstests, numerischen Tests und Leistungsbenchmarks
  • Werkzeuge zur Validierung von Echtzeitanforderungen, Speichernutzung, Modellausgaben und plattformübergreifender Konsistenz erstellen
  • CI-Workflows verbessern, um eine sichere und schnelle Iteration an einem Closed-Source-Kern mit öffentlich zugänglichen SDKs zu gewährleisten
  • Benchmarks und Profilierungs-Workflows erstellen, die uns helfen, Laufzeitengpässe und Leistungsrückgänge zu verstehen
  • Die Beobachtbarkeit und Diagnostik für SDK-Integrationen in Kundenumgebungen verbessern
• Documentation & Developer Experience
  • Technische Dokumentation für SDK-APIs, Laufzeitinterna, Modellbereitstellung und Integrationsleitfäden schreiben und pflegen
  • Mit Produkt- und entwicklerorientierten Teams zusammenarbeiten, um Onboarding und Benutzerfreundlichkeit zu verbessern
  • Interne Teams und externe Entwickler unterstützen, indem SDK- und Inferenzprobleme diagnostiziert und robuste Lösungen vorgeschlagen werden
  • Zur API-Entwicklung mit Fokus auf Ergonomie, Sicherheit, Portabilität und langfristige Wartbarkeit beitragen

Anforderungen

• Starke Erfahrung in der Systemprogrammierung, idealerweise mit Rust
• Solides Verständnis der Interoperabilität von C/C++, ABIs und FFI-Design
• Erfahrung im Aufbau oder in der Wartung von SDKs, Bibliotheken, Inferenzlaufzeiten oder entwicklerorientierten Systemen
• Vertrautheit mit Echtzeitsystemen, Leistungsoptimierung, Speicherverwaltung und Profilierung