(Senior) Machine Learning Engineer

Orcrist baut eine nächste Generation von Datenintelligenzplattformen mit modernsten Technologien. Wir verarbeiten Petabyte große Datenmengen mit Abfragen in Sub-Sekunden. Unser Produkt ist eine Kubernetes-basierte Plattform, die als B2B SaaS oder als selbst gehostete On-Premise-Lösung, einschließlich luftdichter Bereitstellungen, angeboten wird. Wir ermöglichen es Kunden aus den Bereichen Verteidigung, Strafverfolgung und Unternehmen, mission-kritische Daten in umsetzbare Erkenntnisse umzuwandeln.

Wir suchen einen praktischen ML Engineer, um moderne KI-Fähigkeiten in den Bereichen Text, Vision, Audio und anderen angewandten ML-Anwendungsfällen zu entwickeln und in Produktion zu bringen. Sie werden direkt mit modernen und Open-Source-Modellen arbeiten – diese testen, bewerten, optimieren und anpassen für reale Produktanwendungsfälle. Dies ist keine Rolle, die sich nur auf das Training von Grundmodellen von Grund auf oder den Aufbau von Datenpipelines konzentriert. Sie werden eng mit den Teams für Forschung, Produkt und Datenengineering zusammenarbeiten, um vielversprechende Modelle und Ideen von Experimenten in zuverlässige, produktionsbereite Systeme zu überführen.

Was Sie tun werden:

• Bewerten, vergleichen und integrieren von Open-Source-Modellen für konkrete Produkt- und Kundenanwendungsfälle.
• Entwickeln und verbessern von LLM-basierten Anwendungen.
• Erweitern und verbessern von KI- und ML-Modellen durch Inferenzoptimierung, Bewertung und Feinabstimmung, wo dies angemessen ist.
• Arbeiten mit NLP, Übersetzung, Sprach-zu-Text / ASR, Bild- und Dokumentenverständnis sowie verwandten angewandten KI-Modellen.
• Gestalten von Bewertungsrahmen, die Modellqualität, Latenz, Zuverlässigkeit und Kosten abdecken.
• Modelle von Experimenten in die Produktion überführen, einschließlich Verpackung, Bereitstellung, Überwachung und Iteration.
• Optimieren der Inferenzleistung und der Betriebskosten.
• Zusammenarbeiten mit Forschungs- und Produktteams, um Prototypen und Experimente in skalierbare Produktfähigkeiten zu verwandeln.
• Beitragen zur modernen ML-Infrastruktur und MLOps, während Sie weiterhin praktisch mit Modellen und deren Verhalten arbeiten.

Über Sie:

• 4+ Jahre Erfahrung im Bereich Machine Learning Engineering, angewandte KI oder einer ähnlichen praktischen ML-Rolle.
• Starke Python-Kenntnisse und praktische Erfahrung mit modernen ML-Frameworks und -Bibliotheken wie PyTorch, Transformers und Hugging Face.
• Erfahrung mit LLMs, NLP-Modellen, Sprachmodellen oder anderen modernen generativen KI-Systemen.
• Praktische Erfahrung in der Bewertung und dem Experimentieren mit bestehenden Modellen, anstatt nur ML-Infrastruktur aufzubauen.
• Erfahrung mit Inferenz-Engines wie vLLM oder SGLang und Plattformen wie NVIDIA Triton oder Ollama.
• Vertrautheit mit Feinabstimmung, Aufforderung, Modellauswertung, Inferenz und Bereitstellung.
• Grundlegendes Verständnis von AI-Modellkodierungs- und Quantisierungsformaten und deren Trade-offs.
• Starker Ingenieursgeist und die Fähigkeit, Experimente in zuverlässige, reproduzierbare Systeme zu verwandeln.
• Berechtigt, in Deutschland zu arbeiten; Exportkontrollprüfung erforderlich für bestimmte Programme.

Nice-to-haves:

• Praktische Erfahrung mit Modellbereitstellung und Produktionsbereitstellung unter Verwendung von Technologien wie Kubernetes, KServe, NVIDIA Triton und/oder Ray Serve.
• Kenntnisse über Inferenzoptimierungstechniken, einschließlich Batching, Quantisierung, ONNX oder TensorRT.
• Deutschkenntnisse (B1+) und/oder Vertrautheit mit Verteidigungs- oder öffentlichen Sicherheitsdatensätzen.
• Einblicke in geospatial AI, Satellitenbilder oder Fernerkundung.
• Erfahrung in eingeschränkten oder regulierten Umgebungen mit Infrastruktur-, Sicherheits- oder Bereitstellungsanforderungen.

Was wir bieten:

• Remote-first, deutschlandweit: Arbeiten Sie von überall dort, wo Sie am besten arbeiten, mit regelmäßigen Teamtreffen in Berlin und anderen Offsite-Standorten.
• Flexibilität standardmäßig: Flexible Arbeitszeiten helfen Ihnen, Arbeit in Ihr Leben zu integrieren.
• Ihr Setup, Ihre Art: Erhalten Sie ein persönliches Budget für Büroausstattung, um einen Arbeitsplatz zu schaffen, der für Sie funktioniert.
• 30 Tage Urlaub: Nehmen Sie sich die Zeit, die Sie benötigen, um sich zu erholen und mit neuer Energie zurückzukommen.
• Weiter wachsen: Wir investieren in Ihre persönliche und berufliche Entwicklung.
• Für Auswirkungen belohnt werden: Leistungsboni sind an vereinbarte Ziele und Schlüsselergebnisse gebunden.
• Ein herzlicher Empfang: Jedes neue Teammitglied erhält ein Willkommensgeschenk.
• Gute Menschen, gute Zeiten: Von Sommer- und Weihnachtsfeiern bis hin zu regelmäßigen Teamtreffen nehmen wir uns Zeit, um gemeinsam zu feiern.
• Eine Mission, die zählt: Arbeiten Sie an Herausforderungen mit greifbaren Auswirkungen auf die öffentliche Sicherheit und nationale Sicherheit.