(Senior) Machine Learning Engineer

Orcrist baut eine Plattform für Datenintelligenz der nächsten Generation mit modernsten Technologien. Wir verarbeiten Petabyte große Datenmengen mit Abfragen in Sub-Sekunden. Unser Produkt ist eine Kubernetes-basierte Plattform, die als B2B SaaS oder als selbst gehostete On-Premise-Lösung angeboten wird, einschließlich luftdichter Bereitstellungen. Wir ermöglichen es Kunden aus den Bereichen Verteidigung, Strafverfolgung und Unternehmen, mission-kritische Daten in umsetzbare Erkenntnisse umzuwandeln.

Rolle

Wir suchen einen praktischen ML Engineer, der moderne KI-Fähigkeiten in den Bereichen Text, Vision, Audio und anderen angewandten ML-Anwendungsfällen aufbaut und produktiv macht. Sie werden direkt mit modernen und Open-Source-Modellen arbeiten – diese testen, bewerten, optimieren und anpassen für reale Produktanwendungsfälle. Dies ist keine Rolle, die sich nur auf das Training von Grundmodellen von Grund auf oder den Aufbau von Datenpipelines konzentriert. Sie werden eng mit den Teams für Forschung, Produkt und Datenengineering zusammenarbeiten, um vielversprechende Modelle und Ideen von Experimenten zu zuverlässigen, produktionsbereiten Systemen zu bringen.

Was Sie tun werden

• Bewerten, vergleichen und integrieren von Open-Source-Modellen für konkrete Produkt- und Kundenanwendungsfälle.
• Aufbauen und Verbessern von LLM-basierten Anwendungen.
• Erweitern und Verbessern von KI- und ML-Modellen durch Inferenzoptimierung, Bewertung und Feinabstimmung, wo dies angemessen ist.
• Arbeiten mit NLP, Übersetzung, Sprach-zu-Text / ASR, Bild- und Dokumentenverständnis sowie verwandten angewandten KI-Modellen.
• Entwerfen von Bewertungsrahmen, die Modellqualität, Latenz, Zuverlässigkeit und Kosten abdecken.
• Modelle von Experimenten in die Produktion überführen, einschließlich Verpackung, Bereitstellung, Überwachung und Iteration.
• Optimieren der Inferenzleistung und der Betriebskosten.
• Zusammenarbeiten mit Forschungs- und Produktteams, um Prototypen und Experimente in skalierbare Produktfähigkeiten umzuwandeln.
• Beitragen zu moderner ML-Infrastruktur und MLOps, während Sie weiterhin praktisch mit Modellen und deren Verhalten arbeiten.

Über Sie

• 4+ Jahre Erfahrung im Bereich Machine Learning Engineering, angewandte KI oder einer ähnlichen praktischen ML-Rolle.
• Starke Python-Kenntnisse und praktische Erfahrung mit modernen ML-Frameworks und -Bibliotheken wie PyTorch, Transformers und Hugging Face.
• Erfahrung mit LLMs, NLP-Modellen, Sprachmodellen oder anderen modernen generativen KI-Systemen.
• Praktische Erfahrung in der Bewertung und dem Experimentieren mit bestehenden Modellen, anstatt nur ML-Infrastruktur aufzubauen.
• Erfahrung mit Inferenz-Engines wie vLLM oder SGLang und Plattformen wie NVIDIA Triton oder Ollama.
• Vertrautheit mit Feinabstimmung, Aufforderungen, Modellauswertung, Inferenz und Bereitstellung.
• Grundlegendes Verständnis von AI-Modellkodierungs- und Quantisierungsformaten und deren Kompromissen.
• Starker Ingenieursgeist und die Fähigkeit, Experimente in zuverlässige, reproduzierbare Systeme umzuwandeln.
• Berechtigt, in Deutschland zu arbeiten; Exportkontrollprüfung erforderlich für bestimmte Programme.

Nice-to-haves

• Praktische Erfahrung mit Modellbereitstellung und Produktionsbereitstellung unter Verwendung von Technologien wie Kubernetes, KServe, NVIDIA Triton und/oder Ray Serve.
• Kenntnisse über Inferenzoptimierungstechniken, einschließlich Batching, Quantisierung, ONNX oder TensorRT.
• Deutschkenntnisse (B1+) und/oder Vertrautheit mit Verteidigungs- oder öffentlichen Sicherheitsdatensätzen.
• Erfahrungen mit geospatialer KI, Satellitenbildern oder Fernerkundung.
• Erfahrung in eingeschränkten oder regulierten Umgebungen mit Infrastruktur-, Sicherheits- oder Bereitstellungsanforderungen.

Was wir bieten

• Remote-first, deutschlandweit: Arbeiten Sie von überall dort, wo Sie am besten arbeiten, mit regelmäßigen Teamtreffen in Berlin und anderen externen Standorten.
• Flexibilität standardmäßig: Flexible Arbeitszeiten helfen Ihnen, Arbeit in Ihr Leben zu integrieren.
• Ihr Setup, Ihre Art: Erhalten Sie ein persönliches Budget für Büroausstattung, um einen Arbeitsplatz zu schaffen, der für Sie funktioniert.
• 30 Tage Urlaub: Nehmen Sie sich die Zeit, die Sie benötigen, um sich zu erholen und mit neuer Energie zurückzukommen.
• Weiter wachsen: Wir investieren in Ihre persönliche und berufliche Entwicklung.
• Für Auswirkungen belohnt werden: Leistungsboni sind an vereinbarte Ziele und Schlüsselergebnisse gebunden.
• Ein herzlicher Empfang: Jedes neue Teammitglied erhält ein Willkommensgeschenk.
• Gute Menschen, gute Zeiten: Von Sommer- und Weihnachtsfeiern bis hin zu regelmäßigen Teamtreffen nehmen wir uns Zeit, um gemeinsam zu feiern.
• Eine Mission, die zählt: Arbeiten Sie an Herausforderungen mit greifbaren Auswirkungen auf die öffentliche Sicherheit und nationale Sicherheit.