Machine Learning Systems Engineer

Wir entwickeln eine hoch skalierbare Medienintelligenzplattform, die große Mengen an Multimedia-Inhalten über Text, Bild, Video und Audio verarbeitet, analysiert und strukturiert. Als Senior Applied ML Engineer werden Sie die Kern-Backend-Systeme entwerfen und aufbauen, die die Medienaufnahme, Verarbeitungsabläufe, Metadatengenerierung, KI-basierte Analyse, semantische Suche und Abruf über große Mediatheken unterstützen.

Wir suchen einen Senior Applied ML Engineer, der in der Lage ist, eine produktionsreife Moderationspipeline mit Open-Source-Modellen zu entwerfen, zu implementieren, zu optimieren und zu bewerten. Diese Rolle erfordert tiefgehende Backend-Engineering-Expertise, starke Systemdesignfähigkeiten und praktische Erfahrung bei der Integration von KI/ML-Systemen in Produktionsabläufe.

Sie werden an komplexen Medienverarbeitungs-Pipelines, Video-/Audioanalysen, OCR, Sprach-zu-Text, Einbettungsgenerierung, Vektorsuche, multimodalen Modellintegrationen und hochgradig asynchronen Arbeitslasten arbeiten. Sie werden eng mit der technischen Leitung zusammenarbeiten, um die Backend-Architektur zu definieren, die Zuverlässigkeit und Skalierbarkeit zu verbessern und andere Ingenieure bei der Bereitstellung sicherer, beobachtbarer und leistungsstarker Systeme zu unterstützen.

• Backend-Architektur & Systemverantwortung: Entwerfen, bauen und betreiben Sie skalierbare Backend-Dienste für eine Medienintelligenzplattform mit Fokus auf saubere, wartbare und produktionsbereite Systeme.
• Besitzen Sie kritische Backend-Komponenten von Anfang bis Ende, vom Systemdesign und API-Verträgen über Implementierung, Bereitstellung, Überwachung und Iteration.
• Treffen Sie architektonische Entscheidungen über APIs, Verarbeitungs-Pipelines, verteilte Berechnungen, Speicherung, Suche, Beobachtbarkeit, Cloud-Infrastruktur und Modellbereitstellungsabläufe.
• Entwerfen Sie Datenmodelle und Speicherstrukturen für Medienassets, generierte Metadaten, Einbettungen, Verarbeitungsjobs, Modelloutputs, Suchindizes und Audit-Trails.
• Entwerfen Sie hochgradige Medienaufnahme- und Verarbeitungs-Pipelines für große Mengen an Video-, Audio-, Bild- und Textinhalten.
• Bauen Sie verteilte, ereignisgesteuerte Arbeitsabläufe für die Medienverarbeitung unter Verwendung von Warteschlangen und Pub/Sub-Systemen wie SQS, Kafka, Pub/Sub oder gleichwertigen Technologien.
• Implementieren Sie zuverlässige asynchrone Verarbeitungsmuster, einschließlich Wiederholungen, Idempotenz, Dead-Letter-Warteschlangen, Backpressure-Handling und fehlertolerante Jobausführung.

• Leiten Sie die Entwicklung und Optimierung von Metadatenextraktion, Inhaltsanalyse, Szenenerkennung, Transkription, Einbettungsgenerierung und multimodalen KI-Inferenzarbeitsabläufen.
• Integrieren und optimieren Sie KI/ML-Dienste innerhalb von Backend-Arbeitsabläufen, einschließlich Modell-APIs, Einbettungspipelines, OCR, Sprach-zu-Text, Szenenanalysen, multimodaler Inferenz, Batching, Caching und Fallback-Strategien.
• Zusammenarbeit mit ML-Ingenieuren, Datenwissenschaftlern oder externen Modellanbietern zur Benchmarking von Modellen, zum Vergleich von Qualitäts-/Latenztrade-offs und zur sicheren Einführung von Modell-Upgrades.

• Optimieren Sie KI/ML-Inferenzarbeitsabläufe hinsichtlich Latenz, Durchsatz, Zuverlässigkeit und Kosten sowohl für Echtzeit- als auch für Batch-Verarbeitungswege.
• Arbeiten Sie mit Modellbereitstellungssystemen wie vLLM, Triton, TGI, SageMaker, Vertex AI oder benutzerdefinierten Inferenzdiensten, um Batching, Parallelität, Warmup-Verhalten, Timeout-Handling, Autoskalierung und GPU-Nutzung zu verbessern.
• Bewerten und wenden Sie praktische Modelloptimierungstechniken wie Quantisierung, Modell-Destillation, Batching, Caching, Prompt-Optimierung und Routing auf kleinere oder günstigere Modelle an, wo dies angebracht ist.
• Entwerfen und pflegen Sie Vektorsuch- und Indizierungssysteme unter Verwendung von Technologien wie Pinecone, Weaviate, Qdrant, Elastic Vectors, FAISS, pgvector oder ähnlichen Tools.
• Bauen Sie Abrufarbeitsabläufe, die semantische Suche, Ähnlichkeitsabgleich, Duplikaterkennung, Medienentdeckung und strukturierte Metadatensuche unterstützen.
• Überwachen Sie die Modell- und Systemleistung in der Produktion, einschließlich API-Latenz, Warteschlangentiefe, Verarbeitungszeit, Modellfehlerquoten, GPU-Nutzung, Vertrauensverteilungen, Drift-Signale und Kosten pro verarbeitetem Element.

• Bereitstellen und Betreiben von Systemen auf AWS, GCP, Azure oder gleichwertigen Cloud-Plattformen, einschließlich Berechnung, Speicherung, Netzwerk, Warteschlangen, Modellbereitstellungsinfrastruktur und Überwachungssystemen.
• Sicherstellen der Systemzuverlässigkeit durch Protokollierung, Metriken, Nachverfolgung, Alarmierung, Dashboards, betriebliche Handbücher und bewährte Verfahren zur Reaktion auf Vorfälle.

• Zusammenarbeit mit Produkt-, Design-, Daten- und ML-Teams zur Bereitstellung medienreicher, KI-gesteuerter Produktfunktionen.
• Mentoring von Junior- und Mid-Level-Ingenieuren, Unterstützung bei der technischen Planung, Überprüfung von Designs und Verbesserung der Ingenieursqualität im Team.
• Teilnahme an Code-Reviews, Dokumentation, technischer Planung und kontinuierlicher Verbesserung der Ingenieurpraktiken.
• Sicherstellen der Codequalität durch Tests, Peer-Review, klare Dokumentation und wartbare Implementierungsmuster.

• Abschluss in Informatik, Ingenieurwesen oder gleichwertiger praktischer Erfahrung.
• 5-7+ Jahre Erfahrung im Backend-Engineering, idealerweise beim Aufbau skalierbarer verteilter Systeme, Medienplattformen, Datenpipelines oder hochgradiger Backend-Dienste.
• Frühere Erfahrung in der vollständigen Verantwortung für wichtige Backend-Module, einschließlich Architektur, Implementierung, Bereitstellung, Überwachung und Produktionsbetrieb.
• 3+ Jahre Erfahrung in der Integration von KI/ML-Inferenzsystemen in Backend-Arbeitsabläufe, einschließlich Modell-APIs, Einbettungspipelines, OCR, Sprach-zu-Text, Szenenerkennung oder multimodalen Modellausgaben.
• Praktische Erfahrung in der Erstellung von KI-gesteuerten Verarbeitungs-Pipelines für Bild-, Video-, Audio- oder Textanalysen.
• Praktische Erfahrung mit der Optimierung von Produktionsmodellen, insbesondere für Bild-, Video-, Einbettungs- oder multimodale Modelle, einschließlich Batching, Caching, Quantisierung, Prompt-Optimierung, Routing-Strategien, Latenzreduzierung und Kostenoptimierung.
• Frühere Erfahrung mit Vektorsuche, semantischer Suche, Medienabruf oder Ähnlichkeitsabgleichssystemen wird stark bevorzugt.
• Erfahrung im Mentoring von Ingenieuren, in der Leitung technischer Diskussionen und in der Beeinflussung architektonischer Entscheidungen über Backend-, Infrastruktur- und KI/ML-Arbeitsabläufe.

• Starke Expertise in Python und/oder Node.js mit tiefem Verständnis für den Aufbau skalierbarer RESTful APIs und Backend-Architekturen.
• Erfahrung mit dem HuggingFace Transformers-Ökosystem und Deep-Learning-Frameworks wie PyTorch und TensorFlow.
• Starke Erfahrung mit SQL/NoSQL-Datenbanken, Schema-Design und Datenmodellierung.
• Bevorzugte Kenntnisse in verteilten Systemen, Microservices, asynchroner Verarbeitung und ereignisgesteuerten Mustern mit SQS, Pub/Sub, Kafka oder anderen Warteschlangen-/Pub-Sub-Systemen.
• Erfahrung in der Bereitstellung von Produktionssystemen auf AWS, GCP oder ähnlichen Cloud-Plattformen.
• Kenntnisse über Infrastrukturmuster (Berechnung, Speicherung, Netzwerk, Beobachtbarkeit).

• Erfahrung in der Orchestrierung von Einbettungsgenerierung, Szenenerkennung, OCR, Sprach-zu-Text, Bildklassifizierung, Videoanalyse und multimodalen Modellintegrationen.
• Erfahrung in der Optimierung von Inferenzarbeitsabläufen hinsichtlich Latenz, Durchsatz, Zuverlässigkeit und Kosten.
• Erfahrung in der Arbeit mit skalierbaren und optimierten Inferenz-Einstellungen, einschließlich der Feinabstimmung von Sampling-Parametern, der Verwaltung von Ausgabeformaten und der Konfiguration von reasoning-bezogenen Verhaltensweisen.
• Vertrautheit mit praktischen Modelloptimierungstechniken wie Batching, Caching, Quantisierung, Modell-Destillation, Prompt-Optimierung, Fallback-Routing und der Verwendung kleinerer Modelle, wo dies angebracht ist.
• Erfahrung in der Arbeit mit Modellbereitstellungssystemen wie vLLM, Triton, TGI, SageMaker, Vertex AI oder benutzerdefinierten Inferenzdiensten ist bevorzugt.
• Erfahrung in der Arbeit mit LLM- und multimodalen Evaluierungs- und Benchmarking-Frameworks sowie domänenspezifischen Benchmarks mit der Fähigkeit, Ergebnisse zu interpretieren und die Modellleistung entsprechend zu optimieren.

• Bevorzugtes Verständnis von verteilten Systemen, Skalierungsmustern und Leistungsengineering.
• Fähigkeit, modulare, wartbare und effiziente Architekturen zu entwerfen.
• Erfahrung mit API-Versionierung, Modularisierung und dem Entwurf von langlaufenden Arbeitsabläufen.
• Verständnis von Leistungsengpässen und latenzarmen Backend-Mustern.