Member of Technical Staff - Model Serving / API Backend Engineer

Über Black Forest Labs

Wir sind das Team hinter Latent Diffusion, Stable Diffusion und FLUX – grundlegende Technologien, die verändert haben, wie die Welt Bilder und Videos erstellt. Wir entwickeln die generativen Modelle, die die Art und Weise, wie Menschen Bilder und Videos erstellen, antreiben – Werkzeuge, die von Millionen von Kreativen, Entwicklern und Unternehmen weltweit genutzt werden. Unsere FLUX-Modelle gehören zu den fortschrittlichsten der Welt, und wir stehen erst am Anfang. Mit Hauptsitz in Freiburg, Deutschland, und einer wachsenden Präsenz in San Francisco, wachsen wir schnell, während wir uns treu bleiben: Forschungsexzellenz, offene Wissenschaft und der Aufbau von Technologien, die die menschliche Kreativität erweitern.

Warum diese Rolle

Unser Forschungsteam arbeitet schnell. Modelle verbessern sich wöchentlich. Neue Fähigkeiten entstehen ständig. Was uns verlangsamt, ist nicht die Modellqualität – es ist die Produktionsfähigkeit. Ohne diese Rolle:

• Forschungspunkte sitzen länger, bevor sie nutzbare APIs werden
• Die Inferenz ist langsamer als nötig
• APIs kämpfen unter Last
• Demos spiegeln nicht das wahre Potenzial unserer Modelle wider

Diese Rolle beseitigt das Flaschenhals zwischen Grenzforschung und Produktionsrealität. Nach der Einstellung können Forscher schneller liefern, Demos schneller starten und Kunden erleben die Modelle in ihrer besten Form.

Woran Sie arbeiten werden

• Sie werden die Brücke zwischen Forschungsergebnissen und Produktionssystemen besitzen.
• Forschungspunkte in produktionsbereite Inferenzdienste umwandeln
• Hochleistungs-APIs entwerfen und pflegen, die Millionen von Anfragen bedienen
• Inferenzlatenz und -durchsatz über GPU-Infrastruktur optimieren
• Skalierbare Servierungsarchitekturen aufbauen, die unvorhersehbaren Verkehr bewältigen
• Zuverlässigkeit, Überwachung und Beobachtbarkeit über Modellservierungssysteme verbessern
• Prototypen und Demos erstellen, die neue Fähigkeiten in Tagen, nicht Wochen, präsentieren
• Eng mit Forschern zusammenarbeiten, um schnell von der Idee zum Live-Endpunkt zu gelangen

Werkzeuge & Kontext – Modellservierung & API-Infrastruktur

• Python, FastAPI, asynchrone Systeme
• GPU-Infrastruktur, CUDA, Inferenzoptimierung
• Docker und Kubernetes
• Redis, Postgres, verteilte Aufgabenwarteschlangen
• Cloud-Plattformen (AWS, GCP oder Azure)
• Beobachtungsstacks (Metriken, Protokollierung, Nachverfolgung)

Diese Rolle umfasst Backend-Systeme, GPU-Leistung und Produktions-ML-Servierung.

Was wir suchen

Sie haben Systeme in bedeutendem Maßstab aufgebaut und betrieben. Sie verstehen den Unterschied zwischen einem Forschungsprototyp und einem Produktionssystem. Sie fühlen sich wohl dabei, durch Unklarheiten zu navigieren, Kompromisse einzugehen und Systeme unter realen Bedingungen zu verbessern. Sie zeigen:

• Starkes Urteilsvermögen in Bezug auf Leistung, Zuverlässigkeit und Kostenkompromisse
• Erfahrung in der Skalierung von APIs oder ML-Systemen unter Last
• Komfort beim Arbeiten in schnelllebigen, forschungsnahen Umgebungen
• Eigenverantwortung vom Systemdesign bis zur Fehlersuche und Bereitstellung

Rollenbezogene Erfahrungen, die wir schätzen:

• Aufbau und Betrieb von ML-Inferenzdiensten in der Produktion
• Entwurf skalierbarer API-Architekturen mit asynchroner Verarbeitung
• Optimierung von GPU-Workloads (Batching, Quantisierung, Kompilierung, CUDA)
• Verwaltung verteilter Systeme und Aufgabenwarteschlangen unter variabler Last
• Implementierung von Überwachung und Beobachtbarkeit für Produktions-ML-Systeme
• Fehlerbehebung von Leistungsengpässen über Modell-, Infrastruktur- und Netzwerkschichten

Bonus-Erfahrungen umfassen:

• Echtzeit- oder latenzarme Inferenzsysteme
• TensorRT, reduzierte Präzision, Layer-Fusion oder Modellkompilierungstechniken
• Frontend-Demo-Tools (Streamlit, Gradio, React)
• CI/CD und automatisierte Tests für ML-Systeme
• Sicherheitsbest Practices für API- und Modellservierung

Wie wir zusammenarbeiten

Wir sind ein verteiltes Team mit echten Büros, die die Leute tatsächlich nutzen. Je nach Ihrer Rolle werden Sie entweder mindestens 2 Tage pro Woche (oder eine volle Woche alle zwei Wochen) bei uns in Freiburg oder SF sein oder remote arbeiten mit einer monatlichen persönlichen Woche, um verbunden zu bleiben. Wir übernehmen angemessene Reisekosten, um dies zu ermöglichen. Wir denken, dass persönliche Zeit wichtig ist, und haben die Dinge so strukturiert, dass sie für alle zugänglich sind. Wir werden besprechen, wie dies für die Rolle während unseres Interviewprozesses aussehen wird.

Alles, was wir tun, basiert auf vier Werten:

• Besessen. Wir sind ein Grenzforschungslabor. Die Wissenschaft muss stimmen, das Verständnis tief, das Produkt schön sein.
• Niedriger Ego. Die Arbeit spricht. Die beste Idee gewinnt, egal wer sie gesagt hat. Anerkennung wird geteilt. Niemand steht über einer Aufgabe.
• Mutig. Wir gehen die ambitionierte Wette ein. Wir liefern, wir warten nicht darauf, dass die Bedingungen perfekt sind.
• Freundlich. Menschen über Politik. Wir behandeln uns gegenseitig mit echter Wärme. Handlungsmacht ohne Empathie schafft Chaos.

Jahresgrundgehalt: 180.000 - 300.000 USD

Wir sind in Europa ansässig und schätzen Tiefe über Lärm, Zusammenarbeit über Held*innenkultur und ehrliche technische Gespräche über Hype. Unsere Modelle wurden hunderte Millionen Male heruntergeladen, aber wir sind immer noch ein Team von ~50 Personen, das lernt, was an der Spitze der generativen KI möglich ist.