Senior Site Reliability Engineer — Token Factory (Inference Platform) in Berlin

Über Nebius: Nebius führt eine neue Ära in der Cloud-Infrastruktur für die globale KI-Wirtschaft an. Wir bauen eine Full-Stack-AI-Cloud-Plattform, die Entwickler und Unternehmen von der Daten- und Modellschulung bis zur Produktionsbereitstellung unterstützt, ohne die Kosten und die Komplexität des Aufbaus großer interner AI/ML-Infrastrukturen. Unser Team von über 1.500 Mitarbeitern umfasst Hunderte von Ingenieuren mit tiefem Fachwissen in Hardware, Software und KI-Forschung und -Entwicklung.

Token Factory ist Teil von Nebius Cloud, einer der größten GPU-Clouds der Welt, die Zehntausende von GPUs betreibt. Wir entwickeln eine Inferenzplattform, die jede Art von Grundmodell - Text, Vision, Audio und aufkommende multimodale Architekturen - schnell, zuverlässig und mühelos in großem Maßstab bereitstellt. Um dieses Versprechen zu erfüllen, benötigen wir einen Ingenieur, der die Plattform unter extremen Lasten fehlerfrei arbeiten lässt und sich bei unerwarteten Ereignissen elegant erholt.

In dieser Rolle sind Sie verantwortlich für die Zuverlässigkeit, Leistung und Beobachtbarkeit des gesamten Inferenzstacks. Ihr Tag beginnt mit dem Entwerfen und Verfeinern von Telemetrie-Pipelines - Metriken, Protokollen und Traces, die Hunderte von Terabyte an Signalen in klare, umsetzbare Erkenntnisse umwandeln. Von dort aus könnten Sie Kubernetes-Autoscaler optimieren, um mehr Effizienz aus GPUs herauszuholen, Terraform-Module erstellen, die Resilienz in jeden neuen Cluster einbacken, oder unsere Anforderungsweiterleitungs- und Wiederholungslogik absichern, sodass selbst vorübergehende Fehler von den Benutzern unbemerkt bleiben.

Wenn Vorfälle auftreten, verlassen Sie sich auf die Automatisierung und die Runbooks, die Sie erstellt haben, um Probleme in Minuten zu erkennen, zu isolieren und zu beheben, und treiben dann die Post-Mortem-Kultur voran, die Wiederholungen verhindert. All diese Bemühungen zielen auf ein einziges Ziel ab: die Plattform reibungslos zu skalieren und dabei aggressive Kosten- und Zuverlässigkeitsziele zu erreichen.

Erfolg in dieser Rolle erfordert tiefes Wissen in Kubernetes, Prometheus, Grafana, Terraform und der Kunst der Infrastruktur als Code. Sie skripten sicher in Python oder Bash, verstehen die Nuancen des Alarmdesigns und der SLOs für hochdurchsatzfähige APIs und haben genug Zeit in der Produktion verbracht, um zu wissen, wie verteilte Back-Ends in der realen Welt ausfallen. Erfahrung mit GPU-intensiven Workloads - sei es mit vLLM, Triton, Ray oder einem anderen Beschleuniger-Stack - wird Ihnen zugutekommen, ebenso wie ein Hintergrund in MLOps oder Modell-Hosting-Plattformen.

Vor allem kümmern Sie sich um den Aufbau selbstheilender Systeme, gedeihen beim Debuggen der Leistung von der Kernel- bis zur Anwendungsschicht und genießen die Zusammenarbeit mit Softwareingenieuren, um Zuverlässigkeit zu einer Funktion zu machen, über die die Benutzer nie nachdenken müssen. Wenn die Vorstellung, die Infrastruktur zu schützen, die die multimodale KI von morgen antreibt, Sie begeistert, würden wir uns freuen, Ihre Geschichte zu hören.

Vorteile & Vergünstigungen:

• Wettbewerbsfähige Vergütung
• Karrierewachstum und Lernmöglichkeiten
• Flexibilität und Eigenverantwortung
• Kollaborative und innovative Kultur
• Gelegenheit, an bedeutenden KI-Projekten zu arbeiten
• Internationales Umfeld und talentierte Teams

Wie ist es, bei Nebius zu arbeiten: Schnelllebig - Mutiges Denken - Ständiges Wachstum - Bedeutungsvolle Auswirkungen - Vertrauen und echte Verantwortung - Gelegenheit, die Zukunft der KI zu gestalten.

Gleichstellungserklärung: Nebius ist ein Arbeitgeber, der Chancengleichheit bietet. Wir setzen uns dafür ein, ein integratives und diverses Arbeitsumfeld zu fördern und Chancengleichheit in allen Aspekten der Beschäftigung zu gewährleisten. Wir diskriminieren nicht aufgrund von Rasse, Hautfarbe, Religion, Geschlecht (einschließlich Schwangerschaft), nationaler Herkunft, Abstammung, Alter, Behinderung, genetischen Informationen, Familienstand, Veteranenstatus, sexueller Orientierung, Geschlechtsidentität oder -ausdruck oder einer anderen durch geltendes Recht geschützten Eigenschaft. Bewerber müssen berechtigt sein, in dem Land zu arbeiten, in dem sie sich bewerben, und müssen einen Nachweis über die Beschäftigungsberechtigung als Bedingung für die Einstellung vorlegen. Wenn Sie während des Bewerbungsprozesses Unterstützung benötigen, lassen Sie es uns bitte wissen.