Senior Site Reliability Engineer — Token Factory (Inference Platform)

Warum bei Nebius arbeiten

Nebius führt eine neue Ära im Cloud-Computing ein, um die globale KI-Wirtschaft zu bedienen. Wir schaffen die Werkzeuge und Ressourcen, die unsere Kunden benötigen, um reale Herausforderungen zu lösen und Branchen zu transformieren, ohne massive Infrastrukturkosten oder die Notwendigkeit, große interne KI/ML-Teams aufzubauen. Unsere Mitarbeiter arbeiten an der Spitze der KI-Cloud-Infrastruktur neben einigen der erfahrensten und innovativsten Führungskräfte und Ingenieure auf diesem Gebiet.

Wo wir arbeiten

Mit Hauptsitz in Amsterdam und an der Nasdaq gelistet, hat Nebius eine globale Präsenz mit F&E-Zentren in Europa, Nordamerika und Israel. Das Team von über 1400 Mitarbeitern umfasst mehr als 400 hochqualifizierte Ingenieure mit tiefem Fachwissen in der Hardware- und Softwaretechnik sowie ein internes KI-F&E-Team.

Die Token Factory ist Teil von Nebius Cloud, einer der größten GPU-Clouds der Welt, die Zehntausende von GPUs betreibt. Wir bauen eine Inferenzplattform, die jede Art von Fundamentalmuster – Text, Vision, Audio und aufkommende multimodale Architekturen – schnell, zuverlässig und mühelos in großem Maßstab bereitstellt. Um dieses Versprechen einzulösen, benötigen wir einen Ingenieur, der die Plattform unter extremen Lasten fehlerfrei funktionieren lässt und sich bei unerwarteten Ereignissen elegant erholt.

In dieser Rolle sind Sie verantwortlich für die Zuverlässigkeit, Leistung und Beobachtbarkeit des gesamten Inferenzstacks. Ihr Tag beginnt mit dem Entwerfen und Verfeinern von Telemetrie-Pipelines – Metriken, Protokollen und Traces, die Hunderte von Terabyte an Signalen in klare, umsetzbare Erkenntnisse umwandeln. Von dort aus könnten Sie Kubernetes-Autoscaler optimieren, um mehr Effizienz aus GPUs herauszuholen, Terraform-Module erstellen, die Resilienz in jeden neuen Cluster integrieren, oder unsere Anforderungsweiterleitungs- und Wiederholungslogik absichern, sodass selbst vorübergehende Fehler von den Benutzern unbemerkt bleiben.

Wenn Vorfälle auftreten, verlassen Sie sich auf die Automatisierung und die Runbooks, die Sie erstellt haben, um Probleme in Minuten zu erkennen, zu isolieren und zu beheben, und treiben dann die Post-Mortem-Kultur voran, die Wiederholungen verhindert. All diese Bemühungen zielen auf ein einziges Ziel ab: die Plattform reibungslos zu skalieren und dabei aggressive Kosten- und Zuverlässigkeitsziele zu erreichen.

Erfolg in dieser Rolle erfordert tiefes Wissen über Kubernetes, Prometheus, Grafana, Terraform und die Kunst der Infrastruktur als Code. Sie skripten bequem in Python oder Bash, verstehen die Nuancen des Alarmdesigns und der SLOs für hochdurchsatzfähige APIs und haben genug Zeit in der Produktion verbracht, um zu wissen, wie verteilte Back-Ends in der realen Welt ausfallen. Erfahrung mit GPU-intensiven Workloads – sei es mit vLLM, Triton, Ray oder einem anderen Beschleuniger-Stack – wird Ihnen zugutekommen, ebenso wie ein Hintergrund in MLOps oder Modell-Hosting-Plattformen. Vor allem kümmern Sie sich um den Aufbau selbstheilender Systeme, gedeihen beim Debuggen der Leistung von der Kernel- bis zur Anwendungsschicht und genießen die Zusammenarbeit mit Softwareingenieuren, um Zuverlässigkeit zu einer Funktion zu machen, über die die Benutzer nie nachdenken müssen.

Wenn die Idee, die Infrastruktur zu schützen, die die multimodale KI von morgen antreibt, Sie begeistert, würden wir uns freuen, Ihre Geschichte zu hören.

Was wir bieten

• Wettbewerbsfähiges Gehalt und umfassendes Leistungspaket.
• Möglichkeiten zur beruflichen Weiterentwicklung innerhalb von Nebius.
• Flexible Arbeitsbedingungen.
• Ein dynamisches und kollaboratives Arbeitsumfeld, das Initiative und Innovation schätzt.

Wir wachsen und erweitern unsere Produkte jeden Tag. Wenn Sie bereit für die Herausforderung sind und genauso begeistert von KI und ML sind wie wir, schließen Sie sich uns an!