Software Engineer, Platform

Über OpenRouter

OpenRouter ist die führende KI-Routing- und Infrastruktur-Schicht, die Unternehmen nutzen, um auf die besten großen Sprachmodelle über Anbieter hinweg zuzugreifen, sie zu verwalten und zu optimieren – ohne Lock-in, Kapazitätsbeschränkungen oder unnötige Kosten. Wir unterstützen die fortschrittlichsten KI-Teams der Welt, indem wir ihnen die Flexibilität geben, schnell zu handeln, sicher zu skalieren und zukunftssicher zu bleiben, während sich die Modelle weiterentwickeln. Mit der beschleunigten Einführung von KI in Unternehmen steht OpenRouter im Mittelpunkt, wie Organisationen LLMs über Forschungs-, Produkt- und Produktionsarbeitslasten operationalisieren.

Über die Rolle

Wir stellen einen Software Engineer für unser Plattform-Team ein, der die Systeme besitzt und skaliert, die täglich Millionen von LLM-Anfragen routen und bedienen. Das Geschäft wächst in einem unglaublichen Tempo und wir benötigen Unterstützung, um sicherzustellen, dass unsere Plattform mithalten kann. Sie werden mit einem kleinen Team von Ingenieuren zusammenarbeiten, um unsere Infrastruktur, Datenspeicher, CI/CD-Pipeline und alles andere, auf dem OpenRouter basiert, zu betreuen. Dies ist eine praktische IC-Rolle mit breitem Tätigkeitsfeld und wenig Prozess zwischen Ihnen und dem Versand.

Was Sie tun werden

• Besitzen und weiterentwickeln unserer Edge- und Cloud-Infrastruktur über Cloudflare, Google Cloud und Vercel.
• Skalieren und Betreiben unserer Datenebene einschließlich Spanner, ClickHouse und Postgres.
• Sicherstellen, dass wir die Leistung optimieren, wenn wir LLM-Inferenz bedienen, während der Verkehr schnell wächst.
• Partnerschaft mit der technischen Leitung in Bezug auf Kapazität, Zuverlässigkeit und Kosten über die Routing-Ebene, mit Verantwortung für die Systeme, die Produktionsverkehr tragen.
• Die Messlatte und das Handbuch dafür setzen, wie wir Infrastruktur und Betrieb führen, während das Team wächst – Werkzeuge, Beobachtbarkeit, Bereitschaftsdienst und die Muster, gegen die andere Ingenieure aufbauen.

Über Sie

• 5+ Jahre Erfahrung im Aufbau und Betrieb von Produktionsinfrastrukturen in Unternehmen, in denen Verfügbarkeit, Latenz und Kosten wichtig sind.
• Nachgewiesene Erfahrung mit Cloud-Plattformen (GCP, AWS, Azure) und edge-first serverlosen Plattformen (z.B. Cloudflare Workers).
• Tiefe Expertise im Betrieb von groß angelegten Datenbanken (z.B. Postgres, Spanner usw.).
• Ein Full-Stack-TypeScript-Shop wird Sie nicht abschrecken; Sie können sich über den Stack bewegen, wenn die Plattform es benötigt.
• Hohe Eigenverantwortung und eine Neigung zum Handeln. Sie warten nicht auf Tickets – Sie sehen den Engpass und beheben ihn.
• KI-orientiert in Ihrem Workflow. Sie nutzen Codierungsagenten, MCPs und LLMs intensiv und haben Meinungen dazu, was funktioniert.
• Pragmatisch in Bezug auf Kompromisse zwischen Geschwindigkeit und Einfachheit.

Bonuspunkte

• Bestehender Nutzer von OpenRouter oder aktive Nebenprojekte in KI-Produkten/Infrastruktur oder Entwicklerwerkzeugen.

Das Grundgehalt für diese Vollzeitstelle in den Vereinigten Staaten, das sich je nach Qualifikationen über mehrere interne Ebenen erstreckt, liegt zwischen 215.000 und 285.000 USD zuzüglich Leistungen und Eigenkapital. Die Vergütung für international ansässige Kandidaten variiert, um den lokalen Marktbedingungen Rechnung zu tragen.

Wenn Sie denken, dass Sie nicht alle Kriterien erfüllen, aber dennoch an der Stelle interessiert sind, bewerben Sie sich bitte. Niemand erfüllt jedes Kriterium, und wir suchen jemanden, der begeistert ist, dem Team beizutreten.