Software Engineer 3

Wir suchen einen Software Engineer 3, der dabei hilft, die Einbettungsmodelle von Voyage - verwendet für semantische Suche, Abruf und KI-native Erfahrungen - auf die Plattformen und Umgebungen zu bringen, in denen Kunden bereits ihre Workloads ausführen, über die erste Partei MongoDB Atlas hinaus. Sie werden Teil der größeren Such- und KI-Plattform-Organisation und eng mit den Ingenieuren zusammenarbeiten, die die erste Inferenz von Voyage entwickeln.

Gemeinsam erweitern wir diese Plattform über Cloud-Marktplätze, Drittanbieter-Inferenzanbieter und selbstverwaltete Bereitstellungen, damit die Kunden dieselben Voyage-Modelle erhalten, die konsistent funktionieren, wo auch immer sie sie ausführen möchten. Als Software Engineer 3 konzentrieren Sie sich auf den Aufbau der Systeme, Werkzeuge und Bereitstellungs-Workflows, die die Lieferung von Modellen von Drittanbietern unterstützen.

Was Sie tun werden:

• Portieren und Abstimmen des Modellservers, der die Voyage-Einbettungs- und Neurangierungsmodelle ausführt: Verbesserung der Inferenzleistung, Konsistenz und Laufzeitverhalten über verschiedene Umgebungen.
• Produktion neuer Voyage-Modelle für die Lieferung über die erste Partei Atlas, Verantwortung für die Verpackung, Konfiguration und Bereitstellungs-Workflows, die sie auf AWS, Azure, GCP und mehr zum Laufen bringen.
• Entwerfen von Korrektheit, Korrelation und Leistungsvalidierung, die beweist, dass die Bereitstellungen von Drittanbietern dem Verhalten der ersten Partei entsprechen.
• Operabilität in jede Oberfläche einbauen: strukturierte Protokollierung, Metriken, Diagnosen und Gesundheitsprüfungen mit Tools wie Prometheus und OpenTelemetry.
• Probleme debuggen, die Modellserver, Container, Bereitstellungskonfiguration und Partner-Cloud-Umgebungen umfassen.
• Zusammenarbeit mit den Modellserviceteams von Voyage und Partnerschaften mit GTM, SAs, TSEs und strategischen Kunden bei den schwierigsten externen Bereitstellungen.

Wer Sie sind:

• 4+ Jahre Erfahrung im Aufbau von Backend-, Infrastruktur-Systemen, CI und Build-Tools.
• Starke Software-Engineering-Fähigkeiten in Sprachen wie Python oder Go, mit einem Schwerpunkt auf Leistung und Zuverlässigkeit.
• Erfahrung mit Cloud-Umgebungen (AWS, Azure oder GCP), Containern und Kubernetes.
• Komfortabel beim Debuggen über den gesamten Stack - Code, Laufzeit, Modellserver, Konfiguration und externe Abhängigkeiten.
• Vertraut mit Konzepten im ML-Modell-Serving und Inferenzlaufzeiten, auch wenn Sie nicht direkt Modelle bereitstellen.
• Sie kommunizieren klar und arbeiten gut in ehrgeizigen, teamübergreifenden Projekten.
• Motiviert, die KI-Modelle von Voyage zuverlässig dort zum Laufen zu bringen, wo die Kunden sie haben möchten.

Wünschenswert:

• Erfahrung in der Produktion oder Bereitstellung von ML-Modellservern oder Inferenzlaufzeiten (z.B. vLLM, Triton, TGI).
• Erfahrung mit Observability-Stacks wie Prometheus, Grafana oder OpenTelemetry.
• Erfahrung in der Auslieferung von Software über Cloud-Marktplätze oder Partner-/selbstverwaltete Kanäle.
• Beiträge zur Open-Source-Infrastruktur für ML-Serving oder Bereitstellung.

Warum Sie sich uns anschließen sollten:

• Besitzen Sie, wie die KI-Modelle von Voyage überall außerhalb der ersten Partei Atlas zu den Kunden gelangen - ein schnell wachsender, hochsichtbarer Teil der Plattform.
• Arbeiten Sie an wirklich vielfältigem Engineering: Modellserver-Inferenz, CI-Bereitstellungen, Observability und großangelegte Cloud-Integration.
• Zusammenarbeit mit den ML- und Plattformteams hinter Voyage, um neue Modelle auf den Markt zu bringen.
• Treffen Sie auf ein Team, das Eigenverantwortung, Pragmatismus, technisches Urteilsvermögen und Klarheit in unklaren Situationen schätzt.