Senior Principal Software Engineer, Machine Learning

Toast erstellt Technologien, um Restaurants und lokale Unternehmen in einer digitalen Welt zum Erfolg zu verhelfen. Das Machine Learning Platform-Team entwickelt und betreibt die Kerninfrastruktur, die KI und ML bei Toast unterstützt – einschließlich des Feature Stores, der Modellbereitstellung, der Experimentierplattform, der Trainingspipelines und der Werkzeuge, auf die ML-Ingenieure und Datenwissenschaftler täglich angewiesen sind.

Toast sucht einen Senior Principal Software Engineer, der als technischer Leiter im ML Platform-Team fungiert und die Systeme gestaltet, die Toasts KI- und ML-Fähigkeiten in das nächste Jahrzehnt tragen werden. Die Rolle umfasst die Leitung der architektonischen Ausrichtung der Plattform, die Bereitstellung grundlegender Infrastruktur, auf der andere Teams aufbauen, und die Förderung anderer Ingenieure.

Verantwortlichkeiten:

• Technische Richtung der ML-Plattform übernehmen – Feature Store, Modellbereitstellung, Experimentierung, Trainingsinfrastruktur – und architektonische Entscheidungen hinsichtlich Skalierbarkeit, Zuverlässigkeit, Latenz und Kosten treffen.
• Design und Lieferung großer Plattforminitiativen von der Konzeption bis zur Produktion leiten und dabei mit ML-, Daten- und Infrastrukturteams koordinieren.
• Systematische technische Herausforderungen identifizieren und lösen: Online/Offline-Feature-Parität, Modellbereitstellungsprobleme, Experimentiergeschwindigkeit, GPU-Nutzung, teamübergreifende Abhängigkeiten.
• Hohe Ingenieurqualität durch praktische Codebeiträge, Designüberprüfungen und Mentoring von Plattform- und ML-nahen Ingenieuren sicherstellen.
• Mit ML-Engineering, Datenwissenschaft, Produkt- und Plattformführung zusammenarbeiten, um die ML-Strategie in technische Roadmaps zu übersetzen.
• Die vorgegebenen Wege definieren, die ML-Teams nutzen, um Modelle sicher zu versenden – von der Feature-Registrierung über Canary-Rollouts, Überwachung und Rollbacks.
• KI-unterstützte Entwicklungstools nutzen, um die Entwicklungsgeschwindigkeit und Codequalität zu erhöhen.

Anforderungen:

• Über 10 Jahre Erfahrung in der Bereitstellung komplexer Backend- oder Infrastruktursysteme in großem Maßstab.
• Direkte Erfahrung im Aufbau oder Betrieb von Kern-ML-Infrastrukturen – Feature Stores, Modellbereitstellung, Experimentierungsplattformen, Trainingsorchestrierung oder Ähnlichem.
• Beherrschung einer modernen Backend-Sprache, idealerweise Java oder Kotlin.
• Tiefe Kenntnisse in den Konzepten verteilter Systeme: Konsistenz, Latenz, Durchsatz, Fehlertoleranz und Beobachtbarkeit.
• Starkes Verständnis von Datenmodellierung, Abfragesprachen und den Online/Offline-Datenmustern, die ML-Systeme zugrunde liegen.
• Nachgewiesene technische Führungskompetenz mit der Fähigkeit, teamübergreifende Abstimmungen zu fördern und Einfluss auf Ingenieure, Produkte und Geschäftspartner auszuüben.
• Abschluss in Informatik oder einem verwandten Bereich oder gleichwertige praktische Erfahrung.

Wünschenswerte Qualifikationen:

• Praktische Erfahrung mit Open-Source- oder kommerziellen ML-Plattformkomponenten (z.B. Tecton, MLflow, SageMaker, Databricks).
• Erfahrung im Aufbau oder Betrieb von Experimentierungs-/A-B-Testplattformen in großem Maßstab.
• Vertrautheit mit Echtzeit-Streaming-Systemen (Kafka, Flink, Spark Streaming) und deren Verwendung in der Feature-Berechnung.
• Erfahrung in der Bereitstellung von LLMs oder Deep-Learning-Modellen in der Produktion, einschließlich GPU-Kapazitätsplanung und Optimierung der Inferenz.
• Frühere Arbeit zur Unterstützung interner Entwicklerplattformen mit einer Produktmentalität.

Vielfalt, Gleichheit und Inklusion:

Bei Toast sind unsere Mitarbeiter unser Geheimrezept – wenn sie gedeihen, gedeihen wir. Die Restaurantbranche ist eine der vielfältigsten, und wir schätzen diese Vielfalt mit Authentizität, Inklusivität, Respekt und Demut.