AI Systems Engineer

Dialpad ist die KI-native Kommunikationsplattform für Unternehmen. Wir vereinen Anrufe, Messaging, Meetings und Contact Center auf einer einzigen Plattform - unterstützt von KI, die jedes Gespräch in Echtzeit versteht. Mehr als 70.000 Unternehmen weltweit, darunter WeWork, Asana, NASDAQ, AAA Insurance, COMPASS Realty, Uber, Randstad und Tractor Supply, verlassen sich auf Dialpad, um stärkere Kundenverbindungen mit Echtzeit-Insights, die von KI gesteuert werden, aufzubauen.

Wir suchen nach AI Inference Platform Engineers, die die Produktionssysteme entwickeln, die unsere internen KI-Modelle in großem Maßstab bedienen. Diese Rolle befindet sich an der Schnittstelle von Modellentwicklung, Hochleistungs-Runtime-Systemen und Cloud-Infrastruktur. Sie helfen dabei, trainierte Modelle und aufkommende KI-Fähigkeiten in zuverlässige, beobachtbare, latenzarme Produktionsdienste umzuwandeln, die auf NVIDIA GPUs in GCP laufen.

Ihre Aufgaben:

• Entwerfen, bauen und verbessern Sie die Systeme, die die Entwicklung von KI-Fähigkeiten mit der Produktionsinferenz verbinden.
• Modellservierung und Runtime-Systeme: Bauen und verbessern Sie Modellservierungswege für latenzarme, hochdurchsatzfähige, hochverfügbare Inferenzlasten.
• GPU-Infrastruktur und -Nutzung: Betreiben und optimieren Sie containerisierte Workloads auf Kubernetes/GCP mit Fokus auf effiziente Nutzung von NVIDIA GPUs, Speicher, Netzwerk und mehr.
• Modellserver-Integration: Arbeiten Sie mit Modellservierungsframeworks und -laufzeiten wie vLLM, Triton, TGI oder ähnlichen Systemen.
• Verkehrs- und Freigabesicherheit: Ermöglichen Sie Shadow Serving, Canary Rollouts, gestaffelte Bereitstellungen und schnelle Rollback-Mechanismen für modellgestützte Dienste.
• Benchmarking und Evaluierungsinfrastruktur: Entwickeln Sie Werkzeuge zur Messung von Latenz, Durchsatz, Kosten und Zuverlässigkeit unter realistischem Produktionsverkehr.
• Artifact-Lebenszyklus: Verbessern Sie, wie Modell- und Fähigkeitsartefakte verpackt, versioniert, gefördert, bereitgestellt und zurückgerollt werden.
• Beobachtbarkeit und Debugging: Stärken Sie die Runtime-Telemetrie, strukturiertes Logging, Tracing, Dashboards und Alarmierung.
• Effizienz und Skalierung: Tragen Sie zu Strategien bei, die die Recheneffizienz, GPU-Nutzung und Kosten-Leistungs-Verhältnisse verbessern.

Erforderliche Fähigkeiten:

• 6+ Jahre Erfahrung in der Softwareentwicklung mit nachweislicher Erfolgsbilanz im Versand von Backend-Diensten oder Produktionsplattformen.
• Profi in der Programmierung in Python, Go oder einer anderen backend-orientierten Sprache.
• Erfahrung im Betrieb oder der Optimierung von hochdurchsatzfähigen Diensten oder verteilten Systemen.
• Praktische Erfahrung mit Containern, Kubernetes, Linux-Umgebungen und CI/CD.
• Starkes Urteilsvermögen in Bezug auf Reproduzierbarkeit, Beobachtbarkeit und Rollout-Sicherheit.
• Komfort beim Umgang mit Engpässen in Bezug auf Rechenleistung, Speicher, Netzwerk und mehr.
• Fähigkeit zur engen Zusammenarbeit mit Modellentwicklern, Produkttechnikern und technischen Führungskräften.

Warum Dialpad?

• Arbeiten Sie im Zentrum der KI-Transformation in der Unternehmenskommunikation.
• Entwickeln und versenden Sie agentische KI-Produkte, die die Art und Weise, wie Unternehmen arbeiten, neu definieren.
• Wettbewerbsfähiges Gehalt, umfassende Vorteile und echte Wachstumschancen.

Dialpad ist ein Arbeitgeber, der Chancengleichheit bietet. Wir setzen uns für eine Gemeinschaft der Inklusion und ein Umfeld ohne Diskriminierung oder Belästigung ein.