Senior AI Platform Engineer, Core Cloud Engineering

Vultr ist auf einer Mission, um hochleistungsfähige Cloud-Infrastruktur einfach zu nutzen, erschwinglich und lokal zugänglich für Unternehmen und KI-Innovatoren auf der ganzen Welt zu machen. Mit 32 globalen Cloud-Datenzentren wird Vultr von Hunderttausenden aktiven Kunden in 185 Ländern für seine flexiblen, skalierbaren Cloud-Compute-, Cloud-GPU-, Bare-Metal- und Cloud-Speicherlösungen vertraut.

Vultr sucht einen hochqualifizierten und erfahrenen AI Platform Engineer, der die Strategie und Ausführung für die Integration von KI in die täglichen Arbeitsabläufe unserer Software-Engineering-Organisation übernimmt. Der ideale Kandidat kombiniert starke Software-Engineering-Grundlagen mit praktischer Erfahrung in der Bereitstellung von LLM-Inferenzinfrastrukturen und einer echten Leidenschaft dafür, wie Ingenieure arbeiten.

Hauptverantwortlichkeiten:

• Bewertung und Kuratierung von Open-Source-Modellen — Llama, Mistral, Qwen, DeepSeek, Kimi und anderen — für den Einsatz in Engineering-Anwendungsfällen, einschließlich Codegenerierung, Überprüfung, Testschreibung und Zusammenfassung.
• Aufbau und Wartung von MCP (Model Context Protocol)-Servern, die internen Kontext — Codebasen, Runbooks, Vorfallhistorie, Architektur-Dokumente, Entwicklungsumgebungen und Test-Suiten — für KI-Assistenten und Codierungsagenten bereitstellen.
• Integration von KI-Funktionen direkt in GitLab CI/CD-Pipelines: automatisierte Codeüberprüfung, Testgenerierung, Änderungsprotokollentwurf, PR-Zusammenfassung und Anomalieerkennung im Build-Ausgang.
• Verantwortung für den Modelllebenszyklus: Versionierung, A/B-Routing, Quantisierungsabgleich und Leistungsbenchmarking unter realen Engineering-Arbeitslasten.
• Förderung der KI-Akzeptanz in der Software-Engineering-Organisation — Identifizierung von hochwirksamen Arbeitsabläufen, Instrumentierung der Nutzung und Iteration basierend auf realen Daten zu Zeitersparnis und Qualitätsauswirkungen.
• Aufbau und Konfiguration von IDE-Tool-Integrationen — Cursor, Continue und Copilot-Alternativen — unterstützt durch interne Inferenzendpunkte, wobei der Code nach Möglichkeit von Drittanbieter-APIs ferngehalten wird.
• Erstellung von Dokumentationen, internen Workshops und Arbeitsbeispielen, die Ingenieuren helfen, von KI-neugierig zu KI-abhängig zu werden — einschließlich einer gemeinsamen Bibliothek von Eingabeaufforderungen, Systemanweisungen und RAG-Pipelines, die auf den Stack von Vultr abgestimmt sind.
• Enge Zusammenarbeit mit Software-Ingenieuren, SREs und Netzwerkingenieuren, um sicherzustellen, dass die KI-Plattform-Schicht allen Teams dient, ohne zum Engpass oder zum einzigen Fehlerpunkt zu werden.

Qualifikationen:

• Praktische Erfahrung in der Bereitstellung und dem Betrieb von LLM-Inferenzsystemen — vLLM, SGLang, TGI oder vergleichbar — in nicht trivialem Maßstab.
• Starke Docker- und Containerfähigkeiten; komfortabel im Umgang mit dem gesamten Containerlebenszyklus von der Bildgenerierung bis zur Produktion.
• Tiefe Vertrautheit mit GitLab CI/CD — Pipeline-Autorenschaft, benutzerdefinierte Runner, Artefaktmanagement und Integration externer Tools.
• Kenntnisse über MCP oder ähnliche Kontextinjektionsmuster zur Verankerung von LLMs gegen private oder interne Daten.
• Nachgewiesene Fähigkeit zur Bewertung von Open-Source-Modellen hinsichtlich der spezifischen Eignung für Aufgaben — nicht nur Benchmarks, sondern auch die tatsächliche Leistung in Bezug auf interne Arbeitslasten.
• Starke Software-Engineering-Grundlagen — diese Rolle schreibt echten Code, nicht nur Konfiguration.
• Erfahrung mit RAG-Pipelines — Vektordatenbanken, Chunking-Strategien, Abrufbewertung — insbesondere über Code oder technische Dokumentation.
• Vertrautheit mit GPU-Infrastruktur — CUDA-Grundlagen, Multi-GPU-Bereitstellung, Speicherverwaltung unter Inferenzlast.
• Fähigkeit, technische Abwägungen klar an Ingenieure, Manager und Führungskräfte zu kommunizieren; nachweisliche Erfolge bei der Bewegung von Organisationen in Richtung neuer Praktiken.

Vergütung: $110,000 - $140,000. Die endgültige Vergütung variiert je nach Berufserfahrung, Hintergrund/Fähigkeiten, Standort und geltenden Gesetzen.

Inklusion & Datenschutz: Wir sind ein Arbeitgeber, der Chancengleichheit bietet, und setzen uns für die Schaffung eines integrativen Umfelds für alle Mitarbeiter ein. Wir begrüßen Bewerbungen von Personen aller Hintergründe und Erfahrungen und verbieten Diskriminierung aufgrund von Rasse, Farbe, Religion, Geschlecht, sexueller Orientierung, Geschlechtsidentität, nationaler Herkunft, Alter, Behinderung, Veteranenstatus oder einem anderen geschützten Status gemäß den geltenden Gesetzen.