DevOps Engineer for Customer Care AI Platform Team (f/m/d)

Aufgaben

Über das Team: Unsere Mission ist es, ein modernes Ökosystem für alle IONOS-Kundenservicebedürfnisse zu schaffen. Die von uns entwickelten Tools werden an über 20 Standorten von mehr als 2.000 Nutzern eingesetzt und unterstützen 8 Millionen Kundenverträge in 10 Märkten. Das Entwicklungsteam trägt die volle Verantwortung für den Entwicklungszyklus. Das bedeutet, dass wir unsere Software ohne interne oder externe Abhängigkeiten planen, entwickeln, testen und bereitstellen.

Über das Produkt, das Sie entwickeln werden: Wir bauen eine Next-Generation-AI-Plattform, die darauf abzielt, die Interaktion unseres Unternehmens mit Kunden neu zu definieren. Dies ist nicht nur ein Chatbot; es ist ein leistungsstarkes, multimodales KI-Ökosystem, das von modernsten Speech-to-Speech (S2S)-Modellen, fortschrittlichen Large Language Models (LLMs) und intelligenten Orchestrierungsframeworks betrieben wird. Unsere Plattform wird verstehen, schlussfolgern und auf Text und Sprache reagieren – während sie nahtlos Echtzeitaktionen ausführt, um die Bedürfnisse der Kunden zu erfüllen.

Wir streben eine hybride Architektur aus Open Source LLMs, branchenführenden proprietären Modellen und dem Model Context Protocol (MCP) an, um kontextuelles Denken, Toolaufrufe und nahtlose Orchestrierung über Systeme hinweg zu ermöglichen. Das Ziel ist nicht nur, mit dem Kunden zu sprechen, sondern auch auf seine Bedürfnisse zu reagieren.

Was dieses Projekt einzigartig macht:

• Die Voice Frontier: Wir bauen latenzarme, emotionale Sprach-zu-Sprach-Pipelines für ein wirklich natürliches Spracherlebnis.
• Tiefe Systemintegration: Unsere Plattform verbindet sich direkt mit den Kernsystemen des Unternehmens über MCPs, sodass die KI in der Lage ist, auf Echtzeit-Kundenkontexte zuzugreifen und komplexe Workflows auszuführen.
• Selbst-evolvierende Logik: Wir entwickeln ein automatisiertes QA- und Evaluierungsmodul, das kontinuierlich Interaktionen über Kanäle hinweg analysiert. Durch die programmatische Messung von Qualität, Genauigkeit, Latenz und Ergebnissen können wir den Feedback-Zyklus schließen und das Systemverhalten in Stunden, nicht Wochen, anpassen.
• Hybride Innovation: Sie arbeiten an der Schnittstelle von „bauen vs. kaufen“ und integrieren das Beste aus der Open-Source-Community mit intern entwickelter Infrastruktur.

Was Sie erwartet:

Sie werden nicht nur Code versenden; Sie werden Teil der Weiterentwicklung dieses Konzepts sein. Sie werden einem freundlichen, erfahrenen Team beitreten, in dem Ihre Stimme zählt und Ihr Beitrag reale Ergebnisse prägt. Sie werden in einer modernen Umgebung mit Technologien und Praktiken arbeiten, die uns helfen, zuverlässige Software effizient bereitzustellen.

Rollenbeschreibung: Als DevOps Engineer in diesem Team werden Sie die Grundlage unserer internen AI Customer Care-Plattform aufbauen. Sie sind verantwortlich für die anspruchsvolle Arbeit – das Design der verteilten Systeme, die Echtzeit-Sprach-zu-Sprach-Pipelines antreiben, die agentischen Workflows über MCP orchestrieren und sicherstellen, dass unsere KI ohne Probleme skaliert.

Hauptverantwortlichkeiten:

• Entwerfen, Erstellen und Warten von CI/CD-Pipelines in Zusammenarbeit mit Entwicklungsteams
• Verbessern und schrittweise Neugestalten unserer Infrastruktur in Richtung Container-Orchestrierung
• Warten und Optimieren von Debian-basierten Linux-Systemen
• Sicherstellen von hoher Verfügbarkeit und Überwachung über mehrere Rechenzentren hinweg
• Beitragen zu Beobachtbarkeit, Monitoring, Logging und Incident-Response-Praktiken
• Automatisieren der Infrastrukturbereitstellung und -konfiguration
• Einhalten von ISO-Sicherheitsstandards in der gesamten Infrastruktur
• Umgang mit Schwachstellen, Sicherstellen der Abhängigkeitsverfolgung
• Eng mit Entwicklern zusammenarbeiten, um Bereitstellungs-Workflows und Laufzeitumgebungen zu optimieren
• AI-Tools effektiv nutzen (Claude, ChatGPT, interne MCP-Tools), um Produktivität und Automatisierung zu verbessern
• Architektur von Low-Latency-Pipelines: Aufbau und Optimierung der Streaming-Infrastruktur für Speech-to-Speech (S2S), um eine Rundlaufzeit von unter 500 ms für natürliche Sprachinteraktionen sicherzustellen. Erfahrung mit Skalierung und Bereitstellung in Zonen. Minimierung der Hops zwischen Diensten. Erfahrung mit WSS & SRTP-Protokoll wäre von Vorteil.
• Hosting spezialisierter Tools: Hosting und Wartung der spezialisierten Anwendungen, die in unseren KI-Pipelines benötigt werden (z.B. MCP-Server, Vektorspeicher-Datenbanken, Caching-Apps usw.). Überwachen und Reagieren auf ungesunde Muster (hoher Speicherverbrauch, hohe CPU-Auslastung, wenig Speicherplatz, hohe Latenz).
• Daten- und Evaluierungsplumbing: Hosting und Wartung unseres automatisierten QA-Moduls. Jobs planen und Alarme entwerfen, die eine schnelle Reaktion erfordern (hohe Halluzinationen oder niedrige Antwortqualität für den letzten nächtlichen Lauf usw.).

Wir suchen nach:

• Starker Linux-Administrations-Erfahrung, vorzugsweise mit Debian-basierten Systemen
• Praktische Erfahrung mit Kubernetes in Produktionsumgebungen
• Erfahrung mit cloud-nativen Architekturen (Design, Aufbau, Betrieb)
• Solides Verständnis der Netzwerkgrundlagen: Subnetting, Routing, BGP-Konzepte und Hochverfügbarkeitsdesign
• Erfahrung mit CI/CD-Systemen und Infrastrukturautomatisierungstools
• Gute Skriptfähigkeiten (Bash, Python oder ähnlich)
• Fähigkeit zur Fehlersuche in verteilten Systemen
• Systemexpertise: DevOps-Wissen: Docker oder Docker Swarm, Kubernetes, ArgoCD, JFrog Artifactory, Infrastructure-as-Code, CI/CD, Helm, Prometheus, Terraform, Gitlab/Github CI, Grafana, Jenkins
• Vertrautheit mit dem Monitoring-Stack: Prometheus/Grafana (Metriken), ELK (Logs) & Jaeger (Trace) usw.
• Best Practices zur Sicherung von Systemen und Pipelines: OpenID Connect, OAuth 2, Hashicorp Vault, Keycloak, Keepass, Ansible-vault.

Wäre von Vorteil:

• Erfahrung mit Telefonie-Gateways (Twilio, Amazon Connect) und SIP/RTP-Protokollen oder anderen Telefonieplattformen
• Erfahrung mit der Migration von VM-basierter Infrastruktur zu Container-Orchestrierung
• Exposition gegenüber KI-gesteuerten Entwicklungs-Workflows

Was wir bieten:

• Zugang zu lokalen/internationalen Schulungen, Entwicklungs- und Wachstumschancen, einschließlich Zugang zu E-Learning-Plattformen, die sowohl technische als auch soziale Fähigkeiten abdecken;
• Moderne Technologien, Produktverantwortung;
• Flexibler Arbeitszeitplan;
• Hybride Arbeitsoption;
• Medizinisches Dienstleistungspaket von einem von zwei privaten Anbietern;
• 25 Urlaubstage pro Jahr;
• Ausgleichstage für Feiertage, die auf das Wochenende fallen;
• Essensgutscheine;
• Internes Empfehlungsprogramm;
• Teamevents, Networking-Events, die organisiert werden, um eine leidenschaftliche, kreative und vielfältige Kultur zu fördern;
• Sommerfest- und Winterfestpartys;
• Natürlich gibt es Kaffee, Erfrischungsgetränke und frisches Obst für uns im Büro.

Qualifikationen