DevOps Engineer for Customer Care AI Platform Team (f/m/d)

Hinterm Hauptbahnhof 3-5, 76137 Karlsruhe

Über das Team: Unsere Mission ist es, ein modernes Ökosystem für alle IONOS-Kundenservicebedürfnisse zu schaffen. Die von uns entwickelten Tools werden an über 20 Standorten von mehr als 2.000 Nutzern eingesetzt und unterstützen 8 Millionen Kundenverträge in 10 Märkten. Das Entwicklungsteam trägt die volle Verantwortung für den Entwicklungszyklus. Das bedeutet, dass wir unsere Software ohne interne oder externe Abhängigkeiten planen, entwickeln, testen und bereitstellen. Unser Portfolio dreht sich um ein intern entwickeltes CRM, das nun mit KI-Funktionen erweitert wird.

Über das Produkt, das Sie entwickeln werden: Wir bauen eine nächste Generation von KI-Plattformen, die neu definiert, wie unser Unternehmen mit Kunden interagiert. Dies ist nicht nur ein Chatbot; es ist ein leistungsstarkes, multimodales KI-Ökosystem, das von modernsten Speech-to-Speech (S2S)-Modellen, fortschrittlichen großen Sprachmodellen (LLMs) und intelligenten Orchestrierungsframeworks betrieben wird. Unsere Plattform wird verstehen, schlussfolgern und auf Text und Sprache reagieren – während sie nahtlos Echtzeitaktionen ausführt, um Kundenbedürfnisse zu erfüllen. Wir streben eine hybride Architektur aus Open Source LLMs, branchenführenden proprietären Modellen und dem Model Context Protocol (MCP) an, um kontextuelles Denken, Toolaufrufe und nahtlose Orchestrierung über Systeme hinweg zu ermöglichen. Das Ziel ist nicht nur, mit dem Kunden zu sprechen, sondern auf seine Bedürfnisse zu reagieren.

Was dieses Projekt einzigartig macht:

• Die Voice Frontier: Wir bauen latenzarme, emotionale Speech-to-Speech-Pipelines für ein wirklich natürliches Spracherlebnis.
• Tiefe Systemintegration: Unsere Plattform verbindet sich direkt mit den Kernsystemen des Unternehmens über MCPs, sodass die KI auf Echtzeit-Kundenkontexte zugreifen und komplexe Workflows ausführen kann.
• Selbstentwickelnde Logik: Wir entwickeln ein automatisiertes QA- und Evaluierungsmodul, das kontinuierlich Interaktionen über Kanäle hinweg analysiert. Durch programmatische Messung von Qualität, Genauigkeit, Latenz und Lösungsergebnissen können wir den Feedback-Zyklus schließen und das Systemverhalten in Stunden, nicht Wochen, anpassen.
• Hybride Innovation: Sie arbeiten an der Schnittstelle von "bauen vs. kaufen" und integrieren das Beste aus der Open-Source-Community mit maßgeschneiderter interner Infrastruktur.

Was Sie erwartet: Sie werden nicht nur Code versenden; Sie werden Teil der Weiterentwicklung dieses Konzepts sein. Sie werden einem freundlichen, erfahrenen Team beitreten, in dem Ihre Stimme zählt und Ihr Beitrag reale Ergebnisse prägt. Sie werden in einer modernen Umgebung mit Technologien und Praktiken arbeiten, die uns helfen, zuverlässige Software effizient bereitzustellen. Als DevOps Engineer in diesem Team werden Sie die Grundlage unserer internen KI-Kundenserviceplattform aufbauen. Sie sind verantwortlich für das "schwere Heben" – das Entwerfen der verteilten Systeme, die Echtzeit-Sprach-zu-Sprache-Pipelines antreiben, das Orchestrieren agentischer Workflows über MCP und das Sicherstellen, dass unsere KI ohne Probleme skaliert.

Hauptverantwortlichkeiten:

• Entwerfen, Erstellen und Warten von CI/CD-Pipelines in Zusammenarbeit mit Entwicklungsteams
• Verbessern und schrittweise Neugestalten unserer Infrastruktur in Richtung Container-Orchestrierung
• Warten und Optimieren von Debian-basierten Linux-Systemen
• Sicherstellen von hoher Verfügbarkeit und Überwachung über mehrere Rechenzentren
• Beitragen zu Beobachtbarkeit, Monitoring, Logging und Incident-Response-Praktiken
• Automatisieren der Infrastruktur-Bereitstellung und -Konfiguration
• Einhalten der ISO-Sicherheitsstandards in der gesamten Infrastruktur
• Eng mit Entwicklern zusammenarbeiten, um Bereitstellungs-Workflows und Laufzeitumgebungen zu optimieren
• KI-Tools effektiv nutzen (Claude, ChatGPT, interne MCP-Tools), um Produktivität und Automatisierung zu verbessern
• Architektur von Low-Latency-Pipelines: Aufbau und Optimierung der Streaming-Infrastruktur für Speech-to-Speech (S2S), um eine Rundlaufzeit von unter 500 ms für natürliche Sprachinteraktionen sicherzustellen.
• Erfahrung mit Skalierung und Bereitstellung in Zonen. Minimierung der Hops zwischen Diensten. Erfahrung mit WSS & SRTP-Protokoll wäre von Vorteil.
• Hosting spezialisierter Tools: Hosting und Wartung der spezialisierten Anwendungen, die in unseren KI-Pipelines benötigt werden (z.B. MCP-Server, Vektorspeicher-Datenbanken, Caching-Apps usw.)
• Überwachen und Reagieren auf ungesunde Muster (hoher Speicher, hohe CPU, wenig Speicherplatz, hohe Latenz).
• Daten- und Evaluierungsplumbing: Hosting und Wartung unseres automatisierten QA-Moduls. Jobs planen und Alarme entwerfen, die eine schnelle Reaktion erfordern (hohe Halluzinationen oder niedrige Antwortqualität für den letzten nächtlichen Lauf usw.).

Wir suchen nach:

• Starker Linux-Administrations-Erfahrung, vorzugsweise mit Debian-basierten Systemen
• Praktische Erfahrung mit Kubernetes in Produktionsumgebungen
• Erfahrung mit cloud-nativen Architekturen (Design, Aufbau, Betrieb)
• Solides Verständnis der Netzwerkgrundlagen: Routing BGP-Konzepte und Hochverfügbarkeitsdesign
• Erfahrung mit CI/CD-Systemen und Infrastruktur-Automatisierungstools
• Gute Skriptfähigkeiten (Bash, Python oder ähnlich)
• Fähigkeit zur Fehlersuche in verteilten Systemen
• Systemexpertise: DevOps-Wissen: Docker oder Docker Swarm, Kubernetes, ArgoCD, JFrog Artifactory, Infrastructure-as-Code, CI/CD, Helm, Prometheus, Terraform, Gitlab/Github CI, Grafana, Jenkins
• Vertrautheit mit dem Monitoring-Stack: Prometheus/Grafana (Metriken), ELK (Logs) & Jaeger (Trace) usw.
• Best Practices zur Sicherung von Systemen und Pipelines: OpenID Connect, OAuth 2, Hashicorp Vault, Keycloak, Keepass, Ansible-vault.

Wäre von Vorteil:

• Erfahrung mit Telefonie-Gateways (Twilio, Amazon Connect) und SIP/RTP-Protokollen oder anderen Telefonie-Plattformen
• Erfahrung mit der Migration von VM-basierten Infrastrukturen zu Container-Orchestrierung

Was wir bieten: Zugang zu lokalen/internationalen Schulungen, Entwicklungs- und Wachstumschancen, einschließlich Zugang zu E-Learning-Plattformen, die sowohl technische als auch soziale Fähigkeiten abdecken; moderne Technologien, Produktverantwortung; medizinisches Dienstleistungspaket von einem von zwei privaten Anbietern; 25 Urlaubstage pro Jahr; Ersatzfreie Tage für Feiertage, die auf das Wochenende fallen; Essensgutscheine; internes Empfehlungsprogramm; Teamevents, Networking-Events, die organisiert werden, um eine leidenschaftliche, kreative und vielfältige Kultur zu fördern; Sommerfest- und Winterfestpartys; natürlich, Kaffee, Erfrischungsgetränke und frisches Obst gehen auf uns im Büro.