DevOps Engineer for Customer Care AI Platform Team (f/m/d)

Hinterm Hauptbahnhof 3-5, 76137 Karlsruhe

Bei IONOS, dem führenden europäischen Anbieter von Cloud-Infrastruktur, Cloud-Diensten und Hosting-Diensten, arbeiten Sie mit einer Vielzahl von Teams zusammen. Wir zeichnen uns durch offene Strukturen, eine freundliche Arbeitskultur und flache Hierarchien mit einem starken Teamgeist aus. Wir sind fest davon überzeugt, dass Arbeit und Spaß vereinbar sind, und bieten Ihnen die richtige Umgebung dafür. Unser ständiges Wachstum bedeutet, dass wir immer auf der Suche nach neuen Kollegen sind. Werden Sie Teil von IONOS und wachsen Sie mit uns.

Über das Team:

Unsere Mission ist es, ein modernes Ökosystem für alle Kundenservicebedürfnisse von IONOS zu schaffen. Die von uns entwickelten Tools werden an über 20 Standorten von mehr als 2.000 Nutzern eingesetzt und unterstützen 8 Millionen Kundenverträge in 10 Märkten.

Das Entwicklungsteam trägt die volle Verantwortung für den Entwicklungszyklus. Das bedeutet, dass wir unsere Software ohne interne oder externe Abhängigkeiten planen, entwickeln, testen und bereitstellen.

Unser Portfolio dreht sich um ein intern entwickeltes CRM, das nun mit KI-Funktionen erweitert wird.

Über das Produkt, das Sie entwickeln werden:

Wir bauen eine KI-Plattform der nächsten Generation, die neu definiert, wie unser Unternehmen mit Kunden interagiert. Dies ist nicht nur ein Chatbot; es ist ein leistungsstarkes, multimodales KI-Ökosystem, das von modernsten Speech-to-Speech (S2S)-Modellen, fortschrittlichen großen Sprachmodellen (LLMs) und intelligenten Orchestrierungsframeworks betrieben wird. Unsere Plattform wird verstehen, schlussfolgern und über Text und Sprache antworten – während sie nahtlos Echtzeitaktionen ausführt, um die Bedürfnisse der Kunden zu erfüllen.

Wir streben eine hybride Architektur aus Open Source LLMs, branchenführenden proprietären Modellen und dem Model Context Protocol (MCP) an, um kontextuelles Denken, Toolaufrufe und nahtlose Orchestrierung über Systeme hinweg zu ermöglichen. Das Ziel ist nicht nur, mit dem Kunden zu sprechen, sondern auf seine Bedürfnisse zu reagieren.

Was dieses Projekt einzigartig macht:

• Die Voice Frontier: Wir bauen latenzarme, emotionale Sprach-zu-Sprach-Pipelines für ein wirklich natürliches Spracherlebnis.
• Tiefe Systemintegration: Unsere Plattform verbindet sich direkt mit den Kernsystemen des Unternehmens über MCPs, sodass die KI auf Echtzeit-Kundenkontexte zugreifen und komplexe Workflows ausführen kann.
• Selbstentwickelnde Logik: Wir entwickeln ein automatisiertes QA- und Evaluierungsmodul, das kontinuierlich Interaktionen über Kanäle hinweg analysiert. Durch programmatische Messung von Qualität, Genauigkeit, Latenz und Lösungsergebnissen können wir den Feedback-Zyklus schließen und das Systemverhalten in Stunden, nicht Wochen, anpassen.
• Hybride Innovation: Sie arbeiten an der Schnittstelle von "bauen vs. kaufen" und integrieren das Beste aus der Open-Source-Community mit intern entwickelter Infrastruktur.

Was Sie erwartet:

Sie werden nicht nur Code versenden; Sie werden Teil der Weiterentwicklung dieses Konzepts sein. Sie werden einem freundlichen, erfahrenen Team beitreten, in dem Ihre Stimme zählt und Ihr Beitrag reale Ergebnisse prägt. Sie werden in einer modernen Umgebung mit Technologien und Praktiken arbeiten, die uns helfen, zuverlässige Software effizient bereitzustellen.

Als DevOps Engineer in diesem Team werden Sie die Grundlage unserer internen KI-Kundenserviceplattform aufbauen. Sie sind verantwortlich für das "schwere Heben" – das Entwerfen der verteilten Systeme, die Echtzeit-Sprach-zu-Sprach-Pipelines antreiben, das Orchestrieren agentischer Workflows über MCP und das Sicherstellen, dass unsere KI ohne Probleme skaliert.

Hauptverantwortlichkeiten:

• Entwerfen, Erstellen und Warten von CI/CD-Pipelines in Zusammenarbeit mit Entwicklungsteams
• Verbessern und schrittweise Neugestalten unserer Infrastruktur in Richtung Container-Orchestrierung
• Warten und Optimieren von Debian-basierten Linux-Systemen
• Sicherstellen von hoher Verfügbarkeit und Überwachung über mehrere Rechenzentren hinweg
• Beitragen zu Beobachtbarkeit, Überwachung, Protokollierung und Vorfallreaktionspraktiken
• Automatisieren der Infrastrukturbereitstellung und -konfiguration
• Einhalten von ISO-Sicherheitsstandards in der gesamten Infrastruktur
• Eng mit Entwicklern zusammenarbeiten, um Bereitstellungs-Workflows und Laufzeitumgebungen zu optimieren
• KI-Tools effektiv nutzen (Claude, ChatGPT, interne MCP-Tools), um Produktivität und Automatisierung zu verbessern
• Architektur von Low-Latency-Pipelines: Aufbau und Optimierung der Streaming-Infrastruktur für Speech-to-Speech (S2S), um eine Rundlaufzeit von unter 500 ms für natürliche Sprachinteraktionen sicherzustellen. Erfahrung mit Skalierung und Bereitstellung in Zonen. Minimierung der Hops zwischen Diensten. Erfahrung mit WSS & SRTP-Protokollen wäre von Vorteil.
• Hosting spezialisierter Tools: Hosting und Wartung der spezialisierten Anwendungen, die in unseren KI-Pipelines benötigt werden (z.B. MCP-Server, Vektorspeicher-Datenbanken, Caching-Apps usw.). Überwachen und Reagieren auf ungesunde Muster (hoher Speicherverbrauch, hohe CPU-Auslastung, wenig Speicherplatz, hohe Latenz).
• Daten- und Evaluierungsinfrastruktur: Hosting und Wartung unseres automatisierten QA-Moduls. Jobs planen und Alarme entwerfen, die eine schnelle Reaktion erfordern (hohe Halluzinationen oder niedrige Antwortqualität für den letzten nächtlichen Lauf usw.).

Wir suchen nach:

• Starker Linux-Administrations-Erfahrung, vorzugsweise mit Debian-basierten Systemen
• Praktische Erfahrung mit Kubernetes in Produktionsumgebungen
• Erfahrung mit cloud-nativen Architekturen (Design, Aufbau, Betrieb)
• Solides Verständnis der Netzwerkgrundlagen: Routing, BGP-Konzepte und Hochverfügbarkeitsdesign
• Erfahrung mit CI/CD-Systemen und Infrastrukturautomatisierungstools
• Gute Skriptfähigkeiten (Bash, Python oder ähnlich)
• Fähigkeit zur Fehlersuche in verteilten Systemen
• Systemexpertise: DevOps-Wissen: Docker oder Docker Swarm, Kubernetes, ArgoCD, JFrog Artifactory, Infrastructure-as-Code, CI/CD, Helm, Prometheus, Terraform, Gitlab/Github CI, Grafana, Jenkins
• Vertrautheit mit dem Überwachungsstack: Prometheus/Grafana (Metriken), ELK (Protokolle) & Jaeger (Trace) usw.
• Best Practices zur Sicherung von Systemen und Pipelines: OpenID Connect, OAuth 2, Hashicorp Vault, Keycloak, Keepass, Ansible-vault.

Wäre von Vorteil:

• Erfahrung mit Telefonie-Gateways (Twilio, Amazon Connect) und SIP/RTP-Protokollen oder anderen Telefonie-Plattformen
• Erfahrung mit der Migration von VM-basierter Infrastruktur zu Container-Orchestrierung

Was wir bieten:

• Zugang zu lokalen/internationalen Schulungen, Entwicklungs- und Wachstumschancen, einschließlich Zugang zu E-Learning-Plattformen, die sowohl technische als auch soziale Fähigkeiten abdecken;
• Moderne Technologien, Produktverantwortung;
• Medizinisches Dienstleistungspaket von einem von zwei privaten Anbietern;
• 25 Urlaubstage pro Jahr;
• Ausgleichstage für Feiertage, die auf ein Wochenende fallen;
• Essensgutscheine;
• Internes Empfehlungsprogramm;
• Teamevents, Networking-Events, die organisiert werden, um eine leidenschaftliche, kreative und vielfältige Kultur zu fördern;
• Sommerfest- und Winterfestpartys;
• Natürlich gibt es Kaffee, Erfrischungsgetränke und frisches Obst im Büro.

Über IONOS

IONOS ist der führende europäische Digitalisierungspartner für kleine und mittelständische Unternehmen (KMU). Das Unternehmen bedient rund sechs Millionen Kunden und ist in 18 Märkten in Europa und Nordamerika tätig, wobei seine Dienstleistungen weltweit zugänglich sind. Mit seinem Portfolio für Webpräsenz und Produktivität agiert IONOS als "One-Stop-Shop" für alle Digitalisierungsbedürfnisse: von Domains und Webhosting bis hin zu klassischen Website-Baukästen und Do-it-yourself-Lösungen, von E-Commerce bis hin zu Online-Marketing-Tools. Darüber hinaus bietet das Unternehmen Cloud-Lösungen für Unternehmen an, die in die Cloud wechseln möchten, während sich ihre Geschäfte weiterentwickeln.

Wir schätzen Vielfalt und heißen alle Bewerbungen willkommen - unabhängig von Geschlecht, Nationalität, ethnischer oder sozialer Herkunft, Religion, Behinderung, Alter sowie sexueller Orientierung und Identität, körperlichen Merkmalen, Familienstand oder einem anderen irrelevanten Faktor, der dem geltenden Recht unterliegt.