Senior AI Developer with Python - Customer Care AI Platform team (f/m/d)

Bei IONOS, dem führenden europäischen Anbieter von Cloud-Infrastruktur, Cloud-Diensten und Hosting-Diensten, arbeiten Sie mit einer Vielzahl von Teams zusammen. Wir zeichnen uns durch offene Strukturen, eine freundliche Arbeitskultur und flache Hierarchien mit einem starken Teamgeist aus. Wir sind fest davon überzeugt, dass Arbeit und Spaß vereinbar sind, und bieten Ihnen die richtige Umgebung dafür. Unser ständiges Wachstum bedeutet, dass wir immer auf der Suche nach neuen Kollegen sind. Werden Sie Teil von IONOS und wachsen Sie mit uns.

Über das Team: Unsere Mission ist es, ein modernes Ökosystem für alle Kundenservicebedürfnisse von IONOS zu schaffen. Die von uns entwickelten Tools werden an über 20 Standorten von mehr als 2.000 Nutzern eingesetzt und unterstützen 8 Millionen Kundenverträge in 10 Märkten. Das Entwicklungsteam trägt die volle Verantwortung für den Entwicklungszyklus. Das bedeutet, dass wir unsere Software ohne interne oder externe Abhängigkeiten planen, entwickeln, testen und bereitstellen. Unser Portfolio dreht sich um ein intern entwickeltes CRM, das nun mit KI-Funktionen erweitert wird.

Über das Produkt, das Sie entwickeln werden: Wir streben eine hybride Architektur aus Open Source LLMs, branchenführenden proprietären Modellen und dem Model Context Protocol (MCP) an, um kontextuelles Denken, Tool-Aufruf und nahtlose Orchestrierung über Systeme hinweg zu ermöglichen. Das Ziel ist nicht nur, mit dem Kunden zu sprechen, sondern auf seine Bedürfnisse zu reagieren.

Was dieses Projekt einzigartig macht: Die Voice Frontier: Wir bauen latenzarme, emotionale Sprach-zu-Sprach-Pipelines für ein wirklich natürliches Spracherlebnis. Tiefe Systemintegration: Unsere Plattform verbindet sich direkt mit den Kernsystemen des Unternehmens über MCPs, sodass die KI auf den Echtzeit-Kundenkontext zugreifen und komplexe Workflows ausführen kann. Selbstentwickelnde Logik: Wir entwickeln ein automatisiertes QA- und Evaluierungsmodul, das kontinuierlich Interaktionen über Kanäle hinweg analysiert. Durch die programmgesteuerte Messung von Qualität, Genauigkeit, Latenz und Lösungsresultaten können wir den Feedback-Zyklus schließen und das Systemverhalten in Stunden, nicht Wochen, anpassen. Hybride Innovation: Sie arbeiten an der Schnittstelle von "bauen vs. kaufen" und integrieren das Beste aus der Open-Source-Community mit maßgeschneiderter interner Infrastruktur.

Was Sie erwartet: Sie werden nicht nur Code versenden; Sie werden Teil der Weiterentwicklung dieses Konzepts sein. Sie werden einem freundlichen, erfahrenen Team beitreten, in dem Ihre Stimme zählt und Ihr Beitrag reale Ergebnisse prägt. Sie werden in einer modernen Umgebung mit Technologien und Praktiken arbeiten, die uns helfen, zuverlässige Software effizient bereitzustellen.

Rollenbeschreibung: Als KI-Ingenieur in diesem Team werden Sie die Kernintelligenzsysteme hinter unserer multimodalen KI-Plattform aufbauen. Sie sind verantwortlich für die Entwicklung leistungsstarker, Echtzeitsysteme, die komplexes Denken, tiefes Kontextabrufen, LLM-Orchestrierung, retrieval-augmented generation (RAG) und nahtlose Sprachinteraktionen ermöglichen.

Hauptverantwortlichkeiten:

• Gestaltung agentischer Workflows: Entwerfen und Implementieren von LLM-basierten Systemen, die über die Antwortgenerierung hinausgehen - strukturierte Toolnutzung, Workflow-Orchestrierung und sichere Interaktion mit internen Diensten über MCP (Model Context Protocol) ermöglichen.
• Entwicklung und Optimierung von RAG & CAG: Entwicklung leistungsstarker Retrieval-Augmented Generation und Context-Augmented Generation-Pipelines zur Gewährleistung genauer, relevanter und latenzarmer Antworten.
• Ständige Verbesserung des Kontextmanagements, der Ranking-Strategien und der Verankerungsmechanismen zur Unterstützung komplexer, mehrstufiger Interaktionen.
• Meisterschaft des Sprachkanals: Entwicklung und Optimierung von Echtzeit-Sprach-zu-Sprach (S2S)-Pipelines mit Fokus auf Streaming-Architekturen, Latenzreduzierung (einschließlich Time to First Word - TTFW) und Aufrechterhaltung eines natürlichen Gesprächsflusses.
• Evaluierung, Qualität & Ausrichtung: Aufbau und Pflege eines automatisierten QA-Moduls, einschließlich LLM-as-a-judge-Mustern, zur Messung von Genauigkeit, Sicherheit, Latenz und Lösungsqualität im großen Maßstab.
• Modellstrategie & hybride Integration: Integration und Betrieb sowohl kommerzieller Grundmodelle (z.B. OpenAI, Anthropic, Google) als auch Open-Source-Alternativen (z.B. Qwen, Kimi, DeepSeek, Moonshot, GLM), Auswahl und Optimierung von Modellen basierend auf Leistung, Latenz, Kosten und Anforderungsprofil.

Wir suchen nach:

• Starken Python- und/oder Java-Entwicklungsfähigkeiten: Fortgeschrittene Python-Entwicklungserfahrung, einschließlich asynchroner Programmierung (z.B. FastAPI, asyncio) und dem Aufbau leistungsstarker, produktionsreifer Dienste. Erfahrung mit Streaming-Architekturen ist ein großer Vorteil.
• Erfahrung mit LLM-Anwendungen & Multi-Agenten-Orchestrierung: Praktische Erfahrung im Aufbau von LLM-gesteuerten Systemen, einschließlich mehrstufiger Workflows, zustandsbehafteter Agenten und Tool-Aufrufen. Vertrautheit mit Orchestrierungsframeworks wie LangChain, LlamaIndex oder LangGraph, insbesondere beim Aufbau zustandsbehafteter, mehrturniger Agenten.
• Fortgeschrittenes Retrieval- & Kontextmanagement: Tiefes Verständnis von Vektordatenbanken (z.B. Weaviate, Qdrant, pgvector, Elasticsearch), semantischer Suche, Einbettungsstrategien und Re-Ranking-Techniken. Erfahrung im Entwerfen und Optimieren von RAG-Pipelines.
• Echtzeit- & latenzarme Systeme: Erfahrung im Entwerfen von Systemen, die unter Latenzbeschränkungen arbeiten, einschließlich Streaming-APIs, ereignisgesteuerten Architekturen und Leistungsoptimierung. Verständnis der Kompromisse zwischen Qualität, Kosten und Antwortzeit.
• Evaluierungsgetriebenes Entwickeln: Erfahrung in der Implementierung von Evaluierungsrahmen für LLM-basierte Systeme, einschließlich automatisierter QA-Pipelines und LLM-as-a-judge-Muster. Vertraut mit API-Design: Kenntnisse im RESTful API-Design, OAuth2.

Was wir bieten:

• Zugang zu lokalen/internationalen Schulungen, Entwicklungs- und Wachstumschancen, einschließlich Zugang zu E-Learning-Plattformen, die sowohl technische als auch soziale Kompetenzen abdecken;
• Moderne Technologien, Produktverantwortung;
• Flexibler Arbeitszeitplan;
• Hybride Arbeitsoption;
• Medizinisches Dienstleistungspaket von einem der beiden privaten Anbieter;
• 25 Urlaubstage pro Jahr;
• Ausgleichstage für Feiertage, die auf das Wochenende fallen;
• Essensgutscheine;
• Internes Empfehlungsprogramm;
• Teamevents, Networking-Events, die organisiert werden, um eine leidenschaftliche, kreative und vielfältige Kultur zu fördern;
• Sommerfest- und Winterfestpartys;
• Natürlich gibt es Kaffee, Erfrischungsgetränke und frisches Obst bei uns im Büro.

Über IONOS: IONOS ist der führende europäische Digitalisierungspartner für kleine und mittelständische Unternehmen (KMU). Das Unternehmen bedient rund sechs Millionen Kunden und ist in 18 Märkten in Europa und Nordamerika tätig, wobei seine Dienstleistungen weltweit zugänglich sind. Mit seinem Portfolio für Webpräsenz und Produktivität agiert IONOS als 'One-Stop-Shop' für alle Digitalisierungsbedürfnisse: von Domains und Webhosting bis hin zu klassischen Website-Baukästen und Do-it-yourself-Lösungen, von E-Commerce bis hin zu Online-Marketing-Tools. Darüber hinaus bietet das Unternehmen Cloud-Lösungen für Unternehmen an, die in die Cloud wechseln möchten, während sich ihre Geschäfte weiterentwickeln.

Wir schätzen Vielfalt und heißen alle Bewerbungen willkommen - unabhängig von Geschlecht, Nationalität, ethnischer oder sozialer Herkunft, Religion, Behinderung, Alter sowie sexueller Orientierung und Identität, körperlichen Merkmalen, Familienstand oder anderen irrelevanten Faktoren, die dem geltenden Recht unterliegen.