AI Developer with Python for Customer Care AI Platform team (f/m/d) in Berlin

Aufgabenbereich

Über das Team: Unsere Mission ist es, ein modernes Ökosystem für alle IONOS-Kundenservicebedürfnisse zu schaffen. Die von uns entwickelten Tools werden an über 20 Standorten von mehr als 2.000 Nutzern eingesetzt und unterstützen 8 Millionen Kundenverträge in 10 Märkten. Das Entwicklungsteam trägt die volle Verantwortung für den Entwicklungszyklus. Das bedeutet, dass wir unsere Software ohne interne oder externe Abhängigkeiten planen, entwickeln, testen und bereitstellen. Unser Portfolio dreht sich um ein intern entwickeltes CRM, das nun mit KI-Funktionen erweitert wird.

Über das Produkt, das Sie entwickeln werden: Wir bauen eine KI-Plattform der nächsten Generation, die neu definiert, wie unser Unternehmen mit Kunden interagiert. Dies ist nicht nur ein Chatbot; es ist ein leistungsstarkes, multimodales KI-Ökosystem, das von modernsten Speech-to-Speech (S2S)-Modellen, fortschrittlichen großen Sprachmodellen (LLMs) und intelligenten Orchestrierungsframeworks betrieben wird. Unsere Plattform wird verstehen, schlussfolgern und über Text und Sprache antworten – während sie nahtlos Echtzeithandlungen ausführt, um Kundenbedürfnisse zu erfüllen. Wir streben eine hybride Architektur aus Open Source LLMs, branchenführenden proprietären Modellen und dem Model Context Protocol (MCP) an, um kontextuelles Denken, Toolaufrufe und nahtlose Orchestrierung über Systeme hinweg zu ermöglichen. Das Ziel ist nicht nur, mit dem Kunden zu sprechen, sondern auf seine Bedürfnisse zu reagieren.

Was dieses Projekt einzigartig macht:

• Die Voice Frontier: Wir bauen latenzarme, emotionale Speech-to-Speech-Pipelines für ein wirklich natürliches Spracherlebnis.
• Tiefe Systemintegration: Unsere Plattform verbindet sich direkt mit den Kernsystemen des Unternehmens über MCPs, sodass die KI in der Lage ist, auf Echtzeit-Kundenkontexte zuzugreifen und komplexe Workflows auszuführen.
• Selbstentwickelnde Logik: Wir entwickeln ein automatisiertes QA- und Evaluierungsmodul, das kontinuierlich Interaktionen über Kanäle hinweg analysiert. Durch die programmgesteuerte Messung von Qualität, Genauigkeit, Latenz und Lösungsergebnissen können wir den Feedback-Zyklus schließen und das Systemverhalten in Stunden, nicht Wochen, anpassen.
• Hybride Innovation: Sie arbeiten an der Schnittstelle von „bauen vs. kaufen“ und integrieren das Beste aus der Open-Source-Community mit maßgeschneiderter interner Infrastruktur.

Was wir bieten:

• Zugang zu lokalen/internationalen Schulungen, Entwicklungs- und Wachstumschancen, einschließlich Zugang zu E-Learning-Plattformen, die sowohl technische als auch soziale Kompetenzen abdecken;
• Moderne Technologien, Produktverantwortung;
• Flexibler Arbeitszeitplan;
• Hybride Arbeitsoption;
• Medizinisches Dienstleistungspaket von einem von zwei privaten Anbietern;
• 25 Urlaubstage pro Jahr;
• Substitutionstage für Feiertage, die auf das Wochenende fallen;
• Essensgutscheine;
• Internes Empfehlungsprogramm;
• Teamevents, Networking-Events, die organisiert werden, um eine leidenschaftliche, kreative und vielfältige Kultur zu fördern;
• Sommerfest- und Winterfestpartys;
• Natürlich gibt es im Büro Kaffee, Erfrischungsgetränke und frisches Obst für uns.

Hauptverantwortlichkeiten:

• Gestaltung agentischer Workflows: Entwerfen und Implementieren von LLM-basierten Systemen, die über die Antwortgenerierung hinausgehen - strukturierte Toolnutzung, Workflow-Orchestrierung und sichere Interaktion mit internen Diensten über MCP (Model Context Protocol) ermöglichen.
• Entwicklung und Optimierung von RAG & CAG: Entwicklung leistungsstarker Retrieval-Augmented Generation und Context-Augmented Generation-Pipelines, um genaue, relevante und latenzarme Antworten sicherzustellen.
• Ständige Verbesserung des Kontextmanagements, der Ranking-Strategien und der Verankerungsmechanismen zur Unterstützung komplexer, mehrstufiger Interaktionen.
• Meisterschaft des Sprachkanals: Entwicklung und Optimierung von Echtzeit-Sprach-zu-Sprache (S2S)-Pipelines mit Fokus auf Streaming-Architekturen, Latenzreduzierung (einschließlich Time to First Word - TTFW) und Aufrechterhaltung eines natürlichen Gesprächsflusses.
• Bewertung, Qualität & Ausrichtung: Aufbau und Pflege eines automatisierten QA-Moduls, einschließlich LLM-as-a-judge-Mustern, um Genauigkeit, Sicherheit, Latenz und Lösungsqualität im großen Maßstab zu messen.
• Modellstrategie & hybride Integration: Integration und Betrieb sowohl kommerzieller Basis-Modelle (z.B. OpenAI, Anthropic, Google) als auch Open-Source-Alternativen (z.B. Qwen, Kimi, DeepSeek, Moonshot, GLM), Auswahl und Optimierung von Modellen basierend auf Leistung, Latenz, Kosten und Anforderungsprofilen.

Wir suchen nach:

• Starken Python- und/oder Java-Entwicklungsfähigkeiten: Fortgeschrittene Python-Entwicklungserfahrung, einschließlich asynchroner Programmierung (z.B. FastAPI, asyncio) und dem Aufbau leistungsstarker, produktionsreifer Dienste. Erfahrung mit Streaming-Architekturen ist ein großer Vorteil.
• Erfahrung in der Anwendung von LLM und Multi-Agenten-Orchestrierung: Praktische Erfahrung im Aufbau von LLM-gestützten Systemen, einschließlich mehrstufiger Workflows, zustandsbehafteter Agenten und Toolaufrufen. Vertrautheit mit Orchestrierungsframeworks wie LangChain, LlamaIndex oder LangGraph, insbesondere beim Aufbau zustandsbehafteter, mehrstufiger Agenten.
• Fortgeschrittenes Retrieval- und Kontextmanagement: Tiefes Verständnis von Vektordatenbanken (z.B. Weaviate, Qdrant, pgvector, Elasticsearch), semantischer Suche, Einbettungsstrategien und Re-Ranking-Techniken. Erfahrung im Entwerfen und Optimieren von RAG-Pipelines.
• Echtzeit- und latenzarme Systeme: Erfahrung im Entwerfen von Systemen, die unter Latenzbeschränkungen arbeiten, einschließlich Streaming-APIs, ereignisgesteuerten Architekturen und Leistungsoptimierung. Verständnis der Kompromisse zwischen Qualität, Kosten und Antwortzeit.
• Evaluierungsgetriebenes Entwickeln: Erfahrung in der Implementierung von Evaluierungsrahmen für LLM-basierte Systeme, einschließlich automatisierter QA-Pipelines und LLM-as-a-judge-Muster. Vertrautheit mit API-Design: Kenntnisse im RESTful API-Design, OAuth2.