Principal AI/ML Engineer

team.blue ist ein Ökosystem erfolgreicher Marken, die zusammenarbeiten, um Kunden alles zu bieten, was sie für ihren Online-Erfolg benötigen. Über 60 erfolgreiche Marken bilden die Gruppe; mit einem Team von mehr als 3000 Experten, die 3,5 Millionen Kunden in Europa und darüber hinaus bedienen. Die Marken von team.blue sind eine Mischung aus traditionellen Hosting-Unternehmen, die Dienstleistungen wie Domainnamen, E-Mail, Shared Hosting, E-Commerce und Serverhosting-Lösungen anbieten, sowie spezialisierten SaaS-Anbietern, die angrenzende Produkte wie Compliance, Marketing-Tools und Team-Kollaborationsprodukte anbieten. Dieses breite Produktangebot macht es zu einem One-Stop-Partner für Online-Unternehmen und Unternehmer in ganz Europa.

team.blue baut die KI-Schicht auf, die über eines der größten digitalen Dienstleistungsökosysteme Europas läuft und Hosting, Domains, E-Mail und SaaS für Millionen von KMUs bereitstellt. Als Principal AI/ML Engineer sind Sie die technische Autorität für KI-Systeme von Ende zu Ende: von der Modelforschung und Feinabstimmung über agentische Orchestrierung, Echtzeitinferenz bis hin zur Produktionszuverlässigkeit. Dies ist keine rein forschungsorientierte Rolle und auch keine MLOps-Rolle. Sie werden beides tun, die technische Richtung festlegen, produktive KI bereitstellen und den Standard in einem Team erhöhen, das schnell vorankommt.

Hauptverantwortlichkeiten

• Architektur und Weiterentwicklung unserer Multi-Agenten-Orchestrierungsplattform (derzeit auf Hermes / Multica aufgebaut), einschließlich Plug-in-Systemen, Tool-Use-Pipelines, Observability-Hooks und Kanaladaptern (Sprache, Telefonie, Messaging).
• Entwurf und Implementierung von Sprach-KI-Pipelines — STT (VibeVoice-ASR, Whisper), Echtzeit-TTS mit Streaming (VibeVoice-Realtime), VAD (Silero), SIP/RTP-Telefonieintegration — mit End-to-End-Latenzzielen unter 300 ms.
• Aufbau und Wartung von RAG-Pipelines mit Qualitätsmessung, Neurangierung und hybrider Suche über Vektor- und Schlüsselwortindizes.
• Definition der MCP-Serverarchitektur und Tool-Use-Verträge über interne und externe Integrationen.

Modellentwicklung & Feinabstimmung

• Feinabstimmung und Bewertung von LLMs (LoRA, QLoRA, DPO) für domänenspezifische Aufgaben, einschließlich Kundensupport, Klassifizierung und strukturierter Extraktion.
• Bewertung und Benchmarking der Modellqualität mithilfe automatisierter Bewertungen, menschlicher Präferenzdaten und domänenspezifischer Metriken (WER, DER, cpWER für Sprache; RAGAS / LLM-as-judge für RAG).
• Verwaltung des Modelllebenszyklus: Experimentverfolgung, Versionierung, Reproduzierbarkeit und Förderung in die Produktion.

Observability & Zuverlässigkeit

• Eigentum des KI-Observability-Stacks: Langfuse-Tracing, Span-Level-LLM-Call-Instrumentierung, Kostenverfolgung und Qualitätsregressionswarnungen.
• Definition und Durchsetzung von Sicherheitsvorkehrungen: Halluzinationsdetektion, PII-Redaktion, Ausgabesicherheitsscanning und Ratenbegrenzung über Multi-Tenant-Bereitstellungen.

Plattform & Pipelines

• Aufbau von Datenaufnahme-, Vorverarbeitungs- und Merkmals-Pipelines zur Unterstützung des Modelltrainings und des kontinuierlichen Lernens.
• Vorantreiben von CI/CD für ML: automatisierte Bewertungs-Gating, Schattenbereitstellungen, Canary-Releases und Rollback-Auslöser.

Technische Führung

• Festlegung architektonischer Standards für KI-Systeme in der Gruppe; Durchführung von Entwurfsüberprüfungen und Verantwortung für ADRs bei wichtigen Entscheidungen.
• Mentoring von ML-Ingenieuren und angewandten Wissenschaftlern; Ausbau der Fähigkeiten des Teams in der Produktions-KI, nicht nur in der Prototyp-KI.
• Zusammenarbeit mit Produkt- und Commercial-Teams, um Geschäftsprobleme in ML-Problembeschreibungen mit klaren Erfolgsmessungen zu übersetzen.
• Engagement mit externen Forschungspartnern und Verfolgung neuer Arbeiten (arXiv, Konferenzberichte, Open-Source-Veröffentlichungen), um Signale zu identifizieren, die es wert sind, in die Produktion zu gehen.

Erfahrung & Fähigkeiten

• Über 8 Jahre Erfahrung in ML Engineering, angewandter KI oder Forschungsengineering mit mindestens 2 Jahren in einer Führungs- oder Mitarbeiterrolle.
• Tiefe, praktische Erfahrung mit LLMs in der Produktion: Feinabstimmung, RLHF/DPO, Prompt-Engineering, RAG und Tool-Nutzung.
• Fließend in Python und dem Kern-ML-Stack: PyTorch, Transformers (HuggingFace), PEFT/LoRA.
• Praktische Erfahrung mit LLM-Inferenzdiensten — vLLM, TensorRT-LLM oder TGI — in einer latenzsensitiven Produktionsumgebung.
• Praktisches Wissen über agentische Frameworks: Multi-Agenten-Koordination, Tool-Call-Orchestrierung, Kontext-/Speicherverwaltung und Observability (Langfuse, Opik oder gleichwertig).
• Erfahrung mit Sprach-KI (ASR/TTS-Pipelines) oder Echtzeitaudiosystemen ist ein großer Vorteil.
• Solides Verständnis von MLOps: Experimentverfolgung (MLflow/W&B), Modellregistrierungen, Containerisierung (Docker/Kubernetes) und CI/CD für ML.
• Bewusstsein für LLM-spezifische Risiken: Halluzination, Prompt-Injektion, Datenleckage, Fairness und Privatsphäre — und wie man diese in der Produktion mindern kann.
• Starke Kommunikationsfähigkeiten: Sie können ein prägnantes Entwurfsdokument schreiben, eine produktive Architekturüberprüfung durchführen und Kompromisse gegenüber einem nicht-technischen Stakeholder erklären.

Schön zu haben

• Erfahrung mit Sprachpipelines von Ende zu Ende: VAD -> ASR -> LLM -> TTS -> SIP/RTP-Telefonie.
• Multi-Hop-RAG mit Selbstkonsistenz, Chain-of-Thought-Neurangierung oder RAPTOR-artiger hierarchischer Abruf.
• Vertrautheit mit MCP (Model Context Protocol)-Serverdesign und Tool-Use-Verträgen.
• Beiträge zu Open-Source-ML-Projekten oder veröffentlichte Arbeiten (arXiv, NeurIPS, ACL, Interspeech usw.).
• Erfahrung mit multimodalen Modellen (Vision-Sprache, Audio-Sprache).
• Kenntnisse über Quantisierungstechniken (GPTQ, AWQ, GGUF) und deren Qualitäts-/Latenzkompromisse.

Bitte seien Sie in jeder Phase darauf vorbereitet, einen Nachweis über die Berechtigung zur Arbeit im Land, für das Sie sich bewerben, vorzulegen. Leider können wir keine Umzugspakete oder Sponsorenvisa unterstützen. „Kommen Sie, wie Sie sind.“ Jeder ist hier willkommen. Vielfalt und Inklusion stehen im Mittelpunkt unseres Handelns. Weit über jede technische Kompetenz hinaus schätzen wir Respekt, Offenheit und vertrauensvolle Zusammenarbeit. Wir tolerieren keine Intoleranz.

Bei team.blue steht unser Engagement für den Umweltschutz und füreinander im Mittelpunkt unseres Handelns. Unser letzter Impact-Bericht zeigt unsere laufenden ESG-Bemühungen und ehrgeizigen Nachhaltigkeitsziele.