Senior KI-Plattformentwickler (m/w/d)

Sie sind eine erfahrene Ingenieurpersönlichkeit, die unsere unternehmensinterne KI-Plattform auf Augenhöhe mit unseren KI-Verantwortlichen weiterentwickeln möchte – vom heutigen Retrieval-Augmented-Generation-System (RAG) bis zum Multi-Agenten-System (MAS). Sie begeistern sich für anspruchsvolle On-Premises-KI an der Schnittstelle von Sprachmodellen, Container-Plattformen und Anwendungen – auf einer Plattform, die vollständig im eigenen Rechenzentrum läuft, sodass keine Daten das Haus verlassen. Bei uns treffen moderne KI und ein Unternehmen aufeinander, dessen Kern seit jeher funktionale Sicherheit und Security ist. Sie gestalten Architektur und KI-Strategie maßgeblich mit und bringen unsere KI-Entwicklung gemeinsam mit dem Team spürbar voran – von der Weiterentwicklung bis zum stabilen, sicheren und auditfesten Betrieb der Plattform.

Ihr Aufgabengebiet:

• Multi-Agenten-System: Sie treiben den Weg vom heutigen RAG zum Multi-Agenten-System voran - Agenten-Frameworks (z. B. LangGraph, Microsoft Agent Framework), das Model Context Protocol (MCP), Orchestrierung und Werkzeug-Anbindung sowie Laufzeit-Guardrails und menschliche Freigaben (Human-in-the-Loop).
• Retrieval-Qualität & Daten-Pipeline: Sie übernehmen die fachliche Federführung für die Qualität unseres RAG-Systems – Embeddings und Reranking, automatische Verschlagwortung, Evaluation (RAGAS/Phoenix) – und verantworten zugleich die Robustheit und Konsistenz der Daten-Pipeline (saubere Ingestion, Behandlung fehlgeschlagener Dokumente, Abgleich zwischen Metadaten- und Vektordatenbank, Skalierung der Einlese-Vorgänge).
• Plattform, GitOps & KI-Strategie: Sie treffen Plattform- und GitOps-Entscheidungen (K8s-Manifeste der KI-Workloads, ArgoCD/Kustomize, OpenShift-Spezifika, Modell-Lifecycle und GPU-Kapazitätsplanung) und Sie prägen unsere KI-Strategie im engen Austausch mit dem KI-Team, den Fachabteilungen und unseren KI-Gremien aktiv mit.
• App-, Portal- & Frontend-Entwicklung: Sie bauen und erweitern unsere Web-Frontends und internen KI-Anwendungen – die Chat-Oberfläche, Upload-Portale sowie die SSO-Anbindung an das Firmen-Login. So verteilt sich diese Kompetenz künftig auf mehrere Schultern.
• Betrieb, Observability & Zuverlässigkeit (Day-2 / SRE): Sie sorgen für den stabilen Produktivbetrieb der Plattform – LLM-Serving (vLLM), Plattform-Überwachung (Prometheus, Grafana, AlertManager), Datensicherung mit nachgewiesener Wiederherstellung, Incident-Response, Cluster-Lifecycle (Installation und Updates) sowie ein belastbares Notfall- und Wiederanlaufkonzept (BCP) für das KI-System.
• Sicherheit, Auditfestigkeit & Compliance (technisch): Sie sorgen für den sicheren, auditfesten Betrieb unseres On-Premises-Systems – von der Härtung über das Secrets-Management bis zur Zugriffssicherheit streng vertraulicher Inhalte – und setzen regulatorische Anforderungen technisch um (DSGVO-Löschmechanik, Kennzeichnung nach EU-KI-Verordnung). In Bezug auf unser angestrebtes ISO-27001-Vorhaben liefern Sie die technische Umsetzung am KI-System.

Ihr Profil:

• Abgeschlossenes Studium der Informatik, Mathematik, Physik, Embedded Systems Engineering, Künstlichen Intelligenz/ Machine Learning oder vergleichbare Qualifikation.
• Mehrjährige einschlägige Berufserfahrung (idealerweise 5+ Jahre) in der Entwicklung und im produktiven Betrieb anspruchsvoller Softwaresysteme, mit sicherem Umgang in Python sowie fundierten Kenntnissen moderner Software-Engineering-Praktiken (Versionskontrolle, Testing, Containerisierung, CI/CD).
• Erfahrung mit Container-Orchestrierung (Kubernetes); OpenShift und GitOps sind von Vorteil – alternativ bringen Sie die Bereitschaft mit, sich hier einzuarbeiten.
• Senior-Mindset: hohe Eigenverantwortung, Architektur- und Entscheidungskompetenz, die Fähigkeit, als technischer Sparringspartner auf Augenhöhe zu agieren, sowie Freude an der fachlichen Anleitung von Werkstudenten.
• Sehr gute Deutsch- sowie Englischkenntnisse.
• Kommunikationsstärke, strukturierte und eigenständige Arbeitsweise und Freude an der Zusammenarbeit im Team.

Wünschenswert – Vorerfahrung ist ein Plus, ebenso die Bereitschaft, sich einzuarbeiten:

• Zuverlässiger Betrieb (SRE): Observability (Prometheus/Grafana), Backup/Restore, Incident-Response sowie Disaster Recovery und Notfall-/Wiederanlaufkonzepte (BCP).
• Security-Engineering: Härtung, NetworkPolicies, TLS/PKI, Secrets-Management, CIS-Benchmarks/Compliance-Scanning sowie regulierte, auditpflichtige Umfelder, insbesondere ISO 27001 / ISMS bzw. normativ geprägte Entwicklungsprozesse – den Aufbau dieser Zusammenarbeit mit Security, QM und IT treiben wir im Zuge unseres ISO-27001-Vorhabens voran.
• Full-Stack-/Frontend-Entwicklung: Web-Frontends zusätzlich zu Python-Backends – unsere KI-Portale und Upload-Anwendungen leben davon.
• OpenShift-KI-Stack: Vertrautheit mit einzelnen Komponenten wie LLM-Serving (vLLM / RHAII), Serving-Plattform (OpenShift AI / RHOAI, KServe), Zertifikatsverwaltung (cert-manager), Secrets-Management (External Secrets Operator) und Policy-as-Code (OPA/Rego).

Freuen Sie sich auf:

• Eine Schlüsselrolle mit echtem Gestaltungsspielraum: Sie entwickeln unsere unternehmensinterne KI-Plattform und treiben ihren Weg vom RAG- zum Multi-Agenten-System voran.
• Ein technisch anspruchsvolles Umfeld an der Spitze von Safety und Security: eine vollständig on-premises betriebene KI-Plattform, auf der Ihre Arbeit unmittelbar sichtbar wird.
• Ein wertschätzendes Betriebsklima mit kollegialem Miteinander und kurzen Entscheidungswegen.
• Umfassende Einarbeitung, individuelle Weiterbildungsmöglichkeiten.
• Flexible Arbeitszeiten und die Möglichkeit zum mobilen Arbeiten.
• Einen komfortablen Arbeitsplatz mit freundlicher Arbeitsatmosphäre im Zentrum von Freiburg.
• Attraktives Gehalt und exklusive Benefits, z. B. Angebot zur Teilnahme am Fitness-Programm von Hansefit, eigene Kantine im Haus und Essenszuschuss, kostenlose Getränke, Obstkorb, Mitarbeiterevents, Betriebliche Altersvorsorge, vergünstigtes Jobticket im gesamten ÖPNV-Netz.