Als ML/AI Engineer treibst du die Entwicklung unserer souveränen KI-Plattform Habicht AI voran – vom Modell-Deployment bis zum Produktivbetrieb. Abgeschlossenes Studium im IT-Bereich oder vergleichbare Praxiserfahrung Mindestens 2 Jahre Erfahrung mit Machine Learning oder LLM-basierten Systemen Sehr gute Python-Kenntnisse und Erfahrung mit PyTorch oder vergleichbaren Frameworks Praktische Erfahrung mit LLM-Serving (z. B. vLLM, Ollama) oder RAG-Pipelines Gute Kommunikationsfähigkeiten und Freude an interdisziplinärer Zusammenarbeit Sehr gute Deutsch- und Englischkenntnisse in Wort und Schrift Erfahrung mit dem Self-Hosting von Open-Weight-Modellen auf eigener GPU-Infrastruktur Kenntnisse in Fine-Tuning, LoRA oder Quantisierung Erfahrung mit MLOps, Kubernetes und GPU-Scheduling Erfahrung mit Vektordatenbanken wie Qdrant oder pgvector Erfahrung mit Agenten-Frameworks und dem Model Context Protocol (MCP) Kenntnisse in LLM-Observability, etwa mit OpenTelemetry Verständnis für DSGVO- und EU-AI-Act-Anforderungen im KI-Kontext Dein Arbeitsbereich
Weiterentwicklung unserer KI-Plattform Habicht AI Deployment und Betrieb von Open-Weight-Modellen in unserer EU-Infrastruktur Aufbau von RAG- und Agenten-Pipelines für Kundenprojekte Evaluierung neuer Modelle sowie Benchmarking von Qualität, Kosten und Latenz Performance- und Kostenoptimierung von Inferenz-Workloads Umsetzung von Compliance-Anforderungen aus DSGVO und EU AI Act Enge Zusammenarbeit mit Entwicklung, Vertrieb und Kundenprojekten
#J-18808-Ljbffr
