Overview
Du entwickelst und betreibst eine souveräne LLM-Plattform mit OpenAI-kompatiblem Gateway, Modell-Serving und GPU-Infrastruktur. Du implementierst RAG-Lösungen mit Vektor-Datenbanken und Embeddings und sicherst Datenschutz sowie Mandantentrennung. Du etablierst Monitoring, Observability und CI/CD für unsere KI-Dienste und treibst Infrastruktur-as-Code voran. Du gestaltest Architektur aktiv mit und dokumentierst Lösungen im AIS-Team. Diese Rolle bietet die Chance, eine zentrale Plattform für AI-Hosting und KI-Infrastrukturen maßgeblich zu prägen.
Leistungen / Benefits
- offene, kooperative Unternehmenskultur
- umfassende Einarbeitung durch AIS Team
- strategische Gestaltungsrolle mit Einfluss
- Mitarbeit an souveränen LLM-Hosting und KI-Infrastrukturen
- moderne Infrastruktur mit Kubernetes, Docker, Cloud-Technologien
- individuelles Weiterbildungsbudget
Verantwortungsbereiche
- Entwicklung und Betrieb der LLM-Plattform inkl. Gateway, Modell-Serving und GPU-Infrastruktur
- Implementierung kundenspezifischer Wissensverknüpfungen (RAG) mit Vector-Datenbanken und Embeddings
- Sicherstellung von Kostenkontrolle, Mandantentrennung, Datenschutz und Guardrails
- Aufbau von Monitoring, Observability für Performance, Qualität und Nutzung der KI-Dienste
- Weiterentwicklung der containerbasierten Plattform (Docker, Coolify, Kubernetes)
- Automatisierung von Deployments; Verantwortung für CI/CD-Prozesse
- Betreuung der Linux-, Cloud- und Datenbank-Infrastruktur; Sicherstellung von Stabilität, Sicherheit, Verfügbarkeit
- Aufbau/Weiterentwicklung von Monitoring-, Logging- und Alerting-Lösungen
- Mitgestaltung der Architektur von Plattform- und KI-Services
- Etablierung Infrastructure as Code und standardisierte Deployment-Prozesse
- Sicherstellung datenschutzkonformer und mandantensicherer Betriebsmodelle
- Dokumentation, Wissensweitergabe im Team; Evaluierung neuer Technologien im Bereich Platform Engineering und KI
Zentrale Anforderungen
- Abgeschlossenes Studium der Wirtschafts- Informatik oder vergleichbare Qualifikation
- Mehrjährige Erfahrung im DevOps-, Plattform-Engineering- oder Cloud-/Infrastruktur-Umfeld
- Praxis in Betrieb containerbasierter Anwendungen und moderner Plattformen
- Erfahrung im Aufbau und produktiven Betrieb von LLM- und KI-Diensten, idealerweise self-hosted
- Sehr gute Kenntnisse in Kubernetes, Docker und Linux
- Erfahrung mit CI/CD-Pipelines, Cloud-Plattformen (insb. Azure) und PostgreSQL
- Praktische Erfahrung mit LLM-Gateways, RAG-Architekturen, Vector-Datenbanken und Modell-Serving-Lösungen
- Solide Python-Kenntnisse für Automatisierung und Integrationen
- Eigenständige, strukturierte Arbeitsweise; Sicherheits- und Datenschutzbewusstsein
- Ausgeprägtes Architektur- und Platformverständnis
- Eigeninitiative und Verantwortungsbewusstsein
- Teamfähigkeit und Wissensaustausch
- Sicherheits- und Datenschutzbewusstsein
- Kubernetes
- Docker
- Linux
AI Platform Engineer (all genders) in Dortmund Arbeitgeber: DATAGROUP
DATAGROUP bietet als einer der führenden IT-Dienstleister in Deutschland nicht nur flexible Arbeitszeiten und die Möglichkeit für Homeoffice, sondern auch eine offene Unternehmenskultur, die den Austausch und die persönliche Entwicklung fördert. Mit individuellen Weiterbildungsmöglichkeiten und vielfältigen Karrierechancen ist DATAGROUP der ideale Arbeitgeber für alle, die in einem dynamischen Umfeld wachsen und ihre Fähigkeiten entfalten möchten.
