AI DevOps Engineer (all genders)

AI DevOps Engineer (all genders)

Stuttgart Vollzeit 60000 - 80000 € / Jahr (geschätzt) Kein Homeoffice möglich
A

Auf einen Blick

  • Aufgaben: Du betreibst unser self-hosted LiteLLM Gateway und integrierst die Azure AI Foundry in unser Plattformkonzept.
  • Unternehmen: AEB ist eine Cloud Company, die IT-Systeme für Außenhandel, Zoll und Logistik vereinfacht.
  • Vorteile: Flexible Arbeitsorte, Gesundheitsförderung mit eGym Wellpass und 80% Zuschuss zum Jobticket.
  • Weitere Informationen: Der Schwerpunkt liegt auf Betrieb und Enablement einer AI-Plattform.
  • Warum dieser Job: Gestalte aktiv die Entwicklung unserer AI-Plattform und arbeite in einem innovativen Umfeld.
  • Qualifikationen: Erfahrung mit AI-Plattformen wie AI Foundry und CI/CD-Praktiken ist erforderlich.

Das prognostizierte Gehalt liegt zwischen 60000 - 80000 € pro Jahr.

Hier ist dein Raum. Als Cloud Company vereinfachen und beschleunigen wir die IT-Systeme unserer Kunden. Unser Ziel ist es, Menschen und Waren nachhaltig zu bewegen – mit Software für Außenhandel, Zoll, Exportkontrolle und Logistik. Du bekommst bei uns den Freiraum und offene Strukturen, um wirklich was zu bewegen und ein Arbeitsumfeld, das dafür sorgt, dass du dein Bestes erreichen kannst. Unser Headquarter in Stuttgart ist zentraler Treffpunkt für die Zusammenarbeit. Dein Heimathafen kann aber ebenso eines unserer Offices in Mainz, München oder Aalen sein – vorausgesetzt, du reist gelegentlich nach Stuttgart.

Das kannst du bei uns bewegen: AEB verfolgt einen pragmatischen KI-Ansatz: Wir verankern KI gezielt in Produkten, Prozessen und Zusammenarbeit, um nachhaltigen Mehrwert für Kunden und Mitarbeitende zu schaffen. Um unsere Ideen und Initiativen auf die Bahn zu bringen, brauchen wir Mitgestalter*innen. Diese Aufgaben treibst du voran:

  • Du betreibst unser self-hosted LiteLLM Gateway als zentralen Zugang zu LLMs (inkl. Key-, Budget- und Policy-Mechanismen) und entwickelst es gemeinsam mit uns weiter.
  • Du integrierst die Azure AI Foundry in unser Plattformkonzept (Zugriffe, Observability, Governance), sodass Teams Agents und Modelle sauber in den Produktbetrieb bringen können.
  • Du automatisierst und betreibst Anwendungen mit Hilfe von CI/CD-Praktiken und Infrastructure as Code (z. B. GitLab CI, Helm/ArgoCD), damit Änderungen reproduzierbar, auditierbar und schnell ausrollbar sind.
  • Du etablierst Observability (Metrics/Logs/Tracing), SLOs und Incident-Prozesse für unsere KI-Services.
  • Du unterstützt interne Nutzer*innen durch Templates, Runbooks und Self‑Service, damit die Plattform einfach und sicher eingesetzt werden kann.
  • Du entwickelst unsere AI Platform weiter, beispielsweise rund um MCP Server, Coding Tools und Agent Registry.

Der Schwerpunkt dieser Stelle liegt auf Betrieb und Enablement einer AI‑Plattform und weniger auf Modelltraining oder Data Science.

Was du mitbringst:

  • IT, KI und skalierbare technische Lösungen begeistern dich – besonders dann, wenn sie echten Mehrwert schaffen.
  • Du hast Erfahrung mit AI‑Plattformen und -Tools wie AI Foundry, LiteLLM, Open WebUI oder n8n.
  • IaC‑Praxis (idealerweise modulare, wiederverwendbare Bausteine).
  • Erfahrung im Betrieb containerisierter Plattformen (Kubernetes) und im Aufbau von CI/CD.
  • LLMOps‑Erfahrung, z. B. mit RAG-Systemen, Inference‑Workloads, Drift-/Qualitätsmonitoring, Guardrails/Policies und Kostenmetriken.

Lass' dich nicht abschrecken, wenn du nicht alles bereits komplett beherrschst – wir begleiten dich gerne in der Weiterentwicklung, wenn zumindest die Grundlagen da sind.

Was unsere Mitarbeitenden an AEB schätzen: Ein gutes Arbeitsumfeld ist uns sehr wichtig. Du kannst (und sollst) dir den Freiraum nehmen, deine Arbeit so zu gestalten, wie sie dir und deinen Stärken entspricht. Konkret heißt das, dass du Unterstützung bei deiner fachlichen und persönlichen Entwicklung bekommst. Hier eine kleine Auswahl unserer beliebtesten Benefits:

  • Flexible Arbeitsorte und Arbeitszeiten.
  • Gesundheitsförderung mit eGym Wellpass, instahelp, Jobrad‑Leasing und mehr.
  • Jobticket‑Zuschuss: 80 % Übernahme des Deutschland‑Tickets.

Worauf du dich verlassen kannst: Bei uns zählt, was du kannst, was du mit uns erreichen möchtest und wie du dich entwickelst. Dafür leben wir in AEB ein professionelles Miteinander, das der Vielfalt und den unterschiedlichen Ansprüchen aller Menschen gerecht werden soll. Das heißt auch: wir dulden keine Diskriminierung, zum Beispiel aufgrund von Alter, Behinderung, Geschlecht, sexueller Orientierung, ethnischer Herkunft oder Religion. Unsere Werte und Prinzipien, die uns prägen, findest du in unserem Common Ground.

AI DevOps Engineer (all genders) Arbeitgeber: AEB Gesellschaft zur Entwicklung von Branchen-Software mbH

AEB ist ein hervorragender Arbeitgeber, der seinen Mitarbeitenden nicht nur Freiraum für kreative Entfaltung bietet, sondern auch eine offene und unterstützende Arbeitskultur pflegt. Mit flexiblen Arbeitszeiten und -orten sowie umfangreichen Gesundheitsförderungsprogrammen sorgt AEB dafür, dass du deine beruflichen und persönlichen Ziele erreichen kannst. Zudem legen wir großen Wert auf Vielfalt und individuelle Entwicklungsmöglichkeiten, sodass jeder Mitarbeiter die Chance hat, sich in einem dynamischen Umfeld weiterzuentwickeln.

A

Kontaktdaten:

AEB Gesellschaft zur Entwicklung von Branchen-Software mbH Recruiting-Team

Wir glauben, dass du diese Fähigkeiten brauchst, um AI DevOps Engineer (all genders) mit Bravour zu bestehen

AI-Plattformen
Azure AI Foundry
LiteLLM
Open WebUI
n8n
Infrastructure as Code (IaC)
Kubernetes