Auf einen Blick
- Aufgaben: Verantworte den Betrieb und das Deployment von Sprachmodellen auf unserer LLM-Plattform.
- Unternehmen: Innovatives Unternehmen, das Energieversorger für die digitale Transformation qualifiziert.
- Vorteile: Attraktive Vergütung, Firmenfitness, betriebliche Altersvorsorge und vielfältige Entwicklungsmöglichkeiten.
- Weitere Informationen: Klein, motiviertes Team mit exzellenten Karrierechancen.
- Warum dieser Job: Gestalte die Zukunft der Energieversorgung mit modernster KI-Technologie.
- Qualifikationen: Erfahrung in produktiven Systemen, Docker-Kenntnisse und Teamfähigkeit.
Das prognostizierte Gehalt liegt zwischen 55000 - 70000 € pro Jahr.
KI Plattform Engineer (m/w/d) – Betrieb & Deployment von Sprachmodellen
Wir suchen ab sofort eine/n KI Platform Engineer (m/w/d) für den Betrieb und das Deployment von Sprachmodellen.
Ihre Aufgaben
- Verantwortung des Betriebs unserer LLM-Plattform (LLMOps) – stabil, sicher, skalierbar und nachvollziehbar
- Planung und Umsetzung von Deployments und Rollouts von Sprachmodellen – containerbasiert mit Docker
- Betrieb und Optimierung von Deployments mit vLLM oder SGLang (Serving, Throughput, Latenz, Ressourcenverbrauch)
- Analyse und Verbesserung der Performance auf bestehender Hardware
- Unterstützung bei der Auswahl geeigneter Hardware für neue Modelle und steigende Last (Compute, Memory, GPU/CPU, Skalierung)
- Konfiguration von Parametern und Serving-Einstellungen anhand des gewünschten In-/Output-Verhaltens
- Konfiguration nutzungsbasierter Limitierungen über ein API Gateway (Rate Limits, Quotas, Auth, Policies)
- Einrichtung von OpenWebUI und Sicherstellen eines laufenden Betriebes
- Monitoring und Observability für den LLM-Betrieb
Das bringen Sie mit
- Praxiserfahrung im Betrieb produktiver Systeme (nicht nur „Basteleien“) – idealerweise in Plattform-/Ops-/SRE-nahen Rollen
- Sehr gute Kenntnisse in Docker sowie in Betriebs- und Deployment-Workflows
- Erfahrung mit vLLM oder SGLang (oder vergleichbaren LLM-Serving-Stacks) für produktive Inferenz
- Know-how im Performance-Tuning für Inferenz, inklusive Quantisierung und Optimierung auf vorhandener Hardware
- Verständnis für Hardware-Auswahl und Kapazitätsplanung für LLM-Workloads
- Vertraut mit API Gateways für nutzungsbasierte Begrenzungen (Rate Limiting, Quotas, Policies)
- Erfahrung mit OpenWebUI (Betrieb, Einrichtung, Wartung) oder vergleichbaren UI-/Access-Layern
- Sicherer Umgang mit einem Python-basierten Stack, idealerweise mit Postgres sowie Berührungspunkte mit Oracle in Bestandssystemen
- SQL-Grundlagen (Abfragen, Analyse, einfache Optimierungen)
- Sichere Git sowie CI/CD Kenntnisse (Pipelines, Releases, sauberes Branching, Automatisierung)
- Grundkenntnisse im Fine-Tuning von LLMs (Begriffe, typische Verfahren/Workflows, Risiken/Trade-offs)
- Teamfähigkeit, analytisches Denken, Eigenverantwortung und eine strukturierte Arbeitsweise
Wer wir sind
Wir sind Digitaldenker für die Versorgung von morgen und qualifizieren Energieversorger für die Transformation im Energiemarkt. Dafür bieten wir ganzheitliche IT-Systemlösungen aus einer Hand, die auf die individuellen Anforderungen und Mittel unserer Kunden angepasst sind. Implementierung, ganzheitliche Beratung, Betreuung und Kompetenzvermittlung stehen dabei im Fokus.
Benefit-Paket
- Firmenfitness mit EGYM wellpass
- Vielfältige Entwicklungsmöglichkeiten
- Betriebliche Altersvorsorge & vermögenswirksame Leistungen
- Mitarbeitendenrabatte
- Eine attraktive Vergütung mit 13 Gehältern
Wir haben Ihr Interesse geweckt? Unser kleines, aber hoch motiviertes Team wartet auf Sie! Wir freuen uns auf Ihre Bewerbung inklusive Nennung Ihres frühestmöglichen Eintrittstermins und Ihrer Gehaltsvorstellung.
KI Platform Engineer (m/w/d) Arbeitgeber: IVU Informationssyteme GmbH
Die IVU Softwareentwicklung GmbH ist ein hervorragender Arbeitgeber, der seinen Mitarbeitern in der Energiewirtschaft nicht nur ein dynamisches und innovatives Arbeitsumfeld bietet, sondern auch zahlreiche Möglichkeiten zur persönlichen und beruflichen Weiterentwicklung. Mit einem starken Fokus auf Teamarbeit und einer offenen Unternehmenskultur fördern wir Kreativität und Engagement, während wir gleichzeitig attraktive Benefits und eine ausgewogene Work-Life-Balance bieten.
Kontaktdaten:
IVU Informationssyteme GmbH Recruiting-Team
StudySmarter Expertenrat🤫
Wir sind der Meinung, dass du so KI Platform Engineer (m/w/d) erhalten könntest
✨Netzwerken, was das Zeug hält!
Nutze LinkedIn und andere Plattformen, um mit Leuten aus der Branche in Kontakt zu treten. Frag nach ihren Erfahrungen und Tipps – oft gibt's Insider-Infos zu offenen Stellen, die nicht öffentlich ausgeschrieben sind!
✨Sei proaktiv!
Warte nicht darauf, dass die Jobs zu dir kommen. Geh aktiv auf Unternehmen zu, die dich interessieren, und zeig dein Interesse an ihrer Arbeit. Ein kurzes, freundliches Anschreiben kann Wunder wirken!
✨Bereite dich auf Interviews vor!
Mach dich mit typischen Fragen für KI-Plattform-Engineers vertraut und überlege dir, wie du deine Erfahrungen am besten präsentieren kannst. Übe mit Freunden oder vor dem Spiegel – das gibt dir mehr Sicherheit!
✨Bewirb dich direkt über unsere Website!
Wenn du bei uns arbeiten möchtest, schau dir die Stellenangebote auf unserer Website an und bewirb dich direkt dort. So bist du sicher, dass deine Bewerbung an die richtige Stelle gelangt!
Wir glauben, dass du diese Fähigkeiten brauchst, um KI Platform Engineer (m/w/d) mit Bravour zu bestehen
Einige Tipps für deine Bewerbung 🫡
Sei du selbst!:Wir wollen dich kennenlernen, also zeig uns, wer du wirklich bist! Lass deine Persönlichkeit in deiner Bewerbung durchscheinen und erzähl uns, warum du die perfekte Ergänzung für unser Team bist.
Pass auf die Details auf!:Achte darauf, dass deine Bewerbung fehlerfrei ist. Rechtschreibfehler oder unklare Formulierungen können einen schlechten Eindruck hinterlassen. Nimm dir die Zeit, alles gründlich zu überprüfen!
Beziehe dich auf die Stellenbeschreibung!:Nutze die Gelegenheit, um zu zeigen, wie deine Erfahrungen und Fähigkeiten zu den Anforderungen der Stelle passen. Verlinke konkrete Beispiele aus deinem Werdegang, die zeigen, dass du die richtige Wahl für uns bist.
Bewirb dich über unsere Website!:Der einfachste Weg, um Teil unseres Teams zu werden, ist die Bewerbung über unsere Website. So stellst du sicher, dass deine Unterlagen direkt bei uns landen und wir sie schnellstmöglich prüfen können.
Wie man sich auf ein Vorstellungsgespräch bei IVU Informationssyteme GmbH vorbereitet
✨Verstehe die Technologie
Mach dich mit den Technologien vertraut, die in der Stellenbeschreibung erwähnt werden, wie Docker, vLLM oder SGLang. Zeige im Interview, dass du nicht nur die Begriffe kennst, sondern auch praktische Erfahrungen damit hast.
✨Bereite konkrete Beispiele vor
Überlege dir spezifische Projekte oder Herausforderungen, die du in der Vergangenheit gemeistert hast. Erkläre, wie du Performance-Tuning durchgeführt oder Deployments optimiert hast. Das zeigt, dass du die Theorie in die Praxis umsetzen kannst.
✨Fragen stellen
Bereite einige Fragen vor, die du dem Interviewer stellen kannst. Das zeigt dein Interesse an der Rolle und hilft dir, mehr über die Unternehmenskultur und die Erwartungen zu erfahren. Frag zum Beispiel nach den aktuellen Herausforderungen im Betrieb der LLM-Plattform.
✨Teamarbeit betonen
Da Teamfähigkeit wichtig ist, solltest du Beispiele nennen, wo du erfolgreich im Team gearbeitet hast. Erkläre, wie du analytisches Denken und Eigenverantwortung in einem Teamkontext eingesetzt hast, um Probleme zu lösen oder Projekte voranzutreiben.
