Auf einen Blick
- Aufgaben: Entwickle und verwalte CI/CD-Pipelines für generative KI-Modelle und komplexe Multi-Agenten-Systeme.
- Unternehmen: Innovatives Unternehmen an der Spitze der KI-Revolution.
- Vorteile: Wettbewerbsfähiges Gehalt, Gesundheitsleistungen und Möglichkeiten zur beruflichen Weiterentwicklung.
- Weitere Informationen: Dynamisches Umfeld mit hervorragenden Karrierechancen.
- Warum dieser Job: Sei Teil der KI-Zukunft und gestalte bahnbrechende Technologien mit.
- Qualifikationen: 3+ Jahre Erfahrung in DevOps oder MLOps und Kenntnisse in Cloud-Diensten.
Das prognostizierte Gehalt liegt zwischen 65000 - 85000 € pro Jahr.
Wir suchen einen hochmotivierten und erfahrenen Generative AI Operations (GenAI Ops) Engineer, der unser innovatives Team verstärkt. In dieser Rolle sind Sie an der Spitze der KI-Revolution tätig und verantwortlich für den Aufbau, die Bereitstellung und die Wartung der Betriebsinfrastruktur für unsere hochmodernen generativen KI-Modelle und -Dienste. Sie arbeiten eng mit Datenwissenschaftlern, Machine Learning Engineers und Softwareentwicklern zusammen, um sicherzustellen, dass unsere GenAI-Anwendungen – insbesondere komplexe Multi-Agenten-Systeme – skalierbar, zuverlässig und effizient auf großen Cloud-Plattformen sind. Wenn Sie leidenschaftlich daran interessiert sind, großangelegte KI-Systeme zu operationalisieren und einen signifikanten Einfluss ausüben möchten, ist dies die richtige Rolle für Sie.
Verantwortlichkeiten
- CI/CD-Pipelines aufbauen und verwalten: Entwerfen, implementieren und pflegen Sie robuste, automatisierte CI/CD-Pipelines für das Training, die Evaluierung und die Bereitstellung großer Sprachmodelle (LLMs) und KI-Agenten.
- Agentic AI-Workflows orchestrieren: Entwerfen, bereitstellen und verwalten Sie anspruchsvolle Multi-Agenten-Systeme. Gewährleisten Sie nahtlose Agent-zu-Agent (A2A)-Kommunikation und Zusammenarbeit zwischen spezialisierten Agenten zur Automatisierung komplexer Geschäftsprozesse.
- Tool-Integration verwalten: Implementieren und verwalten Sie sichere, skalierbare Integrationen zwischen KI-Agenten und externen Tools/APIs, wobei offene Standards wie das Model Context Protocol (MCP) genutzt werden, um Interoperabilität zu gewährleisten.
- KI-gestützte Entwicklung nutzen: Verwenden Sie KI-gestützte Entwicklungstools, um den gesamten Softwareentwicklungszyklus zu beschleunigen, von der Erstellung von Infrastrukturcode und Tests bis hin zur Fehlersuche bei Betriebsproblemen in Cloud-Umgebungen.
- Infrastructure as Code (IaC): Nutzen Sie cloud-native IaC-Dienste oder cloud-agnostische Tools wie Terraform, um die für GenAI-Workloads erforderliche Infrastruktur zu definieren und zu verwalten.
- Modellüberwachung und Beobachtbarkeit: Implementieren Sie umfassende Überwachungs- und Protokollierungslösungen, um die Leistung von Modellen und Agenten, die Ressourcennutzung und die Systemgesundheit zu verfolgen.
- Skalierbarkeit und Leistungsoptimierung: Entwerfen und implementieren Sie skalierbare Architekturen für das Modell-Serving und die Inferenz. Optimieren Sie kontinuierlich die Leistung und Kosteneffektivität unserer GenAI-Dienste.
- Sicherheit und Compliance: Implementieren und durchsetzen Sie bewährte Sicherheitspraktiken für unsere GenAI-Infrastruktur und -Daten. Stellen Sie die Einhaltung von Branchenstandards und -vorschriften sicher.
Anforderungen
- 3+ Jahre Erfahrung in einer DevOps-, SRE- oder MLOps-Rolle mit Fokus auf Cloud-Infrastruktur und Hintergrund in Cloud-Diensten (AWS, GCP, Azure).
- Erfahrung im Aufbau und in der Verwaltung von CI/CD-Pipelines (Jenkins, GitLab CI oder cloud-native Dienste) und Kenntnisse in mindestens einer Skriptsprache (Python, Bash).
- Vertrautheit mit IaC-Tools (AWS CDK, CloudFormation, Terraform) sowie Containerisierung und Orchestrierung (Docker, Kubernetes).
- Nachweisliche Erfahrung in der Bereitstellung und dem Betrieb von LLM-Inferenz (vLLM, Triton, TGI, Ray Serve, KServe/Seldon).
- Praktische Erfahrung mit LLM/App-Tracking und Metriken (OpenTelemetry + Langfuse, Arize Phoenix, WhyLabs) sowie beim Aufbau von Evaluierungs-Pipelines (offline/online Regression Suites).
- Fähigkeit zur Bedienung von Retrieval-Pipelines: Einbettungsgenerierung, Indexierungs-/Aktualisierungsstrategien, Vektor-Datenbanken (Pinecone, Weaviate, Milvus, FAISS) und Relevanzüberwachung.
- Erfahrung im Ausführen von Multi-Agenten-Workflows (LangGraph, CrewAI, AutoGen-ähnlich), einschließlich Zustandsmanagement, Wiederholungen, Ratenbegrenzungen, Fehlerbehandlung und Schritt-für-Schritt-Audits.
- Erfahrung in der Implementierung von Schutzmaßnahmen: Geheimnis-Isolierung, Tool/API-Berechtigungen, Abwehr von Eingabeaufforderungen, Verhinderung von Datenlecks, PII-Rotationsschutz und Durchsetzung von Richtlinien.
- Fließendes Englisch (B2+ Niveau).
Wünschenswert
- Master-Abschluss oder PhD in Informatik, KI, Maschinenlernen oder einem verwandten Bereich.
- Hintergrund in der Integration von Agenten mit externen Tools unter Verwendung von MCP (oder ähnlichen Standards) und im Betrieb von Tool-Registrierungen.
- Erfahrung mit cloud-nativen GenAI-Diensten wie AWS Bedrock, Azure AI Foundry oder Google Vertex AI.
- Vertrautheit mit der Architektur und den betrieblichen Herausforderungen von großen Sprachmodellen (LLMs).
- Erfahrung im Entwerfen oder Verwalten von Multi-Agenten-Systemen oder komplexen orchestrierten Workflows.
- Kenntnisse über Überwachungs- und Beobachtungswerkzeuge wie Prometheus, Grafana oder Datadog.
- Relevante Cloud- oder DevOps-Zertifizierungen.
- Starke Problemlösungsfähigkeiten und die Fähigkeit, effektiv in einem schnelllebigen, kollaborativen Umfeld zu arbeiten.
Senior Generative AI Operations (GenAI Ops) Engineer Arbeitgeber: EPAM Systems
Als Arbeitgeber bieten wir Ihnen die Möglichkeit, an der Spitze der KI-Revolution zu arbeiten und innovative Lösungen in einem dynamischen Team zu entwickeln. Unsere Unternehmenskultur fördert Kreativität und Zusammenarbeit, während wir gleichzeitig umfangreiche Weiterbildungsmöglichkeiten und ein unterstützendes Arbeitsumfeld bieten. Genießen Sie die Vorteile eines flexiblen Arbeitsmodells und die Chance, an bedeutenden Projekten zu arbeiten, die einen echten Einfluss auf die Zukunft der Technologie haben.
StudySmarter Expertenrat🤫
Wir sind der Meinung, dass Sie so Senior Generative AI Operations (GenAI Ops) Engineer erhalten könnten
✨Netzwerken, Netzwerken, Netzwerken!
Nutze Plattformen wie LinkedIn, um mit Fachleuten aus der AI- und DevOps-Welt in Kontakt zu treten. Teile deine Projekte und Erfahrungen, um sichtbar zu werden und vielleicht sogar Empfehlungen zu erhalten.
✨Sei proaktiv bei der Jobsuche!
Warte nicht darauf, dass die Stellenanzeigen zu dir kommen. Suche aktiv nach Unternehmen, die dich interessieren, und kontaktiere sie direkt über unsere Website. Zeige dein Interesse und deine Motivation!
✨Bereite dich auf technische Interviews vor!
Stelle sicher, dass du die gängigen Tools und Technologien beherrschst, die in der Jobbeschreibung erwähnt werden. Übe Coding-Challenges und sei bereit, deine Lösungen zu erklären und zu verteidigen.
✨Zeige deine Leidenschaft für AI!
Sprich in Interviews über deine Begeisterung für generative KI und wie du dazu beitragen kannst, innovative Lösungen zu entwickeln. Lass die Interviewer wissen, dass du nicht nur die technischen Fähigkeiten hast, sondern auch die Vision für die Zukunft der Technologie.
Wir glauben, dass du diese Fähigkeiten brauchst, um Senior Generative AI Operations (GenAI Ops) Engineer mit Bravour zu bestehen
Einige Tipps für deine Bewerbung 🫡
Sei du selbst!:Wenn du deine Bewerbung schreibst, sei authentisch und zeige deine Persönlichkeit. Wir wollen wissen, wer du wirklich bist und was dich motiviert, Teil unseres Teams zu werden.
Betone deine Erfahrungen:Stelle sicher, dass du relevante Erfahrungen und Fähigkeiten hervorhebst, die zu der Rolle passen. Zeige uns, wie deine bisherigen Projekte und Erfolge dich auf die Herausforderungen bei StudySmarter vorbereiten.
Verwende klare Sprache:Halte deine Bewerbung klar und präzise. Vermeide Fachjargon, wenn es nicht nötig ist, und achte darauf, dass wir deine Ideen leicht verstehen können. Klarheit ist der Schlüssel!
Bewirb dich über unsere Website:Wir empfehlen dir, deine Bewerbung direkt über unsere Website einzureichen. So stellst du sicher, dass sie schnell und effizient bei uns ankommt. Wir freuen uns darauf, von dir zu hören!
Wie man sich auf ein Vorstellungsgespräch bei EPAM Systems vorbereitet
✨Verstehe die Rolle und das Unternehmen
Mach dich mit der Stellenbeschreibung und den Anforderungen vertraut. Informiere dich über die neuesten Entwicklungen im Bereich Generative AI und wie das Unternehmen diese Technologien einsetzt. Zeige, dass du nicht nur die technischen Fähigkeiten hast, sondern auch ein echtes Interesse an der Mission des Unternehmens.
✨Bereite konkrete Beispiele vor
Denke an spezifische Projekte oder Erfahrungen, die deine Fähigkeiten in CI/CD-Pipelines, Multi-Agent-Systemen oder Cloud-Integrationen demonstrieren. Bereite dich darauf vor, diese Beispiele klar und prägnant zu präsentieren, um deine Eignung für die Rolle zu unterstreichen.
✨Technische Fragen üben
Erwarte technische Fragen zu Themen wie Infrastructure as Code, Containerisierung und Monitoring-Tools. Übe, wie du komplexe technische Konzepte einfach erklären kannst, und sei bereit, deine Problemlösungsfähigkeiten anhand von Beispielen zu zeigen.
✨Fragen stellen
Bereite einige durchdachte Fragen vor, die dein Interesse an der Rolle und dem Team zeigen. Frage nach den Herausforderungen, die das Team aktuell hat, oder nach den Technologien, die sie verwenden. Das zeigt, dass du proaktiv bist und wirklich an der Position interessiert bist.
