Auf einen Blick
- Aufgaben: Gestalte die Automatisierung für den Zugang zu KI-Modellen und sorge für Governance.
- Unternehmen: Innovatives Unternehmen im Bereich KI mit einem dynamischen Team.
- Vorteile: Attraktives Gehalt, flexible Arbeitszeiten und Entwicklungsmöglichkeiten.
- Weitere Informationen: Tolle Karrierechancen in einem schnelllebigen Umfeld.
- Warum dieser Job: Sei Teil eines kleinen, agilen Teams und forme die Zukunft der KI-Nutzung.
- Qualifikationen: Mindestens 5 Jahre Erfahrung in Python und SRE, sowie Kenntnisse in Kubernetes.
Das prognostizierte Gehalt liegt zwischen 63000 - 77000 € pro Jahr.
We are building a self-serve Enterprise AI Gateway that standardizes how every team uses large language models with strong governance.
As a Lead AI OPS Engineer , you will design automation-first onboarding, controls, and observability for access, cost, and logging across the platform.
Join a small, fast-moving team.
Responsibilities
- Design self-service onboarding for teams and agents, from initial request through to functional access
- Automate key provisioning, rotation, and permission updates
- Tune rate limits and quotas as adoption and usage increase
- Deploy and configure models including Vertex AI endpoints, vendor fallbacks, and Model Armor
- Operate MCP servers behind the gateway under the same governance rules as models
- Develop Python extensions that integrate the gateway with other enterprise systems
- Maintain the full platform as code using Terraform, Helm, and Jenkins
- Monitor and protect production health across availability, latency, and cost with alerting
- Assist teams using the platform and convert recurring questions into automation
Requirements
- Proven 5+ years of experience using Python for automation, extensions, and integrations
- Solid 5+ years of SRE experience with a track record of keeping production systems reliable
- Deep expertise in Kubernetes, preferably on GKE
- Hands-on experience with Google Vertex AI, especially endpoints for model serving and Model Armor
- Practical proficiency with Terraform, Helm, and CI/CD using Jenkins
- Working knowledge of Gen AI/Agentic AI concepts (patterns, frameworks, protocols)
- Production exposure to an AI gateway (Lite LLM, EPAM DIAL or similar) is highly appreciated
- Very strong communication skills with the ability to explain platform behavior clearly to teams who use it daily
- English proficiency at B2 level (Upper-Intermediate) or higher
- Nice to have Familiarity with GCP beyond GKE and Vertex AI, such as Big Query, Cloud Run, and IAM
- Nice to have Experience building AI agents, for example using Google's Agent Development Kit (ADK)
- Nice to have Experience with AWS Bedrock
- #J-18808-Ljbffr
Lead AI OPS Engineer Arbeitgeber: EPAM Systems
EPAM Systems ist ein hervorragender Arbeitgeber, der seinen Mitarbeitern in Zürich eine inspirierende Arbeitsumgebung bietet. Mit großzügigen Vorteilen wie fünf Wochen Urlaub und einem umfassenden Mitarbeiteraktienkaufplan fördert das Unternehmen eine positive Work-Life-Balance und unterstützt die berufliche Weiterentwicklung. Die hybride Arbeitsweise ermöglicht es den Mitarbeitern, flexibel zu arbeiten und gleichzeitig an innovativen Projekten im Bereich KI und Big Data teilzuhaben.
StudySmarter Expertenrat🤫
Wir sind der Meinung, dass du so Lead AI OPS Engineer erhalten könntest
✨Engagier dich in Entwickler-Communities!
Lass uns mal ehrlich sein: In der Software-Entwicklung sind Netzwerke Gold wert! Tummel dich in GitHub-Projekten, nehme an lokalen Meetups oder Hackathons teil und vernetze dich mit anderen Entwicklern. So steigerst du nicht nur deine Sichtbarkeit, sondern lernst auch die neuesten Trends und Technologien kennen.
✨Zeig deine Fähigkeiten!
Erstelle ein Portfolio, das deine besten Projekte und Code-Examples zeigt. Nichts überzeugt mehr als ein praktischer Beweis deiner Skills. Das kann auch helfen, bei EPAM Systems anzuklopfen, wenn du dich auf die Stelle als Lead AI OPS Engineer bewirbst – so wissen sie gleich, was sie von dir erwarten können!
✨Nutze Jobplattformen speziell für Tech-Jobs!
Plattformen wie Stack Overflow Jobs oder AngelsList sind perfekte Orte, um Vollzeitstellen in der Software-Entwicklung zu finden. Hier sind viele tolle Unternehmen auf der Suche nach Talenten wie uns, also schau regelmäßig vorbei und bewirb dich direkt über die Website.
✨Such dir Mentoren und Feedback!
Hol dir Feedback von erfahrenen Entwicklern, die dir Tipps geben können, was Recruiter wirklich suchen. Ob über LinkedIn oder persönliche Kontakte: Menschen, die sich in der Branche auskennen, können enorm wertvoll sein, um dir zu helfen, dich optimal auf deine Bewerbung bei EPAM Systems vorzubereiten!
Wir glauben, dass du diese Fähigkeiten brauchst, um Lead AI OPS Engineer mit Bravour zu bestehen
Einige Tipps für deine Bewerbung 🫡
Highlights deiner Coding-Skills:In der Software-Entwicklung kommt es auf konkrete Fähigkeiten an. Vergiss nicht, relevante Programmiersprachen und Frameworks in deinen Lebenslauf aufzunehmen. Zeig uns, was du kannst – vielleicht mit einem Link zu deinem GitHub-Profil oder einer Übersicht deiner Side Projects, die deine Programmierkenntnisse illustrieren.
Dokumentation deiner Erfolge:Gerade bei einer Vollzeitstelle in der Software-Entwicklung sind konkrete Ergebnisse Gold wert. Nenn uns Zahlen und Ergebnisse aus deinen vorherigen Projekten. Hast du den Code optimiert oder Systemfehler behoben? Solche Erfolge zeigen, dass du die Sprache der Entwickler sprichst und einen echten Mehrwert bringst.
Attraktive Projektbeschreibungen:Wenn du an Projekten gearbeitet hast, die hervorstechen, beschreibe sie ausführlich in deinem Lebenslauf. Was war das Problem, das du gelöst hast? Welche Technologien hast du eingesetzt? Das gibt uns einen klaren Einblick in deine Herangehensweise und Problemlösungsfähigkeiten.
Motivation zeigen:In deinem Anschreiben solltest du deine Motivation für die Stelle im Bereich Software-Entwicklung bei EPAM Systems klar herausstellen. Warum sprichst gerade du die Anforderungen für diese Vollzeitrolle an? Mach deutlich, was dich an der Arbeit bei uns reizt und wie du über das rein Technische hinaus wachsen möchtest.
Wie man sich auf ein Vorstellungsgespräch bei EPAM Systems vorbereitet
✨Technische Vorbereitung auf die Coding-Challenges
In der Software-Entwicklung sind technische Fragen oft ein zentraler Teil des Interviews. Macht euch mit Plattformen wie LeetCode oder HackerRank vertraut, um eure Problemlösungsfähigkeiten zu trainieren. Zeigt im Interview viel Selbstbewusstsein beim Erklären eurer Ansätze!
✨Das eigene Portfolio im besten Licht präsentieren
Stellt sicher, dass ihr ein aussagekräftiges Portfolio habt, das einige eurer besten Projekte zeigt. Seid bereit, darüber zu sprechen, was eure Rolle war, welche Technologien ihr verwendet habt und welche Herausforderungen es gab. Das gibt den Interviewern einen Einblick in eure praktische Erfahrung.
✨Teamfähigkeit und Kommunikation betonen
In einer Vollzeit-Position wird Kommunikation im Team sehr wichtig sein. Seid bereit, Beispiele aus der Vergangenheit zu teilen, in denen ihr effektiv im Team gearbeitet habt. Dies zeigt, dass ihr nicht nur technische Fähigkeiten habt, sondern auch gut ins Team passt.
✨Vorbereitung auf Fragen zur Software-Architektur
Bereitet euch darauf vor, Fragen zur Software-Architektur zu beantworten. Themen wie RESTful APIs, Microservices und Cloud-Architekturen können Teil eures Interviews sein. Zeigt euer Verständnis durch Diskussionen und Beispiele aus eurer bisherigen Arbeit oder Projekte.
