Llm Operations Engineer 80-100 %

Das macht die Stelle attraktiv:

Gestalte die Zukunft unserer KI – sicher, effizient und verantwortungsvoll.

«Du möchtest nicht nur über künstliche Intelligenz sprechen, sondern ihre Performance, Sicherheit und Konformität im täglichen Betrieb aktiv mitgestalten? Dann bist du bei uns richtig. Wir suchen einen engagierten LLM Operations Engineer, der den Betrieb und die kontinuierliche Weiterentwicklung unserer eigenen KI-Plattform mitverantwortet. Du spielst eine zentrale Rolle dabei, unsere KI-Anwendungen in einem regulierten, anspruchsvollen Umfeld stabil und compliant zu betreiben – mit Fokus auf Skalierung, Automatisierung und Sicherheit.»
Christopher Köhldorfer, Head of Business Transformation

Deine Aufgaben

• Überwachung und kontinuierliche Optimierung der LLM-Modelle im Produktivbetrieb (Responsezeiten, Skalierung, Nutzung)

• Entwicklung und Wartung von AI-Assistenten mit LLMs, OCR, Workflows, Agenten

• Einbindungen von firmeninternen und -externen Datenquellen und Tools mit MCP, Azure AI Search, RAG

• Bereitstellung von AI-Assistenten und Diensten über REST-API-Schnittstellen (FastAPI, OpenAPI)

• Implementierung von Sicherheits- und Datenschutzmassnahmen nach DSGVO und KI-Verordnung der EU

• Containerisierung & Orchestrierung mit Docker, Kubernetes, Helm

• Integration von Monitoring-Tools wie Prometheus, Grafana oder Azure Monitor zur lückenlosen Nachverfolgbarkeit

• Automatisierung von Deployments (Flux, Terraform, Gitlab Pipelines)

• Enge Zusammenarbeit mit Data Engineers, Compliance-Experten und Entwicklern für eine sichere Assistentenbereitstellung (künftig Agenten)

• Mitwirkung bei Auswahl, Feinjustierung und Testen neuer Modelle (OpenAI, Azure AI, Hugging Face)

Dein Profil

• Fundierte Erfahrung im Betrieb von KI-Anwendungen, idealerweise in regulierten Branchen (Banken, Versicherungen, FinTech)

• Kenntnisse in Python (FastAPI, LangChain), SQL und API-Design (OpenAPI)

• Erfahrung mit Cloud-Plattformen (Azure AI Foundry, Azure Document Intelligence, Azure AI Search, OpenAI API) und Infrastructure-as-Code

• Erfahrung mit DevOps- und Security-Tools (Flux, Gitlab Pipelines, Terraform)

• Verständnis für IT-Security, IAM, Logging & Audit-Fähigkeit

• Interesse an neuen Technologien, strukturiertes Arbeiten und hohe Eigenverantwortung

• Sehr gute Deutsch- und Englischkenntnisse (Niveau C1/C2)

Deine Benefits

• Kurze Entscheidungswege
  Bei uns kannst du direkt und schnell handeln – flache Hierarchien machen es möglich
• Gesundheit und Freizeit im Fokus
  Wir bieten dir ein vielseitiges, internes Programm zur Gesundheitsförderung und Freizeitgestaltung – weil uns dein Wohlbefinden am Herzen liegt
• Fitness im Haus
  Bleibe in Form und nutze unser hauseigenes Fitnesscenter mit modernen Geräten sowie einem vielseitigen Angebot an Gruppenkursen
• Moderne Arbeitsplätze
  Freu dich auf einen komfortablen Arbeitsplatz mit höhenverstellbaren Tischen und ergonomischer Ausstattung
• Junge und dynamische Teams
  Werde Teil eines motivierten Teams voller Teamgeist und Energie. Wir arbeiten Hand in Hand für gemeinsame Erfolge
• Flexibilität, die zu dir passt
  Geniesse flexible Arbeitszeiten und bis zu 28 Urlaubstagen – je nach Alter
• Zusätzliche freie Tage
  Profitiere von bis zu 22 Feiertagen jährlich

Warum du zu uns passt:

Du verstehst KI nicht nur als Technologie, sondern als Verantwortung. In dieser Position entwickelst du nicht nur Lösungen – du gestaltest aktiv die zukünftige Arbeitsweise bei der Bank Frick mit. Bei uns kannst du deine technische Exzellenz mit regulatorischem Bewusstsein und Innovationsgeist verbinden.

Du hast Fragen zum Bewerbungsprozess? Dann melde dich bei Silvan Flessati im Recruiting-Office: telefonisch unter