System Engineer - AI Engineer in Prilly

Wir suchen einen System Engineer — AI Engineer, um Open-Source-Modelle und das dazugehörige Ökosystem in Produktionsdienste zu integrieren, die vor Ort in unseren Rechenzentren laufen. Sie werden Teil eines erfahrenen und begeisterten Teams mit einem großartigen Teamgeist, in dem Wissen geteilt wird, anstatt es zu horten. Die Dienste sind geschäftskritisch, daher teilt das Team eine 24/7 Bereitschaftsrotation.

Was Sie tun werden:

• Sie übernehmen Ihre Lösungen von Anfang bis Ende — vom Verständnis des Geschäftsbedarfs bis hin zum Betrieb in der Produktion.
• Analysieren Sie den Bedarf mit den Stakeholdern, fordern Sie ihn heraus und verwandeln Sie ihn in ein Design, das unseren Einschränkungen entspricht — dann implementieren, testen, dokumentieren und liefern Sie.
• Übernehmen Sie Verantwortung über den Code hinaus: Zeitpläne, Abhängigkeiten, Kommunikation mit Stakeholdern und die Entscheidungen, die damit verbunden sind.
• Bewerten, auswählen und bereitstellen von Open-Source-Modellen (LLMs, Embeddings, Rerankers, Speech) und betreiben Sie die selbstgehosteten Inferenzstacks dahinter (vLLM, Ollama) mit sinnvoller Quantisierung, Batching und Modellrouting.
• Bauen Sie die Anwendungsschicht — RAG-Pipelines, Agenten, Toolaufrufe, strukturierte Ausgaben — und übernehmen Sie den Datenpfad dahinter: Eingabe, Chunking, Embeddings, Vektorspeicher, Abrufqualität.
• Bauen Sie Evaluierungswerkzeuge und Benchmarks, damit Modellentscheidungen gemessen und nicht geraten werden.
• Integrieren Sie das Ökosystem rund um die Modelle: Gateways, Orchestrierungsframeworks, Modellregistrierungen, Beobachtbarkeit und Nachverfolgung.
• Optimieren Sie für Latenz, Durchsatz und GPU-Nutzung; kümmern Sie sich um Kapazitätsplanung, Terminierung und Produktionsüberwachung — und debuggen Sie Regressionen, wenn sich ein Modell oder eine Version ändert.
• Nehmen Sie an der 24/7 Bereitschaftsrotation des Teams teil, mit Vergütung und Freizeitausgleich — und verbessern Sie die Betriebsanleitungen, Alarmierung und Automatisierung, sodass ruhige Abende die Norm sind und nicht die Ausnahme.

Was Sie mitbringen:

• Master-Abschluss in Informatik oder gleichwertig, mit praktischer Erfahrung in der Arbeit mit LLM-basierten Systemen.
• Systemengineering-Erfahrung auf Linux und Kubernetes.
• Starke Python-Kenntnisse; vertraut mit Produktionspraktiken (Testing, CI/CD, Code-Review).
• Starke SQL-Kenntnisse.
• Erfahrung im Selbsthosting und Bereitstellen von Open-Source-Modellen.
• Praktisches Wissen über Abruf, Embeddings und Vektordatenbanken.
• Praktische Fähigkeiten: keine Scheu davor, einen Server zu verkabeln oder eine GPU auszutauschen.
• Autonomie und ein Gefühl von Eigenverantwortung — Sie verfolgen ein Thema bis zur Lieferung, anstatt es abzugeben.
• Bereitschaft, an einer 24/7 Bereitschaftsrotation teilzunehmen, und die Gelassenheit, unter Druck methodisch zu bleiben.
• Pragmatismus in Bezug auf Open-Source-Tools — in der Lage, ein solides Projekt von einem gehypten zu unterscheiden.

Schön zu haben:

• GPU-Betrieb: Treiber, CUDA, MIG, Geräte-Plugins, Planung auf Kubernetes.
• Optimierung der Inferenz (TensorRT-LLM, ONNX, spekulative Dekodierung, KV-Cache-Tuning).
• Leichte Anpassungstechniken (LoRA/QLoRA-Adapter auf bestehenden Open-Source-Modellen).
• Speicher- und Netzwerkdesign für KI-Workloads.
• Erfahrung mit KI-Sicherheit, Schutzmaßnahmen und verantwortungsvollen Bereitstellungspraktiken.
• Beiträge zu Open-Source-KI-Projekten.

Was wir bieten:

• Freundliches und dynamisches Umfeld, in dem Proaktivität und persönliches Engagement hoch geschätzt werden.
• Wettbewerbsfähiges Gehalt und Leistungssystem, sehr attraktive Bedingungen für die Altersvorsorge.
• Flexible Arbeitszeiten mit 6 Wochen Urlaub.
• Moderne und ergonomische Arbeitsplätze.
• Verschiedene Zusatzleistungen.
• Kostenloses Mobilfunkabonnement und Rabatte auf unsere Produkte.
• Möglichkeit, Ihre Fähigkeiten und Erfahrungen aufgrund eines sich schnell bewegenden und komplexen Telekommunikationsumfelds zu erweitern.
• Ein vollständiger Open-Source-KI-Stack, der vor Ort in unseren Rechenzentren läuft — Sie besitzen die Hardware, nicht die Abstraktion eines anderen.

Haben Sie immer davon geträumt, einen Job in einem vielfältigen und erfrischenden Umfeld zu haben? Dann müssen wir uns wirklich treffen. Bitte bewerben Sie sich online (wir akzeptieren nur Online-Bewerbungen mit Lebenslauf, Arbeitszeugnissen, Diplomen).