ML Engineering Lead (LLM Ops) in Berlin

ML Engineering Lead (LLM Ops) in Berlin

Berlin Vollzeit 49500 - 60500 € / Jahr (geschätzt) Vor Ort
Neko Health AB

Auf einen Blick

  • Aufgaben: Leite das ML-Lifecycle-Management für innovative GenAI-Systeme und sorge für deren zuverlässigen Betrieb.
  • Unternehmen: MissionNeko, ein Unternehmen, das präventive Gesundheitsversorgung revolutioniert.
  • Vorteile: Wettbewerbsfähiges Gehalt, flexible Arbeitszeiten und die Möglichkeit, einen echten Unterschied zu machen.
  • Weitere Informationen: Dynamisches Umfeld mit großartigen Entwicklungsmöglichkeiten in einem zukunftsorientierten Unternehmen.
  • Warum dieser Job: Gestalte die Zukunft der Gesundheitsversorgung mit modernster Technologie und einem engagierten Team.
  • Qualifikationen: Erfahrung in MLOps, Python-Kenntnisse und praktische Erfahrung mit LLM-Anwendungen.

Das prognostizierte Gehalt liegt zwischen 49500 - 60500 € pro Jahr.

Mission

Neko is redefining what prevention means, from treating illness when it arrives, to sustaining health before it's ever at risk.

Our mission: make data-driven, preventative care accessible to more people, before symptoms appear.

Mission

Neko is redefining what prevention means, from treating illness when it arrives, to sustaining health before it's ever at risk.

Our mission: make data-driven, preventative care accessible to more people, before symptoms appear.

In a single, non-invasive visit under an hour, proprietary technology and direct clinical care combine to deliver personalised, actionable insights.

It's a team that thinks in 10x, not 10%.

Every role here plays a part in building a world where prevention is the norm, and where your work genuinely helps people live longer, healthier lives.

Role Purpose

This role owns the operational lifecycle of Neko's LLM, Gen AI and RAG based systems: deployment, monitoring, evaluation and iteration.

It builds the production grade platform that lets clinical ML and Gen AI workflows run reliably on proprietary sensor and device data, inside a regulated medical device QMS, across Skin, Cardio and other use cases.

The role sits within the ML Engineering Area and integrates tightly with the existing MLOps team rather than as a silo.

  • What You'll Deliver In The First 6-12 Months
  • Stand up MLflow Tracing observability, prompts, tool calls, retrievals, latency and cost, live across production LLM and agent pipelines.
  • Build an evaluation suite combining built-in and custom LLM judges and scorers, with a human-feedback loop via review apps, replacing today's ad hoc review.
  • Ship at least one RAG or agentic pipeline to production with prompt and application versioning through the MLflow Prompt Registry and Unity Catalog, enabling safe rollout, A/B testing and rollback.
  • Produce a documented cost, latency and GPU capacity framework for choosing serving strategy: third party API versus Databricks External Models versus self-hosted.
  • Integrate LLM Ops tightly with the existing MLOps team so it operates as a natural extension of the platform rather than a separate track, protecting reliability on clinical workflows.
  • Minimum Qualifications
  • Solid MLOps fundamentals across the full lifecycle, experiment tracking, training and monitoring, demonstrated through independent ownership of complex, production grade work.
  • Fluent in Python and core ML concepts, with a track record of shipping end-to-end production ML systems and platformisation initiatives.
  • Practical, hands-on experience building LLM or Gen AI applications: prompt engineering, RAG, agents or chains, using frameworks such as Lang Chain, Lang Graph, or comparable orchestration tools.
  • Working knowledge of Py Torch, distributed systems and ML orchestration.
  • Conceptual understanding of LLM-specific MLOps trade-offs: fine-tuning versus prompting versus RAG, vector databases, embedding models, and human-feedback loops for non-deterministic outputs.

Hands-on fine-tuning ownership is not required, as execution sits with a separate track.

  • Genuine, demonstrable motivation for LLM, Gen AI and RAG work specifically, not generic MLOps, and the ability to navigate complex systems spanning the medical domain, regulation, firmware and hardware.
  • Preferred Qualifications
  • Experience with agentic or AI-assisted coding workflows, provided you retain full ownership and understanding of the resulting output.
  • Kubernetes and Terraform, useful for infrastructure as code or self-hosting fine-tuned or open-source models outside managed serving.
  • Exposure to LLM evaluation and observability practices: tracing, LLM-as-judge, guardrails and safety scorers. Databricks MLflow 3 for Gen AI experience is a strong plus.
  • Comfort navigating a fast-moving tools and platform ecosystem, and distilling recommendations relevant to Neko's specific context.

ML Engineering Lead (LLM Ops) in Berlin Arbeitgeber: Neko Health AB

Mission Neko ist ein hervorragender Arbeitgeber, der sich leidenschaftlich für die Verbesserung der präventiven Gesundheitsversorgung einsetzt. Mit einem starken Fokus auf Teamarbeit und persönliches Wachstum bietet das Unternehmen eine inspirierende Arbeitsumgebung, in der Mitarbeiter die Möglichkeit haben, innovative Algorithmen zu entwickeln und gleichzeitig als Mentoren für andere zu fungieren. Die Unternehmenskultur fördert Zusammenarbeit und Kreativität, während die Lage des Unternehmens in einem dynamischen Umfeld den Zugang zu modernster Technologie und interdisziplinären Projekten ermöglicht.

Neko Health AB

Kontaktdaten:

Neko Health AB Recruiting-Team

StudySmarter Expertenrat🤫

Wir sind der Meinung, dass du so ML Engineering Lead (LLM Ops) in Berlin erhalten könntest

✨Engagier dich in Entwickler-Communities!

Lass uns mal ehrlich sein: In der Software-Entwicklung sind Netzwerke Gold wert! Tummel dich in GitHub-Projekten, nehme an lokalen Meetups oder Hackathons teil und vernetze dich mit anderen Entwicklern. So steigerst du nicht nur deine Sichtbarkeit, sondern lernst auch die neuesten Trends und Technologien kennen.

✨Zeig deine Fähigkeiten!

Erstelle ein Portfolio, das deine besten Projekte und Code-Examples zeigt. Nichts überzeugt mehr als ein praktischer Beweis deiner Skills. Das kann auch helfen, bei Neko Health AB anzuklopfen, wenn du dich auf die Stelle als ML Engineering Lead (LLM Ops) bewirbst – so wissen sie gleich, was sie von dir erwarten können!

✨Nutze Jobplattformen speziell für Tech-Jobs!

Plattformen wie Stack Overflow Jobs oder AngelsList sind perfekte Orte, um Vollzeitstellen in der Software-Entwicklung zu finden. Hier sind viele tolle Unternehmen auf der Suche nach Talenten wie uns, also schau regelmäßig vorbei und bewirb dich direkt über die Website.

✨Such dir Mentoren und Feedback!

Hol dir Feedback von erfahrenen Entwicklern, die dir Tipps geben können, was Recruiter wirklich suchen. Ob über LinkedIn oder persönliche Kontakte: Menschen, die sich in der Branche auskennen, können enorm wertvoll sein, um dir zu helfen, dich optimal auf deine Bewerbung bei Neko Health AB vorzubereiten!

Wir glauben, dass du diese Fähigkeiten brauchst, um ML Engineering Lead (LLM Ops) in Berlin mit Bravour zu bestehen

MLOps
Python
ML Konzepte
LLM Anwendungen
Prompt Engineering
RAG
Agenten oder Ketten

Einige Tipps für deine Bewerbung 🫡

Highlights deiner Coding-Skills:In der Software-Entwicklung kommt es auf konkrete Fähigkeiten an. Vergiss nicht, relevante Programmiersprachen und Frameworks in deinen Lebenslauf aufzunehmen. Zeig uns, was du kannst – vielleicht mit einem Link zu deinem GitHub-Profil oder einer Übersicht deiner Side Projects, die deine Programmierkenntnisse illustrieren.

Dokumentation deiner Erfolge:Gerade bei einer Vollzeitstelle in der Software-Entwicklung sind konkrete Ergebnisse Gold wert. Nenn uns Zahlen und Ergebnisse aus deinen vorherigen Projekten. Hast du den Code optimiert oder Systemfehler behoben? Solche Erfolge zeigen, dass du die Sprache der Entwickler sprichst und einen echten Mehrwert bringst.

Attraktive Projektbeschreibungen:Wenn du an Projekten gearbeitet hast, die hervorstechen, beschreibe sie ausführlich in deinem Lebenslauf. Was war das Problem, das du gelöst hast? Welche Technologien hast du eingesetzt? Das gibt uns einen klaren Einblick in deine Herangehensweise und Problemlösungsfähigkeiten.

Motivation zeigen:In deinem Anschreiben solltest du deine Motivation für die Stelle im Bereich Software-Entwicklung bei Neko Health AB klar herausstellen. Warum sprichst gerade du die Anforderungen für diese Vollzeitrolle an? Mach deutlich, was dich an der Arbeit bei uns reizt und wie du über das rein Technische hinaus wachsen möchtest.

Wie man sich auf ein Vorstellungsgespräch bei Neko Health AB vorbereitet

✨Technische Vorbereitung auf die Coding-Challenges

In der Software-Entwicklung sind technische Fragen oft ein zentraler Teil des Interviews. Macht euch mit Plattformen wie LeetCode oder HackerRank vertraut, um eure Problemlösungsfähigkeiten zu trainieren. Zeigt im Interview viel Selbstbewusstsein beim Erklären eurer Ansätze!

✨Das eigene Portfolio im besten Licht präsentieren

Stellt sicher, dass ihr ein aussagekräftiges Portfolio habt, das einige eurer besten Projekte zeigt. Seid bereit, darüber zu sprechen, was eure Rolle war, welche Technologien ihr verwendet habt und welche Herausforderungen es gab. Das gibt den Interviewern einen Einblick in eure praktische Erfahrung.

✨Teamfähigkeit und Kommunikation betonen

In einer Vollzeit-Position wird Kommunikation im Team sehr wichtig sein. Seid bereit, Beispiele aus der Vergangenheit zu teilen, in denen ihr effektiv im Team gearbeitet habt. Dies zeigt, dass ihr nicht nur technische Fähigkeiten habt, sondern auch gut ins Team passt.

✨Vorbereitung auf Fragen zur Software-Architektur

Bereitet euch darauf vor, Fragen zur Software-Architektur zu beantworten. Themen wie RESTful APIs, Microservices und Cloud-Architekturen können Teil eures Interviews sein. Zeigt euer Verständnis durch Diskussionen und Beispiele aus eurer bisherigen Arbeit oder Projekte.