Senior MLOps / LLMOps Engineer (m/f/d)

Scout24 ist die Heimat von ImmoScout24, Deutschlands Nr. 1 für Immobilien. Mit ImmoScout24 revolutionieren wir seit über 25 Jahren den Immobilienmarkt in Deutschland und Österreich. Unser Ziel ist es, ein digitales Ökosystem zu schaffen, das Hausbesitzer, Suchende und Makler zusammenbringt. Die Suche nach dem richtigen Zuhause und der richtigen Immobilie ist eine der wichtigsten Entscheidungen im Leben. So ist auch Ihre Karriere!

#WorkingatScout24 bedeutet, Teil eines vielfältigen und inklusiven Teams von rund 1100 Kollegen und 58 Nationalitäten zu sein. Wir schätzen Unterschiede und feiern Individualität. Durch die Förderung von Offenheit und Authentizität ermöglichen wir eine echte Lernkultur und bereiten den Boden für persönliche Entwicklung. Fehler sind eine Chance zu wachsen und zu innovieren. Gemeinsam handeln wir proaktiv, streben nach Verbesserung und übernehmen Verantwortung. Wir sprechen über Erfolg und Herausforderungen, während wir uns gegenseitig mit Respekt behandeln, denn wir sind #oneteam.

Wenn das interessant für Sie klingt, würden wir uns freuen, Sie bei uns willkommen zu heißen! Selbst wenn Sie möglicherweise nicht alle Anforderungen der Stelle erfüllen, freuen wir uns, von dem Wert zu hören, den Sie zum Team beitragen können. Wachsen Sie mit uns!

Zusätzlich zu unseren Mitarbeitern und der Unternehmenskultur bieten wir großartige Vorteile, die Scout24 zu einem großartigen Arbeitsplatz machen!

• Vergütung: Ein wettbewerbsfähiges Gehaltspaket und einen Bonus obendrauf.
• Flexibilität: Wir bieten ein hybrides Arbeitsmodell mit drei Tagen vor Ort im Büro pro Woche, und Sie können die verbleibenden Tage nach Belieben organisieren. Wir bieten Ihnen 30 Tage Urlaub pro Jahr.
• Arbeiten aus dem Ausland: Wir bieten Ihnen die Möglichkeit, 10 Tage pro Jahr aus dem Ausland zu arbeiten, vorbehaltlich der geschäftlichen Anforderungen des Unternehmens und des Teams.
• Umzug: Unsere Umzugsagentur unterstützt Sie bei Ihrem Visumprozess und einem attraktiven Umzugspaket.
• Entwicklung: Dedizierte Lernzeit pro Monat, Online-Kurse auf unserer ScoutAcademy, regelmäßige Buchherausforderungen, strukturiertes Feedback, Lunch & Learn-Events und individuelle Karrierewege, um Ihre Karriere auf die nächste Stufe zu bringen.
• Familienservice: Wir unterstützen Sie mit einem professionellen Familienservice, der Ihnen hilft, einen Kindergarten zu finden oder Notfallbetreuung anzubieten.
• Furry feel good manager: Bringen Sie Ihren Hund zur Arbeit (nach Genehmigung, da wir das Wohlbefinden unserer Mitarbeiter priorisieren und sicherstellen, dass unsere Hundepolitik Rücksicht auf allergische Personen nimmt und Überfüllung auf jeder Büroetage verhindert).
• Mobilität: Wir subventionieren öffentliche Verkehrsmittel oder Job Bikes.
• Engagement für Nachhaltigkeit und Vielfalt, Chancengleichheit & Inklusion (DEI): Wir haben klare Umwelt- und Klimaschutzziele und engagieren uns das ganze Jahr über in sozialen Aktivitäten und gemeinnützigen Organisationen. Wir leben Vielfalt.
• Betriebliche Altersvorsorge: Wir bieten eine betriebliche Altersvorsorge und unterstützen Ihren eigenen Beitrag mit einem attraktiven Zuschuss.
• Innovativstes Büro: Unser Büro ist barrierefrei und im Herzen Berlins direkt am Hauptbahnhof. Es wurde für das innovativste Bürokonzept ausgezeichnet.
• Gesundheit: Lebenssituations-Coaching, regelmäßige Gesundheitschecks.
• Technologie: Wir arbeiten mit den neuesten technischen Werkzeugen und Hardware.

Ihre Rolle wird folgendermaßen aussehen:

• Entwurf und Wartung skalierbarer ML/LLM-Infrastruktur und -Pipelines.
• Produktion traditioneller ML- und generativer KI-Lösungen mit funktionsübergreifenden Produktteams.
• Verantwortung für den ML/LLMOps-Lebenszyklus: Prompting, Bereitstellung, Überwachung, Bewertung und Optimierung.
• Aufbau und Weiterentwicklung eines LLM-Gateway-Dienstes zur Standardisierung des Zugriffs, der Weiterleitung und der Governance.
• Entwicklung von Bewertungsrahmen zur Messung der Qualität, Leistung und Zuverlässigkeit von LLM-Ausgaben.
• Entwurf und Implementierung von MCP-kompatiblen Diensten zur Ermöglichung des standardisierten Kontextaustauschs zwischen LLMs, Tools und Datenquellen.
• Integration von MCP in interne Plattformen zur Unterstützung der Nutzung von Tools, Abruf und agentenbasierten Workflows über Teams hinweg.
• Arbeiten mit AWS und Integration selbst gehosteter Open-Source-KI-Modelle für skalierbare, sichere Anwendungen.
• Sicherstellung von Beobachtbarkeit, Kosteneffizienz und Systemleistung.
• Beitrag zum Projektmanagement, Stakeholder-Kommunikation und funktionsübergreifender Zusammenarbeit.

Was Sie benötigen, um erfolgreich zu sein:

• Starke Erfahrung in MLOps (CI/CD, Docker, Kubernetes) und im Betrieb produktionsreifer Systeme.
• Kenntnisse in Python sowie solide Softwareentwicklungs- und skalierbare Systemdesignfähigkeiten.
• Praktische Erfahrung mit LLMs und generativen KI-Technologien (z.B. GPT, Gemini oder Anthropic-ähnliche Modelle).
• Expertise in Prompt Engineering, Agentenorchestrierung, Kontextmanagement und Ausgabevalidierung.
• Erfahrung mit LLM-Bewertungsrahmen und der Bereitstellung selbst gehosteter LLMs.
• Vertrautheit mit Cloud-Plattformen (z.B. AWS, GCP) sowie DevOps-, Test- und Beobachtungspraktiken.
• Starke Kommunikationsfähigkeiten und die Fähigkeit zur Zusammenarbeit mit funktionsübergreifenden Teams und Stakeholdern.

Wir streben an, die Vielfalt unseres Unternehmens weiter zu erhöhen und die berufliche Entwicklung von Menschen mit Behinderungen zu unterstützen. Wir haben einen Behindertenvertreter, der Sie während des Bewerbungsprozesses unterstützt. Wenn Sie diese Unterstützung benötigen, lassen Sie es uns bitte im Voraus wissen.