AI Platform Engineer (m/f/x)

Als AI Platform Engineer, der in unserem Data Science und AI-Team eingebettet ist, entwerfen und pflegen Sie die grundlegende Infrastruktur, die es unseren AI Software Engineers ermöglicht, generative AI-Anwendungen zu entwickeln und zu skalieren. Sie werden unsere interne AI-Bereitstellungsplattform aufbauen, mit dem Fokus auf nahtlosen Modellzugang, Beobachtbarkeit und strenge Governance. In dieser Rolle stellen Sie sicher, dass unsere AI-Integrationen sicher, leistungsfähig und kosteneffektiv sind und das robuste Rückgrat für unsere agentischen und LLM-gesteuerten Workflows bieten.

Verantwortlichkeiten

• Entwicklung und Wartung einer internen AI-Bereitstellungsplattform zur Optimierung des Zugangs zu verschiedenen LLMs & MCP-Servern (z.B. über LiteLLM).
• Implementierung umfassender LLM-Beobachtungs-, Protokollierungs- und Alarmsysteme mit Tools wie Datadog und Langfuse.
• Durchsetzung der Modellgovernance, um Sicherheit, Datenschutz, Ratenbegrenzung und strikte Kostenverwaltung der LLM-APIs sicherzustellen.
• Enge Zusammenarbeit mit eingebetteten AI Software Engineers zur Unterstützung cloud-nativer Architekturen und agentischer Workflow-Integrationen.
• Aufbau und Wartung der Infrastruktur zur Überwachung der Zuverlässigkeit und Leistung von Produktions-AI-Systemen.

Qualifikationen

• Abschluss (Bachelor oder Master) in Informatik, Software Engineering oder einem verwandten Bereich.
• Mindestens 2 Jahre Berufserfahrung in der Plattformtechnik, DevOps, SRE oder Backend-Softwareentwicklung.
• Starke Erfahrung und Vertrauen im Umgang mit Cloud-Infrastruktur (AWS bevorzugt) und Infrastructure as Code (Terraform).
• Kenntnisse in mindestens einer Programmiersprache (z.B. Python, Go) sowie Erfahrung mit CI/CD-Pipelines und Containerisierung (z.B. Docker).
• Solides Verständnis von API-Kostenmanagement, Ratenbegrenzung, bewährten Sicherheitspraktiken und Datenschutz für AI-Modelle.
• Erfahrung mit oder große Bereitschaft zu lernen über LLM-Gateways, Beobachtungsplattformen und Telemetrie (z.B. LiteLLM, Langfuse, Datadog).
• Starke Problemlösungsfähigkeiten, ein Sinn für Humor und die Fähigkeit, in einer ego-freien Umgebung als eingebetteter Plattformexperte innerhalb eines funktionsübergreifenden Data Science und AI-Teams zu gedeihen.

Zusätzliche Informationen

• Seien Sie Teil eines der am schnellsten wachsenden und sichtbarsten Fintech-Startups in Europa, das innovative Dienstleistungen schafft, die einen erheblichen Einfluss auf das Leben unserer Kunden haben.
• Arbeiten Sie mit einem internationalen, vielfältigen, inklusiven und ständig wachsenden Team, das es liebt, die besten Produkte für unsere Kunden zu schaffen.
• Seien Sie produktiv mit der neuesten Hardware und den neuesten Tools.
• Lernen und wachsen Sie, indem Sie an unseren internen Wissensaustausch- oder Karriereentwicklungssitzungen teilnehmen und Ihr individuelles Bildungsbudget nutzen.
• Lernen und erleben Sie die deutsche Kultur aus erster Hand, indem Sie an unseren kostenlosen Deutschkursen teilnehmen.
• Internationale Umzugshilfe wird bei Bedarf bereitgestellt.
• Gelegenheit, aus dem Ausland zu arbeiten.
• Profitieren Sie von einem attraktiven Vergütungspaket und von der betrieblichen Altersvorsorge.
• Monatlicher Beitrag von 50% für das „Deutschland Jobticket“.
• Verabschieden Sie sich von Auftragsprovisionen und begrüßen Sie Ihr kostenloses Abonnement des PRIME+ Brokers von Scalable Capital.
• Genießen Sie flexible und vergünstigte Sportaktivitäten mit Urban Sports Club.