Head of AI Engineering (f/m/x)

Ihre Mission

Über neoshare

Wir sind ein in München ansässiges AI-first Fintech-Scale-up (gegründet 2019) mit Büros in München, Frankfurt, Berlin und Sofia. Unsere SaaS-Plattform bringt Banken, Investoren und Berater zusammen, um bei komplexen Finanzgeschäften zusammenzuarbeiten und die Due Diligence schneller, intelligenter und transparenter zu gestalten. Unsere KI-Funktionen sind bereits bei führenden Banken im Einsatz. Jetzt skalieren wir.

Die Rolle

Leiten und entwickeln Sie unsere KI-Engineering-Funktion – transformieren Sie ein 15–20-köpfiges ML-Team von forschungsintensiv zu einer leistungsstarken, produktionsfähigen Organisation. Sie arbeiten mit dem CTO an der Strategie, bauen die Plattform, die den Zugriff auf LLMs, RAG und Backend-Dienste vereint, und liefern zuverlässige, skalierbare KI-Funktionen, die die Arbeitsweise der Banken verändern.

Wesentliche Verantwortlichkeiten

• Teamführung und Organisationsaufbau: Einstellen, Mentoring und Entwicklung eines leistungsstarken Teams; Festlegung des technischen Standards, der Betriebsabläufe und der Code-/Forschungsüberprüfungspraktiken. Organisieren von Unterteams (z.B. Core Modeling, AI Platform/Infra, Integrationen) mit klarer Verantwortung, SLOs und Bereitschaftsdiensten. Verwalten von Roadmaps, Kapazitätsplanung und Lieferung über parallele Initiativen.
• Architektur und Plattform: Verantwortung für das LLM-Gateway: einheitliche APIs und Proxy-Schichten für Multi-Provider-Routing (OpenAI, Gemini, Bedrock), mit Ratenlimits, Fallbacks und Kostenverfolgung. Aufbau leistungsstarker RAG-Pipelines (Eingabe, Einbettungen, Vektorspeicher, Caching) mit robuster Beobachtbarkeit und Sicherheitsvorkehrungen. Zusammenarbeit mit Java/NestJS-Teams zur Definition sauberer asynchroner Verträge, Schemata und Ereignismuster; Förderung latenzarmer, skalierbarer Inferenz.
• Modelllebenszyklus und Betrieb: Leitung des End-to-End-Modells und des Prompt-Lebenszyklus: Datenkuratierung, Training/Fine-Tuning, Bewertung, Bereitstellung, Rückgängigmachung. Etablierung von LLMOps/MLOps: Modell-/Prompt-Register, CI/CD, Canary/A/B-Tests, Offline/Online-Bewertungen, Drift- und Kostenüberwachung. Optimierung der Inferenzdurchsatz und -kosten (Autoskalierung, Batching, Quantisierung/Destillation, Caching).
• Strategie und Zusammenarbeit: Übersetzung der Unternehmensziele in eine AI/ML-Roadmap mit messbaren Ergebnissen; Balance zwischen Erkundung, Zuverlässigkeit und Kosten. Verantwortung für die Build-vs-Buy/Vendor-Strategie für Modelle, Infrastruktur und Datendienste; Verwaltung von Budgets und SLAs.
• Governance und Sicherheit: Implementierung von Datenschutz-, Sicherheits- und Compliance-Praktiken (RBAC, Geheimnisse, Nachvollziehbarkeit); Verfolgung der Prompt-/Modell-Herkunft und Reproduzierbarkeit. Definition von Vorfallreaktionen, Handbüchern und Nachbesprechungen für KI-Funktionen.

Ihr Profil

• 5+ Jahre Erfahrung als Backend-Entwickler und 4+ Jahre Leitung von AI/ML-Engineering in der Produktion (idealerweise 10+ Jahre Gesamterfahrung).
• Tiefe Architekturkenntnisse in Java (JVM) und/oder Node.js (NestJS), verteilte Systeme, APIs, Microservices und Messaging/Streaming.
• Praktische Erfahrung mit LLM-Stacks: Orchestrierung (z.B. LangChain/LlamaIndex oder benutzerdefiniert), Vektor-Datenbanken (Pinecone, Qdrant, FAISS), Cloud-KI (z.B. AWS Bedrock).
• Nachweisliche Betriebsführung von Systemen im großen Maßstab (Millionen täglicher API-Aufrufe) mit starken SLOs, Beobachtbarkeit und Vorfallmanagement.
• MLOps-Grundlagen: Modellregister, Experimentverfolgung, CI/CD, Kubernetes, IaC (z.B. Terraform), bewährte Sicherheitspraktiken.
• Exzellente Kommunikations- und Stakeholder-Managementfähigkeiten; starkes Produktbewusstsein, das sich auf die Bereitstellung benutzerorientierter Funktionen konzentriert.

Nice to have

• Erfahrung mit GPU/Beschleuniger-Diensten und -Optimierung (vLLM, TGI, Triton, ONNX Runtime).
• Kostenoptimierung für LLM-Workloads (Tokenbudgets, dynamisches Routing, Caching).
• Bewertung und Sicherheit/Red-Teaming für generative Systeme; Erfahrung in Startups/hochwachstumsorientierten Unternehmen.

Wirkungsmetriken

• Plattform: Einführung eines einheitlichen LLM-Gateways; standardisierte Beobachtbarkeit und Kostenberichterstattung.
• Lieferung: 2–3 benutzerorientierte KI-Funktionen mit klaren SLOs und messbarem Einfluss bereitgestellt.
• Zuverlässigkeit/Kosten: Reduzierung der durchschnittlichen Latenz und Kosten pro Anfrage; Autoskalierung und Caching implementiert.
• Organisation: Struktur der Unterteams etabliert; verbesserte Codequalität und pünktliche Lieferung; gezielte Einstellungen abgeschlossen.

Unser Stack

• Backend: Java (JVM), Node.js (NestJS); ereignisgesteuerte Microservices; API-Gateways/Proxys.
• KI-Plattform: Python, PyTorch, LLM-Orchestrierung, Prompt-Pipelines/Register; Vektor-Datenbanken (Pinecone, Qdrant); RAG-Dienste.
• Infra/DevOps: AWS (einschließlich Bedrock), Kubernetes, Terraform, CI/CD, Beobachtbarkeit (OpenTelemetry, Prometheus/Grafana).

Warum wir?

• Internationales & inklusives Team: Zusammenarbeit mit vielfältigen Teams an unseren Standorten in München, Frankfurt, Berlin und Sofia.
• Moderne & hundefreundliche Büros: Ergonomisch, grün und inspirierend für Zusammenarbeit und Produktivität.
• Flexibilität: 30 Urlaubstage, flexible Arbeitszeiten.
• Sonderurlaub: Zusätzlicher halber Tag frei an Heiligabend und Silvester.
• Workation: Arbeiten Sie für einen begrenzten Zeitraum jedes Jahr von ausgewählten Zielen aus.
• Wohlbefinden & Mobilitätsleistungen: Unterstützung für Wohlbefinden und nachhaltigen Lebensstil: Urban Sports/EGYM Club-Zuschuss: Monatliche Unterstützung für Ihre Mitgliedschaft. Jobticket: 50% monatlicher Zuschuss für das Deutschlandticket. JobRad: Leasing von Fahrrädern oder E-Bikes zu attraktiven Konditionen.

Kandidaten müssen das Recht haben, in der EU zu arbeiten; eine Visumsponsoring wird für diese Rolle nicht angeboten.