Senior Software Engineer - AI/ML

Bei Mitratech sind wir ein Team von Technokraten, das sich auf den Aufbau von Produkten konzentriert, die die Abläufe in den Bereichen Recht, Risiko, Compliance und Personalwesen vereinfachen. Wir sind ein eng verbundenes, global verteiltes Team, das in einem Ökosystem gedeiht, das individuelle Exzellenz unterstützt und stolz auf seine vielfältige und inklusive Unternehmenskultur ist, die sich um großartige Menschenpraktiken, Lernmöglichkeiten und Spaß dreht! Unsere Kultur ist die ideale Mischung aus unternehmerischem Geist und Unternehmensinvestitionen, die die Möglichkeit bietet, mit einigen der komplexesten, modernsten Technologien schnell voranzukommen.

Wir suchen einen hochqualifizierten Senior Software Engineer, der sich auf Generative AI und Large Language Models spezialisiert hat, mit einem starken Fokus auf agentische Systeme, Retrieval-Augmented Generation und KI-Bewertungen, um unserem dynamischen Team beizutreten. Der ideale Kandidat wird eine entscheidende Rolle bei der Architektur und Bereitstellung von produktionsreifen KI-Lösungen spielen, die komplexe Geschäftsziele effektiv erfüllen.

Wesentliche Aufgaben und Verantwortlichkeiten:

• Entwurf, Aufbau und Betrieb von Multi-Agenten-Workflows und toolgestützten Agenten, Implementierung von Orchestrierungslogik, Zustandsmanagement, Sicherheitsvorkehrungen und Fallback-Strategien für resiliente Produktionspipelines.
• Architektur und Wartung von End-to-End-RAG-Systemen, einschließlich Dokumentenaufnahme, Chunking, Einbettung, Vektorrückgewinnung, Neurangierung und Antwortsynthese mit Fokus auf Qualität, Attribution und Latenz.
• Bewertung und Integration von LLMs und GenAI-Diensten in Bezug auf Kosten, Leistung und Datenschutz, Auswahl der richtigen Mischung aus verwalteten und internen Modellen.
• Entwicklung, Versionierung und Optimierung von Prompting-Strategien; Implementierung automatisierter Prompt-Tests und Rückverfolgung von Regressionen zur Aufrechterhaltung der Ausgabequalität und Zuverlässigkeit.
• Definition und Verantwortung für Bewertungsrahmen für generative Ausgaben, einschließlich automatisierter Metriken, LLM-as-Judge-Ansätze, menschliche Bewertungsprotokolle, Halluzinationsdetektion und Driftüberwachung.
• Anwendung klassischer NLP-Techniken, wo es angebracht ist, und Bewusstsein für Datenverteilungssch shifts, die das Modellverhalten in der Produktion beeinflussen könnten.
• Aufbau und Betrieb einer skalierbaren, sicheren KI-Infrastruktur auf AWS (Bedrock, SageMaker, Lambda, OpenSearch), unter Beachtung gut gestalteter Prinzipien und Infrastruktur-als-Code-Praktiken.
• Verantwortung für den gesamten Bereitstellungslebenszyklus: CI/CD für Modelle und Agenten, Teststrategien, Beobachtbarkeit und Rollback-Verfahren.
• Sicherstellung der Datenqualität durch rigorose Validierung und Augmentierung sowie proaktive Beschaffung von Datensätzen für Training, Feinabstimmung und Bewertung.

Anforderungen und Fähigkeiten:

• Agentenorchestrierung: Produktionserfahrung im Entwurf von Multi-Agenten-Systemen mit Werkzeugnutzung, Speicher-/Zustandsmanagement und fehlertolerantem Routing.
• RAG & Retrieval: Praktische Erfahrung im Aufbau von RAG-Pipelines von Ende zu Ende: Chunking, Einbettungsmodelle, Vektordatenbanken, Rückgewinnungstuning und Antwortsynthese in Produktionsgröße.
• Bewertungen: Starke Erfahrung in der Definition und Durchführung von Bewertungs-Pipelines für generative KI – automatisierte Bewertung, Design menschlicher Bewertungen, Halluzinationsminderung und Driftüberwachung.
• LLMs & GenAI: Nachgewiesene Erfahrung mit Fundamentmodellen und GenAI-Anbietern (AWS Bedrock, OpenAI, Anthropic, Meta). Sicher im Umgang mit Feinabstimmung, Anweisungstuning und Prompt-Engineering in großem Maßstab.
• Traditionelles NLP: Solide Kenntnisse klassischer NLP-Techniken (NER, Textklassifikation, Intent-Erkennung, Themenmodellierung) und gutes Urteilsvermögen, wann man sie neben oder anstelle von LLMs anwenden sollte.
• AWS Bedrock: Praktische Erfahrung mit Amazon Bedrock: APIs für Fundamentmodelle, Bedrock-Agenten, Wissensdatenbanken und Sicherheitsvorkehrungen. Erfahrung mit der Bewertung von Bedrock-Modellen ist von Vorteil.
• AWS-Ökosystem: Kenntnisse in SageMaker, Lambda, ECS/EKS, S3, OpenSearch, IAM, CloudWatch und VPC-Netzwerken.
• MLOps & CI/CD: Vertrautheit mit Modellregistern, CI/CD für ML, Feature-Stores, Canary-Deployments, Überwachung und Rollback.
• IaC: Erfahrung mit Terraform oder AWS CDK für reproduzierbare Infrastrukturbereitstellung.
• Python: Produktionsqualität in Python: Verpackung, Tests (pytest), Typ-Hinweise, asynchrone Programmierung und saubere ML-Pipeline-Abstraktionen.
• ML-Frameworks: Vertrautheit mit traditionellen ML-Frameworks und Feinabstimmungs-Workflows.
• Experimentverfolgung: Erfahrung mit Langfuse, Arize oder Langsmith oder Äquivalent zur Verfolgung von Durchläufen, Metriken und Artefakten.
• Fähigkeit, mehrdeutige Geschäftsziele in konkrete technische Lösungen zu übersetzen und Kompromisse gegenüber nicht-technischen Stakeholdern zu kommunizieren.
• Starke kollaborative Instinkte – komfortabel in der Zusammenarbeit mit Ingenieur-, Produkt- und Datenteams.
• Eine rigorose, evidenzbasierte Denkweise: Sie liefern mit Vertrauen, weil Sie gründlich messen, testen und überwachen.

Bildung: Ein Master-Abschluss in Maschinenlernen, Informatik mit einer Vorliebe für Spezialisierung im Bereich NLP.

Wir sind ein Arbeitgeber, der Chancengleichheit bietet und Vielfalt auf allen Ebenen schätzt. Alle qualifizierten Bewerber werden unabhängig von Rasse, Hautfarbe, Religion, Geschlecht, nationaler Herkunft, Alter, sexueller Orientierung, Geschlechtsidentität, Behinderung oder Veteranenstatus bei der Beschäftigung berücksichtigt.