Wissenschaftlicher Mitarbeiter - Experte für vertrauenswürdige KI (all genders) in Sankt Augustin

Die Fraunhofer-Gesellschaft (www.fraunhofer.de) ist eine der weltweit führenden Organisationen für anwendungsorientierte Forschung. 74 Institute entwickeln wegweisende Technologien für unsere Wirtschaft und Gesellschaft – genauer: 30.000 Menschen aus Technik, Wissenschaft, Verwaltung und IT. Am Fraunhofer IAIS erforschen und entwickeln rund 360 Mitarbeitende individuelle Lösungen zur Integration und Analyse von Daten für unsere Fördergeber*innen und unsere Kund*innen aus der Wirtschaft.

Künstliche Intelligenz, Machine Learning, Big Data, Multimedia Content Analytics, Information Integration sowie Unternehmensmodellierung und -analyse sind die inhaltlichen Schwerpunkte unserer Arbeiten. In der Abteilung AI Assurance and Assessments (AAA) operationalisieren wir KI-Vertrauenswürdigkeit entlang von drei Schritten:

• Wir analysieren Anforderungen an KI-Systeme aus Gesetzen und Standards.
• Wir setzen diese Anforderungen um, indem wir technische Absicherungsmethoden für KI-Systeme entwickeln und diese auf organisatorischer Ebene durch effektive KI-Governance Mechanismen komplettieren.
• Wir entwickeln Prüfkriterien und Testverfahren für KI-Systeme und forschen zu der Frage, wie sich solche Prüfungen und Tests automatisieren lassen.

Hierbei beschäftigen uns Fragestellungen wie:

• Wie lassen sich a priori inkommensurable KI-Risiken, etwa die Verletzung von Persönlichkeitsrechten und Safety-Risiken zu einem Gesamtrisiko aggregieren?
• Wie lassen sich die Unsicherheiten von Transformer-Modellen messen?
• Welche Controls in KI-Managementsystemen operationalisieren den AI Act?
• Wie lassen sich KI-Prüfworkflows automatisieren?
• Was sind die besten Redteaming Ansätze, um die Safeguards von LLMs zu testen?
• Wie lassen sich KI-Agenten im Betrieb absichern?

Hier sorgen Sie für Veränderung:

• Übersetzung von regulatorischen Vorgaben, wie etwa der KI-Verordnung, in technische Anforderungen an KI-Systeme.
• Konzeption und Entwicklung von technischen Lösungen zur Absicherung von KI-Systemen.
• Konzeption und Entwicklung von KI-Governance Frameworks.
• Konzeption und Durchführung von KI-Prüfungen für konkrete Use Cases.
• Entwicklung von Methoden zur Messung und Quantifizierung von Unsicherheiten in KI-Modellen (z. B. Transformer-Architekturen).
• Durchführung von Redteaming- und Stresstests zur Absicherung von LLMs und KI-Agenten im produktiven Einsatz.
• Automatisierung von KI-Prüf- und Testworkflows.
• Beratung von Kund*innen aus Wirtschaft und öffentlicher Verwaltung zur regulatorischen Einordnung und Absicherung ihrer KI-Systeme.

Hiermit bringen Sie sich ein:

• Abgeschlossenes wissenschaftliches Hochschulstudium (Master, Diplom) der Informatik, Physik oder Mathematik mit sehr gutem Abschluss an einer Universität mit internationalem Renommee, gerne mit Promotion. Bei guter Passung zu einem der oben genannten Themen kommen auch andere Abschlüsse (z.B. Rechtswissenschaften, Psychologie) in Betracht.
• Sehr gute Vorkenntnisse in den Bereichen Maschinelles Lernen, Künstliche Intelligenz (KI) und Agentische KI.
• Sehr gute Kenntnisse zu Programmierung (insb. Python und ML-Frameworks wie Pytorch und Tensorflow) und technischer Implementierung (Docker/Podman und Containerisierung, Azure, AWS oder andere Cloudprovider, Infrastructure as Code, CI/CD) und im Umgang mit Agent Frameworks/Harnesses (z.B. ClaudeCode, OpenAI Codex oder LangGraph) oder KI-Regulierung und Standardisierung (KI-Recht, insb. AI Act, internationale Standardisierung bei ISO, IEC und ITU, europäische Standardisierung bei CEN, CENELEC, ETSI, harmonisierte Normen).
• Exzellente analytische Fähigkeiten und Freude an abstraktem Denken.
• Hohe Belastbarkeit sowie die Bereitschaft, sich schnell in neue Sachverhalte einzuarbeiten.
• Freude daran, komplizierte technische Zusammenhänge für unterschiedliche Stakeholder aufzubereiten.
• Ein hohes Maß an Eigeninitiative und Hands-on Mentalität.
• Strukturiertes Arbeiten und professionelles Auftreten.
• Sehr gute Deutschkenntnisse und Englischkenntnisse (beides mind. auf Niveau C1).

Bitte gehen Sie in ihrem Anschreiben darauf ein, welche Themenschwerpunkte der Abteilung AAA Sie besonders interessieren, welche Vorerfahrungen Sie hierfür mitbringen, was Sie bei Fraunhofer IAIS erreichen möchten und warum wissenschaftliche Exzellenz und unternehmerisches Talent in ihrer Person vereint sind.

Was wir für Sie bereithalten:

• Vielfältige Angebote für Ihre persönliche Weiterbildung in den Bereichen Führung, Kommunikation, Projektmanagement, Vereinbarkeit von Beruf und Familie, Gesundheit, Kultur und Sport.
• Die Förderung der Chancengerechtigkeit unserer Mitarbeitenden ist ein wichtiges Ziel von Fraunhofer. Wir fördern die berufliche Entwicklung von Frauen in unserem Institut und ermutigen sie nachdrücklich, sich zu bewerben.
• Wir wertschätzen und fördern die Vielfalt der Kompetenzen unserer Mitarbeitenden und begrüßen daher alle Bewerbungen – unabhängig von Alter, Geschlecht, Nationalität, ethnischer und sozialer Herkunft, Religion, Weltanschauung, Behinderung sowie sexueller Orientierung und Identität.
• Schwerbehinderte Menschen werden bei gleicher Eignung und Qualifikation bevorzugt eingestellt.
• Unsere Aufgaben sind vielfältig und anpassbar – für Bewerber*innen mit Behinderung finden wir gemeinsam Lösungen, die ihre Fähigkeiten optimal fördern.
• Die wöchentliche Arbeitszeit beträgt 39 Stunden. Die Stelle ist zunächst auf 2 Jahre befristet; eine Weiterbeschäftigung wird angestrebt. Die Stelle kann auch in Teilzeit besetzt werden.
• Anstellung, Vergütung und Sozialleistungen basieren auf dem Tarifvertrag für den öffentlichen Dienst (TVöD). Zusätzlich kann Fraunhofer leistungs- und erfolgsabhängige variable Vergütungsbestandteile gewähren. Die Vergütung erfolgt bis TVöD EG 13.

Fragen zu dieser Position beantwortet Ihnen gerne Dr. Maximilian Poretschkin E-Mail: Maximilian.poretschkin@iais.fraunhofer.de