Doktorand*in Embedded AI Systems: Laufzeitoptimierung für Transformer-Modelle

Die Fraunhofer-Gesellschaft (www.fraunhofer.de) ist eine der weltweit führenden Organisationen für anwendungsorientierte Forschung. 75 Institute entwickeln wegweisende Technologien für unsere Wirtschaft und Gesellschaft - genauer: 32 000 Menschen aus Technik, Wissenschaft, Verwaltung und IT. Unsere Forschungsgruppe „Smart Embedded Systems" entwickelt ressourceneffiziente KI-Systeme für eingebettete/Edge-Systeme und kooperiert dabei eng mit der Universität Duisburg-Essen (Lehrstuhl Elektronische Bauelemente und Schaltungen). Wir optimieren KI-Modelle und -Software für den Einsatz in eingebetteten und Edge-Systemen. In diesem Umfeld entwickeln wir innovative Laufzeitsysteme und Scheduling-Verfahren, die Large Language Models (LLMs) adaptiv und energieeffizient auf Edge-Geräten ausführen. Unsere Anwendungsfelder umfassen Smart Health, Robotik und sichere Mensch-Maschine-Interaktion: Domänen, in denen Datenschutz, niedrige Latenz und begrenzter Energieverbrauch entscheidend sind.

Ihre Mission: Im deutsch-taiwanesischen Forschungsprojekt STICAM (Secure Transformers in Cache Memory) entwickeln Sie eine neue Generation adaptiver Scheduling-Algorithmen, die entscheiden, wie begrenzte Hardware-Ressourcen zur Laufzeit optimal zwischen Inferenzphasen, Nutzersessions und Sicherheitsmechanismen aufgeteilt werden. Ihr Ziel: Große Sprachmodelle (LLMs) laufen mit minimaler Latenz und maximalem Datenschutz direkt auf dem Endgerät ohne Cloud. Die Anwendungen reichen von intelligenten Gesundheitssystemen über autonome Robotik bis zur sicheren Mensch-Maschine-Interaktion.

• Sie erarbeiten den Stand der Wissenschaft zu Scheduling von KI-Operationen, Online-Optimierung, lernbasierter Ressourcenallokation und Echtzeitsystemen im Kontext heterogener Rechensysteme. Daraus identifizieren Sie offene Forschungsfragen und positionieren Ihre Dissertation.
• Sie formalisieren das Problem der Laufzeit-Orchestrierung (Zuweisung begrenzter Rechen-/Speicherressourcen auf konkurrierende Aufgaben) als Optimierungsproblem. Sie analysieren dessen Komplexität, identifizieren ausnutzbare Strukturen und entwickeln neuartige Algorithmen - von mathematisch fundierten Heuristiken bis zu lernbasierten Ansätzen (z. B. Reinforcement Learning). Dabei nutzen Sie Python für Prototyping und Simulation sowie C/C++ für performancekritische Implementierungen.
• Sie untersuchen, ob und wann trainierte Policies (z. B. via Reinforcement Learning) statische Heuristiken übertreffen und unter welchen Bedingungen diese auf eingebetteter Hardware in Echtzeit ausführbar sind. Sie analysieren die Wechselwirkung zwischen Scheduling-Entscheidungen und Sicherheitsmechanismen (z. B. Memory-Isolation).
• Sie implementieren Ihre Verfahren als Teil eines Laufzeitsystems auf eingebetteter Hardware z. B. RISC-V-SoC, ARM Cortex-A/M, FPGA-basierte Systeme und evaluieren sie mit realen KI-Workloads (Transformer-Inferenz). Sie erheben quantitative Messdaten zu Latenz, Durchsatz und Energieeffizienz.
• In regelmäßigen Projektmeetings und bei Forschungsaufenthalten in Taiwan stimmen Sie sich mit Hardware-Teams ab und integrieren Ihr Laufzeitsystem in die Gesamtarchitektur.
• Sie veröffentlichen auf internationalen Konferenzen (z. B. MLSys, ASPLOS, RTAS, NeurIPS Systems Track, DATE) und in Fachjournals. Sie betreuen Bachelor-/Masterarbeiten und studentische Hilfskräfte zu Teilaspekten Ihres Themas.

Hiermit bringen Sie sich ein:

• Sehr gut abgeschlossenes wissenschaftliches Studium (Master/Uni-Diplom) in Elektrotechnik, Informatik, Technischer Informatik, Physik, Mathematik oder vergleichbar.
• Fundierte Programmierkenntnisse in C/C++ und Python.
• Erfahrung mit maschinellem Lernen, idealerweise Transformer-Architekturen.
• Strukturierte Arbeitsweise, um sich in neue wissenschaftliche Themen einzuarbeiten sowie Spaß an kollaborativer Arbeit in einem interdisziplinären und internationalen Team, das von frischen Ideen lebt.
• Sehr gute Deutsch- und Englischkenntnisse für die Zusammenarbeit in einem internationalen Umfeld.

Wünschenswerte Qualifikationen:

• Erfahrung mit Reinforcement Learning und/oder numerischer Optimierung.
• Kenntnisse in KI-Frameworks (PyTorch, Jax, ONNX, Huggingface Transformers u.ä.).
• Erste Erfahrung mit eingebetteter Softwareentwicklung.

Was wir für Sie bereithalten:

• Promovieren Sie innerhalb von 3 Jahren in einem anwendungsorientierten Thema an der Schnittstelle von algorithmischer Optimierung, KI-Systemen und Edge Computing. Sie können für Ihre praktischen Arbeiten auf institutseigene Elektronik-Labore, Recheninfrastruktur und EDA-Toolchains zugreifen. Lehrverpflichtungen werden Ihnen nicht übertragen. Der Doktorgrad wird von der Universität Duisburg-Essen verliehen.
• Im Rahmen des internationalen STICAM-Projekts werden Sie an mehrwöchigen Forschungsaufenthalten bei den taiwanesischen Partnerinstitutionen teilnehmen und auf internationalen Konferenzen zu publizieren.
• Neben der Betreuung durch eine institutsinterne Fachperson findet ein regelmäßiger organisierter Austausch über den wissenschaftlichen Stand Ihrer Arbeit im Rahmen eines Doktormütter/-vätergremiums statt.
• Während der Promotionszeit werden Sie durch begleitende Angebote unterstützt. So profitieren Sie u. a. von regelmäßigen Promovenden-Coachings und lernen bereits während Ihrer Promotion professionelle Methoden des Projektmanagements sicher anzuwenden und bei der Projektakquise zu unterstützen.
• Bei fristgerechter Einreichung der Dissertation gibt es die Option im Rahmen eines Anschlussvertrags die Forschungsarbeiten weiter zu vertiefen bzw. in andere Bereiche zu wechseln. Die Vollzeitstelle als Doktorand*in mit halber Vergütung bietet 50 % der Zeit für Ihre Promotion sowie 50 % für die Mitarbeit in Forschungsprojekten als wissenschaftliche*r Mitarbeiter*in.
• Flexible Arbeitszeiten (Gleitzeit mit integrierter Kernarbeitszeit von 9:30 - 15:00 Uhr, Freitag von 9:30 - 13:00 Uhr) und mobiles Arbeiten an bis zu zwei Tagen pro Woche für eine bessere Vereinbarkeit von Beruf und Privatleben.
• Betriebliche Altersvorsorge (VBL) und Zuschuss zum Deutschland-Ticket Job.
• Sehr gute Verkehrsanbindung mit ÖPNV/Auto sowie kostenlose Parkplätze und Fahrradstellplätze für Mitarbeitende.
• Unterstützungsangebote zur Vereinbarkeit von Familie und Beruf: Mit-Kind-Büro, Kindernotbetreuung und Beratungsleistungen zu Homecare-Eldercare etc. in Kooperation mit dem pme Familienservice.
• Corporate Benefits: Vergünstigte Angebote namhafter Hersteller und Marken.

Wir wertschätzen und fördern die Vielfalt der Kompetenzen unserer Mitarbeitenden und begrüßen daher alle Bewerbungen - unabhängig von Alter, Geschlecht, Nationalität, ethnischer und sozialer Herkunft, Religion, Weltanschauung, Behinderung sowie sexueller Orientierung und Identität. Schwerbehinderte Menschen werden bei gleicher Eignung bevorzugt eingestellt. Die Stelle ist auf 3 Jahre befristet. Die wöchentliche Arbeitszeit beträgt 39 Stunden. Anstellung, Vergütung und Sozialleistungen basieren auf dem Tarifvertrag für den öffentlichen Dienst (TVöD). Zusätzlich kann Fraunhofer leistungs- und erfolgsabhängige variable Vergütungsbestandteile gewähren.

Bereit für Veränderung? Dann bewerben Sie sich jetzt, und machen Sie einen Unterschied! Nach Eingang Ihrer Online-Bewerbung erhalten Sie eine automatische Empfangsbestätigung. Wir sichten Ihre Unterlagen individuell und melden uns schnellstmöglich bei Ihnen zurück.

Fragen zu dieser Position beantwortet Ihnen gerne: Herr Adam Smieja Telefon: +49 203 3783-276 E-Mail: personal@ims.fraunhofer.de