Doktorand*in Embedded AI Systems: Laufzeitoptimierung für Transformer-Modelle

Die Fraunhofer-Gesellschaft ist eine der weltweit führenden Organisationen für anwendungsorientierte Forschung. 75 Institute entwickeln wegweisende Technologien für unsere Wirtschaft und Gesellschaft – genauer: 32 000 Menschen aus Technik, Wissenschaft, Verwaltung und IT. Unsere Forschungsgruppe „Smart Embedded Systems“ entwickelt ressourceneffiziente KI-Systeme für eingebettete/Edge-Systeme und kooperiert dabei eng mit der Universität Duisburg-Essen (Lehrstuhl Elektronische Bauelemente und Schaltungen). Wir optimieren KI-Modelle und -Software für den Einsatz in eingebetteten und Edge-Systemen.

In diesem Umfeld entwickeln wir innovative Laufzeitsysteme und Scheduling-Verfahren, die Large Language Models (LLMs) adaptiv und energieeffizient auf Edge-Geräten ausführen. Unsere Anwendungsfelder umfassen Smart Health, Robotik und sichere Mensch-Maschine-Interaktion: Domänen, in denen Datenschutz, niedrige Latenz und begrenzter Energieverbrauch entscheidend sind.

Ihre Mission: Im deutsch-taiwanesischen Forschungsprojekt STICAM (Secure Transformers in Cache Memory) entwickeln Sie eine neue Generation adaptiver Scheduling-Algorithmen, die entscheiden, wie begrenzte Hardware-Ressourcen zur Laufzeit optimal zwischen Inferenzphasen, Nutzersessions und Sicherheitsmechanismen aufgeteilt werden. Ihr Ziel: Große Sprachmodelle (LLMs) laufen mit minimaler Latenz und maximalem Datenschutz direkt auf dem Endgerät ohne Cloud. Die Anwendungen reichen von intelligenten Gesundheitssystemen über autonome Robotik bis zur sicheren Mensch-Maschine-Interaktion.

Aufgaben:

• Sie erarbeiten den Stand der Wissenschaft zu Scheduling von KI-Operationen, Online-Optimierung, lernbasierter Ressourcenallokation und Echtzeitsystemen im Kontext heterogener Rechensysteme.
• Daraus identifizieren Sie offene Forschungsfragen und positionieren Ihre Dissertation.
• Sie formalisieren das Problem der Laufzeit-Orchestrierung als Optimierungsproblem.
• Dazu analysieren Sie dessen Komplexität, identifizieren ausnutzbare Strukturen und entwickeln neuartige Algorithmen – von mathematisch fundierten Heuristiken bis zu lernbasierten Ansätzen (z. B. Reinforcement Learning).
• Für Prototyping und Simulationen nutzen Sie Python und implementieren performancekritische Komponenten in C/C++.
• Sie untersuchen, ob und wann trainierte Policies statische Heuristiken übertreffen und unter welchen Bedingungen diese auf eingebetteter Hardware in Echtzeit ausführbar sind.
• Sie analysieren die Wechselwirkung zwischen Scheduling-Entscheidungen und Sicherheitsmechanismen.
• Sie implementieren Ihre Verfahren als Teil eines Laufzeitsystems auf eingebetteter Hardware und evaluieren sie mit realen KI-Workloads.
• Sie erheben quantitative Messdaten zu Latenz, Durchsatz und Energieeffizienz.
• In regelmäßigen Projektmeetings und bei Forschungsaufenthalten in Taiwan stimmen Sie sich mit Hardware-Teams ab und integrieren Ihr Laufzeitsystem in die Gesamtarchitektur.
• Sie veröffentlichen auf internationalen Konferenzen und in Fachjournals.
• Sie betreuen Bachelor-/Masterarbeiten und studentische Hilfskräfte zu Teilaspekten Ihres Themas.

Profil:

• Mindestqualifikation: Sehr gut abgeschlossenes wissenschaftliches Studium (Master/Uni-Diplom) in Elektrotechnik, Informatik, Technischer Informatik, Physik, Mathematik oder vergleichbar.
• Fundierte Programmierkenntnisse in C/C++ und Python.
• Erfahrung mit maschinellem Lernen, idealerweise Transformer-Architekturen.
• Strukturierte Arbeitsweise und Spaß an kollaborativer Arbeit in einem interdisziplinären und internationalen Team.
• Sehr gute Deutsch- und Englischkenntnisse für die Zusammenarbeit in einem internationalen Umfeld.

Wünschenswerte Qualifikationen:

• Erfahrung mit Reinforcement Learning und/oder numerischer Optimierung.
• Kenntnisse in KI-Frameworks (PyTorch, Jax, ONNX, Huggingface Transformers u.ä.).
• Erste Erfahrung mit eingebetteter Softwareentwicklung.

Wir bieten:

• Promovieren Sie innerhalb von 3 Jahren in einem anwendungsorientierten Thema an der Schnittstelle von algorithmischer Optimierung, KI-Systemen und Edge Computing.
• Zugriff auf institutseigene Elektronik-Labore, Recheninfrastruktur und EDA-Toolchains.
• Lehrverpflichtungen werden Ihnen nicht übertragen.
• Der Doktorgrad wird von der Universität Duisburg-Essen verliehen.
• Teilnahme an mehrwöchigen Forschungsaufenthalten bei den taiwanesischen Partnerinstitutionen und Publikationen auf internationalen Konferenzen.
• Regelmäßiger Austausch über den wissenschaftlichen Stand Ihrer Arbeit im Rahmen eines Doktormütter/-vätergremiums.
• Begleitende Angebote zur Unterstützung während der Promotionszeit.
• Option im Rahmen eines Anschlussvertrags die Forschungsarbeiten weiter zu vertiefen.
• Flexible Arbeitszeiten und mobiles Arbeiten an bis zu zwei Tagen pro Woche.
• Betriebliche Altersvorsorge (VBL) und Zuschuss zum Deutschland-Ticket.
• Sehr gute Verkehrsanbindung sowie kostenlose Parkplätze und Fahrradstellplätze für Mitarbeitende.
• Unterstützungsangebote zur Vereinbarkeit von Familie und Beruf.
• Corporate Benefits: Vergünstigte Angebote namhafter Hersteller und Marken.