DC1 – Physics-informed adversarial robustness of network models

Organisation/Institut: Universität Bielefeld (UNIBI) Deutschland

Projektbeschreibung: Die zunehmende Verfügbarkeit von intelligenten Komponenten in kritischen Infrastrukturen bietet große Versprechungen, bringt jedoch auch Verwundbarkeiten gegenüber adversarialen Angriffen mit sich. Verteidigungsmechanismen basieren auf adversarialem Training oder numerischen Methoden, die die Stabilität von Modellen gegenüber adversarialen Störungen erhöhen. In Abwesenheit von Fachwissen werden Störungen als kleine, aber ansonsten willkürliche Änderungen modelliert. Dies stimmt nicht mit der menschlichen Wahrnehmung überein und erfasst nicht die Verwundbarkeiten, die in der Praxis auftreten, da anfangs kleine Änderungen durch katastrophale Resonanz kumulieren können. Realistische Angriffe, die das Wissen eines Angreifers modellieren, stellen einen vielversprechenden Ansatz dar, um Netzwerk-Eindringungserkennung herauszufordern. Diese Methode zielt jedoch nicht auf Interaktionen ab, die durch physikalische Einschränkungen verursacht werden, wie sie durch systematische Invarianten formalisiert sind. Es besteht die Notwendigkeit, adversariale Einstellungen unter Berücksichtigung physikalischer Einschränkungen besser zu verstehen, wie diese intelligente Komponenten in kritischen Infrastrukturen beeinflussen können und wie solche Verwundbarkeiten vermieden werden können.

Dieser DC wird Konzepte des physik-informierten Lernens übertragen, um realistische adversariale Beispiele zu schaffen, die KI-Modelle hinsichtlich ihrer Robustheit gegenüber adversarialen Szenarien herausfordern und verbessern. Zu den großen Herausforderungen gehören, wie man realistische Angriffe unter Berücksichtigung physikalischer Einschränkungen und Verhaltensbeobachtungen modelliert und wie man die resultierenden Optimierungsprobleme effizient löst. Wir werden auf aktuelle Arbeiten zurückgreifen, die generative Modelle nutzen, um zusätzliche Trainingsdaten in räumlichen oder zeitlichen Lernszenarien bereitzustellen und das Training an gegebene physikalische Einschränkungen zu koppeln. Darüber hinaus werden wir Annäherungen und gemischte Optimierungstechnologien nutzen, um die resultierenden Optimierungsprobleme anzugehen. Auf diese Weise wird dieses individuelle Forschungsprojekt neuartige effiziente Technologien zur physik-informierten Generierung adversarialer Muster und robustem Training in spatio-temporalen Szenarien entwickeln.

Erwartete Ergebnisse: Ein umfassendes theoretisches Rahmenwerk, wie man physik-informierte adversariale Angriffe modelliert. Entwurf von generativen Modellen, die an physikalische Einschränkungen angepasst werden können und adversariales Sampling ermöglichen. Realisierung der Algorithmen als Open-Source-Toolkit. Übertragung der Technologien auf die Bereiche Wasserversorgungssysteme und Transport.

Besondere Anforderungen für das Projekt: Ausgezeichnete Programmierkenntnisse, einschließlich Python. Kenntnisse im maschinellen Lernen. Erfahrung im Deep Learning. Fortgeschrittene Fähigkeiten in mathematischer Modellierung.

Dieses Stipendium erfordert die Zulassung zu den Doktoratsstudien der Intelligent Systems an der CITEC Graduiertenschule der Universität Bielefeld. Gehalt: Die Vergütung basiert auf der Entgeltgruppe 13 des Tarifvertrags für den öffentlichen Dienst der Bundesländer (TV-L), die derzeit ein Bruttomonatsgehalt von mindestens EUR beträgt (einschließlich Sozialversicherungsbeiträge und Mobilitätszulage). Eine zusätzliche Familienzulage wird gewährt, falls zutreffend.