Doktorandin / Doktorand (w/m/d) im Bereich IT-Sicherheit und "Explainable AI" (XAI)

Doktorandin / Doktorand (w/m/d) im Bereich IT-Sicherheit und "Explainable AI" (XAI)

Veröffentlicht am
27.08.2024

Bewerbungsfrist
30.09.2024

Vollzeit-Stelle

Karlsruher Institut für Technologie (KIT)

Karlsruhe

Als "Die Forschungsuniversität in der Helmholtz-Gemeinschaft" schafft und vermittelt das Karlsruher Institut für Technologie (KIT) Wissen für Gesellschaft und Umwelt. Ziel ist es, zu den globalen Herausforderungen maßgebliche Beiträge in den Feldern Energie, Mobilität und Information zu leisten. Daran arbeiten am KIT rund 9.800 Mitarbeiterinnen und Mitarbeiter auf einer breiten disziplinären Basis in Forschung, Lehre und Innovation zusammen.

Das Institut für Informationssicherheit und Verlässlichkeit (KASTEL) sucht zum nächstmöglichen Zeitpunkt eine/einen

Doktorandin / Doktorand (w/m/d) im Bereich IT-Sicherheit und "Explainable AI" (XAI)

Die Stelle ist auf 18 Monate befristet. Die volle Finanzierung über die gesamte Promotionszeit und über die initiale Befristung hinaus ist vorgesehen.

Ihre Aufgaben

Die Forschungsgruppe "Künstliche Intelligenz & IT-Sicherheit" betreibt Spitzenforschung an der Schnittstelle von künstlicher Intelligenz und IT-Sicherheit. Wir arbeiten an Themen wie der Angriffserkennung oder der Suche nach Schwachstellen in Software und Hardware. Ein weiteres zentrales und besonders wichtiges Thema unserer Forschung ist die Robustheit (im Sinne von Angriffssicherheit) von künstlicher Intelligenz.

In beiden Kernbereichen der Forschungsgruppe (Sicherheit von KI und KI für IT-Sicherheit) können Methoden der erklärbaren künstlichen Intelligenz (XAI) zur Angriffserkennung eingesetzt werden. Zum Beispiel:

• Erkennen und Vorbeugen von Angriffen auf Computersysteme
• Analyse von Angriffen und Schadcode
• Schwachstellensuche und Fuzz Testen (Fuzzing)
• Erkennung von Angriffen auf künstliche Intelligenz
• Hintertüren in ML Modellen ("ML Backdoors")
• Auslösen von Fehlverhalten ("Adversarial Examples")
• Datendiebstahl ("Model Stealing" und "Membership Inference")

Gleichzeitig ist aber auch die Angriffssicherheit von XAI Methoden besonders relevant. Neben der Demonstration von neuartigen Angriffen, ist vor allem die Entwicklung von robusten XAI Methoden zukünftig essentiell. Zum Beispiel:

• Eingabe- bzw. Modellmanipulationen und "Data Poisoning"
• "Fairwashing" von XAI-Ausgaben
• Zertifizierbar/ Beweisbar robuste XAI-Methoden

Wir suchen Sie für eine Promotionsstelle, um Forschung auf Spitzenniveau zu betreiben. Promovierende werden in die "KIT Graduate School Cyber Security" aufgenommen.

Darüber hinaus verfügt die Arbeitsgruppe über enge Kontakte zu nationalen und internationalen Forschungsinstituten. Wir betreiben außerdem eine eigene dedizierte Server-/Recheninfrastruktur zur Unterstützung unserer Forschung und statten unsere Mitarbeiter·innen mit der besten Hardware aus.

*Die volle Finanzierung über die gesamte Promotionszeit und über die initiale Befristung hinaus ist vorgesehen.

Ihre Qualifikation

• Sie verfügen über einen Hochschulabschluss in der Fachrichtung Informatik (Master) oder einem verwandten Gebiet.
• Darüber hinaus sollten Sie sehr gute Kenntnisse zu maschinellem Lernen und der IT-Sicherheit mitbringen.
• Vor allem bedarf es aber der Begeisterung für Forschung an lernenden Systemen und der Neugier für neuartige Methoden.

Werden auch Sie Teil bei der einzigen deutschen Exzellenzuniversität mit nationaler Großforschung und arbeiten Sie unter hervorragenden Arbeitsbedingungen in einem internationalen Umfeld an der aktuellen Forschung und Lehre für unsere Zukunft. Starten Sie beruflich mit einer zielgerichteten Einarbeitung sowie breitgefächerten Weiterqualifizierungsangeboten. Profitieren Sie von flexiblen Arbeitszeitmodellen (Gleitzeit, Homeoffice), diversen Sport- und Freizeitangeboten sowie Kinder- und Ferienbetreuungsangeboten. Des Weiteren bieten wir einen Zuschuss zum Jobticket BW in Höhe von 25 €/Monat und ein vielseitiges Angebot in verschiedenen Mensen.

Wir streben eine möglichst gleichmäßige Besetzung der Arbeitsplätze mit Beschäftigten (w/m/d) an und würden uns daher insbesondere über Bewerbungen von Frauen freuen.

Bei gleicher Eignung werden anerkannt schwerbehinderte Menschen bevorzugt berücksichtigt.

Bewerben Sie sich bitte online bis zum 30.09.2024 unter Angabe der Ausschreibung-Nr. 1342/2024 bei Frau Jana Kehrer, Telefon +49 721 608-45415, Karlsruher Institut für Technologie (KIT), Personalservice, Kaiserstraße 12, 76131 Karlsruhe. Fachliche Auskünfte erteilen Ihnen gerne Herr TT.-Prof. Christian Wressnegger, E-Mail christian.wressnegger@kit.edu.

Die Bewerbung soll aus einem Anschreiben, einem Lebenslauf und Zeugnissen bestehen. Achten Sie bitte darauf hervorzuheben, warum Sie zu unserer Arbeitsgruppe und der Forschung im Bereich IT-Sicherheit passen.

Weitere Informationen finden Sie im Internet: www.kit.edu

KIT – Die Forschungsuniversität in der Helmholtz-Gemeinschaft