Internship : Security in AI-Driven Software Development

Beschreibung: Während die Branche auf zunehmend ausgeklügelte KI-Entwicklungspraktiken umschwenkt, um den Softwareentwicklungszyklus zu beschleunigen, entstehen neue Sicherheitsherausforderungen. Wenn spezialisierte Agenten autonom Design-, Architektur- und Implementierungsentscheidungen treffen, können sie Schwachstellen einführen, wie subtile Logikfehler, übersehene Bedrohungsoberflächen oder Sicherheitsantipatterns, die im gesamten Code verbreitet werden. Gleichzeitig bleibt die Frage offen, wie Sicherheitspraktiken effektiv in einen agentengestützten Lebenszyklus integriert werden können.

Ziele: Dieses Praktikum untersucht beide Dimensionen: die Bedrohungen zu kartieren, die entstehen, wenn Agenten zur Softwareentwicklung beitragen, und zu identifizieren, wie Sicherheit in diesem neuen Paradigma sinnvoll adressiert werden kann. Es wird auf die ELCAi-Methode angewendet, einem ELCA-Ansatz zur agentischen Softwareentwicklung.

Aktivitäten: Die folgenden Aktivitäten sind vorgesehen:

• Literaturüberblick & Kontextanalyse: Bestehende Forschung zu sicheren Softwareentwicklungszyklen und KI-unterstützter Entwicklung untersuchen, um festzustellen, was bekannt ist und wo die Lücken liegen.
• Bedrohungsmodellierung: Bedrohungen identifizieren und klassifizieren, die spezifisch für die agentengestützte Entwicklung sind: anfällige Codegenerierung, fehlerhafte architektonische Entscheidungen, Manipulation von Eingabeaufforderungen und kaskadierende Fehler über Agentenübergaben hinweg.
• Sicherheitsintegrationsmapping: Analysieren, wie traditionelle Sicherheitspraktiken angepasst werden können, um wirksam zu bleiben, wenn Agenten beteiligt sind, und identifizieren, wo menschliche Aufsicht kritisch bleibt.
• Experimentation & Validierung: Identifizierte Bedrohungen testen und vorgeschlagene Minderung durch konkrete Szenarien validieren, wobei Proof-of-Concept-Implementierungen in einer kontrollierten Umgebung erstellt werden.
• Abschlusspräsentation & Wissensaustausch: Einen Bericht und eine interne Präsentation liefern, die Ergebnisse, Bedrohungstaxonomie und umsetzbare Empfehlungen konsolidiert.

Unser Angebot: Ein dynamisches Arbeits- und Kooperationsumfeld mit einem hochmotivierten, multikulturellen und internationalen Team. Die Möglichkeit, an einem der strategischsten und schnelllebigsten Themen der Branche zu arbeiten. Monatliche After-Works, die standortspezifisch organisiert werden. Gute Work-Life-Balance (2 Tage pro Woche von zu Hause aus).

Erforderliche Fähigkeiten: Starke Kenntnisse in Cybersicherheit (Authentifizierung, Zugriffskontrolle und Autorisierung, Bedrohungsmodellierung, Sicherheit durch Design usw.). Allgemeines Verständnis dafür, wie KI-Systeme funktionieren, idealerweise mit etwas Erfahrung in großen Sprachmodellen und agentenbasierten Architekturen. Einige Kenntnisse im Schreiben und Lesen von Code, insbesondere in Bezug auf Sicherheitspraktiken.