Senior Security Engineer, Agentic Red Team

Überblick: Künstliche Intelligenz könnte eine der nützlichsten Erfindungen der Menschheit sein. Bei Google DeepMind sind wir ein Team von Wissenschaftlern, Ingenieuren und Experten für maschinelles Lernen, das zusammenarbeitet, um den Stand der Technik in der künstlichen Intelligenz voranzutreiben. Wir nutzen unsere Technologien zum Wohle der Öffentlichkeit und für wissenschaftliche Entdeckungen und arbeiten mit anderen an kritischen Herausforderungen, wobei Sicherheit und Ethik höchste Priorität haben.

Über uns: Das Agentic Red Team ist eine spezialisierte, hochdynamische Einheit innerhalb der Google DeepMind Security. Unsere Mission ist es, die "Agentic Launch Gap" zu schließen – das kritische Zeitfenster, in dem neuartige KI-Fähigkeiten traditionelle Sicherheitsüberprüfungen übertreffen. Im Gegensatz zu traditionellen Red Teams, die Berichte übergeben und weiterziehen, arbeiten wir mit extremer Agilität und integrieren uns direkt in Produktteams als sowohl beratender Partner als auch als Ausnutzungsarm. Wir agieren als "Spezialkräfte", die in hochpriorisierte Starts eingreifen können, wobei wir auf Google Core für grundlegende systemweite Schutzmaßnahmen zurückgreifen, damit wir uns ausschließlich auf Risiken auf Modell- und Agentenschicht konzentrieren können.

Die Rolle: Als Senior Security Engineer im Agentic Red Team sind Sie der primäre technische Ausführer unserer adversarialen Engagements. Sie werden "im Raum" mit Produktentwicklern arbeiten und architektonische Schwächen bereits in der Entwurfsphase identifizieren, lange bevor formale Überprüfungen beginnen. Ihr Hauptaugenmerk liegt darauf, komplexe, mehrstufige Angriffe auf produktionsreife KI-Modelle durchzuführen, insbesondere auf agentische Verhaltensweisen wie Werkzeugnutzung und Denkketten. Sie werden nicht nur Schwachstellen finden, sondern auch dazu beitragen, den Kreislauf zu schließen, indem Sie zu "Auto Red Teaming"-Frameworks und Verteidigungsstrategien beitragen, um sicherzustellen, dass Ihre Erkenntnisse in wiederverwendbare Leitplanken für alle Google-Agentenentwickler kodifiziert werden.

Hauptverantwortlichkeiten:

• Agile Red Teaming durchführen: Schnelle, wirkungsvolle Sicherheitsbewertungen von agentischen Diensten durchführen, wobei der Fokus auf Schwachstellen liegt, die einzigartig für GenAI sind, wie z.B. Eingabeaufforderungsinjektion, Eskalation der Werkzeugnutzung und autonome laterale Bewegung.
• Fortgeschrittene Exploits entwickeln: Komplexe Angriffssequenzen konstruieren und ausführen, die nicht-deterministische Modellverhalten, agentische Logikfehler und Datenvergiftungsvektoren ausnutzen.
• Automatisierte Abwehrmaßnahmen aufbauen: Code schreiben, um manuelle Schwachstellenerkennungen in automatisierte Regressionstest-Frameworks ("Auto Red Teaming") umzuwandeln, die Regressionen in zukünftigen Modellversionen verhindern.
• Mit Produktteams integrieren: Direkt mit Entwicklern während der Entwurfs- und Bauphasen zusammenarbeiten, um sofortiges Feedback zu geben und so den Feedbackzyklus zwischen offensiven Erkenntnissen und defensiver Technik zu verkürzen.
• Bedrohungsintelligenz kuratieren: Eine Bibliothek agentenspezifischer Angriffsmuster und Exploit-Primitiven pflegen und erweitern, um robuste Freigabekriterien für neue Modelle festzulegen.

Über Sie: Um Sie als Software Engineer bei Google DeepMind erfolgreich zu machen, suchen wir nach folgenden Fähigkeiten und Erfahrungen:

• Abschluss in Informatik, Informationssicherheit oder gleichwertige praktische Erfahrung.
• Erfahrung im Red Teaming, in der offensiven Sicherheit oder im adversarialen maschinellen Lernen.
• Starke Programmierkenntnisse in Python, Go oder C++ mit Erfahrung im Aufbau von Sicherheitstools oder Automatisierung.
• Technisches Verständnis von LLM-Architekturen, agentischen Workflows (z.B. Ketten von Gedanken) und gängigen Klassen von KI-Schwachstellen.

Zusätzlich wären folgende Punkte von Vorteil:

• Praktische Erfahrung in der Entwicklung von Exploits für GenAI-Modelle (z.B. Eingabeaufforderungsinjektion, adversariale Beispiele, Extraktion von Trainingsdaten).
• Erfahrung in einer beratenden Funktion mit Produktteams oder in einem schnelllebigen "Startup-ähnlichen" Umfeld.
• Vertrautheit mit KI-Sicherheitsbenchmarks, Bewertungsrahmen und Fuzzing-Techniken.
• Fähigkeit, komplexe probabilistische Risiken in umsetzbare technische Lösungen für Entwickler zu übersetzen.

Bei Google DeepMind schätzen wir Vielfalt in Erfahrung, Wissen, Hintergründen und Perspektiven und nutzen diese Qualitäten, um außergewöhnliche Auswirkungen zu erzielen. Wir setzen uns für Chancengleichheit ein, unabhängig von Geschlecht, Rasse, Religion oder Glauben, ethnischer oder nationaler Herkunft, Behinderung, Alter, Staatsbürgerschaft, Familienstand, Partnerschaftsstatus, sexueller Orientierung, Geschlechtsidentität, Schwangerschaft oder verwandten Bedingungen (einschließlich Stillen) oder aus anderen Gründen, die durch geltendes Recht geschützt sind.