Senior Security Engineer, Agentic Red Team, DeepMind in Zürich

Hinweis: Durch die Bewerbung auf diese Position haben Sie die Möglichkeit, Ihren bevorzugten Arbeitsort aus den folgenden Optionen anzugeben: Mountain View, CA, USA; New York, NY, USA; Zürich, Schweiz.

Erforderliche Qualifikationen:

• Abschluss in Informatik, Informationssicherheit oder gleichwertige praktische Erfahrung.
• 5 Jahre Erfahrung im Red Teaming, Offensive Security oder Adversarial Machine Learning.
• Erfahrung mit Architekturen von großen Sprachmodellen (LLM), agentischen Workflows (z. B. Chain-of-Thought-Reasoning) und Klassen von KI-Schwachstellen.
• Erfahrung in der Entwicklung von Exploits für GenAI-Modelle (z. B. Prompt-Injection, adversarielle Beispiele, Extraktion von Trainingsdaten).

Bevorzugte Qualifikationen:

• Erfahrung in einer beratenden Funktion mit Produktteams oder in einem „Startup-ähnlichen“ Umfeld.
• Vertrautheit mit KI-Sicherheitsbenchmarks, Bewertungsrahmen und Fuzzing-Techniken.
• Fähigkeit, komplexe probabilistische Risiken in umsetzbare technische Lösungen für Entwickler zu übersetzen.
• Ausgezeichnete Programmierkenntnisse in Python, Go oder C++ mit Erfahrung in der Erstellung von Sicherheitstools oder Automatisierung.

Zu den Aufgaben gehören:

• Durchführung schneller Sicherheitsbewertungen von agentischen Diensten, mit Fokus auf Schwachstellen, die einzigartig für Generative AI sind, wie z. B. Prompt-Injection, Eskalation der Tool-Nutzung und autonome laterale Bewegung.
• Entwicklung und Ausführung von Angriffssequenzen, die nicht-deterministische Modellverhalten, agentische Logikfehler und Datenvergiftungsvektoren ausnutzen.
• Schreiben von Code zur Transformation manueller Schwachstellenerkennungen in automatisierte Regressionstestframeworks („Auto Red Teaming“), die Regressionen in zukünftigen Modellversionen verhindern.
• Direkte Zusammenarbeit mit Entwicklern während der Design- und Bauphasen, um sofortiges Feedback zu geben und so den Feedbackzyklus zwischen offensiven Erkenntnissen und defensiver Technik zu verkürzen.
• Pflege und Erweiterung einer Bibliothek agentenspezifischer Angriffsmuster und Exploit-Primitiven zur Festlegung von Freigabekriterien für neue Modelle.

Google ist stolz darauf, ein Arbeitgeber für Chancengleichheit und positive Maßnahmen zu sein. Wir setzen uns dafür ein, eine Belegschaft aufzubauen, die die Nutzer, die wir bedienen, widerspiegelt, eine Kultur der Zugehörigkeit zu schaffen und eine Chancengleichheit unabhängig von Rasse, Glauben, Geschlecht, sexueller Orientierung, Geschlechtsidentität/-ausdruck, nationaler Herkunft, Behinderung, Alter, genetischen Informationen, Veteranenstatus, Familienstand, Schwangerschaft oder verwandten Bedingungen (einschließlich Stillen), werdenden Eltern oder Eltern, kriminellen Vorgeschichten im Einklang mit den gesetzlichen Anforderungen oder aus anderen gesetzlich geschützten Gründen zu bieten.