Senior Security Engineer, Agentic Red Team, DeepMind

Mindestens erforderliche Qualifikationen:

• Abschluss in Informatik, Informationssicherheit oder gleichwertige praktische Erfahrung.
• 5 Jahre Erfahrung im Red Teaming, Offensive Security oder Adversarial Machine Learning.
• Erfahrung mit Architekturen von großen Sprachmodellen (LLM), agentischen Workflows (z. B. Ketten von Gedanken) und Klassen von KI-Schwachstellen.
• Erfahrung in der Entwicklung von Exploits für GenAI-Modelle (z. B. Eingabeaufforderungsinjektion, adversarielle Beispiele, Extraktion von Trainingsdaten).

Bevorzugte Qualifikationen:

• Erfahrung in einer beratenden Funktion mit Produktteams oder in einem schnelllebigen „Startup-ähnlichen“ Umfeld.
• Vertrautheit mit KI-Sicherheitsbenchmarks, Bewertungsrahmen und Fuzzing-Techniken.
• Fähigkeit, komplexe probabilistische Risiken in umsetzbare technische Lösungen für Entwickler zu übersetzen.
• Ausgezeichnete Programmierkenntnisse in Python, Go oder C++ mit Erfahrung in der Erstellung von Sicherheitstools oder Automatisierung.

Über die Stelle:

Bei Google DeepMind ist es unsere Mission, den weltweit ersten allgemeinen Lernagenten zu entwickeln. Zentral für diese Mission ist die komplexe Aufgabe, die Intelligenz unserer Prototypen zu messen. Als Software-Ingenieur werden Sie mit den hochmodernen KI-Agenten arbeiten, die von unserem außergewöhnlichen Team von Forschungswissenschaftlern für maschinelles Lernen und Neurowissenschaften entwickelt wurden. Ihre Aufgaben umfassen alles, von der Erstellung von Systemen für Agententests mit 2D- und 3D-Spielen bis hin zur Entwicklung von Testproblemen innerhalb von Physiksimulatoren. Sie werden grafische Visualisierungen von Ergebnissen erstellen, wettbewerbsfähige Agenten-Leaderboards aufbauen und neue Algorithmen an Robotern testen. Um in dieser Rolle erfolgreich zu sein, benötigen Sie eine solide Grundlage in der Softwareentwicklung und Freude daran, an einer Vielzahl herausfordernder Probleme innerhalb eines mission-driven Teams zu arbeiten.

Als Teil des Agentic Red Teams werden Sie eine spezialisierte, hochdynamische Einheit innerhalb der DeepMind-Sicherheit sein. Ihre Mission ist es, die Agentic Launch Gap zu schließen – das kritische Zeitfenster, in dem neuartige KI-Fähigkeiten traditionelle Sicherheitsüberprüfungen übertreffen. Als Senior Security Engineer im Agentic Red Team sind Sie der primäre technische Ausführer von adversarial Engagements. Sie arbeiten mit Produktentwicklern zusammen und identifizieren architektonische Schwächen bereits in der Entwurfsphase, lange bevor formelle Überprüfungen beginnen. Ihr Hauptaugenmerk liegt darauf, mehrstufige Angriffe auf produktionsreife KI-Modelle durchzuführen, insbesondere auf agentische Verhaltensweisen wie Werkzeugnutzung und Denkketten. Sie werden nicht nur Schwachstellen finden, sondern auch dazu beitragen, den Kreislauf zu schließen, indem Sie zu Auto Red Teaming-Rahmen und Verteidigungsstrategien beitragen und sicherstellen, dass Ihre Erkenntnisse in wiederverwendbare Leitplanken für alle Google-Agentenentwickler kodifiziert werden.

Künstliche Intelligenz wird eine der transformativsten Erfindungen der Menschheit sein. Bei Google DeepMind sind wir ein Pionierlabor für KI mit außergewöhnlichen interdisziplinären Teams, die sich darauf konzentrieren, die KI-Entwicklung voranzutreiben, um komplexe globale Herausforderungen zu lösen und hochwertige Produktinnovationen für Milliarden von Nutzern zu beschleunigen. Wir nutzen unsere Technologien zum weitreichenden öffentlichen Nutzen und wissenschaftlichen Entdeckungen und stellen sicher, dass Sicherheit und Ethik immer unsere höchste Priorität haben. Wir erweitern die Grenzen in mehreren Bereichen. Unsere globalen Teams bieten vielfältige Lernmöglichkeiten und unterschiedliche Karrierewege für diejenigen, die motiviert sind, außergewöhnliche Ergebnisse durch kollektive Anstrengungen zu erzielen.

Die individuelle Vergütung wird durch Faktoren wie berufsbezogene Fähigkeiten, Erfahrung sowie relevante Ausbildung oder Schulung bestimmt. US: 174.000 – 253.000 USD + 15 % Bonusziel + Eigenkapital + Leistungen.

Verantwortlichkeiten:

• Durchführung schneller, wirkungsvoller Sicherheitsbewertungen von agentischen Diensten, mit Fokus auf Schwachstellen, die einzigartig für generative KI sind, wie Eingabeaufforderungsinjektion, Eskalation der Werkzeugnutzung und autonome laterale Bewegung.
• Entwicklung und Ausführung von Angriffssequenzen, die nicht-deterministische Modellverhalten, agentische Logikfehler und Datenvergiftungsvektoren ausnutzen.
• Schreiben von Code zur Transformation manueller Schwachstellenerkennungen in automatisierte Regressionstestframeworks („Auto Red Teaming“), die Regressionen in zukünftigen Modellversionen verhindern.
• Direkte Zusammenarbeit mit Entwicklern während der Entwurfs- und Bauphasen, um sofortiges Feedback zu geben und so den Feedbackzyklus zwischen offensiven Erkenntnissen und defensiver Technik effektiv zu verkürzen.
• Pflege und Erweiterung einer Bibliothek agentenspezifischer Angriffsmuster und Exploit-Primitiven zur Festlegung von Freigabekriterien für neue Modelle.

Google ist stolz darauf, ein Arbeitsplatz mit Chancengleichheit zu sein und ein Arbeitgeber für positive Maßnahmen. Wir setzen uns für Chancengleichheit bei der Beschäftigung unabhängig von Rasse, Hautfarbe, Abstammung, Religion, Geschlecht, nationaler Herkunft, sexueller Orientierung, Alter, Staatsbürgerschaft, Familienstand, Behinderung, Geschlechtsidentität oder Veteranenstatus ein. Wir berücksichtigen auch qualifizierte Bewerber unabhängig von strafrechtlichen Verläufen, gemäß den gesetzlichen Anforderungen. Siehe auch die EEO-Richtlinie von Google und EEO ist das Gesetz. Wenn Sie eine Behinderung oder besondere Bedürfnisse haben, die eine Anpassung erfordern, lassen Sie es uns bitte wissen, indem Sie unser Formular für Anpassungen für Bewerber ausfüllen.