Auf einen Blick
- Aufgaben: Sichere innovative AI-Modelle durch spannende Sicherheitsbewertungen und Angriffssimulationen.
- Unternehmen: DeepMind, Teil von Google, mit einem Fokus auf fortschrittliche KI-Sicherheit.
- Vorteile: Attraktives Gehalt, Bonus, Aktienoptionen und umfassende Sozialleistungen.
- Weitere Informationen: Arbeiten in einem schnelllebigen Umfeld mit großartigen Entwicklungsmöglichkeiten.
- Warum dieser Job: Sei Teil eines dynamischen Teams, das die Zukunft der KI-Sicherheit gestaltet.
- Qualifikationen: Erfahrung in Red Teaming und Programmierkenntnisse in Python, Go oder C++.
Als Teil des Agentic Red Teams sind Sie eine spezialisierte, hochdynamische Einheit innerhalb der DeepMind-Sicherheit, die sich darauf konzentriert, die Agentic Launch Gap zu schließen – das kritische Zeitfenster, in dem neuartige KI-Fähigkeiten traditionelle Sicherheitsüberprüfungen übertreffen. Sie werden der primäre technische Ausführer von adversarialen Engagements sein und mit Produktentwicklern zusammenarbeiten, um architektonische Schwächen frühzeitig in der Entwurfsphase zu identifizieren.
Ihre Kernverantwortlichkeiten umfassen:
- Durchführung schneller, wirkungsvoller Sicherheitsbewertungen von agentischen Diensten, mit Fokus auf Schwachstellen, die einzigartig für Generative AI sind, wie z.B. Prompt Injection, Tool-Use Escalation und autonome laterale Bewegung.
- Entwicklung und Ausführung von Angriffssequenzen, die nicht-deterministische Modellverhalten, agentische Logikfehler und Datenvergiftungsvektoren ausnutzen.
- Schreiben von Code zur Transformation manueller Schwachstellenerkennungen in automatisierte Regressionstestframeworks („Auto Red Teaming“), die Regressionen in zukünftigen Modellversionen verhindern.
- Direkte Zusammenarbeit mit Entwicklern während der Entwurfs- und Bauphasen, um sofortiges Feedback zu geben und so den Feedbackzyklus zwischen offensiven Erkenntnissen und defensiver Technik zu verkürzen.
- Pflege und Erweiterung einer Bibliothek agentenspezifischer Angriffsmuster und Exploit-Primitiven, um Freigabekriterien für neue Modelle festzulegen.
Gehaltsbereich: US: $174,000–$253,000 (USD) + 15% Bonusziel + Eigenkapital + Leistungen.
Google ist stolz darauf, ein Arbeitgeber für Chancengleichheit und positive Maßnahmen zu sein. Wir setzen uns dafür ein, eine Belegschaft aufzubauen, die die Nutzer, die wir bedienen, repräsentiert, eine Kultur der Zugehörigkeit zu schaffen und eine Chancengleichheit unabhängig von Rasse, Glauben, Farbe, Religion, Geschlecht, sexueller Orientierung, Geschlechtsidentität/-ausdruck, nationaler Herkunft, Behinderung, Alter, genetischen Informationen, Veteranenstatus, Familienstand, Schwangerschaft oder verwandten Bedingungen (einschließlich Stillen), werdenden Eltern oder Eltern, kriminellen Verläufen, die mit gesetzlichen Anforderungen übereinstimmen, oder aus anderen gesetzlich geschützten Gründen zu bieten.
