Auf einen Blick
- Aufgaben: Führe komplexe Sicherheitsbewertungen durch und entwickle automatisierte Verteidigungen für KI-Modelle.
- Unternehmen: Google DeepMind, ein führendes Unternehmen im Bereich künstliche Intelligenz.
- Vorteile: Attraktives Gehalt, Boni, Aktienoptionen und umfassende Sozialleistungen.
- Weitere Informationen: Dynamisches Umfeld mit Möglichkeiten zur beruflichen Weiterentwicklung.
- Warum dieser Job: Arbeite an der Spitze der KI-Sicherheit und forme die Zukunft der Technologie.
- Qualifikationen: Abschluss in Informatik oder verwandtem Bereich und Erfahrung in Red Teaming.
Das prognostizierte Gehalt liegt zwischen 49500 - 60500 € pro Jahr.
Überblick
Künstliche Intelligenz könnte eine der nützlichsten Erfindungen der Menschheit sein. Bei Google DeepMind sind wir ein Team von Wissenschaftlern, Ingenieuren, Experten für maschinelles Lernen und mehr, die zusammenarbeiten, um den Stand der Technik in der künstlichen Intelligenz voranzutreiben. Wir nutzen unsere Technologien zum weitreichenden öffentlichen Nutzen und zur wissenschaftlichen Entdeckung und arbeiten mit anderen an kritischen Herausforderungen, wobei Sicherheit und Ethik höchste Priorität haben.
Über uns
Das Agentic Red Team ist eine spezialisierte, hochdynamische Einheit innerhalb der Google DeepMind Security. Unsere Mission ist es, die "Agentic Launch Gap" zu schließen – das kritische Zeitfenster, in dem neuartige KI-Fähigkeiten traditionelle Sicherheitsüberprüfungen überholen. Im Gegensatz zu traditionellen Red Teams, die Berichte übergeben und weiterziehen, arbeiten wir mit extremer Agilität und integrieren uns direkt in Produktteams als sowohl beratender Partner als auch als Ausnutzungsarm. Wir agieren als "Spezialkräfte", die in hochpriorisierte Starts eingreifen können, wobei wir auf Google Core für grundlegende systemweite Schutzmaßnahmen zurückgreifen, damit wir uns ausschließlich auf Risiken auf Modell- und Agentenschicht konzentrieren können.
Die Rolle
Als Senior Security Engineer im Agentic Red Team werden Sie der primäre technische Ausführer unserer adversarialen Engagements sein. Sie werden "im Raum" mit Produktentwicklern arbeiten und architektonische Schwächen während der Entwurfsphase identifizieren, lange bevor formelle Überprüfungen beginnen.
Ihr Hauptaugenmerk wird darauf liegen, komplexe, mehrstufige Angriffe auf produktionsfähige KI-Modelle durchzuführen, insbesondere auf agentische Verhaltensweisen wie Werkzeugnutzung und Denkketten. Sie werden nicht nur Schwachstellen finden, sondern auch helfen, den Kreislauf zu schließen, indem Sie zu "Auto Red Teaming"-Frameworks und Verteidigungsstrategien beitragen und sicherstellen, dass Ihre Erkenntnisse in wiederverwendbare Leitplanken für alle Google-Agentenentwickler kodifiziert werden.
Hauptverantwortlichkeiten
- Agiles Red Teaming durchführen: Schnelle, wirkungsvolle Sicherheitsbewertungen von agentischen Diensten durchführen, wobei der Fokus auf Schwachstellen liegt, die einzigartig für GenAI sind, wie z.B. Eingabeaufforderungsinjektion, Eskalation der Werkzeugnutzung und autonome laterale Bewegung.
- Fortgeschrittene Exploits entwickeln: Komplexe Angriffsequenzen konstruieren und ausführen, die nicht-deterministische Modellverhalten, agentische Logikfehler und Datenvergiftungsvektoren ausnutzen.
- Automatisierte Verteidigungen aufbauen: Code schreiben, um manuelle Schwachstellenerkennungen in automatisierte Regressionstest-Frameworks ("Auto Red Teaming") umzuwandeln, die Regressionen in zukünftigen Modellversionen verhindern.
- Mit Produktteams integrieren: Direkt mit Entwicklern während der Entwurfs- und Bauphasen zusammenarbeiten, um sofortiges Feedback zu geben und so den Feedbackzyklus zwischen offensiven Erkenntnissen und defensiver Technik zu verkürzen.
- Bedrohungsintelligenz kuratieren: Eine Bibliothek agentenspezifischer Angriffsmuster und Exploit-Primitiven pflegen und erweitern, um robuste Freigabekriterien für neue Modelle festzulegen.
Über Sie
Um Sie als Software Engineer bei Google DeepMind erfolgreich zu machen, suchen wir nach folgenden Fähigkeiten und Erfahrungen:
- Abschluss in Informatik, Informationssicherheit oder gleichwertige praktische Erfahrung.
- Erfahrung im Red Teaming, in der offensiven Sicherheit oder im adversarialen maschinellen Lernen.
- Starke Programmierkenntnisse in Python, Go oder C++ mit Erfahrung in der Erstellung von Sicherheitstools oder Automatisierung.
- Technisches Verständnis von LLM-Architekturen, agentischen Arbeitsabläufen (z.B. Ketten von Gedanken) und gängigen Klassen von KI-Schwachstellen.
Zusätzlich wären folgende Punkte von Vorteil:
- Praktische Erfahrung in der Entwicklung von Exploits für GenAI-Modelle (z.B. Eingabeaufforderungsinjektion, adversarielle Beispiele, Extraktion von Trainingsdaten).
- Erfahrung in einer beratenden Funktion mit Produktteams oder in einem schnelllebigen "Startup-ähnlichen" Umfeld.
- Vertrautheit mit KI-Sicherheitsbenchmarks, Bewertungsrahmen und Fuzzing-Techniken.
- Fähigkeit, komplexe probabilistische Risiken in umsetzbare technische Lösungen für Entwickler zu übersetzen.
Das US-Grundgehalt für diese Vollzeitstelle liegt zwischen 166.000 und 244.000 USD + Bonus + Aktien + Leistungen. Ihr Recruiter kann Ihnen während des Einstellungsprozesses mehr über die spezifische Gehaltsspanne für Ihren Zielstandort mitteilen.
Bei Google DeepMind schätzen wir Vielfalt in Erfahrung, Wissen, Hintergründen und Perspektiven und nutzen diese Qualitäten, um außergewöhnliche Auswirkungen zu erzielen. Wir setzen uns für Chancengleichheit ein, unabhängig von Geschlecht, Rasse, Religion oder Glauben, ethnischer oder nationaler Herkunft, Behinderung, Alter, Staatsbürgerschaft, Familienstand, häuslichem oder zivilem Partnerschaftsstatus, sexueller Orientierung, Geschlechtsidentität, Schwangerschaft oder verwandten Bedingungen (einschließlich Stillen) oder aus anderen Gründen, die durch geltendes Recht geschützt sind. Wenn Sie eine Behinderung oder einen zusätzlichen Bedarf haben, der eine Anpassung erfordert, lassen Sie es uns bitte wissen.
Senior Security Engineer, Agentic Red Team - $166,000 - $244,000 A Year Arbeitgeber: Google DeepMind
Google DeepMind bietet eine inspirierende Arbeitsumgebung, in der Innovation und Zusammenarbeit im Mittelpunkt stehen. Als Senior RTL Optimization Engineer haben Sie die Möglichkeit, an der Spitze der Technologie zu arbeiten und mit führenden Experten aus den Bereichen Maschinenlernen und Hardwarearchitektur zusammenzuarbeiten. Wir fördern das persönliche Wachstum durch kontinuierliche Weiterbildung und bieten flexible Arbeitsbedingungen, die es Ihnen ermöglichen, Ihre Karriere in einem dynamischen und unterstützenden Umfeld voranzutreiben.
StudySmarter Expertenrat🤫
Wir sind der Meinung, dass du so Senior Security Engineer, Agentic Red Team - $166,000 - $244,000 A Year erhalten könntest
✨Netzwerken in der IT-Community
In der IT-Consulting-Welt sollten wir regelmäßig auf Veranstaltungen wie Tech-Meetups oder Konferenzen gehen. Hier können wir nicht nur unser Netzwerk erweitern, sondern auch direkt mit potenziellen Arbeitgebern ins Gespräch kommen und unser Interesse an einer Vollzeitstelle zeigen.
✨Online-Foren und Gruppen nutzen
Sich in Online-Foren und Communities wie Stack Overflow oder LinkedIn-Gruppen umzusehen, kann uns helfen, Insider-Tipps zu erhalten und Informationen über offene Stellen in der IT-Beratung zu sammeln. Vergiss nicht, aktiv zu werden und Fragen zu stellen oder dein Wissen zu teilen – das erhöht unsere Sichtbarkeit!
✨Direkt bei Google DeepMind bewerben
Viele Unternehmen, wie Google DeepMind, stemmen ihre Vollzeitstellen bevorzugt über ihre eigenen Karriere-Webseiten. Also, lass uns regelmäßig auf deren Seite vorbeischauen und uns direkt bewerben, statt nur die üblichen Jobportale zu nutzen.
✨Überzeugende Projekte zeigen
Wir sollten unser Portfolio oder relevante Projekte gut sichtbar machen, egal ob das auf Github, persönlich oder auf LinkedIn ist. Bei IT-Consulting-Stellen kommt es oft auf praktische Erfahrungen an, also lass uns zeigen, was wir können!
Wir glauben, dass du diese Fähigkeiten brauchst, um Senior Security Engineer, Agentic Red Team - $166,000 - $244,000 A Year mit Bravour zu bestehen
Einige Tipps für deine Bewerbung 🫡
Zeige deine technischen Skills!:In der IT-Beratung zählen deine technischen Kenntnisse und Fähigkeiten. Achte darauf, relevante Programmiersprachen, Tools und Systeme in deinem Lebenslauf aufzulisten. Zeig auch, wenn du Zertifikate hast, die deine Kompetenz unterstützen – das könnte dir einen echten Vorteil verschaffen!
Verstehe die Branche!:Unterstreiche in deinem Anschreiben, dass du ein gutes Verständnis für aktuelle Trends und Herausforderungen in der IT-Branche hast. Zeig, dass du nicht nur die technischen Aspekte beherrschst, sondern auch die Bedürfnisse der Kunden erkennen und lösen kannst!
Deine Projekte zählen!:Falls du bereits an IT-Projekten gearbeitet hast, verlinke diese oder beschreibe sie in deinem Lebenslauf. Praktische Erfahrungen – sei es in Form von Praktika oder privaten Projekten – sind besonders wertvoll in der IT-Beratung. Zeige uns, was du kannst!
Individuelle Bewerbung ist der Schlüssel!:Jede Bewerbung sollte individuell auf Google DeepMind und die ausgeschriebene Position Senior Security Engineer, Agentic Red Team - $166,000 - $244,000 A Year zugeschnitten sein. Teile uns mit, warum gerade du eine gute Wahl für unser Team bist. Das zeigt dein Engagement und deine Motivation, die über eine Standardbewerbung hinausgeht.
Wie man sich auf ein Vorstellungsgespräch bei Google DeepMind vorbereitet
✨Technische Vorbereitung ist alles!
Da du dich auf eine Vollzeitstelle in der IT-Beratung bewirbst, solltest du dir wirklich einen Überblick über die wichtigsten Tools und Technologien verschaffen, die in der Branche verwendet werden. Sei bereit, technische Fragen zu beantworten, die sich auf Software-Architektur oder Systemintegration beziehen könnten.
✨Praxisbeispiele parat haben
In der IT-Beratung ist es wichtig, konkrete Beispiele aus deiner bisherigen Erfahrung zu bringen. Überlege dir Projekte, bei denen du erfolgreich einen Kunden beraten hast oder Herausforderungen gelöst hast. Das zeigt, dass du nicht nur theoretisches Wissen hast, sondern auch in der Praxis erfolgreich sein kannst.
✨Soft Skills betonen
Ein großer Teil der IT-Beratung ist die Kommunikation mit Kunden und das Verständnis ihrer Bedürfnisse. Bereite dich darauf vor, über deine zwischenmenschlichen Fähigkeiten zu sprechen, wie du mit herausfordernden Kunden umgehst oder wie du in Teams arbeitest. Das wird den Interviewern zeigen, dass du mehr als nur technisches Wissen mitbringst!
✨Fragen zum Unternehmen vorbereiten
Schau dir spezifisch die Projekte von Google DeepMind an und überlege dir, welche Fragen du dazu stellen möchtest. Zeig Interesse an den aktuellen Herausforderungen, vor denen das Unternehmen steht, und wie du dazu beitragen könntest. Das hebt dich von anderen Bewerbern ab und zeigt, dass du wirklich motiviert bist.
