Auf einen Blick
- Aufgaben: Führe Sicherheitsbewertungen durch und entwickle Angriffsstrategien für KI-Modelle.
- Unternehmen: Innovatives AI-Labor mit einem Fokus auf Sicherheit und Ethik.
- Vorteile: Attraktives Gehalt, Boni, Aktienoptionen und umfassende Sozialleistungen.
- Weitere Informationen: Dynamisches Arbeitsumfeld mit vielfältigen Karrierechancen.
- Warum dieser Job: Sei Teil eines Teams, das die Zukunft der KI-Sicherheit gestaltet.
- Qualifikationen: Erfahrung in Red Teaming und Kenntnisse in KI-Sicherheitsanforderungen.
Das prognostizierte Gehalt liegt zwischen 50715 - 61985 € pro Jahr.
Hinweis: Durch die Bewerbung auf diese Position haben Sie die Möglichkeit, Ihren bevorzugten Arbeitsort aus den folgenden Optionen anzugeben: Mountain View, CA, USA; New York, NY, USA; Zürich, Schweiz.
- Abschluss in Informatik, Informationssicherheit oder gleichwertige praktische Erfahrung.
- 5 Jahre Erfahrung im Red Teaming, Offensive Security oder Adversarial Machine Learning.
- Erfahrung mit Architekturen von großen Sprachmodellen (LLM), agentischen Workflows (z. B. Ketten von Gedanken) und Klassen von KI-Schwachstellen.
- Erfahrung in der Entwicklung von Exploits für GenAI-Modelle (z. B. Eingabeaufforderungsinjektion, adversarielle Beispiele, Extraktion von Trainingsdaten).
Bevorzugte Qualifikationen:
- Erfahrung in einer beratenden Funktion mit Produktteams oder in einem „Startup-ähnlichen“ Umfeld.
- Vertrautheit mit KI-Sicherheitsbenchmarks, Evaluierungsrahmen und Fuzzing-Techniken.
- Fähigkeit, komplexe probabilistische Risiken in umsetzbare technische Lösungen für Entwickler zu übersetzen.
- Ausgezeichnete Programmierkenntnisse in Python, Go oder C++ mit Erfahrung im Aufbau von Sicherheitstools oder Automatisierung.
Bei Google DeepMind ist es unsere Mission, den weltweit ersten allgemeinen Lernagenten zu entwickeln. Zentral für diese Mission ist die komplexe Aufgabe, die Intelligenz unserer Prototypen zu messen. Als Software Engineer arbeiten Sie mit den fortschrittlichsten KI-Agenten, die von unserem außergewöhnlichen Team von Forschungswissenschaftlern für maschinelles Lernen und Neurowissenschaften entwickelt wurden. Ihre Aufgaben umfassen alles, von der Erstellung von Systemen für Agententests mit 2D- und 3D-Spielen bis hin zur Entwicklung von Testproblemen innerhalb von Physiksimulatoren. Sie werden grafische Visualisierungen von Ergebnissen erstellen, Wettbewerbsführer für Agenten aufbauen und neue Algorithmen an Robotern testen. Um in dieser Rolle erfolgreich zu sein, benötigen Sie eine solide Grundlage in der Softwareentwicklung und Freude daran, an einer Vielzahl herausfordernder Probleme innerhalb eines mission-driven Teams zu arbeiten.
Als Teil des Agentic Red Teams sind Sie eine spezialisierte, hochgradige Einheit innerhalb der DeepMind-Sicherheit. Ihre Mission ist es, die Agentic Launch Gap zu schließen – das kritische Zeitfenster, in dem neuartige KI-Fähigkeiten traditionelle Sicherheitsüberprüfungen übertreffen.
Als Senior Security Engineer im Agentic Red Team sind Sie der primäre technische Ausführer von adversarial Engagements. Sie arbeiten mit Produktentwicklern zusammen und identifizieren architektonische Schwächen bereits in der Entwurfsphase, lange bevor formelle Überprüfungen beginnen. Ihr Hauptaugenmerk liegt darauf, mehrstufige Angriffe auf produktionsreife KI-Modelle durchzuführen, insbesondere auf agentische Verhaltensweisen wie Werkzeugnutzung und Denkketten. Sie werden nicht nur Schwachstellen finden, sondern auch dazu beitragen, den Kreislauf zu schließen, indem Sie zu Auto Red Teaming-Rahmen und Verteidigungsstrategien beitragen und sicherstellen, dass Ihre Erkenntnisse in wiederverwendbare Leitplanken für alle Google-Agentenentwickler kodifiziert werden.
Künstliche Intelligenz wird eine der transformativsten Erfindungen der Menschheit sein. Bei Google DeepMind sind wir ein Pionierlabor für KI mit außergewöhnlichen interdisziplinären Teams, die sich darauf konzentrieren, die KI-Entwicklung voranzutreiben, um komplexe globale Herausforderungen zu lösen und hochwertige Produktinnovationen für Milliarden von Nutzern zu beschleunigen. Wir nutzen unsere Technologien zum weitreichenden öffentlichen Nutzen und zur wissenschaftlichen Entdeckung und stellen sicher, dass Sicherheit und Ethik immer unsere höchste Priorität haben.
Wir erweitern die Grenzen in mehreren Bereichen. Unsere globalen Teams bieten vielfältige Lernmöglichkeiten und unterschiedliche Karrierewege für diejenigen, die motiviert sind, außergewöhnliche Ergebnisse durch kollektive Anstrengungen zu erzielen. Die individuelle Vergütung wird durch Faktoren wie berufsbezogene Fähigkeiten, Erfahrung sowie relevante Ausbildung oder Schulung bestimmt.
- Durchführung schneller Sicherheitsbewertungen von agentischen Diensten, mit Fokus auf Schwachstellen, die einzigartig für Generative AI sind, wie Eingabeaufforderungsinjektion, Eskalation der Werkzeugnutzung und autonome laterale Bewegung.
- Entwicklung und Ausführung von Angriffssequenzen, die nicht-deterministische Modellverhalten, agentische Logikfehler und Datenvergiftungsvektoren ausnutzen.
- Schreiben von Code zur Transformation manueller Schwachstellenerkennungen in automatisierte Regressionstestframeworks („Auto Red Teaming“), die Regressionen in zukünftigen Modellversionen verhindern.
- Direkte Zusammenarbeit mit Entwicklern während der Entwurfs- und Bauphasen, um sofortiges Feedback zu geben und so den Feedbackzyklus zwischen offensiven Erkenntnissen und defensiver Technik zu verkürzen.
- Pflege und Erweiterung einer Bibliothek agentenspezifischer Angriffsmuster und Exploit-Primitiven zur Festlegung von Freigabekriterien für neue Modelle.
Senior Security Engineer, Agentic Red Team, DeepMind Arbeitgeber: Google LLC
Google in Hamburg bietet eine herausragende Arbeitsumgebung für Rechtsreferendare, die sich für die Herausforderungen des digitalen Zeitalters interessieren. Mit einem innovativen Ansatz zur Lösung rechtlicher Fragestellungen und einer Kultur, die Vielfalt und Inklusion fördert, haben Mitarbeiter die Möglichkeit, in einem dynamischen Team zu wachsen und wertvolle Erfahrungen zu sammeln. Die Kombination aus flexibler Arbeitsweise, spannenden Projekten und der Unterstützung durch erfahrene Juristen macht Google zu einem attraktiven Arbeitgeber für angehende Juristen.
StudySmarter Expertenrat🤫
Wir sind der Meinung, dass du so Senior Security Engineer, Agentic Red Team, DeepMind erhalten könntest
✨Werde sichtbar in der IT-Sicherheits-Community
In der IT-Sicherheit gibt’s eine Menge Fachkreise und Konferenzen, die super für Networking sind. Schau dir Events wie die "IT-Security Convention" oder regionale Meetups an, um Gleichgesinnte und potenzielle Arbeitgeber wie Google LLC kennenzulernen!
✨Kollaboriere an Open-Source-Projekten
Zeig dein Können und engagiere dich in Open-Source-Projekten, die auf IT-Sicherheit abzielen. Das ist nicht nur eine tolle Möglichkeit, praktische Erfahrungen zu sammeln, sondern auch, um dein Portfolio zu erweitern und Sichtbarkeit in der Branche zu gewinnen.
✨Nutze spezielle Jobportale für IT-Sicherheit
Schau auf spezialisierten Jobportalen wie "heise jobs" oder "StepStone" nach offenen Stellen in der IT-Sicherheit. Hier findest du viele Angebote, die nicht immer auf den großen Plattformen gelistet sind. Vergiss nicht, dich direkt auf der Website von Google LLC zu bewerben!
✨Halte deine Skills up-to-date
In der IT-Sicherheit bleibt nichts stehen, also bleib am Ball! Investiere Zeit in Weiterbildung und besuche Online-Kurse oder Webinare zu aktuellen Sicherheitsthemen. Das zeigt nicht nur dein Engagement, sondern stärkt auch dein Profil bei Google LLC.
Wir glauben, dass du diese Fähigkeiten brauchst, um Senior Security Engineer, Agentic Red Team, DeepMind mit Bravour zu bestehen
Einige Tipps für deine Bewerbung 🫡
Zeig deine technischen Skills!:Im Bereich IT-Sicherheit ist es wichtig, dass du deine technischen Fähigkeiten klar kommunizierst. Stelle sicher, dass dein Lebenslauf relevante Zertifikate (wie CEH oder CISSP) sowie praktische Erfahrungen bei Sicherheitsprojekten oder Penetrationstests zeigt. Dies wird uns helfen, einen besseren Eindruck von deinem Fachwissen zu bekommen.
Präsentiere dein Wissen über aktuelle Trends:Wir möchten sehen, dass du über die neuesten Entwicklungen im Bereich IT-Sicherheit informiert bist. In deinem Anschreiben kannst du beispielsweise auf ein aktuelles Sicherheitsproblem oder einen neuen Standard eingehen, den du für relevant hältst. Dadurch zeigst du uns, dass du dich aktiv mit dem Thema auseinandersetzt und für die Position brennst.
Mach deine Leidenschaft deutlich:Da es sich um eine Vollzeitposition handelt, ist es wichtig, dass du uns in deinem Anschreiben zeigst, warum du in der IT-Sicherheit arbeiten möchtest. Erzähl uns von deinen Erfahrungen, wie du zur Cyber-Security gekommen bist und was dich motiviert, in dieser Branche zu arbeiten. Deine Motivation spielt eine große Rolle bei der Auswahl!
Referenzen oder Projekte anfügen:Wenn du bereits an interessanten Projekten gearbeitet hast oder relevante Referenzen hast, die deine Fähigkeiten unterstreichen, füge diese in deine Bewerbung hinzu. Das gibt uns einen Einblick in deine praktische Erfahrung und zeigt, was du wirklich drauf hast. Ein Link zu einem GitHub-Profil oder Sicherheitsanalysen, die du durchgeführt hast, wäre hier super hilfreich!
Wie man sich auf ein Vorstellungsgespräch bei Google LLC vorbereitet
✨Sicherheitsprotokolle dominiert!
Mach dich mit den neuesten Sicherheitsprotokollen und -standards vertraut. Bei Google LLC könnte es sein, dass du in technisch anspruchsvollen Fragen zu Netzwerksicherheit und Schwachstellenmanagement gefordert wirst – zeig, dass du die Grundlagen und die aktuellen Trends im Bereich IT-Sicherheit beherrschst!
✨Praktische Erfahrung zählt!
Bereite dich darauf vor, über frühere Projekte oder Erfahrungen im Bereich IT-Sicherheit zu sprechen. Es ist wichtig, Beispiele zu haben, wie du Sicherheitslücken identifiziert und behoben hast oder welche Tools du verwendet hast, um Systeme abzusichern. Google LLC sucht nach jemandem, der die Theorie auch anwenden kann!
✨Teamarbeit nicht vergessen!
IT-Sicherheit ist oft Teamarbeit. Sei bereit, Fragen zu beantworten, wie du in einem Team umgehst, um Sicherheitsprobleme zu lösen. Denk auch an Beispiel-Situationen, in denen du optimal mit anderen zusammengearbeitet hast – das könnte einen großen Unterschied machen!
✨Motivation und Lernbereitschaft zeigen!
Da es sich um eine Vollzeitstelle handelt, wird Google LLC auch wissen wollen, wie motiviert du bist und welche Schritte du unternimmst, um dein Wissen in der sich ständig weiterentwickelnden Welt der IT-Sicherheit auf dem neuesten Stand zu halten. Das könnte in einem Gespräch über deine Weiterbildung oder zertifikatsbezogenen Pläne relevant sein!