Staff Security Engineer - AI Security

Über Rivian

Rivian hat sich zum Ziel gesetzt, die Welt für immer abenteuerlich zu halten. Dies gilt sowohl für die emissionsfreien Electric Adventure Vehicles, die wir bauen, als auch für die neugierigen, mutigen Seelen, die wir anziehen möchten. Als Unternehmen stellen wir ständig in Frage, was möglich ist, und akzeptieren niemals einfach das, was schon immer getan wurde. Wir überdenken alte Probleme, suchen nach neuen Lösungen und bewegen uns bequem in unbekannten Bereichen. Unsere Hintergründe sind vielfältig, aber unser Team teilt eine Liebe zur Natur und den Wunsch, sie für zukünftige Generationen zu schützen.

Rollenübersicht

Als Security Engineer bei Rivian werden Sie die gegnerische Bewertung unserer KI-gestützten Funktionen und internen Plattformen leiten. Diese Rolle wird in den Bereichen Offensive Security, Secure Architecture und AI/ML tätig sein. Sie werden als eine der Hauptautoritäten von Cybersecurity Assurance in Bezug auf KI-bezogene Risiken fungieren. Sie werden unabhängig die Sicherheit und Integrität dieser KI-Initiativen bewerten, herausfordern und validieren. Sie werden sowohl brechen als auch bauen, indem Sie die Denkweise eines Angreifers und gegnerisches Denken anwenden, um die Annahmen in unserem gesamten KI-Ökosystem in Frage zu stellen, während Sie gleichzeitig die automatisierten Werkzeuge und Schutzmaßnahmen erstellen, die erforderlich sind, um kritische Risiken kontinuierlich aufzudecken und zu mindern.

Verantwortlichkeiten

• Gegnerische Bewertung (Der "Brecher"):
  • AI Red Teaming: Entwerfen und Durchführen tiefgreifender, ungehinderter gegnerischer Bewertungen unserer angewandten KI-Systeme (z. B. Sprachassistenten, RAG-Dienste, KI-Agenten), um Sicherheitsgrenzen und Schutzmaßnahmen durch offensive Sicherheitsbewertungen zu testen.
  • Herausforderung von Annahmen: Drücken Sie die KI-Schutzmechanismen über ihre beabsichtigten Grenzen hinaus. Ihr Ziel ist es, genau zu bestimmen, wann und wie diese Kontrollen versagen, und den Unterschied zwischen dem erwarteten Verhalten eines Systems und seiner tatsächlichen Widerstandsfähigkeit gegen einen Angreifer zu beweisen.
  • Bewertung agentischer Workflows: Bewerten Sie Multi-Agenten- und LLM-integrierte Workflows auf komplexe Risiken wie Privilegieneskalation, unsichere Aktionsverkettung, direkte/indirekte Eingabeaufforderungsinjektion und andere unbeabsichtigte Nebeneffekte.
• Engineering & Automatisierung (Der "Bauer"):
  • Automatisierung von gegnerischen Tests: Erstellen Sie KI-gesteuerte Frameworks, um unser Red Teaming und die Schwachstellenerkennung zu skalieren. Sie werden LLMs, Anomalieerkennung und Korpora von Angriffsaufforderungen nutzen, um unsere automatisierte Abdeckung zu verbessern.
  • Entwicklung funktionsübergreifender Werkzeuge: Entwerfen und betreiben Sie KI-gesteuerte Sicherheitsagenten und automatisierte Frameworks, die die Bemühungen unserer breiteren Cybersecurity-Organisation verstärken.
  • Co-Design von Abwehrmaßnahmen: Arbeiten Sie eng mit Engineering-Teams zusammen, um Ideen zu entwickeln, Überprüfungen durchzuführen und Remediierungen für die von Ihnen gefundenen Lücken zu validieren.
• Funktionsübergreifender Einfluss (Der "Befürworter"):
  • Skalierung der KI-Sicherheitspraktiken: Bedrohungsmodellierung von KI-Architekturen (LLMs, Vektorspeicher, Datenflüsse) und Aufbau von Frameworks für kontinuierliche KI-gesteuerte gegnerische Tests, die über alle Produktteams hinweg skalieren.
  • Proaktive Sicherheitsforschung: Bleiben Sie der Kurve voraus. Verbringen Sie Zeit mit der Forschung neuer KI-Angriffe und dem Prototyping von Schutzmaßnahmen, um zu sehen, ob sie in unserer Umgebung funktionieren.
  • Förderung einer Sicherheitskultur: Arbeiten Sie innerhalb eines funktionsübergreifenden Teams zusammen, um Beziehungen zu entwickeln, senior Stakeholder zu beeinflussen und die Ausrichtung auf die Risikotoleranz und Prioritäten der Minderung von KI-Risiken voranzutreiben.

Qualifikationen

• Gegnerische Denkweise: Erfahrung in der Offensive Security, im Red Teaming, in der Schwachstellenerforschung, im Penetration Testing oder in einer verwandten Rolle, mit nachgewiesener Fähigkeit, komplexe Systeme mit der Denkweise eines entschlossenen Angreifers zu bewerten, um bedeutende geschäftliche Auswirkungen zu finden.
• KI/ML-Flüssigkeit: Tiefes Verständnis von generativen KI-Systemen, einschließlich RAG-Pipelines, großen Sprachmodellen, Vektordatenbanken und Multi-Agenten-Orchestrierungsframeworks sowie deren spezifischen Sicherheitsfehlern. Sie wissen nicht nur, was "indirekte Eingabeaufforderungsinjektion" ist; Sie wissen, wie man Filter umgeht, um dies zu erreichen.
• Engineering-Kompetenz: Praktische Erfahrung im Aufbau, Testen oder Sichern von Anwendungen mit Python/Go. Sie sind mit modernen ML-Frameworks (wie PyTorch, Hugging Face oder LangChain) vertraut und bringen praktische Erfahrung mit spezialisierten KI-Red-Teaming-Tools (wie Garak oder PyRIT) mit.
• Mut & Klarheit: Sie scheuen sich nicht, Annahmen in Frage zu stellen oder unangenehme Wahrheiten im Dienste der Systemsicherheit offenzulegen, und sind geschickt darin, hochwirksame Risiken klar an Führungskräfte und technische Kollegen zu kommunizieren.
• Gegnerische Tiefe: Bonuspunkte, wenn Sie zur Sicherheits- oder KI-Community durch Open-Source-Tools, Forschung oder Schwachstellendiskussionen beigetragen haben, die Ihre Tiefe im gegnerischen Denken demonstrieren.