Offensive Security Agent Engineer

Die Sicherheit ist die Grundlage von OpenAIs Mission, sicherzustellen, dass künstliche allgemeine Intelligenz der gesamten Menschheit zugutekommt. Das Sicherheitsteam schützt OpenAIs Technologie, Menschen und Produkte. Wir sind technisch in dem, was wir bauen, aber operativ in der Art und Weise, wie wir arbeiten, und setzen uns dafür ein, alle Produkte und Forschungen bei OpenAI zu unterstützen. Unsere Grundsätze im Sicherheitsteam umfassen: Priorisierung nach Wirkung, Ermöglichung für Forscher, Vorbereitung auf zukünftige transformative Technologien und Förderung einer robusten Sicherheitskultur.

Wir suchen einen außergewöhnlichen Experten im Bereich offensive Sicherheit auf Staff - Principal-Niveau, um Agenten zu entwickeln, die kontinuierlich Schwachstellen in OpenAIs Infrastruktur und Anwendungen identifizieren und deren Behebung koordinieren. Sie werden der technische Verantwortliche für dieses Vorhaben sein und tiefes Wissen über offensive Sicherheit mit Agententechnologie kombinieren, um ein Produktionssystem zu schaffen, das sicher und zuverlässig im großen Maßstab betrieben werden kann.

In dieser Rolle werden Sie ein Portfolio spezialisierter Agenten aufbauen, die ein tiefes Verständnis für OpenAIs Infrastruktur, Anwendungen, Prozesse und Sicherheitsgrenzen entwickeln. Diese Agenten kombinieren interne Kontexte mit Rückmeldungen von laufenden Systemen, um unsere Cloud-Umgebungen, Kubernetes-Cluster, Webanwendungen, Endpunkte, externe Angriffsflächen und andere hochpriorisierte Ziele zu erkunden.

Das Ziel ist es, dass Agenten nicht nur Schwachstellen entdecken, sondern auch die Ausnutzbarkeit validieren, Auswirkungen dokumentieren, die Behebung vorantreiben und Korrekturen überprüfen. Der Erfolg wird durch Ergebnisse wie behobene Schwachstellen, abgedeckte Angriffsflächen und Leistung bei Bewertungen, die Sie erstellen, gemessen.

In dieser Rolle werden Sie:

• Als technischer Eigentümer von OpenAIs offensiven Sicherheitsagenten fungieren und deren Architektur, technische Richtung, Betriebsmodell und Evaluierungsstrategie festlegen.
• Ein Portfolio spezialisierter Agenten entwerfen und aufbauen, die OpenAIs Infrastruktur und Anwendungen aus verschiedenen authentifizierten und nicht authentifizierten Perspektiven kontinuierlich testen.
• Expertise in offensive Sicherheitsabläufe und Intuition in Werkzeuge, Fähigkeiten, Richtlinien und interne Wissensdatenbanken übersetzen.
• Agenten entwickeln, die OpenAIs Umgebung tief verstehen, indem sie interne Kontexte integrieren.
• Fähigkeiten zum Testen von Cloud- und Kubernetes-Umgebungen, modernen Webanwendungen, externen Angriffsflächen, Endpunkten und anderen hochpriorisierten Systemen entwickeln.
• Vollständige Schwachstellenmanagement-Schleifen aufbauen, die über die Entdeckung hinausgehen und Validierung der Auswirkungen, Identifizierung von Verantwortlichkeiten, Priorisierung, Unterstützung bei der Behebung, Fortschrittsverfolgung und Überprüfung von Korrekturen umfassen.
• Systeme mit menschlicher Kontrolle entwerfen, die es offensiven Sicherheitstechnikern ermöglichen, potenziell gefährliche Aktionen zu genehmigen oder abzulehnen, fehlenden Kontext bereitzustellen, Ermittlungen umzuleiten und Agenten von unproduktiven Wegen abzuhalten.
• Rückmeldemechanismen schaffen, die es Agenten ermöglichen, aus den Entscheidungen, Korrekturen und der Fachkenntnis erfahrener Praktiker der offensiven Sicherheit zu lernen.
• Strenge Bewertungen entwickeln, die bedeutende Sicherheitsresultate und Verbesserungen der Agentenfähigkeiten im Laufe der Zeit messen.
• Produktionsqualität-Infrastruktur aufbauen, die es dem System ermöglicht, kontinuierlich zu laufen, sich von Fehlern zu erholen, beobachtbar und debugbar zu bleiben und sicher gegen Produktionssysteme zu arbeiten.
• Fehler im Denken und Verhalten von Agenten untersuchen, identifizieren, wo Modelle fähig oder unzuverlässig sind, und die umgebenden Werkzeuge, Kontexte, Arbeitsabläufe und Sicherheitsvorkehrungen entsprechend verbessern.
• Eng mit Teams für offensive Sicherheit, Infrastruktur-Sicherheit, Produkt-Sicherheit, Codex-Sicherheit und Engineering zusammenarbeiten, um sicherzustellen, dass die Ergebnisse hochsignifikant, verständlich und umsetzbar sind.
• Die Zukunft der offensiven Sicherheit bei OpenAI mit dem Ziel definieren, dass Agenten die meisten wiederholbaren Sicherheitstests durchführen, während menschliche Experten sich auf Automatisierung und hochgradige agentenunterstützte manuelle Überprüfungen konzentrieren.

Sie könnten in dieser Rolle erfolgreich sein, wenn:

• Sie umfangreiche praktische Erfahrung in der offensiven Sicherheit haben und ein starkes Urteilsvermögen darüber besitzen, welche Schwachstellen und Angriffswege verfolgt werden sollten.
• Sie umfassende Fachkenntnisse in Bereichen wie Cloud-Sicherheit, Kubernetes- und Container-Sicherheit, Webanwendungssicherheit, Quellcode-Überprüfung, Linux-Sicherheit, macOS-Sicherheit oder externem Angriffsflächen-Test haben. Expertise in Cloud, Kubernetes und modernen Webanwendungen ist besonders wertvoll.
• Sie Erfahrung in der Bewertung komplexer, hochgradig angepasster Umgebungen haben, anstatt sich hauptsächlich auf standardisierte Scanner, Checklisten oder bekannte Schwachstellenerkennung zu verlassen.
• Sie ein mehrdeutiges Problem der offensiven Sicherheit in ein zuverlässiges System zerlegen und das Denken und die Arbeitsabläufe eines erfahrenen Betreibers in Software kodieren können.
• Sie produktionsreife Software entwickelt haben.
• Sie Agentensysteme gebaut oder sinnvoll erweitert haben, die Modelle, Werkzeuge, strukturierten Kontext, Gedächtnis, Orchestrierung und Rückkopplungsschleifen nutzen, um komplexe Arbeiten zu erledigen.
• Sie verstehen, dass eine beeindruckende Agentendemonstration sehr unterschiedlich von einem zuverlässigen Produktionssystem ist, und Ihnen Evaluierungen, Beobachtbarkeit, Fehlerbehebung, Sicherheit, Wartbarkeit und Widerstandsfähigkeit gegen Regressionen sehr am Herzen liegen.
• Sie starke Intuitionen darüber haben, wo aktuelle Modelle fähig sind, wo sie unzuverlässig sind und wie Werkzeuge, Kontexte, Gerüste und menschliches Feedback ihren nützlichen Betriebsbereich erweitern können.
• Sie begeistert sind, eng mit Grenzmodellen zu arbeiten, neugierig auf deren aufkommende Fähigkeiten sind und ständig nach Möglichkeiten suchen, diese zur Verbesserung Ihrer eigenen Arbeitsabläufe zu nutzen.
• Sie von der Möglichkeit begeistert sind, als technischer Eigentümer eines ehrgeizigen neuen Systems zu fungieren, grundlegende architektonische Entscheidungen zu treffen und ein Team darum herum aufzubauen.

Zusätzliche Punkte:

• Hintergrund oder Fachkenntnisse in KI oder Datenwissenschaft.
• Frühere Erfahrung in Tech-Startups oder schnelllebigen Technologieumgebungen.
• Erfahrung in verwandten Disziplinen wie Software Engineering, Produktsicherheit, Anwendungssicherheit, Erkennungsengineering, Site Reliability Engineering, Sicherheitstechnik oder IT-Infrastruktur.

OpenAI ist ein Unternehmen für KI-Forschung und -Bereitstellung, das sich dafür einsetzt, dass allgemeine künstliche Intelligenz der gesamten Menschheit zugutekommt. Wir erweitern die Grenzen der Fähigkeiten von KI-Systemen und streben an, sie sicher durch unsere Produkte in die Welt zu bringen. KI ist ein äußerst leistungsfähiges Werkzeug, das mit Sicherheit und den Bedürfnissen der Menschen im Mittelpunkt geschaffen werden muss, und um unsere Mission zu erreichen, müssen wir die vielen verschiedenen Perspektiven, Stimmen und Erfahrungen, die das gesamte Spektrum der Menschheit bilden, einbeziehen und wertschätzen.

Wir sind ein Arbeitgeber, der Chancengleichheit bietet, und diskriminieren nicht aufgrund von Rasse, Religion, Hautfarbe, nationaler Herkunft, Geschlecht, sexueller Orientierung, Alter, Veteranenstatus, Behinderung, genetischen Informationen oder anderen anwendbaren rechtlich geschützten Merkmalen.