Cybersecurity RL Research Engineer – AI Safety

Anthropic’s mission ist es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu schaffen. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer und die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe von engagierten Forschern, Ingenieuren, Politikexperten und Geschäftsführern, die zusammenarbeiten, um nützliche KI-Systeme zu entwickeln.

Das Sicherheitsteam schützt die KI-Systeme von Anthropic und erhält das Vertrauen unserer Nutzer und der Gesellschaft.

Als Research Engineer werden Sie dazu beitragen, die Fähigkeiten unserer Modelle in den Bereichen Incident Response, Sicherheitsanalyse, Schwachstellenbehebung und anderen Bereichen der defensiven Cybersicherheit sicher voranzutreiben. Diese Rolle verbindet Forschung und Ingenieurwesen und erfordert, dass Sie sowohl neuartige Ansätze entwickeln als auch diese in Code umsetzen. Ihre Arbeit umfasst das Entwerfen und Implementieren von RL-Umgebungen, das Durchführen von Experimenten und Bewertungen sowie die Zusammenarbeit mit anderen Forschern, Ingenieuren und Cybersicherheitsspezialisten innerhalb und außerhalb von Anthropic.

Diese Rolle erfordert ML-Erfahrung kombiniert mit Fachwissen im Bereich Cybersicherheit. Sie könnten ein ML-Forscher mit einer Geschichte in der Cybersicherheitsarbeit sein oder ein Sicherheitsprofi mit einem Hintergrund in ML.

Verantwortlichkeiten:

• Zusammenarbeit mit Forschern und Sicherheitsteams bei Anthropic, um deren analytische Bedürfnisse zu verstehen und Lösungen zu entwickeln.
• Entwicklung agentischer Integrationen, die es KI-Systemen ermöglichen, autonom analytische Ergebnisse zu untersuchen und darauf zu reagieren.
• Beitrag zur strategischen Ausrichtung des Teams, einschließlich Entscheidungen darüber, was gebaut werden soll, woran man sich beteiligen sollte und wo investiert werden soll.

Diese Rolle kann die Teilnahme an einer Rufbereitschaft erfordern.

Sie passen gut zu uns, wenn Sie:

• Erfahrung mit maschinellem Lernen haben.
• Erfahrung in der Cybersicherheitsforschung haben.
• Starke Software-Engineering-Fähigkeiten besitzen.
• Forschungserkundung mit Ingenieureinführung ausbalancieren können.
• Leidenschaft für das Potenzial von KI haben und sich für die Entwicklung sicherer und nützlicher Systeme einsetzen.

Starke Kandidaten könnten auch haben:

• Berufserfahrung in der Sicherheitsingenieurwissenschaft, Fuzzing, Erkennung und Reaktion oder anderer angewandter defensiver Arbeit.
• Erfahrung in der Teilnahme an oder dem Aufbau von CTF-Wettbewerben und Cyber-Ranges.
• Akademische Forschungserfahrung in der Cybersicherheit oder einem anderen experimentellen Forschungsbereich.
• Vertrautheit mit RL-Techniken und -Umgebungen.
• Vertrautheit mit LLM-Trainingsmethoden.

Logistik:

• Minimale Ausbildung: Bachelor-Abschluss oder eine gleichwertige Kombination aus Ausbildung, Schulung und/oder Erfahrung.
• Erforderliches Studienfeld: Ein für die Rolle relevantes Feld, wie durch Kursarbeit, Schulung oder berufliche Erfahrung nachgewiesen.
• Minimale Jahre an Erfahrung: Die erforderlichen Jahre an Erfahrung korrelieren mit den internen Anforderungen für die Position.
• Standortbasierte Hybridpolitik: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25 % der Zeit in einem unserer Büros sind. Einige Rollen können jedoch mehr Zeit in unseren Büros erfordern.
• Visumsponsoring: Wir sponsern Visa! Wir können jedoch nicht für jede Rolle und jeden Kandidaten erfolgreich Visa sponsern.

Wir ermutigen Sie, sich zu bewerben, auch wenn Sie nicht glauben, dass Sie jede einzelne Qualifikation erfüllen. Nicht alle starken Kandidaten erfüllen jede einzelne Qualifikation, wie sie aufgeführt ist. Wir denken, dass KI-Systeme wie die, die wir bauen, enorme soziale und ethische Implikationen haben. Wir glauben, dass dies die Repräsentation noch wichtiger macht, und wir bemühen uns, eine Vielzahl von unterschiedlichen Perspektiven in unser Team einzubeziehen.

Ihre Sicherheit ist uns wichtig. Um sich vor möglichen Betrügereien zu schützen, denken Sie daran, dass Recruiter von Anthropic Sie nur über offizielle Adressen kontaktieren. In einigen Fällen arbeiten wir möglicherweise mit geprüften Personalvermittlungsagenturen zusammen, die sich als Vertreter von Anthropic identifizieren. Seien Sie vorsichtig bei E-Mails von anderen Domains. Legitime Recruiter von Anthropic werden niemals Geld, Gebühren oder Bankinformationen vor Ihrem ersten Arbeitstag anfordern.

Wir glauben, dass die wirkungsvollste KI-Forschung große Wissenschaft sein wird. Bei Anthropic arbeiten wir als ein einziges kohärentes Team an nur wenigen großangelegten Forschungsanstrengungen. Und wir schätzen den Einfluss — die Verwirklichung unserer langfristigen Ziele für steuerbare, vertrauenswürdige KI — mehr als die Arbeit an kleineren und spezifischeren Rätseln. Wir betrachten KI-Forschung als empirische Wissenschaft, die ebenso viel mit Physik und Biologie zu tun hat wie mit traditionellen Bemühungen in der Informatik. Wir sind eine äußerst kollaborative Gruppe und veranstalten häufig Forschungsdiskussionen, um sicherzustellen, dass wir zu jedem Zeitpunkt die wirkungsvollste Arbeit verfolgen.

Kommen Sie zu uns!

Anthropic ist eine gemeinnützige Gesellschaft mit Sitz in San Francisco. Wir bieten wettbewerbsfähige Vergütung und Leistungen, optionale Aktien-Spendenabgleich, großzügigen Urlaub und Elternzeit, flexible Arbeitszeiten und einen schönen Büroraum, in dem Sie mit Kollegen zusammenarbeiten können.