Research Engineer, Cybersecurity RL (Reinforcement Learning)

Anthropic's mission is es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu schaffen. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer und die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe engagierter Forscher, Ingenieure, Politikspezialisten und Geschäftsleiter, die zusammenarbeiten, um nützliche KI-Systeme zu entwickeln.

Das Sicherheitsteam schützt die KI-Systeme von Anthropic und erhält das Vertrauen unserer Nutzer und der Gesellschaft.

Bei Anthropic erkunden wir neue Grenzen in der KI, die das Potenzial haben, der Gesellschaft erheblich zu nutzen. Die Entwicklung fortschrittlicher KI birgt jedoch auch Risiken, wenn sie nicht ordnungsgemäß gesichert wird. Als Research Engineer helfen Sie dabei, die Fähigkeiten unserer Modelle in den Bereichen Incident Response, Sicherheitsanalyse, Schwachstellenbehebung und anderen Bereichen der defensiven Cybersicherheit sicher voranzutreiben.

Diese Rolle verbindet Forschung und Ingenieurwesen und erfordert, dass Sie sowohl neuartige Ansätze entwickeln als auch diese in Code umsetzen. Ihre Arbeit umfasst das Entwerfen und Implementieren von RL-Umgebungen, das Durchführen von Experimenten und Bewertungen, das Bereitstellen Ihrer Arbeit in Produktionsschulungsdurchläufen sowie die Zusammenarbeit mit anderen Forschern, Ingenieuren und Cybersicherheitsspezialisten innerhalb und außerhalb von Anthropic.

Diese Rolle erfordert ML-Erfahrung kombiniert mit Fachwissen im Bereich Cybersicherheit. Sie könnten ein ML-Forscher mit einer Geschichte in der Cybersicherheitsarbeit sein oder ein Sicherheitsexperte mit einem Hintergrund in ML.

Verantwortlichkeiten

• Zusammenarbeit mit Forschern und Sicherheitsteams bei Anthropic, um deren analytische Bedürfnisse zu verstehen und Lösungen zu entwickeln.
• Entwicklung agentischer Integrationen, die es KI-Systemen ermöglichen, autonom analytische Ergebnisse zu untersuchen und darauf zu reagieren.
• Beitrag zur strategischen Ausrichtung des Teams, einschließlich Entscheidungen darüber, was gebaut werden soll, woran man sich beteiligen sollte und wo investiert werden soll.
• Diese Rolle kann die Teilnahme an einer Rufbereitschaft erfordern.

Sie könnten gut passen, wenn Sie

• Erfahrung mit maschinellem Lernen haben.
• Erfahrung in der Cybersicherheitsforschung haben.
• Starke Software-Engineering-Fähigkeiten besitzen.
• Forschungserkundung mit Ingenieureinführung ausbalancieren können.
• Leidenschaft für das Potenzial von KI haben und sich für die Entwicklung sicherer und nützlicher Systeme einsetzen.

Starke Kandidaten könnten auch haben

• Berufserfahrung in der Sicherheitsingenieurwissenschaft, Fuzzing, Erkennung und Reaktion oder anderer angewandter defensiver Arbeit.
• Erfahrung in der Teilnahme an oder dem Aufbau von CTF-Wettbewerben und Cyber-Ranges.
• Akademische Forschungserfahrung in der Cybersicherheit oder einem anderen experimentellen Forschungsbereich.
• Vertrautheit mit RL-Techniken und -Umgebungen.
• Vertrautheit mit LLM-Trainingsmethoden.

Logistik

Minimale Ausbildung: Bachelor-Abschluss oder eine gleichwertige Kombination aus Ausbildung, Schulung und/oder Erfahrung.

Erforderliches Studienfeld: Ein für die Rolle relevantes Feld, das durch Kursarbeit, Schulung oder berufliche Erfahrung nachgewiesen wird.

Minimale Jahre an Erfahrung: Die erforderlichen Jahre an Erfahrung korrelieren mit den internen Anforderungen für die Position.

Standortbasierte Hybridpolitik: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25 % der Zeit in einem unserer Büros sind. Einige Rollen können jedoch mehr Zeit in unseren Büros erfordern.

Visumsponsoring: Wir sponsern Visa! Allerdings können wir nicht für jede Rolle und jeden Kandidaten erfolgreich Visa sponsern. Wenn wir Ihnen jedoch ein Angebot machen, werden wir alle angemessenen Anstrengungen unternehmen, um Ihnen ein Visum zu besorgen, und wir behalten einen Einwanderungsanwalt, um dabei zu helfen.

Nicht alle starken Kandidaten werden jede einzelne Qualifikation erfüllen, wie sie aufgeführt ist. Forschung zeigt, dass Menschen, die sich als Angehörige unterrepräsentierter Gruppen identifizieren, eher dazu neigen, das Gefühl von Imposter-Syndrom zu erleben.