Research Engineer, Cybersecurity RL (Reinforcement Learning)

Über Anthropic

Anthropic’s Mission ist es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu schaffen. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer und die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe engagierter Forscher, Ingenieure, Politikspezialisten und Geschäftsleiter, die zusammenarbeiten, um nützliche KI-Systeme zu entwickeln.

Über das Team

Das Sicherheitsteam schützt die KI-Systeme von Anthropic und erhält das Vertrauen unserer Nutzer und der Gesellschaft.

Über die Rolle

Bei Anthropic sind wir Pioniere neuer Grenzen in der KI, die das Potenzial haben, der Gesellschaft erheblich zu nutzen. Die Entwicklung fortschrittlicher KI birgt jedoch auch Risiken, wenn sie nicht ordnungsgemäß gesichert ist. Als Research Engineer helfen Sie dabei, die Fähigkeiten unserer Modelle in den Bereichen Incident Response, Sicherheitsanalyse, Schwachstellenbehebung und anderen Bereichen der defensiven Cybersicherheit sicher voranzutreiben. Diese Rolle verbindet Forschung und Ingenieurwesen und erfordert, dass Sie sowohl neuartige Ansätze entwickeln als auch diese in Code umsetzen. Ihre Arbeit umfasst das Entwerfen und Implementieren von RL-Umgebungen, das Durchführen von Experimenten und Bewertungen, das Bereitstellen Ihrer Arbeit in Produktionsschulungsdurchläufen sowie die Zusammenarbeit mit anderen Forschern, Ingenieuren und Cybersicherheitsspezialisten innerhalb und außerhalb von Anthropic. Diese Rolle erfordert ML-Erfahrung in Kombination mit Fachwissen im Bereich Cybersicherheit.

Verantwortlichkeiten

• Zusammenarbeit mit Forschern und Sicherheitsteams bei Anthropic, um deren analytische Bedürfnisse zu verstehen und Lösungen zu entwickeln.
• Entwicklung agentischer Integrationen, die es KI-Systemen ermöglichen, autonom analytische Ergebnisse zu untersuchen und darauf zu reagieren.
• Beitrag zur strategischen Ausrichtung des Teams, einschließlich Entscheidungen darüber, was gebaut werden soll, woran man sich beteiligen sollte und wo investiert werden soll.

Diese Rolle kann die Teilnahme an einer Rufbereitschaft erfordern.

Sie könnten gut geeignet sein, wenn Sie:

• Erfahrung mit maschinellem Lernen haben.
• Erfahrung in der Cybersicherheitsforschung haben.
• Starke Software-Engineering-Fähigkeiten besitzen.
• Forschungserkundung mit Ingenieureinführung ausbalancieren können.
• Leidenschaft für das Potenzial von KI haben und sich für die Entwicklung sicherer und nützlicher Systeme einsetzen.

Starke Kandidaten haben möglicherweise auch:

• Berufserfahrung in der Sicherheitsingenieurwissenschaft, Fuzzing, Erkennung und Reaktion oder anderer angewandter defensiver Arbeit.
• Erfahrung in der Teilnahme an oder dem Aufbau von CTF-Wettbewerben und Cyber-Ranges.
• Akademische Forschungserfahrung in der Cybersicherheit oder einem anderen experimentellen Forschungsbereich.
• Vertrautheit mit RL-Techniken und -Umgebungen.
• Vertrautheit mit LLM-Trainingsmethoden.

Logistik

• Minimale Ausbildung: Bachelor-Abschluss oder eine gleichwertige Kombination aus Ausbildung, Schulung und/oder Erfahrung.
• Erforderliches Studienfeld: Ein für die Rolle relevantes Feld, wie durch Kursarbeit, Schulung oder berufliche Erfahrung nachgewiesen.
• Minimale Jahre an Erfahrung: Die erforderlichen Jahre an Erfahrung korrelieren mit den internen Anforderungen für die Position.

Standortbasierte Hybridpolitik: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25 % der Zeit in einem unserer Büros sind. Einige Rollen können jedoch mehr Zeit in unseren Büros erfordern.

Visumsponsoring: Wir sponsern Visa! Wir sind jedoch nicht in der Lage, Visa für jede Rolle und jeden Kandidaten erfolgreich zu sponsern. Wenn wir Ihnen jedoch ein Angebot machen, werden wir alle angemessenen Anstrengungen unternehmen, um Ihnen ein Visum zu besorgen, und wir behalten einen Einwanderungsanwalt, um dabei zu helfen.

Wir ermutigen Sie, sich zu bewerben, auch wenn Sie nicht glauben, dass Sie jede einzelne Qualifikation erfüllen. Nicht alle starken Kandidaten erfüllen jede einzelne aufgeführte Qualifikation. Forschung zeigt, dass Menschen, die sich als Angehörige unterrepräsentierter Gruppen identifizieren, eher dazu neigen, Imposter-Syndrom zu erleben und an der Stärke ihrer Kandidatur zu zweifeln. Daher fordern wir Sie auf, sich nicht vorzeitig auszuschließen und eine Bewerbung einzureichen, wenn Sie an dieser Arbeit interessiert sind.

Wir denken, dass KI-Systeme wie die, die wir bauen, enorme soziale und ethische Implikationen haben. Das macht Repräsentation noch wichtiger, und wir bemühen uns, eine Vielzahl von unterschiedlichen Perspektiven in unser Team einzubeziehen.

Ihre Sicherheit ist uns wichtig. Um sich vor möglichen Betrügereien zu schützen, denken Sie daran, dass Anthropic-Rekruten Sie nur über offizielle Adressen kontaktieren. In einigen Fällen können wir mit geprüften Personalvermittlungsagenturen zusammenarbeiten, die sich als Vertreter von Anthropic identifizieren. Seien Sie vorsichtig bei E-Mails von anderen Domains. Legitime Anthropic-Rekruten werden niemals Geld, Gebühren oder Bankinformationen vor Ihrem ersten Tag anfordern.

Wenn Sie sich jemals über eine Kommunikation unsicher sind, klicken Sie nicht auf Links oder antworten Sie nicht direkt auf E-Mails. Besuchen Sie unsere Website direkt für bestätigte Stellenangebote.

Wie wir anders sind

Wir glauben, dass die wirkungsvollste KI-Forschung große Wissenschaft sein wird. Bei Anthropic arbeiten wir als ein einziges kohärentes Team an nur wenigen großangelegten Forschungsanstrengungen. Und wir schätzen den Einfluss — die Verwirklichung unserer langfristigen Ziele für steuerbare, vertrauenswürdige KI — mehr als die Arbeit an kleineren und spezifischeren Rätseln. Wir betrachten KI-Forschung als empirische Wissenschaft, die ebenso viel mit Physik und Biologie gemeinsam hat wie mit traditionellen Bemühungen in der Informatik. Wir sind eine äußerst kollaborative Gruppe und veranstalten häufig Forschungsdiskussionen, um sicherzustellen, dass wir zu jedem Zeitpunkt die wirkungsvollste Arbeit verfolgen. Daher schätzen wir Kommunikationsfähigkeiten sehr.

Der einfachste Weg, unsere Forschungsrichtungen zu verstehen, besteht darin, unsere aktuellen Forschungsarbeiten zu lesen. Diese Forschung setzt viele der Richtungen fort, an denen unser Team vor Anthropic gearbeitet hat, einschließlich: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI Compute, Concrete Problems in AI Safety und Learning from Human Preferences.

Kommen Sie zu uns!

Anthropic ist eine gemeinnützige Gesellschaft mit Sitz in San Francisco. Wir bieten wettbewerbsfähige Vergütung und Leistungen, optionale Aktien-Spendenabgleich, großzügigen Urlaub und Elternzeit, flexible Arbeitszeiten und einen schönen Büroraum, in dem Sie mit Kollegen zusammenarbeiten können.