Auf einen Blick
- Aufgaben: Entwickeln Sie Systeme zur Überwachung von Modellen und zur Verhinderung von Missbrauch.
- Unternehmen: Anthropic strebt an, zuverlässige und interpretable KI-Systeme zu schaffen.
- Vorteile: Jährliches Gehalt zwischen £255,000 und £325,000 GBP sowie Visa-Sponsoring.
- Weitere Informationen: Hybrid-Arbeitsmodell mit mindestens 25% Büroanwesenheit.
- Warum dieser Job: Arbeiten Sie an der Sicherheit und dem Wohlbefinden von Nutzern in der KI-Branche.
- Qualifikationen: Bachelor-Abschluss in Informatik oder vergleichbare Erfahrung sowie 4-10 Jahre Berufserfahrung.
Über Anthropic
Die Mission von Anthropic ist es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu schaffen. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer und die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe engagierter Forscher, Ingenieure, Politikspezialisten und Geschäftsleiter, die zusammenarbeiten, um nützliche KI-Systeme zu entwickeln.
Über die Rolle
Wir suchen Software-Ingenieure, die helfen, die grundlegenden Elemente für Sicherheits-, Überwachungs- und Interventionsmechanismen unserer KI-Systeme zu entwickeln. Als Software-Ingenieur im Safeguards-Team werden Sie daran arbeiten, Modelle zu überwachen, Missbrauch zu verhindern und das Wohlbefinden der Nutzer zu gewährleisten. Diese Rolle konzentriert sich auf den Aufbau von Systemen zur Erkennung unerwünschter Modellverhalten und zur Verhinderung unzulässiger Nutzung von Modellen. Sie werden Ihre technischen Fähigkeiten anwenden, um unsere Prinzipien von Sicherheit, Transparenz und Aufsicht aufrechtzuerhalten.
Verantwortlichkeiten
- Entwicklung der grundlegenden Systeme, die Safeguards antreiben, einschließlich Infrastruktur für Datenspeicherung und -management, Metrik- und Bewertungssysteme sowie Werkzeuge für menschliche und agentische Überprüfung.
- Sicherstellung des täglichen Betriebs der Safeguards-Systeme und Einhaltung eines hohen operativen Standards, der sowohl Sicherheit als auch Kundenbedürfnisse erfüllt und gleichzeitig die erforderliche menschliche Intervention und Aufsicht reduziert.
- Aufbau robuster und zuverlässiger mehrschichtiger Verteidigungen zur Echtzeitverbesserung von Sicherheitsmechanismen, die in großem Maßstab funktionieren.
Sie könnten gut geeignet sein, wenn Sie:
- einen Bachelor-Abschluss in Informatik, Softwaretechnik oder vergleichbarer Erfahrung haben
- 4-10+ Jahre Erfahrung in einer Position als Software-Ingenieur haben
- Beherrschung von Python besitzen
- Fähigkeit haben, über den gesamten Stack hinweg zu arbeiten
- Starke Kommunikationsfähigkeiten besitzen und in der Lage sind, komplexe technische Konzepte nicht-technischen Stakeholdern zu erklären
Starke Kandidaten könnten auch:
- Erfahrung im Aufbau von Vertrauens- und Sicherheitsmechanismen, Anti-Spam, Betrugs- oder Missbrauchserkennung und -minderungsmechanismen sowie Interventionen für KI/ML-Systeme haben
- Erfahrung im Aufbau von Metrik- und Messsystemen oder Daten- und Datenschutzmanagementsystemen haben
- Eng mit operativen Teams zusammengearbeitet haben, um maßgeschneiderte interne Werkzeuge zu entwickeln
- In TypeScript oder Rust versiert sind
- Erfahrung mit Claude Code oder ähnlichen agentischen Codierungswerkzeugen haben
Frist für die Bewerbung: Keine. Bewerbungen werden fortlaufend geprüft.
Jahresgehalt
Die jährliche Vergütungsbandbreite für diese Rolle ist unten aufgeführt. Für Vertriebsrollen umfasst die angegebene Bandbreite die On Target Earnings (OTE) der Rolle, was bedeutet, dass die Bandbreite sowohl die Zielprovisionen/-boni als auch das jährliche Grundgehalt für die Rolle umfasst.
Jahresgehalt: £255,000 — £325,000 GBP
Logistik
- Minimale Ausbildung: Bachelor-Abschluss oder eine gleichwertige Kombination aus Ausbildung, Schulung und/oder Erfahrung.
- Erforderliches Studienfeld: Ein für die Rolle relevantes Feld, das durch Kursarbeit, Schulung oder berufliche Erfahrung nachgewiesen wird.
- Minimale Jahre an Erfahrung: Die erforderlichen Jahre an Erfahrung korrelieren mit den internen Anforderungen an das Jobniveau für die Position.
- Standortbasierte Hybridpolitik: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25% der Zeit in einem unserer Büros sind. Einige Rollen können jedoch mehr Zeit in unseren Büros erfordern.
- Visumsponsoring: Wir sponsern Visa! Allerdings können wir nicht für jede Rolle und jeden Kandidaten erfolgreich Visa sponsern. Wenn wir Ihnen jedoch ein Angebot machen, werden wir alle angemessenen Anstrengungen unternehmen, um Ihnen ein Visum zu besorgen, und wir behalten einen Einwanderungsanwalt, um dabei zu helfen.
Wir ermutigen Sie, sich zu bewerben, auch wenn Sie nicht glauben, dass Sie jede einzelne Qualifikation erfüllen.
Software Engineer, Safeguards Infrastructure Arbeitgeber: Anthropic
Anthropic hat das Ziel, sichere und nützliche KI-Systeme zu entwickeln. Das Unternehmen bietet ein wettbewerbsfähiges Gehalt und unterstützt Visa-Anträge. Das Team besteht aus engagierten Forschern und Ingenieuren, die zusammenarbeiten, um vorteilhafte KI-Systeme zu schaffen.
