Auf einen Blick
- Aufgaben: Entwickeln Sie Überwachungssysteme zur Erkennung unerwünschter Verhaltensweisen von API-Partnern.
- Unternehmen: Anthropic ist ein schnell wachsendes Unternehmen, das sich auf sichere und nützliche KI-Systeme konzentriert.
- Vorteile: Jahresgehalt zwischen 320.000 und 485.000 USD sowie Visa-Sponsoring für geeignete Kandidaten.
- Weitere Informationen: Hybrid-Arbeitsmodell mit mindestens 25% Büroanwesenheit.
- Warum dieser Job: Arbeiten Sie an der Schnittstelle von Softwareentwicklung und KI-Sicherheit in einem innovativen Team.
- Qualifikationen: Bachelor-Abschluss in Informatik oder vergleichbare Erfahrung sowie 5-10 Jahre Berufserfahrung.
Anthropic’s mission is es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu schaffen. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer und die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe von engagierten Forschern, Ingenieuren, Politikspezialisten und Geschäftsführern, die zusammenarbeiten, um nützliche KI-Systeme zu entwickeln.
Wir suchen Software-Ingenieure, die helfen, Sicherheits- und Überwachungsmechanismen für unsere KI-Systeme zu entwickeln. Als Software-Ingenieur im Safeguards-Team werden Sie daran arbeiten, Modelle zu überwachen, Missbrauch zu verhindern und das Wohlbefinden der Nutzer sicherzustellen. Diese Rolle konzentriert sich auf den Aufbau von Systemen zur Erkennung unerwünschter Modellverhalten und zur Verhinderung unzulässiger Nutzung von Modellen. Sie werden Ihre technischen Fähigkeiten anwenden, um unsere Prinzipien von Sicherheit, Transparenz und Aufsicht zu wahren, während Sie unsere Nutzungsbedingungen und akzeptablen Nutzungspolitiken durchsetzen.
Verantwortlichkeiten
- Entwicklung von Überwachungssystemen zur Erkennung unerwünschter Verhaltensweisen von unseren API-Partnern und gegebenenfalls automatisierte Durchsetzungsmaßnahmen ergreifen; diese in internen Dashboards für Analysten zur manuellen Überprüfung anzeigen
- Aufbau von Mechanismen zur Missbrauchserkennung und Infrastruktur
- Missbrauchsmuster an unsere Forschungsteams weitergeben, um Modelle in der Trainingsphase zu stärken
- Robuste und zuverlässige mehrschichtige Verteidigungen für die Echtzeitverbesserung von Sicherheitsmechanismen, die in großem Maßstab funktionieren, aufbauen
Qualifikationen
- Abschluss in Informatik, Softwaretechnik oder vergleichbare Erfahrung
- 5-10+ Jahre Erfahrung in einer Position der Softwareentwicklung, vorzugsweise mit einem Fokus auf Integrität, Spam, Betrug oder Missbrauchserkennung und -minderung
- Beherrschung von Python und Typescript
- Fähigkeit, über den gesamten Stack zu arbeiten
- Starke Kommunikationsfähigkeiten und die Fähigkeit, komplexe technische Konzepte nicht-technischen Stakeholdern zu erklären
Starke Kandidaten haben möglicherweise auch Erfahrung in:
- Aufbau von Vertrauens- und Sicherheitsmechanismen zur Erkennung und Intervention für KI/ML-Systeme
- Arbeiten mit Prompt Engineering, Jailbreak-Angriffen und anderen adversarialen Eingaben
- Enger Zusammenarbeit mit operativen Teams zum Aufbau maßgeschneiderter interner Werkzeuge
Vergütung
Jahresgehalt: 320.000 — 485.000 USD
Logistik
- Minimale Ausbildung: Bachelor-Abschluss oder eine gleichwertige Kombination aus Ausbildung, Schulung und/oder Erfahrung
- Erforderliches Studienfeld: Ein für die Rolle relevantes Feld, wie durch Kursarbeit, Schulung oder Berufserfahrung nachgewiesen
- Minimale Jahre an Erfahrung: Die erforderlichen Jahre an Erfahrung korrelieren mit den internen Anforderungen für die Position
- Standortbasierte Hybridpolitik: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25% der Zeit in einem unserer Büros sind. Einige Rollen können jedoch mehr Zeit in unseren Büros erfordern.
- Visumsponsoring: Wir sponsern Visa! Wir sind jedoch nicht in der Lage, für jede Rolle und jeden Kandidaten erfolgreich Visa zu sponsern. Wenn wir Ihnen jedoch ein Angebot machen, werden wir alle angemessenen Anstrengungen unternehmen, um Ihnen ein Visum zu besorgen, und wir behalten einen Einwanderungsanwalt, um dabei zu helfen.
Wir ermutigen Sie, sich zu bewerben, auch wenn Sie nicht glauben, dass Sie jede einzelne Qualifikation erfüllen.
Software Engineer, Safeguards Arbeitgeber: Anthropic
Anthropic bietet ein dynamisches Arbeitsumfeld in der KI-Branche mit einem klaren Fokus auf Sicherheit und Transparenz. Das Unternehmen fördert die Entwicklung von vertrauenswürdigen KI-Systemen und bietet ein attraktives Gehalt sowie Visa-Sponsoring. Das Team besteht aus engagierten Fachleuten, die zusammenarbeiten, um positive gesellschaftliche Auswirkungen zu erzielen.
StudySmarter Expertenrat🤫
Wir sind der Meinung, dass Sie so Software Engineer, Safeguards erhalten könnten
✨Engagier dich in Entwickler-Communities!
Lass uns mal ehrlich sein: In der Software-Entwicklung sind Netzwerke Gold wert! Tummel dich in GitHub-Projekten, nehme an lokalen Meetups oder Hackathons teil und vernetze dich mit anderen Entwicklern. So steigerst du nicht nur deine Sichtbarkeit, sondern lernst auch die neuesten Trends und Technologien kennen.
✨Zeig deine Fähigkeiten!
Erstelle ein Portfolio, das deine besten Projekte und Code-Examples zeigt. Nichts überzeugt mehr als ein praktischer Beweis deiner Skills. Das kann auch helfen, bei Anthropic anzuklopfen, wenn du dich auf die Stelle als Software Engineer, Safeguards bewirbst – so wissen sie gleich, was sie von dir erwarten können!
✨Nutze Jobplattformen speziell für Tech-Jobs!
Plattformen wie Stack Overflow Jobs oder AngelsList sind perfekte Orte, um Vollzeitstellen in der Software-Entwicklung zu finden. Hier sind viele tolle Unternehmen auf der Suche nach Talenten wie uns, also schau regelmäßig vorbei und bewirb dich direkt über die Website.
✨Such dir Mentoren und Feedback!
Hol dir Feedback von erfahrenen Entwicklern, die dir Tipps geben können, was Recruiter wirklich suchen. Ob über LinkedIn oder persönliche Kontakte: Menschen, die sich in der Branche auskennen, können enorm wertvoll sein, um dir zu helfen, dich optimal auf deine Bewerbung bei Anthropic vorzubereiten!
Wir glauben, dass du diese Fähigkeiten brauchst, um Software Engineer, Safeguards mit Bravour zu bestehen
Einige Tipps für deine Bewerbung 🫡
Highlights deiner Coding-Skills:In der Software-Entwicklung kommt es auf konkrete Fähigkeiten an. Vergiss nicht, relevante Programmiersprachen und Frameworks in deinen Lebenslauf aufzunehmen. Zeig uns, was du kannst – vielleicht mit einem Link zu deinem GitHub-Profil oder einer Übersicht deiner Side Projects, die deine Programmierkenntnisse illustrieren.
Dokumentation deiner Erfolge:Gerade bei einer Vollzeitstelle in der Software-Entwicklung sind konkrete Ergebnisse Gold wert. Nenn uns Zahlen und Ergebnisse aus deinen vorherigen Projekten. Hast du den Code optimiert oder Systemfehler behoben? Solche Erfolge zeigen, dass du die Sprache der Entwickler sprichst und einen echten Mehrwert bringst.
Attraktive Projektbeschreibungen:Wenn du an Projekten gearbeitet hast, die hervorstechen, beschreibe sie ausführlich in deinem Lebenslauf. Was war das Problem, das du gelöst hast? Welche Technologien hast du eingesetzt? Das gibt uns einen klaren Einblick in deine Herangehensweise und Problemlösungsfähigkeiten.
Motivation zeigen:In deinem Anschreiben solltest du deine Motivation für die Stelle im Bereich Software-Entwicklung bei Anthropic klar herausstellen. Warum sprichst gerade du die Anforderungen für diese Vollzeitrolle an? Mach deutlich, was dich an der Arbeit bei uns reizt und wie du über das rein Technische hinaus wachsen möchtest.
Wie man sich auf ein Vorstellungsgespräch bei Anthropic vorbereitet
✨Technische Vorbereitung auf die Coding-Challenges
In der Software-Entwicklung sind technische Fragen oft ein zentraler Teil des Interviews. Macht euch mit Plattformen wie LeetCode oder HackerRank vertraut, um eure Problemlösungsfähigkeiten zu trainieren. Zeigt im Interview viel Selbstbewusstsein beim Erklären eurer Ansätze!
✨Das eigene Portfolio im besten Licht präsentieren
Stellt sicher, dass ihr ein aussagekräftiges Portfolio habt, das einige eurer besten Projekte zeigt. Seid bereit, darüber zu sprechen, was eure Rolle war, welche Technologien ihr verwendet habt und welche Herausforderungen es gab. Das gibt den Interviewern einen Einblick in eure praktische Erfahrung.
✨Teamfähigkeit und Kommunikation betonen
In einer Vollzeit-Position wird Kommunikation im Team sehr wichtig sein. Seid bereit, Beispiele aus der Vergangenheit zu teilen, in denen ihr effektiv im Team gearbeitet habt. Dies zeigt, dass ihr nicht nur technische Fähigkeiten habt, sondern auch gut ins Team passt.
✨Vorbereitung auf Fragen zur Software-Architektur
Bereitet euch darauf vor, Fragen zur Software-Architektur zu beantworten. Themen wie RESTful APIs, Microservices und Cloud-Architekturen können Teil eures Interviews sein. Zeigt euer Verständnis durch Diskussionen und Beispiele aus eurer bisherigen Arbeit oder Projekte.
