Auf einen Blick
- Aufgaben: Teste KI-Modelle auf Schwachstellen und generiere hochwertige Daten für mehr Sicherheit.
- Unternehmen: Mercor, ein innovatives Unternehmen im Bereich KI-Sicherheit.
- Vorteile: Remote-Arbeit, flexible Arbeitszeiten und die Möglichkeit, an wichtigen Projekten mitzuarbeiten.
- Weitere Informationen: Dynamisches Umfeld mit der Chance, an der Spitze der KI-Sicherheit zu arbeiten.
- Warum dieser Job: Sei Teil eines Teams, das KI sicherer macht und echte Auswirkungen erzielt.
- Qualifikationen: Erfahrung im Red Teaming und eine neugierige, strukturierte Denkweise.
Das prognostizierte Gehalt liegt zwischen 63000 - 77000 € pro Jahr.
Standort: Remote
Fließende Sprachkenntnisse erforderlich: Englisch & Schwedisch. Native Sprachbeherrschung in Englisch und Schwedisch ist für diese Position erforderlich.
Warum diese Rolle existiert
Bei Mercor glauben wir, dass die sicherste KI diejenige ist, die bereits angegriffen wurde - von uns. Wir stellen ein Red Team für dieses Projekt zusammen - menschliche Datenexperten, die KI-Modelle mit adversarialen Eingaben prüfen, Schwachstellen aufdecken und die Red Team-Daten generieren, die KI für unsere Kunden sicherer machen. Dieses Projekt umfasst die Überprüfung von KI-Ausgaben, die sensible Themen wie Vorurteile, Fehlinformationen oder schädliches Verhalten betreffen. Alle Arbeiten sind textbasiert, und die Teilnahme an sensibleren Projekten ist optional und wird durch klare Richtlinien und Wellness-Ressourcen unterstützt. Bevor Sie mit Inhalten konfrontiert werden, werden die Themen klar kommuniziert.
Was Sie tun werden
- Red Team-Konversations-KI-Modelle und -Agenten: Jailbreaks, Prompt-Injektionen, Missbrauchsfälle, Ausnutzung von Vorurteilen, Manipulation über mehrere Runden
- Hochwertige menschliche Daten generieren: Fehler annotieren, Schwachstellen klassifizieren und systemische Risiken kennzeichnen
- Struktur anwenden: Taxonomien, Benchmarks und Playbooks befolgen, um die Tests konsistent zu halten
- Reproduzierbar dokumentieren: Berichte, Datensätze und Angriffsfälle erstellen, auf die Kunden reagieren können
Wer Sie sind
- Sie bringen Erfahrung im Red Teaming mit (adversariale KI-Arbeit, Cybersicherheit, sozio-technisches Probing)
- Sie sind neugierig und adversarial: Sie drängen Systeme instinktiv an ihre Grenzen
- Sie sind strukturiert: Sie verwenden Rahmenwerke oder Benchmarks, nicht nur zufällige Hacks
- Sie sind kommunikativ: Sie erklären Risiken klar gegenüber technischen und nicht-technischen Stakeholdern
- Sie sind anpassungsfähig: Sie gedeihen beim Wechsel zwischen Projekten und Kunden
Schön zu haben Spezialitäten
- Adversarial ML: Jailbreak-Datensätze, Prompt-Injektion, RLHF/DPO-Angriffe, Modellauszug
- Cybersicherheit: Penetrationstests, Exploit-Entwicklung, Reverse Engineering
- Sozio-technisches Risiko: Belästigung/Desinformation-Probing, Missbrauchsanalyse, Konversations-KI-Tests
- Kreatives Probing: Psychologie, Schauspiel, Schreiben für unkonventionelles adversariales Denken
Wie Erfolg aussieht
- Sie decken Schwachstellen auf, die automatisierte Tests übersehen
- Sie liefern reproduzierbare Artefakte, die die KI-Systeme der Kunden stärken
- Die Evaluierungsabdeckung erweitert sich: mehr Szenarien getestet, weniger Überraschungen in der Produktion
- Mercor-Kunden vertrauen auf die Sicherheit ihrer KI, weil Sie sie bereits wie ein Gegner geprüft haben
Warum Mercor beitreten
- Erfahrung im menschlich datengetriebenen KI-Red Teaming an der Frontlinie der Sicherheit aufbauen
- Eine direkte Rolle dabei spielen, KI-Systeme robuster, sicherer und vertrauenswürdiger zu machen
AI Safety Expert - Red Teaming Arbeitgeber: Mercor
Als Arbeitgeber bieten wir Ihnen die Möglichkeit, in einem innovativen Umfeld zu arbeiten, das sich auf die Entwicklung hochrealistischer Marketing-Simulationsumgebungen konzentriert. Unsere Unternehmenskultur fördert Kreativität und Zusammenarbeit, während wir gleichzeitig individuelle Wachstumschancen durch Schulungen und Zertifizierungen wie Rubric Academy oder Bootcamp anbieten. Bei uns haben Sie die Chance, Ihre praktischen Erfahrungen im Produktmarketing einzubringen und an spannenden Projekten zu arbeiten, die die Zukunft der KI-gestützten Marketinglösungen gestalten.
StudySmarter Expertenrat🤫
Wir sind der Meinung, dass du so AI Safety Expert - Red Teaming erhalten könntest
✨Engagier dich in Entwickler-Communities!
Lass uns mal ehrlich sein: In der Software-Entwicklung sind Netzwerke Gold wert! Tummel dich in GitHub-Projekten, nehme an lokalen Meetups oder Hackathons teil und vernetze dich mit anderen Entwicklern. So steigerst du nicht nur deine Sichtbarkeit, sondern lernst auch die neuesten Trends und Technologien kennen.
✨Zeig deine Fähigkeiten!
Erstelle ein Portfolio, das deine besten Projekte und Code-Examples zeigt. Nichts überzeugt mehr als ein praktischer Beweis deiner Skills. Das kann auch helfen, bei Mercor anzuklopfen, wenn du dich auf die Stelle als AI Safety Expert - Red Teaming bewirbst – so wissen sie gleich, was sie von dir erwarten können!
✨Nutze Jobplattformen speziell für Tech-Jobs!
Plattformen wie Stack Overflow Jobs oder AngelsList sind perfekte Orte, um Vollzeitstellen in der Software-Entwicklung zu finden. Hier sind viele tolle Unternehmen auf der Suche nach Talenten wie uns, also schau regelmäßig vorbei und bewirb dich direkt über die Website.
✨Such dir Mentoren und Feedback!
Hol dir Feedback von erfahrenen Entwicklern, die dir Tipps geben können, was Recruiter wirklich suchen. Ob über LinkedIn oder persönliche Kontakte: Menschen, die sich in der Branche auskennen, können enorm wertvoll sein, um dir zu helfen, dich optimal auf deine Bewerbung bei Mercor vorzubereiten!
Wir glauben, dass du diese Fähigkeiten brauchst, um AI Safety Expert - Red Teaming mit Bravour zu bestehen
Einige Tipps für deine Bewerbung 🫡
Highlights deiner Coding-Skills:In der Software-Entwicklung kommt es auf konkrete Fähigkeiten an. Vergiss nicht, relevante Programmiersprachen und Frameworks in deinen Lebenslauf aufzunehmen. Zeig uns, was du kannst – vielleicht mit einem Link zu deinem GitHub-Profil oder einer Übersicht deiner Side Projects, die deine Programmierkenntnisse illustrieren.
Dokumentation deiner Erfolge:Gerade bei einer Vollzeitstelle in der Software-Entwicklung sind konkrete Ergebnisse Gold wert. Nenn uns Zahlen und Ergebnisse aus deinen vorherigen Projekten. Hast du den Code optimiert oder Systemfehler behoben? Solche Erfolge zeigen, dass du die Sprache der Entwickler sprichst und einen echten Mehrwert bringst.
Attraktive Projektbeschreibungen:Wenn du an Projekten gearbeitet hast, die hervorstechen, beschreibe sie ausführlich in deinem Lebenslauf. Was war das Problem, das du gelöst hast? Welche Technologien hast du eingesetzt? Das gibt uns einen klaren Einblick in deine Herangehensweise und Problemlösungsfähigkeiten.
Motivation zeigen:In deinem Anschreiben solltest du deine Motivation für die Stelle im Bereich Software-Entwicklung bei Mercor klar herausstellen. Warum sprichst gerade du die Anforderungen für diese Vollzeitrolle an? Mach deutlich, was dich an der Arbeit bei uns reizt und wie du über das rein Technische hinaus wachsen möchtest.
Wie man sich auf ein Vorstellungsgespräch bei Mercor vorbereitet
✨Technische Vorbereitung auf die Coding-Challenges
In der Software-Entwicklung sind technische Fragen oft ein zentraler Teil des Interviews. Macht euch mit Plattformen wie LeetCode oder HackerRank vertraut, um eure Problemlösungsfähigkeiten zu trainieren. Zeigt im Interview viel Selbstbewusstsein beim Erklären eurer Ansätze!
✨Das eigene Portfolio im besten Licht präsentieren
Stellt sicher, dass ihr ein aussagekräftiges Portfolio habt, das einige eurer besten Projekte zeigt. Seid bereit, darüber zu sprechen, was eure Rolle war, welche Technologien ihr verwendet habt und welche Herausforderungen es gab. Das gibt den Interviewern einen Einblick in eure praktische Erfahrung.
✨Teamfähigkeit und Kommunikation betonen
In einer Vollzeit-Position wird Kommunikation im Team sehr wichtig sein. Seid bereit, Beispiele aus der Vergangenheit zu teilen, in denen ihr effektiv im Team gearbeitet habt. Dies zeigt, dass ihr nicht nur technische Fähigkeiten habt, sondern auch gut ins Team passt.
✨Vorbereitung auf Fragen zur Software-Architektur
Bereitet euch darauf vor, Fragen zur Software-Architektur zu beantworten. Themen wie RESTful APIs, Microservices und Cloud-Architekturen können Teil eures Interviews sein. Zeigt euer Verständnis durch Diskussionen und Beispiele aus eurer bisherigen Arbeit oder Projekte.
