Auf einen Blick
- Aufgaben: Bewerte KI-Modelle auf Schwachstellen und dokumentiere deine Ergebnisse.
- Unternehmen: Mercor verbindet kreative Talente mit führenden KI-Forschungslabors.
- Vorteile: Flexibles Arbeiten, konkurrenzfähige Vergütung von 56$/Stunde und Remote-Option.
- Weitere Informationen: Tägliche Überprüfung der Bewerbungen und Unterstützung während des Bewerbungsprozesses.
- Warum dieser Job: Gestalte die Zukunft der KI-Sicherheit und arbeite an spannenden Projekten.
- Qualifikationen: Fließende Englisch- und Deutschkenntnisse sowie Erfahrung in Red Teaming oder Cybersicherheit.
Das prognostizierte Gehalt liegt zwischen 56 - 56 € pro Stunde.
Mercor verbindet kreative und technische Talente mit führenden KI-Forschungslabors. Der Hauptsitz befindet sich in San Francisco.
Position: Red Team Specialist
Typ: Vollzeit oder Teilzeit Vertragsarbeit
Vergütung: $56/Stunde
Standort: Remote; geografisch beschränkt auf die USA und Europa
Rollenverantwortlichkeiten:
- Bewertung von KI-Modellen auf Schwachstellen durch Durchführung von Jailbreaks, Prompt-Injektionen und Missbrauchsfällen.
- Erzeugung hochwertiger menschlicher Daten durch Annotierung von Fehlern, Klassifizierung von Schwachstellen und Kennzeichnung systemischer Risiken.
- Anwendung von Struktur durch Befolgung von Taxonomien, Benchmarks und Playbooks, um konsistente Tests sicherzustellen.
- Dokumentation der Ergebnisse reproduzierbar durch Erstellung von Berichten, Datensätzen und Angriffsfällen für Kundenaktionen.
- Unabhängiges und asynchrones Arbeiten zur Einhaltung von Fristen bei gleichzeitiger Verbesserung der Leistung von KI-Modellen.
Qualifikationen
Must-Have:
- Fließende Sprachkenntnisse: Native-Level-Fließend in Englisch und Deutsch.
- Vorherige Erfahrung im Red Teaming, adversarial AI-Arbeiten, Cybersicherheit oder sozial-technischen Untersuchungen.
- Starke Kommunikationsfähigkeiten, um Risiken technischen und nicht-technischen Stakeholdern zu erklären.
Bevorzugte Qualifikationen:
- Erfahrung mit adversarialen ML-Techniken wie Jailbreak-Datensätzen, Prompt-Injektionen, RLHF/DPO-Angriffen und Modellauszügen.
- Hintergrund in der Cybersicherheit, einschließlich Penetrationstests, Exploit-Entwicklung und Reverse Engineering.
- Kenntnisse über sozial-technische Risiken, Belästigung/Desinformation und Missbrauchsanalyse.
Bewerbungsprozess: (Dauert 20–30 Minuten)
- Lebenslauf hochladen
- KI-Interview basierend auf Ihrem Lebenslauf
- Formular einreichen
Ressourcen & Unterstützung:
Für Details zum Interviewprozess und Plattforminformationen besuchen Sie bitte: https://talent.docs.mercor.com/welcome/welcome
Bei Fragen oder Unterstützung wenden Sie sich bitte an: support@mercor.com
PS: Unser Team überprüft täglich Bewerbungen. Bitte schließen Sie Ihr KI-Interview und die Bewerbungsschritte ab, um für diese Gelegenheit in Betracht gezogen zu werden.
