Auf einen Blick
- Aufgaben: Bewerte die Sicherheit und Qualität von KI-Modellen in komplexen Themenbereichen.
- Unternehmen: Führendes Unternehmen im Bereich KI-Sicherheit mit innovativer Kultur.
- Vorteile: Attraktives Gehalt, flexible Arbeitszeiten und Entwicklungsmöglichkeiten.
- Weitere Informationen: Arbeiten in einem dynamischen Umfeld mit bedeutenden Herausforderungen.
- Warum dieser Job: Gestalte die Sicherheit von KI-Modellen, die weltweit Millionen nutzen.
- Qualifikationen: Abschluss in relevanten Disziplinen und 5+ Jahre Erfahrung in KI-Sicherheit.
Das prognostizierte Gehalt liegt zwischen 61650 - 75350 € pro Jahr.
We are seeking experienced
AI Safety Practitioners to evaluate the safety, quality, and alignment of frontier AI models across complex, policy-sensitive, and ambiguous ("grey-area") topics.
You will assess AI-generated responses, apply safety policies, and help improve model behavior through structured evaluations and feedback.
Responsibilities
Evaluate AI-generated responses for safety, factual accuracy, policy compliance, and overall quality.
Review content involving misinformation, political persuasion, self-harm, violence, cyber, biosecurity, and other sensitive domains.
Apply and refine evaluation rubrics for RLHF, SFT, and AI safety benchmarking.
Identify unsafe outputs, hallucinations, reasoning failures, and policy violations.
Provide structured feedback to improve model alignment and safety performance.
Collaborate with AI researchers and safety teams on ongoing evaluation initiatives.
Required Qualifications
Bachelor's degree or higher in Journalism, Communications, Psychology, Sociology, Public Policy, Law, Biology, Chemistry, Computer Science, or a related discipline.
5+ years of professional experience in AI Safety, Trust & Safety, journalism, public policy, scientific research, security, or a related field.
Excellent written English, critical thinking, and analytical reasoning skills.
Ability to consistently evaluate nuanced and policy-sensitive scenarios.
Preferred Qualifications
Experience with AI Safety, RLHF, SFT, Trust & Safety, or AI evaluation.
Familiarity with safety policies, content moderation, or evaluation rubric development.
Experience reviewing complex, high-risk, or ambiguous content.
Why Join?
Shape the safety and behaviour of frontier AI models used by millions worldwide.
Work on challenging, real-world safety evaluations across nuanced and high-impact domains.
Collaborate with leading AI researchers, engineers, and safety teams.
#J-18808-Ljbffr
AI Safety Practitioner - Expert Evaluator Arbeitgeber: Mercor
Mercor ist ein hervorragender Arbeitgeber, der innovative Technologien und eine dynamische Arbeitsumgebung bietet. Mit einem Fokus auf Remote-Arbeit ermöglicht das Unternehmen seinen Mitarbeitern, flexibel zu arbeiten und gleichzeitig an spannenden Projekten im Bereich AI-gestützter DevOps und SRE teilzunehmen. Die Unternehmenskultur fördert kontinuierliches Lernen und persönliche Entwicklung, während die wettbewerbsfähige Vergütung von 85 $ pro Stunde die Wertschätzung für die Fähigkeiten und das Engagement der Mitarbeiter widerspiegelt.
StudySmarter Expertenrat🤫
Wir sind der Meinung, dass du so AI Safety Practitioner - Expert Evaluator erhalten könntest
✨Engagier dich in Entwickler-Communities!
Lass uns mal ehrlich sein: In der Software-Entwicklung sind Netzwerke Gold wert! Tummel dich in GitHub-Projekten, nehme an lokalen Meetups oder Hackathons teil und vernetze dich mit anderen Entwicklern. So steigerst du nicht nur deine Sichtbarkeit, sondern lernst auch die neuesten Trends und Technologien kennen.
✨Zeig deine Fähigkeiten!
Erstelle ein Portfolio, das deine besten Projekte und Code-Examples zeigt. Nichts überzeugt mehr als ein praktischer Beweis deiner Skills. Das kann auch helfen, bei Mercor anzuklopfen, wenn du dich auf die Stelle als AI Safety Practitioner - Expert Evaluator bewirbst – so wissen sie gleich, was sie von dir erwarten können!
✨Nutze Jobplattformen speziell für Tech-Jobs!
Plattformen wie Stack Overflow Jobs oder AngelsList sind perfekte Orte, um Vollzeitstellen in der Software-Entwicklung zu finden. Hier sind viele tolle Unternehmen auf der Suche nach Talenten wie uns, also schau regelmäßig vorbei und bewirb dich direkt über die Website.
✨Such dir Mentoren und Feedback!
Hol dir Feedback von erfahrenen Entwicklern, die dir Tipps geben können, was Recruiter wirklich suchen. Ob über LinkedIn oder persönliche Kontakte: Menschen, die sich in der Branche auskennen, können enorm wertvoll sein, um dir zu helfen, dich optimal auf deine Bewerbung bei Mercor vorzubereiten!
Wir glauben, dass du diese Fähigkeiten brauchst, um AI Safety Practitioner - Expert Evaluator mit Bravour zu bestehen
Einige Tipps für deine Bewerbung 🫡
Highlights deiner Coding-Skills:In der Software-Entwicklung kommt es auf konkrete Fähigkeiten an. Vergiss nicht, relevante Programmiersprachen und Frameworks in deinen Lebenslauf aufzunehmen. Zeig uns, was du kannst – vielleicht mit einem Link zu deinem GitHub-Profil oder einer Übersicht deiner Side Projects, die deine Programmierkenntnisse illustrieren.
Dokumentation deiner Erfolge:Gerade bei einer Vollzeitstelle in der Software-Entwicklung sind konkrete Ergebnisse Gold wert. Nenn uns Zahlen und Ergebnisse aus deinen vorherigen Projekten. Hast du den Code optimiert oder Systemfehler behoben? Solche Erfolge zeigen, dass du die Sprache der Entwickler sprichst und einen echten Mehrwert bringst.
Attraktive Projektbeschreibungen:Wenn du an Projekten gearbeitet hast, die hervorstechen, beschreibe sie ausführlich in deinem Lebenslauf. Was war das Problem, das du gelöst hast? Welche Technologien hast du eingesetzt? Das gibt uns einen klaren Einblick in deine Herangehensweise und Problemlösungsfähigkeiten.
Motivation zeigen:In deinem Anschreiben solltest du deine Motivation für die Stelle im Bereich Software-Entwicklung bei Mercor klar herausstellen. Warum sprichst gerade du die Anforderungen für diese Vollzeitrolle an? Mach deutlich, was dich an der Arbeit bei uns reizt und wie du über das rein Technische hinaus wachsen möchtest.
Wie man sich auf ein Vorstellungsgespräch bei Mercor vorbereitet
✨Technische Vorbereitung auf die Coding-Challenges
In der Software-Entwicklung sind technische Fragen oft ein zentraler Teil des Interviews. Macht euch mit Plattformen wie LeetCode oder HackerRank vertraut, um eure Problemlösungsfähigkeiten zu trainieren. Zeigt im Interview viel Selbstbewusstsein beim Erklären eurer Ansätze!
✨Das eigene Portfolio im besten Licht präsentieren
Stellt sicher, dass ihr ein aussagekräftiges Portfolio habt, das einige eurer besten Projekte zeigt. Seid bereit, darüber zu sprechen, was eure Rolle war, welche Technologien ihr verwendet habt und welche Herausforderungen es gab. Das gibt den Interviewern einen Einblick in eure praktische Erfahrung.
✨Teamfähigkeit und Kommunikation betonen
In einer Vollzeit-Position wird Kommunikation im Team sehr wichtig sein. Seid bereit, Beispiele aus der Vergangenheit zu teilen, in denen ihr effektiv im Team gearbeitet habt. Dies zeigt, dass ihr nicht nur technische Fähigkeiten habt, sondern auch gut ins Team passt.
✨Vorbereitung auf Fragen zur Software-Architektur
Bereitet euch darauf vor, Fragen zur Software-Architektur zu beantworten. Themen wie RESTful APIs, Microservices und Cloud-Architekturen können Teil eures Interviews sein. Zeigt euer Verständnis durch Diskussionen und Beispiele aus eurer bisherigen Arbeit oder Projekte.
