Auf einen Blick
- Aufgaben: Entwickle herausfordernde Prompts, um KI-Modelle auf Herz und Nieren zu prüfen.
- Unternehmen: Innovatives Unternehmen mit führenden Investoren in der KI-Forschung.
- Vorteile: Attraktive Vergütung von 70–84 $/Stunde und flexible Remote-Arbeit.
- Weitere Informationen: Dynamisches Team mit Möglichkeiten zur beruflichen Weiterentwicklung.
- Warum dieser Job: Gestalte die Zukunft der KI-Sicherheit und arbeite an spannenden Projekten.
- Qualifikationen: Bachelor-Abschluss und 5+ Jahre Erfahrung in KI-Sicherheit oder verwandten Bereichen.
Das prognostizierte Gehalt liegt zwischen 84 - 84 € pro Stunde.
Mercor verbindet erstklassige kreative und technische Talente mit führenden KI-Forschungslabors. Der Hauptsitz befindet sich in San Francisco.
Position: AI Safety Red Teamer
Typ: Vertrag
Vergütung: 70–84 $/Stunde
Standort: Remote
Rollenverantwortlichkeiten
- Entwicklung von adversarialen Eingaben zur Belastungstestung von fortschrittlichen KI-Modellen.
- Identifizierung von Jailbreaks, unsicheren Verhaltensweisen, Halluzinationen und politischen Fehlern.
- Bewertung der Robustheit des Modells in Bezug auf Fehlinformationen, Cyber-, Bio-Sicherheit, Betrug, politische Inhalte und andere sensible Bereiche.
- Dokumentation von Schwachstellen und Mitwirkung an Sicherheitsbenchmarks und Red-Teaming-Berichten.
- Zusammenarbeit mit KI-Forschern zur Verbesserung der Modellanpassung, Robustheit und Sicherheit.
Qualifikationen
- Erforderlich: Bachelor-Abschluss oder höher in Informatik, Cybersicherheit, Journalismus, Kommunikation, Psychologie, Biologie, Chemie, öffentlicher Politik oder einem verwandten Fachgebiet.
- Über 5 Jahre Berufserfahrung in AI Safety, AI Red Teaming, Trust & Safety, Cybersicherheit, investigativem Journalismus, Lebenswissenschaften oder einem verwandten Bereich.
- Starke analytische Fähigkeiten, Eingabedesign und schriftliche Kommunikationsfähigkeiten.
- Erfahrung in der Gestaltung adversarialer Eingaben oder der Bewertung fortschrittlicher KI-Systeme.
Bevorzugt
- Erfahrung mit AI Red Teaming, RLHF, SFT, AI Alignment oder Trust & Safety.
- Vertrautheit mit Jailbreak-Tests, Eingabetechnik oder Methoden zur adversarialen Bewertung.
- Expertise in einem oder mehreren Graubereichen, einschließlich Cyber, Bio-Sicherheit, politische Inhalte, Fehlinformationen oder wissenschaftliche Sicherheit.
AI Safety Red Teamer Expert Arbeitgeber: name
Mercor ist ein hervorragender Arbeitgeber, der kreative und technische Talente mit führenden KI-Forschungslabors verbindet. Mit einem dynamischen Remote-Arbeitsumfeld bietet das Unternehmen nicht nur wettbewerbsfähige Vergütung, sondern auch die Möglichkeit zur Zusammenarbeit mit erstklassigen Fachleuten und zur Mitgestaltung sicherer KI-Modelle. Die Unternehmenskultur fördert Innovation und kontinuierliches Lernen, was den Mitarbeitern zahlreiche Wachstumschancen bietet.
StudySmarter Expertenrat🤫
Wir sind der Meinung, dass du so AI Safety Red Teamer Expert erhalten könntest
✨Netzwerken in der Entwicklerszene
Besuche lokale Meetups oder Hackathons in der Software-Entwicklung, um direkt mit Leuten aus der Branche in Kontakt zu treten. Dort hast du die Chance, nicht nur von anderen zu lernen, sondern auch persönliche Eindrücke bei potenziellen Arbeitgebern wie name zu hinterlassen.
✨Open Source Beiträge leisten
Engagiere dich in Open-Source-Projekten, um deine Fähigkeiten zu zeigen und für name sichtbar zu werden. Das ist nicht nur eine super Möglichkeit, praktische Erfahrungen zu sammeln, sondern auch eine tolle Möglichkeit, sich einen Namen in der Entwicklergemeinschaft zu machen.
✨Auf Praktikumsprogramme achten
Halte Ausschau nach spezifischen Programmen für befristete Stellen, die viele Unternehmen anbieten, um junge Talente zu fördern. Diese Fenster sind oft zeitlich begrenzt, also mach dich bereit, wenn die Bewerbungen öffnen, und verpasse nicht die Gelegenheit, dich bei name zu bewerben!
✨Portfolio aufbauen und sichtbar machen
Erstelle dir ein starkes Portfolio, das deine besten Projekte zeigt. Teile dieses Portfolio in Entwickler-Communities und auf Plattformen wie GitHub, damit Unternehmen wie name sofort sehen, was du kannst. Das steigert deine Chancen, in der Software-Entwicklung aufzufallen!
Wir glauben, dass du diese Fähigkeiten brauchst, um AI Safety Red Teamer Expert mit Bravour zu bestehen
Einige Tipps für deine Bewerbung 🫡
Dein GitHub ist dein bester Freund!:Für eine befristete Stelle in der Software-Entwicklung ist dein GitHub-Profil super wichtig. Zeig uns deine besten Projekte und deinen Code! Wenn du Seitenprojekte oder Beiträge zu Open-Source-Projekten hast, pack die unbedingt in deine Bewerbung, das gibt uns einen tollen Einblick in deine Fähigkeiten.
Skills, Skills, Skills!:Mach eine Liste deiner technischen Skills und Technologien, die du beherrschst. In der Software-Entwicklung ist es wichtig, diese klar und präzise in deinem Lebenslauf zu präsentieren. Liste Frameworks, Programmiersprachen und Tools auf, die du nutzt, und versichere dich, dass sie zum Job bei name passen!
Deine Motivation zeigt, dass du lernbereit bist:In deinem Anschreiben solltest du darauf eingehen, warum du dich für die befristete Stelle bei name interessierst und was du dir von der Erfahrung erhoffst. Heb hervor, wie diese Position dir helfen kann, deine Fähigkeiten zu verbessern und neue Technologien zu lernen.
Projektbesprechung und persönliche Note:Wenn du ein Portfolio hast, das deine Entwicklungsprojekte zeigt, füge das unbedingt an. Außerdem kannst du in deinem Anschreiben erwähnen, warum du gerade bei name arbeiten möchtest und wie du zur Unternehmenskultur passt. Das gibt uns einen persönlicheren Eindruck von dir als Bewerber!
Wie man sich auf ein Vorstellungsgespräch bei name vorbereitet
✨Code die Erwartungen!
Bei einem Interview in der Software-Entwicklung solltest du bereit sein, dein Coding-Know-how unter Beweis zu stellen. Mache dich mit typischen Coding-Challenges und Systemdesign-Fragen vertraut, die dir während des Interviews gestellt werden könnten. Vielleicht gibt es sogar Live-Coding-Sessions, also übe, deinen Denkprozess laut zu kommunizieren!
✨Bring dein Portfolio mit!
Auch wenn es sich um eine befristete Stelle handelt, ist es wichtig, deinem potenziellen Arbeitgeber dein Können zu zeigen. Stelle ein Portfolio mit deinen besten Projekten zusammen – idealerweise solche, die relevant für name sind. Denk daran, dass du nicht nur die Lösungen präsentieren solltest, sondern auch den Prozess und die Technologien, die du verwendet hast.
✨Sei flexibel und lernwillig!
Für befristete Stellen suchen Unternehmen oft nach Kandidaten, die schnell dazulernen können. Betone in deinem Interview deine Lernbereitschaft und vielleicht Beispiele, wie du in der Vergangenheit neue Technologien oder Programmiersprachen schnell beherrscht hast. Das zeigt, dass du gut ins Team passt und bereit bist, dich den Herausforderungen zu stellen.
✨Frage nach Team-Tools und Methoden!
Informiere dich über die Tools und Arbeitsmethoden, die das Team bei name verwendet. Hast du Erfahrung mit agilem Arbeiten oder Tools wie Jira, Git oder Slack? Wenn du gezielt Fragen zu diesen Aspekten stellst, zeigst du dein Interesse an der Teamdynamik und wie du dich schnell einbringen kannst.
