Auf einen Blick
- Aufgaben: Entwickle herausfordernde Prompts zur Identifizierung von Schwachstellen in KI-Systemen.
- Unternehmen: Führendes Unternehmen im Bereich KI-Sicherheit mit innovativer Kultur.
- Vorteile: Attraktives Gehalt, flexible Arbeitszeiten und Möglichkeiten zur beruflichen Weiterentwicklung.
- Weitere Informationen: Dynamisches Umfeld mit der Chance, an vorderster Front der KI-Forschung zu arbeiten.
- Warum dieser Job: Gestalte die Sicherheit der nächsten Generation von KI-Modellen aktiv mit.
- Qualifikationen: Abschluss in Informatik oder verwandten Bereichen und 5+ Jahre Erfahrung in KI-Sicherheit.
Das prognostizierte Gehalt liegt zwischen 81000 - 99000 € pro Jahr.
Wir suchen erfahrene AI Safety Red Teamers, um Schwachstellen in fortschrittlichen KI-Systemen durch adversariales Testen zu identifizieren. Sie werden herausfordernde Eingabeaufforderungen entwerfen, Modellschwächen aufdecken und das Verhalten von KI in komplexen, risikobehafteten und mehrdeutigen („grau-area“) Themen bewerten.
Verantwortlichkeiten
- Entwerfen von adversarialen Eingabeaufforderungen, um fortschrittliche KI-Modelle zu testen.
- Identifizieren von Jailbreaks, unsicheren Verhaltensweisen, Halluzinationen und Politikfehlern.
- Bewerten der Robustheit des Modells in Bezug auf Fehlinformationen, Cyber-, Bio-Sicherheit, Betrug, politische Inhalte und andere sensible Bereiche.
- Dokumentieren von Schwachstellen und Mitwirken an Sicherheitsbenchmarks und Red-Teaming-Berichten.
- Zusammenarbeiten mit KI-Forschern zur Verbesserung der Modellanpassung, Robustheit und Sicherheit.
Erforderliche Qualifikationen
- Abschluss (Bachelor oder höher) in Informatik, Cybersicherheit, Journalismus, Kommunikation, Psychologie, Biologie, Chemie, öffentlicher Politik oder einem verwandten Fachgebiet.
- Über 5 Jahre Berufserfahrung in AI Safety, AI Red Teaming, Trust & Safety, Cybersicherheit, investigativem Journalismus, Lebenswissenschaften oder einem verwandten Bereich.
- Starke analytische Fähigkeiten, Eingabeaufforderungsdesign und schriftliche Kommunikationsfähigkeiten.
- Erfahrung im Entwerfen von adversarialen Eingabeaufforderungen oder der Bewertung fortschrittlicher KI-Systeme.
Bevorzugte Qualifikationen
- Erfahrung mit AI Red Teaming, RLHF, SFT, KI-Ausrichtung oder Trust & Safety.
- Vertrautheit mit Jailbreak-Tests, Eingabeaufforderungsengineering oder Methoden zur adversarialen Bewertung.
- Fachkenntnisse in einem oder mehreren grauen Bereichen, einschließlich Cyber-, Bio-Sicherheit, politischen Inhalten, Fehlinformationen oder wissenschaftlicher Sicherheit.
Warum beitreten?
- Helfen Sie, die nächste Generation fortschrittlicher KI-Modelle zu sichern und zu stärken.
- Arbeiten Sie an modernsten adversarialen Tests zusammen mit führenden KI-Forschern und Sicherheitsteams.
- Beeinflussen Sie, wie KI-Systeme auf komplexe, reale Sicherheitsherausforderungen reagieren.
AI Safety Red Teamer Expert Arbeitgeber: Obsidian
Obsidian in Wien bietet eine herausragende Arbeitsumgebung für Psychiater, die an der Schnittstelle von Psychiatrie und KI arbeiten möchten. Mit einem starken Fokus auf Mitarbeiterentwicklung und innovativen Projekten in Zusammenarbeit mit einem führenden KI-Labor, fördert das Unternehmen eine Kultur des Wissensaustauschs und der kontinuierlichen Weiterbildung. Die Möglichkeit, an fortschrittlichen psychiatrischen Fallbewertungen zu arbeiten, macht diese Position nicht nur bedeutungsvoll, sondern auch äußerst lohnend.
StudySmarter Expertenrat🤫
Wir sind der Meinung, dass du so AI Safety Red Teamer Expert erhalten könntest
✨Engagier dich in Entwickler-Communities!
Lass uns mal ehrlich sein: In der Software-Entwicklung sind Netzwerke Gold wert! Tummel dich in GitHub-Projekten, nehme an lokalen Meetups oder Hackathons teil und vernetze dich mit anderen Entwicklern. So steigerst du nicht nur deine Sichtbarkeit, sondern lernst auch die neuesten Trends und Technologien kennen.
✨Zeig deine Fähigkeiten!
Erstelle ein Portfolio, das deine besten Projekte und Code-Examples zeigt. Nichts überzeugt mehr als ein praktischer Beweis deiner Skills. Das kann auch helfen, bei Obsidian anzuklopfen, wenn du dich auf die Stelle als AI Safety Red Teamer Expert bewirbst – so wissen sie gleich, was sie von dir erwarten können!
✨Nutze Jobplattformen speziell für Tech-Jobs!
Plattformen wie Stack Overflow Jobs oder AngelsList sind perfekte Orte, um Vollzeitstellen in der Software-Entwicklung zu finden. Hier sind viele tolle Unternehmen auf der Suche nach Talenten wie uns, also schau regelmäßig vorbei und bewirb dich direkt über die Website.
✨Such dir Mentoren und Feedback!
Hol dir Feedback von erfahrenen Entwicklern, die dir Tipps geben können, was Recruiter wirklich suchen. Ob über LinkedIn oder persönliche Kontakte: Menschen, die sich in der Branche auskennen, können enorm wertvoll sein, um dir zu helfen, dich optimal auf deine Bewerbung bei Obsidian vorzubereiten!
Wir glauben, dass du diese Fähigkeiten brauchst, um AI Safety Red Teamer Expert mit Bravour zu bestehen
Einige Tipps für deine Bewerbung 🫡
Highlights deiner Coding-Skills:In der Software-Entwicklung kommt es auf konkrete Fähigkeiten an. Vergiss nicht, relevante Programmiersprachen und Frameworks in deinen Lebenslauf aufzunehmen. Zeig uns, was du kannst – vielleicht mit einem Link zu deinem GitHub-Profil oder einer Übersicht deiner Side Projects, die deine Programmierkenntnisse illustrieren.
Dokumentation deiner Erfolge:Gerade bei einer Vollzeitstelle in der Software-Entwicklung sind konkrete Ergebnisse Gold wert. Nenn uns Zahlen und Ergebnisse aus deinen vorherigen Projekten. Hast du den Code optimiert oder Systemfehler behoben? Solche Erfolge zeigen, dass du die Sprache der Entwickler sprichst und einen echten Mehrwert bringst.
Attraktive Projektbeschreibungen:Wenn du an Projekten gearbeitet hast, die hervorstechen, beschreibe sie ausführlich in deinem Lebenslauf. Was war das Problem, das du gelöst hast? Welche Technologien hast du eingesetzt? Das gibt uns einen klaren Einblick in deine Herangehensweise und Problemlösungsfähigkeiten.
Motivation zeigen:In deinem Anschreiben solltest du deine Motivation für die Stelle im Bereich Software-Entwicklung bei Obsidian klar herausstellen. Warum sprichst gerade du die Anforderungen für diese Vollzeitrolle an? Mach deutlich, was dich an der Arbeit bei uns reizt und wie du über das rein Technische hinaus wachsen möchtest.
Wie man sich auf ein Vorstellungsgespräch bei Obsidian vorbereitet
✨Technische Vorbereitung auf die Coding-Challenges
In der Software-Entwicklung sind technische Fragen oft ein zentraler Teil des Interviews. Macht euch mit Plattformen wie LeetCode oder HackerRank vertraut, um eure Problemlösungsfähigkeiten zu trainieren. Zeigt im Interview viel Selbstbewusstsein beim Erklären eurer Ansätze!
✨Das eigene Portfolio im besten Licht präsentieren
Stellt sicher, dass ihr ein aussagekräftiges Portfolio habt, das einige eurer besten Projekte zeigt. Seid bereit, darüber zu sprechen, was eure Rolle war, welche Technologien ihr verwendet habt und welche Herausforderungen es gab. Das gibt den Interviewern einen Einblick in eure praktische Erfahrung.
✨Teamfähigkeit und Kommunikation betonen
In einer Vollzeit-Position wird Kommunikation im Team sehr wichtig sein. Seid bereit, Beispiele aus der Vergangenheit zu teilen, in denen ihr effektiv im Team gearbeitet habt. Dies zeigt, dass ihr nicht nur technische Fähigkeiten habt, sondern auch gut ins Team passt.
✨Vorbereitung auf Fragen zur Software-Architektur
Bereitet euch darauf vor, Fragen zur Software-Architektur zu beantworten. Themen wie RESTful APIs, Microservices und Cloud-Architekturen können Teil eures Interviews sein. Zeigt euer Verständnis durch Diskussionen und Beispiele aus eurer bisherigen Arbeit oder Projekte.
