Member of Technical Staff, Trust & Safety Engineer

Diese Position wird im Auftrag eines Partnerunternehmens ausgeschrieben, das alle Bewerbungen und nächsten Schritte verwaltet. Unser Partner sucht einen Mitglied des technischen Personals, Trust & Safety Engineer mit Sitz in Deutschland. Dies ist eine hochwirksame Ingenieurrolle, die sich darauf konzentriert, sicherzustellen, dass fortschrittliche generative KI-Systeme sicher, zuverlässig und mit verantwortungsbewusster Nutzung im großen Maßstab übereinstimmen. Sie werden an der Schnittstelle von maschinellem Lernen, Plattforminfrastruktur und Durchsetzung von Richtlinien arbeiten und helfen, wie nächste Generation KI-Modelle sicher für Millionen von Nutzern bereitgestellt werden. Die Rolle umfasst das Entwerfen und Implementieren von Sicherheitssystemen, den Aufbau von Red-Teaming-Rahmenwerken und die Übersetzung von mehrdeutigen und sich entwickelnden Vertrauens- und Sicherheitsherausforderungen in robuste technische Lösungen.

Sie werden eng mit Produkt-, Forschungs-, Rechts- und Politikteams zusammenarbeiten und direkt zu sowohl präventiven Sicherheitsmaßnahmen als auch zur Überwachung nach dem Start beitragen. In einem sich schnell bewegenden Umfeld werden Sie helfen, bewährte Verfahren zu definieren, wo noch keine existieren, und eine kritische Rolle bei der Gestaltung der Sicherheitsgrundlage modernster KI-Technologie spielen.

• Als zentraler Trust & Safety Engineering-Partner innerhalb von Produkt- und Forschungsteams agieren, um das sichere Design und den Launch von KI-Systemen von der frühen Entwicklung bis zur Produktionsüberwachung zu unterstützen.
• Sicherheitsinfrastruktur entwerfen, aufbauen und warten, die eine verantwortungsvolle Bereitstellung von generativen KI-Modellen in großem Maßstab gewährleistet.
• Red-Teaming-Systeme entwickeln und kontinuierlich verbessern, um schädliche Ausgaben, Richtlinienverstöße und feindliches Verhalten vor der Produktionsfreigabe zu identifizieren.
• Mehrdeutige, sich entwickelnde Vertrauens- und Sicherheitsanforderungen in konkrete, skalierbare technische Lösungen und Durchsetzungsmechanismen übersetzen.
• Interne Werkzeuge und Systeme für Inhaltsmoderation, Durchsetzung von Richtlinien, Missbrauchserkennung und Sicherheitsbewertung aufbauen.
• Mit Rechts-, Politik- und Produktteams zusammenarbeiten, um Sicherheitsregeln zu definieren, Richtlinien zu interpretieren und technische Kontrollen umzusetzen.
• Eng mit Forschern im Bereich maschinelles Lernen zusammenarbeiten, um das Verhalten von Modellen zu bewerten und die Sicherheitsleistung über Iterationen hinweg zu verbessern.
• Zur Systemzuverlässigkeit, Leistungsoptimierung, Protokollierung, Überwachung und Reaktion auf Vorfälle für sicherheitskritische Infrastruktur beitragen.
• Die Entwicklung von Datenpipelines und analytischen Systemen unterstützen, um Missbrauchsmuster und Richtlinienverstöße im großen Maßstab zu erkennen.
• Die Ingenieursqualität, Robustheit und Wartbarkeit in sicherheitsrelevanten Codebasen und Systemen kontinuierlich verbessern.

• Über 3 Jahre Erfahrung in der Softwareentwicklung in Produktionsumgebungen, mit starker Beherrschung von Python und/oder TypeScript.
• Erfahrung im Aufbau und in der Wartung von Backend-Systemen, Infrastruktur oder verteilten Systemen in Cloud-Umgebungen (AWS oder GCP).
• Starkes Verantwortungsbewusstsein mit der Fähigkeit, Systeme von Anfang bis Ende zu entwerfen, zu bauen und zu betreiben, einschließlich Überwachung und Reaktion auf Vorfälle.
• Erfahrung in der Arbeit über den gesamten Stack, einschließlich Backend-Dienste, interne Werkzeuge, Datenpipelines und Infrastruktur-Debugging.
• Vertrautheit mit Analysesystemen oder groß angelegter Dateninfrastruktur, idealerweise mit Ereignisdaten, Missbrauchserkennung oder Verhaltenssignalen.
• Fähigkeit, mehrdeutige Richtlinien-, Sicherheits- oder Compliance-Anforderungen in klare technische Implementierungen zu übersetzen.
• Starke Zusammenarbeit und Kommunikationsfähigkeiten, insbesondere bei der Zusammenarbeit mit rechtlichen, politischen, forschenden und produktbezogenen Stakeholdern.
• Erfahrung im Entwerfen oder Unterstützen von Evaluierungssystemen, Red-Teaming-Rahmenwerken oder Tests zur Modellsicherheit ist von Vorteil.
• Komfort in Umgebungen mit hoher Ungewissheit, in denen Prozesse und Lösungen noch definiert werden.
• Starke schriftliche Kommunikationsfähigkeiten mit der Fähigkeit, technische Entscheidungen und Abwägungen klar zu dokumentieren.
• Offene, proaktive und hochgradig kollaborative Herangehensweise an Ingenieurarbeit.
• Interesse an KI-Sicherheit, generativen Modellen oder verantwortungsbewusster KI-Bereitstellung wird stark bevorzugt.

• Wettbewerbsfähiges Vergütungspaket von 240.000 bis 290.000 USD (je nach Erfahrung und Standortanpassungen).
• Gelegenheit, an der Spitze der generativen KI und der Weltmodell-Simulationstechnologie zu arbeiten.
• Remote-first Flexibilität in ganz Europa und den USA, mit optionalem Zugang zu großen Technologiezentren.
• Hochwirksame Rolle bei der Gestaltung von Sicherheitssystemen, die von Millionen von Nutzern weltweit verwendet werden.
• Kollaboratives Umfeld, das eng mit führenden Forschern, Ingenieuren und Politikspezialisten zusammenarbeitet.
• Starke Verantwortungskultur mit Autonomie, Systeme und Sicherheitsansätze von Grund auf zu definieren.
• Einblick in modernste KI-Infrastruktur, einschließlich LLM-basierter Sicherheitssysteme und groß angelegter Simulationsmodelle.
• Inklusive und missionsorientierte Ingenieurkultur, die sich auf die verantwortungsvolle Entwicklung von KI konzentriert.
• Gelegenheit, an grundlegenden Problemen in der KI-Sicherheit, Evaluierung und Systemzuverlässigkeit zu arbeiten.