Staff Engineer - AI Security

Als unser Staff Engineer (AI Security) besteht Ihre Mission darin, die Sicherheitsstrategie für KI-Agenten, Chatbots, LLM-Modelle und agentische Workflows zu definieren und umzusetzen, die intern entwickelt oder über cloudbasierte Plattformen bereitgestellt werden. Sie sichern KI von der Idee bis zur Produktion: Dazu gehören Entwicklungsstandards, Modellsicherheit, Sicherheitsprüfungen vor der Bereitstellung, Identitäts- und Zugriffssteuerung, Protokollierung, Überwachung, Alarmierung und kontinuierliches Testen.

Sie helfen der Organisation, KI sicher zu nutzen, indem Sie sicherstellen, dass jeder KI-Agent, Chatbot und jede LLM-basierte Lösung eine klare Verantwortung, eine definierte Identität, angemessene Berechtigungen, eine ordnungsgemäße Überwachung und Sicherheitskontrollen hat, die ihrem Risiko entsprechen.

Ihre Mission

Sie werden die praktischen Sicherheitskontrollen etablieren, die erforderlich sind, um KI-Agenten, Chatbots, LLM-Modelle und agentische Workflows zu steuern. Dazu gehört die Definition von Verantwortlichkeiten, Risikoklassifizierung, Genehmigungsprozessen, Mindestanforderungen an die Sicherheit und die Aufrechterhaltung der Sichtbarkeit über Agenten, Modelle, Datenzugriff, Identitäten, Berechtigungen, Integrationen und Expositionsniveaus.

Sie werden mit Engineering-, Daten-, Cloud- und Produktteams zusammenarbeiten, um Sicherheit in die KI-Bereitstellung einzubetten. Dazu gehören Sicherheitsüberprüfungen vor der Bereitstellung, Bedrohungsmodellierung, Sicherheitsprüfungen von Modellen und Eingabeaufforderungen, Zugriffsüberprüfungen, Tests auf Datenleckagen, sichere Architekturleitlinien und Validierung von Hochrisikokomponenten wie APIs, Tools, Speicher, RAG, Vektordatenbanken und Modellbereitstellungsumgebungen.

Sie werden die operationale Sicherheitsschicht für KI-Systeme aufbauen, die bereits in Produktion sind. Dazu gehören Protokollierungsanforderungen, klare Trennung zwischen menschlicher und Agententätigkeit, SOC/SIEM-Integration, Alarmierung bei erhöhten Berechtigungen oder verdächtigem Verhalten, Überwachung auf Missbrauch von Modellen und Zugriffsdrift sowie kontinuierliches Testen von externen Agenten gegen Eingabeaufforderungsinjektionen, Jailbreaks, Datenleckagen und andere KI-spezifische Angriffe.

Qualifikationen

Sie bringen solide praktische Erfahrungen in der KI-Sicherheit mit und haben ein starkes Verständnis dafür, wie man KI-Agenten, Chatbots, LLM-basierte Anwendungen, Modellbereitstellungsumgebungen und agentische Workflows in der Produktion sichert. Sie haben praktische Erfahrung in der Bewertung KI-spezifischer Risiken wie Eingabeaufforderungsinjektionen, Jailbreaks, Datenleckagen, unsichere Toolnutzung, übermäßige Handlungsfreiheit, Missbrauch von Modellen, Modellauszug, unsichere Ausgabehandhabung und Missbrauch von externen KI-Systemen.

Sie sind ein erfahrener individueller Beitragender, der unabhängig arbeiten, die Richtung festlegen und aufkommende Risiken in der KI-Sicherheit in praktische Kontrollen, Muster und technische Anforderungen umsetzen kann. Sie haben umfangreiche Erfahrungen in den Bereichen Anwendungssicherheit, Cloud-Sicherheit, Identitäts- und Zugriffsmanagement, sichere Softwarebereitstellung, APIs, Geheimnisverwaltung, Protokollierung, Überwachung und Sicherheitstests.

Sie fühlen sich wohl dabei, direkt mit Engineering-, Daten-, ML-, Cloud-, IAM-, SOC- und Produktteams zusammenzuarbeiten, um Sicherheit in den KI-Lebenszyklus von der Planung bis zur Produktion einzubetten. Erfahrungen mit KI-Rotteam-Tests, adversarial Testing, SIEM-Erkennungsanwendungsfällen, Incident Response, MLOps/DevSecOps, OWASP LLM Top 10, MITRE ATLAS, NIST AI RMF oder ähnlichen KI-Sicherheitsrahmen wären von großem Vorteil.