Senior ML Engineer (Zürich)

Sie möchten an der Spitze der KI arbeiten und die stärksten Verteidigungen im Bereich der KI-Cybersicherheit aufbauen. Sie werden den Umfang und die Qualität unserer Verteidigungen erhöhen und eine entscheidende Rolle dabei spielen, dass GenAI-Anwendungen sicher und in großem Maßstab bereitgestellt werden können. Sie werden die Erstellung von hochmodernen Modellen leiten, die außergewöhnlich gut funktionieren und in Echtzeit arbeiten. Dies beinhaltet die kontinuierliche Identifizierung von Grenzfällen für unsere Detektoren und die Arbeit an der Sammlung und Generierung komplexer Bedrohungsdatensätze zur Verbesserung der Leistung dieser Modelle. Sie werden sicherstellen, dass Lakera kontinuierlich die besten Verteidigungen auf dem Markt mit hoher Frequenz bereitstellen kann. Ihre Leidenschaft liegt darin, die Zukunft zu gestalten und an Ideen zu arbeiten, die die sichere Nutzung von KI in den kommenden Jahrzehnten definieren. Ihre Arbeit wird eine wichtige Rolle dabei spielen, sicherzustellen, dass KI ihr bestes Potenzial entfalten kann – zum Guten.

Über Lakera

Lakera hat sich zum Ziel gesetzt, sicherzustellen, dass KI das tut, was wir wollen. Wir steuern auf eine Zukunft zu, in der KI-Agenten unsere Geschäfte und unser persönliches Leben führen. Hier bei Lakera träumen wir nicht nur von der Zukunft; wir bauen das Sicherheitsfundament dafür. Wir befähigen Sicherheitsteams und Entwickler, damit ihre Unternehmen KI-Technologien übernehmen und die nächste Phase des intelligenten Rechnens entfalten können. Wir arbeiten mit Fortune-500-Unternehmen, Startups und Anbietern von Basis-Modellen zusammen, um sie und ihre Nutzer vor adversarialer Fehlanpassung zu schützen. Wir sind auch das Unternehmen hinter Gandalf, dem weltweit beliebtesten KI-Sicherheits-Spiel.

Wir bewegen uns schnell und arbeiten intensiv. Wir agieren als ein Team, erwarten jedoch von jedem, dass er erhebliche Verantwortung und Rechenschaft ablegt. Wir priorisieren Transparenz auf allen Ebenen und verpflichten uns, in allem, was wir tun, stets die Messlatte höher zu legen. Wir fördern Vielfalt im Denken, da wir glauben, dass dies die besten Ergebnisse erzielt.

Beispielprojekte

• Erweiterung des Umfangs eines unserer Detektoren zur Unterstützung mehrerer Sprachen, ohne die Leistung bereits unterstützter Sprachen zu beeinträchtigen.
• Erhöhung des Umfangs, in dem unsere Verteidigungen um das 100-fache performen (z.B. mehrsprachige Daten, Code usw.).
• Erweiterung der Modellierung und Datengenerierung, um zusätzlich Kontext an unsere Prompt-Injektionsdetektoren weiterzugeben, wie z.B. die LLM-Ausgabe und Verhaltensmetadaten.
• Red-Team-Tests unseres Modells, um die dringendsten Schwachstellen unserer Detektoren zu verstehen und die erforderliche Datensammlung und -generierung zu priorisieren, um diese zu beheben.

Was Sie mitbringen

• Sie haben mindestens 4 Jahre Erfahrung in der Bereitstellung von Machine-Learning-Modellen in der Produktion, idealerweise in Umgebungen, in denen Zuverlässigkeit und Qualität entscheidend sind (z.B. autonomes Fahren, industrielle Anwendungen, Gesundheitswesen).
• Der Großteil Ihrer Erfahrung in der Produktion von ML-Modellen stammt aus unstrukturierten Datenbereichen wie NLP und Vision.
• Sie haben Erfahrung in der End-to-End-Entwicklung von ML-Modellen.
• Sie haben Erfahrung mit der „langen Schwanz“-Datenverteilung und bringen Modelle von Prototypen zu realen Systemen.
• Sie streben danach, eine entscheidende Rolle bei der Definition der Zukunft der sicheren KI innerhalb eines zielorientierten Unternehmens mit ehrgeizigen Zielen zu spielen.