AI Research Engineer - AI Safety

Wer wir sind

Bei Helsing bieten wir KI-basierte Fähigkeiten und die notwendige Grundlage, die Maschinen ermöglichen, menschliche Entscheidungsfindung zu erkennen und zu unterstützen. Sie haben die einzigartige Gelegenheit, KI-Fähigkeiten in einem der herausforderndsten Sektoren zu gestalten, in dem hohe Generalisierungsfähigkeiten mit Hardwarebeschränkungen und Robustheit gegen angreifende Angriffe kombiniert werden müssen. Sie werden Teil eines Teams sein, das sich auf KI-Sicherheit konzentriert, wo Sie modernste Techniken zur skalierbaren Bewertung von KI-Produkten im gesamten Unternehmen entwickeln, Strategien zur Datensammlung und Experimentierung entwerfen, um kausale Erkenntnisse zu gewinnen, und verantwortungsbewusste Entscheidungsfindung durch Unsicherheitsquantifizierung und Sicherheitsmechanismen verbessern.

Der Alltag

Sie sind verantwortlich für die Definition operativer Bereiche und die Bewertung der Zuverlässigkeit der intern entwickelten KI-Fähigkeiten. Sie werden den Stand der Technik in der Unsicherheitsquantifizierung und -kalibrierung weiterentwickeln. Dies beinhaltet das Verständnis der KI-Systeme, die wir bauen, deren Schnittstelle und die Bewertung ihrer Robustheit in realen und angreifenden Szenarien. Sie werden zu wirkungsvollen Projekten beitragen und mit Menschen aus verschiedenen Teams und Hintergründen zusammenarbeiten.

Sie sollten sich bewerben, wenn Sie:

• Ein STEM-Masterstudium mit solidem mathematischen und statistischen Hintergrund haben.
• Exzellente Kommunikationsfähigkeiten besitzen und in der Lage sind, Forschungsergebnisse klar und effizient sowohl intern als auch extern zu berichten und zu präsentieren.
• Leidenschaft dafür haben, über aktuelle Forschung auf dem Laufenden zu bleiben und gerne Papiere zu modernen Deep-Learning-Ansätzen neu implementieren oder erweitern.
• Solide Software-Engineering-Fähigkeiten besitzen, sauberen und gut strukturierten Code in Python und/oder Sprachen wie Rust, Java oder modernem C++ schreiben und Erfahrung in der Bereitstellung von KI-Software in der Produktion einschließlich Tests, Qualitätssicherung und Überwachung haben.

Hinweis: Wir arbeiten an einem Schnittpunkt, an dem Frauen sowie andere Minderheiten systematisch unterrepräsentiert sind. Wir ermutigen Sie, sich zu bewerben, auch wenn Sie nicht alle aufgeführten Qualifikationen erfüllen; Fähigkeit und Einfluss können nicht in wenigen Punkten zusammengefasst werden.

Schön zu haben:

• Doktortitel in Modellbewertung und Robustheit, Unsicherheitsquantifizierung, experimentellem Design, kausaler Inferenz oder verwandten Bereichen.
• Veröffentlichungen in erstklassigen Fachzeitschriften und Konferenzen (z.B. NeurIPS, ICML, ICLR usw.) verfasst haben.
• Frühere industrielle Erfahrung in der Sicherstellung des sicheren Einsatzes von KI-Produkten.
• Erfahrung in der Bereitstellung von KI-Software in der Produktion einschließlich Tests, Qualitätssicherung und Überwachung.

Treten Sie Helsing bei und arbeiten Sie mit weltweit führenden Experten auf ihrem Gebiet.

Die Arbeit von Helsing ist wichtig. Sie tragen direkt zum Schutz demokratischer Länder bei und berücksichtigen dabei sowohl ethische als auch geopolitische Bedenken. Die Arbeit ist einzigartig. Wir arbeiten in einem Bereich mit äußerst ungewöhnlichen technischen Anforderungen und Einschränkungen, in dem Robustheit, Sicherheit und ethische Überlegungen von entscheidender Bedeutung sind. Sie werden einzigartigen Ingenieur- und KI-Herausforderungen gegenüberstehen, die einen bedeutenden Einfluss auf die Welt haben.

Unsere Arbeit führt uns häufig an die Spitze technischer Innovationen, sei es im Bereich des verstärkenden Lernens, verteilter Systeme, generativer KI oder Bereitstellungsinfrastruktur. Die Verteidigungsindustrie befindet sich in der aufregendsten Phase der technologischen Entwicklung. Fortschritte in unserem Bereich sind nicht inkrementell: Helsing ist Teil von, und oft führend in, historischen Fortschritten.

In unserem Bereich ist Erfolg eine Frage von Größenordnungsverbesserungen und neuartigen Fähigkeiten. Das bedeutet, dass wir Wetten eingehen, hoch zielen und uns auf große Chancen konzentrieren. Trotz unserer relativ jungen Unternehmensgeschichte wurde Helsing bereits für mehrere bedeutende Regierungsverträge ausgewählt.

Wir fördern aktiv gesunde, proaktive und vielfältige Debatten intern darüber, was wir tun und wie wir es tun. Teams und einzelne Ingenieure werden ermutigt, verantwortungsvolle Autonomie und kritisches Denken zu praktizieren und sich auf Ergebnisse zu konzentrieren, nicht auf Konformität. Bei Helsing haben Sie ein Mitspracherecht, wie wir (und Sie!) arbeiten, die Möglichkeit, sich mit dem auseinanderzusetzen, was funktioniert und was nicht, und Verantwortung für Aspekte unserer Kultur zu übernehmen, die Ihnen am Herzen liegen.

Was wir bieten:

• Wettbewerbsfähiges Gehalt und Aktienoptionen (ESOP).
• Umzugshilfe: bis zu 2.500 € und 4 Wochen vorübergehende Unterkunft.
• Lernen: jährliches Budget von 500 €/450 £.
• Gesundheit & Wellness: Fitnessstudio-Mitgliedschaft und Unterstützung für psychische Gesundheit (Nilo.health).
• Soziales: regelmäßige Unternehmensveranstaltungen und monatliche soziale Zulagen.
• Erweiterte Elternzeit: 22 Wochen voll bezahlt für primäre Betreuungspersonen & 6 Wochen für sekundäre Betreuungspersonen.
• Familienunterstützung: 5 Tage bezahlter Familiennotfallurlaub, 100 % Remote-Arbeitsoption während der Schwangerschaft und schrittweise Rückkehr zur Arbeit.

Dies sind die Kernvorteile an allen Standorten, es kann zusätzliche Vorteile an bestimmten Standorten geben. Helsing ist ein Arbeitgeber, der Chancengleichheit bietet. Wir setzen uns für Chancengleichheit ein, unabhängig von Rasse, Religion, sexueller Orientierung, Alter, Familienstand, Behinderung oder Geschlechtsidentität.

Bitte reichen Sie keine persönlichen Daten ein, die Rasse oder ethnische Herkunft, politische Meinungen, religiöse oder philosophische Überzeugungen, Gewerkschaftszugehörigkeit, Daten zu Ihrer Gesundheit oder Daten zu Ihrer sexuellen Orientierung offenbaren.

Das Datenschutz- und Vertraulichkeitsregime von Helsing finden Sie hier.