Auf einen Blick
- Aufgaben: Leite die Evaluierungsteams und entwickle innovative Bewertungsstrategien für KI-Systeme.
- Unternehmen: LawZero, eine gemeinnützige Organisation, die sichere KI-Systeme entwickelt.
- Vorteile: Umfassende Gesundheitsleistungen, flexible Urlaubsregelungen und ein unterstützendes Arbeitsumfeld.
- Weitere Informationen: Dynamisches Team mit Experten und einem inklusiven Arbeitsumfeld.
- Warum dieser Job: Gestalte die Zukunft der KI-Sicherheit und arbeite an bahnbrechenden Projekten.
- Qualifikationen: Erfahrung in maschinellem Lernen und Führungskompetenz erforderlich.
Das prognostizierte Gehalt liegt zwischen 85500 - 104500 € pro Jahr.
Law Zero est une organisation à but non lucratif qui conçoit des systèmes d'IA sûrs dès leur conception ( safe-by-design ).
Nous développons « Scientist AI », un système d'IA de pointe conçu dès le départ pour être à la fois hautement performant et sécurisé.
Parallèlement au développement de nos modèles généraux Scientist AI et de garde-fous de sécurité pour les modèles de langage de pointe (LLM frontier ), nous devons évaluer de manière rigoureuse et indépendante chaque affirmation concernant leurs capacités et leur sécurité.
Nous recherchons un. e Directeur. rice des évaluations pour structurer, diriger et faire grandir l’équipe Évaluations de Law Zero.
Il s'agit d'un recrutement fondateur.
Vous définirez ce qu'est une évaluation de classe mondiale chez Loi Zéro, bâtirez l'équipe et l'infrastructure nécessaires pour la réaliser, et veillerez à ce que les évaluations restent indépendantes de l'axe de recherche principal.
Cela permettra de garantir la fiabilité de nos affirmations sur les capacités et la sécurité de nos modèles, tant en interne qu'auprès de la communauté élargie de l'IA et de la sécurité de l'IA.
- Responsabilités clés
- Définir la stratégie et la feuille de route des évaluations de Loi Zéro, en priorisant ce qui doit être mesuré et à quel moment, en étroite coordination avec les équipes de recherche et de produit.
- Bâtir l'équipe Évaluations au cours de vos 3 à 6 premiers mois, pour atteindre environ 8 à 10 personnes spécialisées en recherche, ingénierie, conception d'ensembles de données ( datasets ) et de benchmarks, ainsi qu'en red-teaming .
- Diriger l'équipe de manière indépendante des axes principaux de recherche et de produit afin d'éviter tout conflit d'intérêt, ce qui inclut la conception de benchmarks inédits permettant de comparer équitablement ( apples-to-apples ) Scientist AI et les LLM de pointe.
- Superviser la conception et la création de nouveaux jeux de données, de tâches et d'environnements virtuels ou interactifs pour mesurer les performances de Scientist AI au niveau de ses capacités, sa sécurité (y compris l'honnêteté et l'orientation vers des objectifs), son applicabilité, ses mécanismes causaux et sa détection d'attaques adverses ( adversarial attacks ).
- Diriger l'évaluation de Scientist AI lorsqu'il est déployé comme garde-fou ( guardrail ) autour de modèles de pointe, notamment sa capacité à se conformer aux spécifications sur les préjudices, à détecter et bloquer les réponses nocives, à expliquer ses décisions et à résister aux attaques adverses telles que le jailbreak , l'injection de requêtes ( prompt injection) et l'empoisonnement de données.
- Établir et diriger nos programmes de red-teaming automatisés et manuels, en interne et en partenariat avec des prestataires externes, afin de tester les limites de Scientist AI en tant que modèle généraliste et en tant que garde-fou.
- Piloter la création des outils et des infrastructures internes nécessaires pour exécuter des évaluations à grande échelle, en automatisant et en standardisant le pipeline autant que possible.
- Soutenir directement, au besoin et dans la mesure du possible, les équipes de recherche et de produit dans leurs propres besoins internes d'évaluation et de benchmarking afin de lever les blocages et d'accélérer les processus.
- Prendre en charge la communication publique des résultats d'évaluation de Law Zero (notamment les fiches de modèles/systèmes — model cards , les rapports techniques, les publications évaluées par des pairs et les articles de blog) afin de renforcer la confiance avec la communauté de la sécurité de l'IA.
- Représenter Law Zero à l'externe sur les questions d'évaluation et de mesure de la sécurité de l'IA, notamment auprès des instituts de sécurité de l'IA, des collaborateurs de recherche et des bailleurs de fonds.
- Compétences et qualifications
- Diplôme d'études supérieures (Master, Doctorat ou équivalent) en apprentissage automatique (Machine Learning), informatique ou dans un domaine étroitement lié.
- Plus de 10 ans d'expérience en apprentissage automatique (Machine Learning), dont au moins 5 ans dans un rôle de leadership pour bâtir ou faire progresser des équipes techniques travaillant sur des produits ML concrets.
- Expertise pratique dans la conception et l'exécution d'évaluations à grande échelle de LLM ou d'autres systèmes de pointe (ML frontier ) concernant leurs capacités, leur sécurité et leur robustesse face aux attaques.
- Expérience avérée dans la création d'ensemble de données d'évaluation, de benchmarks ou d'environnements interactifs, notamment pour des propriétés liées à la sécurité (l'honnêteté, la complaisance, les comportements de refus et la robustesse face aux attaques).
- Excellentes compétences en communication écrite et verbale, incluant la capacité à vulgariser des résultats techniques pour des publics non techniques (cadres dirigeants, bailleurs de fonds, décideurs politiques).
- Aisance à évoluer dans un environnement axé sur la recherche, rapide et empreint d'une forte ambiguïté, avec la capacité d'y apporter de la structure sans en ralentir le rythme.
Atouts
- Une expérience dans la direction d'exercices de red-teaming
(automatisés, manuels ou les deux) et dans le travail avec des partenaires externes d'évaluation ou de red-teaming est un atout.
- Expérience de collaboration conjointe avec des partenaires tiers pour la création de benchmarks
(points de référence) et d'ensemble de données.
- Une expérience dans la publication d'ensemble de données open-source, de benchmarks ou d'outils d'évaluation est un atout.
- Une familiarité avec les travaux actuels sur les politiques et les normes de sécurité de l'IA (UK AISI, CAISI, NIST, l'IA Act de l'UE, etc.) est un atout.
- Une expérience de contribution ou de coordination avec des instituts de sécurité externes, des bailleurs de fonds ou des organismes gouvernementaux est un atout.
- Ce que nous offrons
- L’occasion de contribuer à une mission unique avec un impact important.
- Des avantages santé complets.
- Un minimum de 20 jours de vacances dès l’embauche.
- Un contribution d'épargne retraite de l’employeur d'un minimum de 4%.
- Des avantages généreux et flexibles conçus pour contribuer à votre bien-être.
- Une équipe d’experts de leur domaine, des gens passionnés et passionnants.
- Un milieu de travail collaboratif et inclusif avec des bureaux au cœur de la Petite Italie, dans le quartier branché Mile-Ex à proximité des transports en commun.
- À propos de Loi Zéro
Loi Zéro est une organisation à but non lucratif dédiée à faire progresser la recherche et à développer des solutions techniques permettant de concevoir des systèmes d'IA sécuritaires.
Son approche scientifique repose sur de nouvelles recherches et méthodes proposées par le professeur Yoshua Bengio, le chercheur en IA le plus cité au monde.
Basée à Montréal, Loi Zéro mène des recherches pour concevoir des systèmes d’IA non agentiques qui apprennent à comprendre le monde plutôt qu'à y intervenir, en répondant de manière véridique aux questions posées sur la base d'un raisonnement probabiliste transparent et extériorisé.
De tels systèmes d'IA pourraient être utilisés pour accélérer la découverte scientifique, superviser les systèmes d'IA agentiques et faire progresser notre compréhension des risques de l'IA et des moyens de les éviter.
Loi Zéro croit que l’IA doit être considérée comme un bien public mondial, développée et utilisée de manière sécuritaire pour favoriser l’épanouissement humain.
Plus d’information
- www. loizero. org
- Vous avez votre place ici
À Loi Zéro, la diversité nous tient à cœur.
Nous valorisons un environnement de travail équitable, ouvert et respectueux des différences.
Nous encourageons les candidatures de personnes hautement qualifiées désireuses de travailler à la réalisation de notre mission dans un cadre respectueux, inclusif et collaboratif.
Vos informations personnelles seront collectées et traitées par Loi Zéro afin d'évaluer votre demande d'emploi conformément à notre politique de vie privée .
En vertu des lois sur la protection de la vie privée en vigueur dans votre pays de résidence, vous pouvez disposer de plusieurs droits en matière de protection de la vie privée, comme celui de demander l'accès à vos informations personnelles ou de demander que vos informations personnelles soient rectifiées ou effacées.
Vous trouverez des détails sur la manière dont vous pouvez exercer vos droits dans notre politique de protection de la vie privée.
Directeur.rice, Évaluations in Berlin Arbeitgeber: LoiZéro
LoiZéro est un employeur exceptionnel qui offre une occasion unique de contribuer à des recherches innovantes en sécurité de l'IA, tout en bénéficiant d'un environnement de travail collaboratif et inclusif au cœur de la Petite Italie à Montréal. Avec des avantages généreux tels que des congés payés, une contribution à l'épargne retraite et des programmes de bien-être, nous soutenons le développement professionnel de nos employés dans une équipe passionnée par l'avancement de l'IA comme bien public mondial.
StudySmarter Expertenrat🤫
Wir sind der Meinung, dass du so Directeur.rice, Évaluations in Berlin erhalten könntest
✨Sei aktiv in lokalen Datenbank-Communities
Schau dir lokale Meetup-Gruppen oder Online-Communities an, die sich mit Datenbanken beschäftigen. Dort kannst du nicht nur dein Netzwerk erweitern, sondern auch wertvolle Kontakte knüpfen, die dir bei der Jobsuche helfen können. Viele Unternehmen schätzen Empfehlungen aus diesen Communities.
✨Zeige deine Skills in Open-Source-Projekten
Beteilige dich an Open-Source-Projekten, die mit Datenbanken arbeiten. So kannst du deine Fähigkeiten unter Beweis stellen und gleichzeitig einen beeindruckenden Portfoliobereich aufbauen, den du potenziellen Arbeitgebern präsentieren kannst.
✨Besuche Jobmessen und Recruiting-Events
Jobmessen sind eine großartige Gelegenheit, um direkt mit Unternehmen in Kontakt zu treten. Informiere dich über lokale Jobmessen, die sich auf Tech- und Datenbankrollen konzentrieren, und bereite uns vor, um unseren Lebenslauf und unser Interesse an der Rolle zu präsentieren.
✨Bewirb dich direkt bei LoiZéro
Wir empfehlen dir, auch direkt über unsere Website bei LoiZéro für die Stelle als Directeur.rice, Évaluations zu bewerben. Zeig uns deine Leidenschaft für Datenbanken und warum du Teil unseres Teams werden möchtest. Jede Bewerbung zählt!
Wir glauben, dass du diese Fähigkeiten brauchst, um Directeur.rice, Évaluations in Berlin mit Bravour zu bestehen
Einige Tipps für deine Bewerbung 🫡
Datenbank-Skills hervorheben:In deinem Lebenslauf solltest du unbedingt deine Erfahrungen mit verschiedenen Datenbankmanagementsystemen (DBMS) wie MySQL, PostgreSQL oder MongoDB betonen. Wenn du spezielle Projekte oder Aufgaben in deinem letzten Job hast, die deine Fähigkeiten im Umgang mit Datenbanken zeigen, nenn diese unbedingt!
Projekte und Zertifikate erwähnen:Falls du an relevanten Projekten oder Kursen in Bezug auf Datenbanken teilgenommen hast, pack sie in dein Portfolio oder erwähne sie in deinem Anschreiben. Das zeigt, dass du nicht nur theoretisches Wissen hast, sondern auch praktische Anwendungskonzepte beherrschst!
Motivation und Teamfähigkeit zeigen:Da du dich auf eine Vollzeitstelle bewirbst, ist es wichtig, dass du in deinem Anschreiben deutlich machst, warum du leidenschaftlich an der Arbeit mit Datenbanken interessiert bist und wie gut du im Team arbeiten kannst. Unternehmen suchen oft nach Mitarbeitern, die auch über die technischen Fähigkeiten hinaus ins Team passen.
Die richtige Struktur im Lebenslauf:Gestalte deinen Lebenslauf klar und strukturiert – in der Datenbankbranche kommt es nicht nur auf die Inhalte an, sondern auch auf die Art und Weise, wie du sie präsentierst. Nutze klare Überschriften und Absätze, um deine Fähigkeiten und Erfahrungen hervorzuheben. Und vergiss nicht, dein Lebenslauf sollte so aufbereitet sein, dass man sofort erkennt, dass du ein wahres Datenbanktalent bist!
Wie man sich auf ein Vorstellungsgespräch bei LoiZéro vorbereitet
✨Sei bereit für technische Fragen zur Datenbankverwaltung
Egal, ob es um SQL-Abfragen, Datenmodellierung oder Performance-Optimierung geht, du solltest die Grundlagen perfekt beherrschen. Bereite dich darauf vor, praktische Probleme zu lösen und deine Lösungsansätze zu erklären – das zeigt, dass du nicht nur Theorie kennst, sondern auch praktisch umgehen kannst!
✨Portfolio nicht vergessen!
Wenn du bereits an Datenbankprojekten gearbeitet hast, bringe Beispiele mit, die deine Fähigkeiten zeigen. Zeige, wie du Probleme gelöst hast und wie deine Ansätze zur Effizienz der Datenbank beigetragen haben. Ein starkes Portfolio kann dich von anderen Kandidaten abheben!
✨Verstehe die spezifischen Tools der Branche
Je nach LoiZéro könnte es sein, dass ihr spezifische Datenbankmanagementsysteme nutzt. Mach dich mit diesen vertraut und zeige dein Wissen über die neuesten Tools und Technologien. Das zeigt, dass du aufmerksam bist und dich bereits mit ihrer Arbeitsweise beschäftigt hast.
✨Motivation und Entwicklung in den Vordergrund stellen
Da es sich um eine Vollzeitstelle handelt, wollen sie wissen, dass du langfristig motiviert bist. Erkläre, warum dich die Arbeit in der Datenbankverwaltung begeistert und wie du deine Fähigkeiten weiterentwickeln möchtest, um einen Mehrwert für LoiZéro zu schaffen.