Research Scientist, Gemini Safety

Bei Google DeepMind schätzen wir die Vielfalt an Erfahrungen, Wissen, Hintergründen und Perspektiven und nutzen diese Qualitäten, um außergewöhnliche Auswirkungen zu erzielen. Wir setzen uns für Chancengleichheit ein, unabhängig von Geschlecht, Rasse, Religion oder Glauben, ethnischer oder nationaler Herkunft, Behinderung, Alter, Staatsbürgerschaft, Familienstand, Partnerschaftsstatus, sexueller Orientierung, Geschlechtsidentität, Schwangerschaft oder verwandten Bedingungen (einschließlich Stillen) oder aus anderen Gründen, die durch geltendes Recht geschützt sind. Wenn Sie eine Behinderung oder einen zusätzlichen Bedarf haben, der eine Anpassung erfordert, lassen Sie es uns bitte wissen.

Das Gemini Safety-Team ist verantwortlich für das Sicherheits- und Fairnessverhalten der neuesten Gemini-Modelle von GDM. Die Rolle des Research Scientist besteht darin, Daten und algorithmische Lösungen an der Spitze der Technologie anzuwenden und zu entwickeln, um die neuesten benutzerorientierten Modelle von GDM voranzubringen. Der Arbeitsstil ist schnelllebig und hochgradig kollaborativ. Das Team hat eine starke Kultur der Unterstützung, Hingabe und Zusammenarbeit.

Wir suchen einen vielseitigen Research Scientist, der sowohl mit der Erarbeitung neuer Forschungsfragen als auch mit der technischen Umsetzung von Forschungsideen vertraut ist. Unser Team konzentriert sich darauf, das Sicherheits- und Fairnessverhalten von KI-Modellen auf dem neuesten Stand der Technik zu verbessern. Wir treiben die Entwicklung der grundlegenden Technologie voran, die in zahlreichen Produktbereichen wie Gemini App, Cloud API und Search eingesetzt wird.

• Post-Training / Instruction Tuning von state-of-the-art LLMs, mit Fokus auf Text-zu-Text-, Bild-/Video-/Audio-zu-Text-Modi und agentischen Fähigkeiten.
• Erforschen von Daten, Argumentation und algorithmischen Lösungen, um sicherzustellen, dass die Gemini-Modelle sicher, maximal hilfreich und für alle nutzbar sind.
• Verbesserung der adversarialen Robustheit von Gemini, mit einem Fokus auf Risiken bei hohem Einsatz.
• Entwicklung und Pflege hochwertiger Evaluierungsprotokolle zur Bewertung von Verhaltenslücken und Verbesserungspotenzial in Bezug auf Sicherheit und Fairness.
• Entwicklung und Durchführung experimenteller Pläne zur Behebung bekannter Lücken oder zur Konstruktion völlig neuer Fähigkeiten.
• Förderung von Innovationen und Verbesserung des Verständnisses von Supervised Fine Tuning und Reinforcement Learning Fine-Tuning im großen Maßstab.

Um Sie als Research Scientist im Gemini Safety-Team erfolgreich zu machen, suchen wir nach folgenden Fähigkeiten und Erfahrungen:

• PhD in Informatik, einem verwandten Bereich oder gleichwertige praktische Erfahrung.
• Signifikante Erfahrung im Post-Training von LLMs.

• Erfahrung im Reward Modeling und Reinforcement Learning für LLMs.
• Instruction Tuning.
• Erfahrung mit Long-range Reinforcement Learning.
• Erfahrung in Bereichen wie Sicherheit, Fairness und Ausrichtung.
• Nachweisbare Publikationen bei NeurIPS, ICLR, ICML.
• Erfahrung in der Umsetzung von Forschung von der Idee bis zum Produkt.
• Erfahrung in der Zusammenarbeit oder Leitung eines angewandten Forschungsprojekts.
• Starker experimenteller Geschmack: Gutes Urteilsvermögen bezüglich Baselines, Ablationen und was es wert ist, getestet zu werden.
• Erfahrung mit JAX.