Machine Learning Analyst, Egregious Harms

Mindestens erforderliche Qualifikationen:

• Bachelor-Abschluss oder gleichwertige praktische Erfahrung.
• 5 Jahre Erfahrung in der Datenanalyse, einschließlich der Identifizierung von Trends, der Erstellung von Zusammenfassungsstatistiken und der Ableitung von Erkenntnissen aus quantitativen und qualitativen Daten.
• 5 Jahre Erfahrung in der Projektleitung und der Definition von Projektumfang, Zielen und Ergebnissen.
• Erfahrung mit ML-Design und ML-Infrastruktur (z. B. Modellbereitstellung, Modellevaluation, Datenverarbeitung, Debugging, Feinabstimmung).
• 5 Jahre Erfahrung in der Nutzung von Python und SQL zur Lösung technischer Probleme.

Bevorzugte Qualifikationen:

• Erfahrung mit Skriptsprache, maschinellen Lernwerkzeugen, -techniken und -systemen (einschließlich Prompt Engineering und Feinabstimmung von großen Sprachmodellen (LLMs)).
• Kenntnis aktueller Missbrauchstechniken und -praktiken mit der Fähigkeit, maschinelle Lerntechniken auf große Mengen kritischer, produktbezogener Daten anzuwenden.
• Fähigkeit, mit einer Vielzahl von technischen Stakeholdern zusammenzuarbeiten, um Anforderungen zu sammeln, Modelle zu erklären und Verbesserungen zu iterieren.
• Ausgezeichnete schriftliche und mündliche Kommunikationsfähigkeiten sowie die Fähigkeit, technische Implementierungen oder Analysen einem nicht-technischen Publikum effektiv zu erläutern.
• Ausgezeichnete Problemlösungs- und kritische Denkfähigkeiten mit Liebe zum Detail in einem sich ständig verändernden Umfeld.

Über die Stelle:

Die Mitglieder des Trust and Safety-Teams sind damit beauftragt, die größten Probleme zu identifizieren und anzugehen, die die Sicherheit und Integrität unserer Produkte gefährden. Sie nutzen technisches Know-how, hervorragende Problemlösungsfähigkeiten, Benutzererkenntnisse und proaktive Kommunikation, um Benutzer und unsere Partner vor Missbrauch in Google-Produkten wie Suche, Maps, Gmail und Google Ads zu schützen. In diesem Team sind Sie ein strategischer Teamplayer mit einer Leidenschaft dafür, das Richtige zu tun. Sie arbeiten global und funktionsübergreifend mit Google-Ingenieuren und Produktmanagern zusammen, um Missbrauchs- und Betrugsfälle mit der Geschwindigkeit von Google zu identifizieren und zu bekämpfen - mit Dringlichkeit. Und Sie sind stolz darauf, jeden Tag hart daran zu arbeiten, Vertrauen in Google zu fördern und die höchsten Sicherheitsstandards für Benutzer zu gewährleisten.

Als Engineering Analyst im Trust and Safety-Team sind Sie Teil eines globalen Teams, das die nahtlose Erkennung und Durchsetzung einiger der schwerwiegendsten Online-Schäden (z. B. Materialien zum sexuellen Missbrauch von Kindern und nicht einvernehmliche intime Bilder) durch enge Partnerschaften mit Produkt-, Ingenieur-, Politik- und Rechtsteams sicherstellt; Sie werden Ihr technisches Wissen nutzen, um neuartige Lösungen zu entwerfen und zu entwickeln, um Googles Fähigkeit zur Bekämpfung dieses Missbrauchs weltweit weiter zu verbessern. Diese Rolle wird mit grafischen, kontroversen oder belastenden Inhalten konfrontiert. Bei Google arbeiten wir hart daran, das Vertrauen unserer Nutzer jeden Tag zu gewinnen. Trust and Safety ist Googles Team von Experten für Missbrauchsbekämpfung und Benutzervertrauen, die täglich daran arbeiten, das Internet zu einem sichereren Ort zu machen. Wir arbeiten mit Teams in ganz Google zusammen, um mutige Lösungen in Bereichen wie Malware, Spam und Kontohijacking zu liefern. Ein Team von Analysten, Politikspezialisten, Ingenieuren und Programmmanagern arbeitet daran, Risiken zu reduzieren und Missbrauch in allen Produkten von Google zu bekämpfen und unsere Benutzer, Werbetreibenden und Verleger weltweit in über 40 Sprachen zu schützen.

Verantwortlichkeiten:

• Entwicklung skalierbarer Sicherheitslösungen für KI-Produkte in ganz Google durch Nutzung fortschrittlicher Techniken des maschinellen Lernens und der KI.
• Anwendung statistischer und datentechnischer Methoden zur gründlichen Untersuchung von Googles Schutzmaßnahmen, Aufdeckung potenzieller Schwächen und Entwicklung umsetzbarer Erkenntnisse zur kontinuierlichen Verbesserung der Sicherheit.
• Berechnung von Statistiken (z. B. Präzision, Rückruf) über die Leistung technischer Modelle (ML-Systeme, Klassifizierer, große Sprachmodelle (LLMs)) und Erkennung nuancierter, leicht übersehener Probleme in der Leistung dieser Systeme.
• Leitung mehrerer voneinander abhängiger Projekte mittlerer bis hoher Komplexität und Umfang, funktionsübergreifende Zusammenarbeit zur Gewährleistung von Koordination und Abstimmung bei Zielen und Schlüsselergebnissen.