Über die Stelle
Werde Teil eines wegweisenden Projekts!
User Rights setzt sich für den Schutz von Grundrechten auf Social Media ein. Wenn Inhalte zu Unrecht gesperrt oder verbotene Inhalte nicht gelöscht werden, unterstützt User Rights bei der Durchsetzung der in diesen Fällen bestehenden Rechte der Nutzer*innen
Als Deutschlands erste unabhängige Streitbeilegungsstelle für Social-Media-Plattformen gestalten wir den rechtlichen Rahmen des digitalen Raums aktiv mit. Über 10.000 Streitfälle gegen Plattformen wie Meta, TikTok, LinkedIn und Pinterest haben wir bereits entschieden, EU-weit und in mehreren Sprachen. Wir sind heute rund 40 Personen, werden bis Jahresende über 50 sein und expandieren in weitere EU-Länder.
Unsere Fallbearbeitung erfolgt über eine eigene Plattform, die unter anderem die folgenden Features bietet: Entscheidungsbäume, die die Erzeugung unserer Entscheidungen steuern; ein Tool, das eine KI-gestützte, für Menschen nachvollziehbare und korrigierbare Prüfung von Verstößen gegen Community Guidelines und Rechtsvorschriften ermöglicht; Schnittstellen, über die Informationen zwischen uns und den Plattformen ausgetauscht werden und die Möglichkeit, Datenanalysen zu unseren Entscheidungen durchzuführen. Die Plattform entwickeln wir teilweise gemeinsam mit einem externen Legal-Tech-Dienstleister. Wir haben aber auch In-House Kapazitäten aufgebaut, um die Plattform mitgestalten zu können.
Du unterstützt unser Team, das die Plattform pflegt und weiterentwickelt. Du kümmerst dich darum, dass die Plattform funktioniert, wartest sie und räumst Hindernisse und Probleme aus, und arbeitest daran, dass sie sich ständig verbessert. Dabei entwickelst du innovative technische Lösungen für die Fallbearbeitung, ermöglichst einen reibungslosen Datenaustausch mit den Plattformen, analysierst Daten zu unserer Fallentscheidungspraxis und gibst unserem Legal-Tech-Dienstleister Input, damit er neue Features für uns entwickeln kann.
Du entscheidest keine Fälle und brauchst keinen juristischen Abschluss. Was du brauchst, ist Prozessverständnis, technisches Handwerk und die Fähigkeit, ein Regelwerk in eine saubere technische Struktur zu gießen. Der juristische Input kommt aus dem Team, das die Fälle entscheidet.
Deine Aufgaben
-
Betrieb unserer Fallbearbeitungsplattform: Du bist die erste Adresse für technische Störungen über den gesamten Fallentscheidungsprozess hinweg. Hierzu zählen: der Eingang der Beschwerde und der Import der durch den Beschwerdeführer bereitgestellten Daten in die Fallentscheidungsplattform, die Prüfung der Vollständigkeit der Beschwerde, die Prüfung der Stellungnahme der Plattform zum Streitbeilegungsverfahren und abschließend die Erzeugung der Entscheidung.
-
Weiterentwicklung unserer Fallentscheidungsplattform: Du sorgst dafür, dass die Plattform besser wird. Du erkennst, wo im Fallentscheidungsprozess Reibung entsteht, und übersetzt das in konkrete Verbesserungen: neue oder angepasste Workflows, technische Lösungen und Ausgabeformate. Vieles davon setzen wir selbst um, statt jede Änderung extern bei unserem Legal-Tech-Dienstleister zu beauftragen.
-
Schnittstellen betreuen. Du gewährleistest einen reibungslosen Datenaustausch mit den Social-Media-Plattformen über unsere APIs, betreust die bestehenden Anbindungen und bindest weitere Plattformen an unser Fallbearbeitungssystem an. Außerdem sorgst du für eine effiziente Bearbeitung zusammenhängender Fälle von Submittern.
-
Datenanalyse unserer Fallentscheidungspraxis. Du wertest Daten zu unserem Fallentscheidungsprozess aus: Welche Fallkonstellationen treten auf? Wieviele Fälle entscheiden wir? An welchen Stellen des Fallentscheidungsprozesses kommt es zu Verzögerungen? Anhand dieser Daten entwickelst Du Lösungen, um den Fallentscheidungsprozess noch effizienter zu gestalten.
-
Entscheidungsdatenbank und Datenqualität. Du baust unsere Entscheidungsdatenbank auf und integrierst die dafür nötigen Datenquellen. Ziel ist, gleichgelagerte Fälle zu erkennen und so konsistentere und bessere Entscheidungen treffen zu können. Dafür sorgst du für saubere Daten und spürst Duplikate und Inkonsistenzen auf. Dazu gehört auch die Prüfung der fallbezogenen Abrechnung
-
Teilautomatisiert erstellte Entwürfe unserer Entscheidungen Evaluieren. Du prüfst wie gut die KI-unterstützte Entscheidung über AGB- und Gesetzesverstöße funktioniert und stellst sicher, dass die Entscheidungen hohen Qualitätsstandards genügen.
-
Mit dem Legal-Tech-Dienstleister arbeiten. Du gibst Input, welche neuen Features wir benötigen und entwickelst hierfür klare Abnahmekriterien. Du testest neue Features daraufhin, ob sie zu einer effizienteren Fallentscheidungspraxis beitragen, begleitest den Live-Gang und stellst auch danach sicher, dass das Feature reibungslos funktioniert.
-
Skalierung mittragen. Du schaffst die technischen Rahmenbedingungen für die Erweiterung unseres Angebots auf weitere Plattformen und weitere Sprachen. Außerdem stellst Du sicher, dass unser System ständig die gesetzlichen Anforderungen erfüllt.
Dein Profil
-
Plattform- und Automatisierungserfahrung. Du hast mit No-Code-/Low-Code-Plattformen, Workflow-Tools oder vergleichbaren Systemen selbst gebaut: Workflows, Datenmodelle, Oberflächen, Ausgabeformate. Woher die Erfahrung kommt, ist uns gleich.
-
Technisches Handwerk. SQL, JSON und XML, APIs, Grundverständnis von Systemarchitekturen. Common Lisp ist von Vorteil, aber keine Voraussetzung.
-
Modellieren. Komplexe Regelwerke in Prozesse, Datenstrukturen und Abfragelogik überführen.
-
Datenanalyse. Betriebsdaten selbstständig auswerten (Python, R oder vergleichbar) und die Ergebnisse verständlich erklären.
-
Sorgfalt und Betriebssicherheit. Verlässliche Arbeitsweise mit Blick auf Stabilität und Qualität laufender Systeme.
-
Anforderungen und Tests. Spezifikationen, die eine externe Entwicklungsmannschaft ohne Rückfragen umsetzen kann, und strukturiertes Testen.
-
Umgang mit Sprachmodellen. Modellausgaben systematisch bewerten: Referenzdaten, Kriterien, vergleichbare Ergebnisse. Erfahrung mit Prompt- und Evaluationsarbeit ist ein Plus.
-
Präzises Lesen komplexer Texte. Ein juristisches Studium ist von Vorteil; ebenso zählen Compliance-, Policy- oder Trust-and-Safety-Regelwerke, technische Normung oder vergleichbare Praxis.
-
Interesse am DSA und an Content Moderation.
-
Sprachen. Sehr gutes Deutsch und Englisch, mindestens C1.
Bewerbungen aus Legal-Tech-, GovTech-, Product-Ops- oder Data-Rollen sind ausdrücklich willkommen.
Was wir bieten
-
Eine Rolle mit direkter Wirkung: was du baust, benutzen 20 und bald 40 Kolleg:innen jeden Tag.
-
Wöchentliche Arbeitszeit von 32-40 Stunden bei einem Gehalt von 60-85k (Vollzeit)
-
Mitarbeit in einem exzellenten, interdisziplinären Team mit juristischem, technischem und gesellschaftlichem Anspruch
-
Hybrides Arbeiten: 2-3 Tage pro Woche im Office vor Ort in Kreuzberg und die restlichen Tage im Home Office
-
Flexible Arbeitszeiten
-
30 Tage Urlaub (bei einer 5-Tage-Woche)
-
Übernahme einer „M Business"-Mitgliedschaft bei Urban Sports Club (nach Ablauf der Probezeit)
-
Die Phase, in der man ein System noch prägt, statt es zu erben
Interessiert?
Dann bewirb dich jetzt mit deinem Lebenslauf direkt hier. Ein formelles Anschreiben brauchst du nicht. Schreib uns stattdessen ein paar Zeilen zu einem System oder Werkzeug, das du gebaut oder deutlich verbessert hast. Fragen vorab beantworten wir gern vertraulich (Stichwort „Product Officer").
Wir legen Wert auf Vielfalt und stellen Menschen jeder Ethnie, jeden Geschlechts, jeder sexuellen Orientierung, jeder Religion, jedes Alters, jeder Behinderung und jedes Familienstands ein.
Lass uns gemeinsam die digitale Zukunft gestalten!
Product Officer (m/w/d) in Berlin Arbeitgeber: User Rights
User Rights ist ein hervorragender Arbeitgeber, der dir die Möglichkeit bietet, aktiv an einem bedeutenden Projekt zur Durchsetzung von Grundrechten im digitalen Raum mitzuwirken. In einem dynamischen und interdisziplinären Team in Berlin-Kreuzberg erhältst du nicht nur wertvolle Einblicke in ein neu entstehendes Berufsfeld, sondern auch flexible Arbeitszeiten, 30 Tage Urlaub und die Chance, deine kreativen Ideen einzubringen. Hier kannst du deine juristischen Kenntnisse in einem sinnstiftenden Umfeld weiterentwickeln und gleichzeitig einen Beitrag zur Demokratie im Internet leisten.