AI Safety Argumentation Research Engineer

Verantwortlichkeiten

• Erweiterung von Ontologien und Wissensgraph-Schemas, die Ansprüche, Beweise, Argumentstrukturen, Widerlegungen und Vertrauen darstellen.
• Implementierung von widerlegbaren Argumentationsrahmen (z. B. ASPIC+, Dung-Stil, Argumentationsschemata), die sowohl logische Strukturen als auch Verwundbarkeit gegenüber Widerlegungen erfassen.
• Betreiben und Qualitätskontrolle von LLM-gesteuerten Populationspipelines mit Kreuzprüfungsgerüsten, Herkunftsverfolgung und menschlicher Kuratierung.
• Architektur von Agenten-Koordinationsmustern für mehrstufige Forschungs- und Populationstasks mit robuster Fehlerbehandlung und sanfter Degradation.
• Vorab-Härtung von Argumentstrukturen durch Kartierung der stärksten Gegenargumente, stahlmännischen Einwände und bekannten Widerlegungen.
• Erstellung von Exportpipelines, die strukturierte Argumentation in verschiedene Kommunikationsformate für unterschiedliche Zielgruppen übersetzen.
• Aufrechterhaltung des aktuellen Bewusstseins über KI-Sicherheit, Fähigkeiten und Governance, um zu wissen, wann neue Entwicklungen Graphaktualisierungen erfordern und wo autoritative weitere Details zu finden sind.
• Zusammenarbeit mit Kommunikationsmitarbeitern und Forschern, um sicherzustellen, dass die Ergebnisse echten Überzeugungsbedürfnissen dienen.

Anforderungen

• Praktische Vertrautheit mit formalen oder semi-formalen Argumentationstheorien (abstrakte oder strukturierte Argumentation, widerlegbare Argumentation, dialektische Modelle oder Argumentationsschemata).
• Erfahrung in der Ontologie-Engineering oder Entwicklung von Wissensgraphen (OWL/RDF, Property Graphs oder Ähnliches).
• Betriebliche Erfahrung mit LLM-Agentensystemen: Plattformen zur Agentenkoordination, Prompt-Engineering im großen Maßstab und QC-Regime für LLM-Ausgaben (adversarielle Prüfung, Konsistenzprüfungen, Kalibrierung).
• Fließende Vibecoding-Praxis: schnelles Prototyping und Versand mit LLM-unterstützter Entwicklung in produktionsnahen Kontexten.
• Substantielle Grundlagen in KI-Sicherheit, KI-Governance und aktuellen Dynamiken an der Grenze der KI, mit der Fähigkeit, autoritative Quellen zu jedem Unterthema oder menschlicher Expertise im Bereich zu finden.
• Vertrautheit mit Konzepten der Wissenschaftsphilosophie, die sich auf Beweise beziehen: Widerlegungen, Beweislast, Inferenz zur besten Erklärung, Unterbestimmung.
• Gute Programmierkenntnisse; Komfort mit Graphdatenbanken oder Abfragesprachen.
• Erfahrung in der Gestaltung von Kreuzprüfungs- und Verifikationsgerüsten für unzuverlässige automatisierte Prozesse.
• Gesunder Menschenverstand darüber, wann ein Anspruch gut unterstützt ist und wann er eine Absicherung, weitere Untermauerung oder Rücknahme benötigt.
• Selbstständig; starke schriftliche Kommunikation.
• Abschlussarbeiten oder gleichwertige Tiefe in Argumentationstheorie, computergestützter Argumentation, Epistemologie oder Wissenschaftsphilosophie.
• Vertrautheit mit AIF, Carneades oder vergleichbaren computergestützten Argumentationstools.
• Nachweisliche Erfolge in der KI-Sicherheit oder Governance (Veröffentlichungen, politische Arbeit oder substanzielle Beiträge zur Gemeinschaft).
• Hintergrund in Argument Mining, Anspruchsextraktion oder Stance Detection.
• Erfahrung mit Debattenformaten oder strukturierten Deliberationsmethoden.
• Verständnis von motiviertem Denken, Glaubensänderung und kognitiven Verzerrungen, wie sie sich auf Kommunikationsstrategien auswirken.
• Open-Source-Beiträge in einem relevanten Bereich.