Security Researcher (AI)

Über Origin

Origin entwickelt die Endpoint-AI-Observability-Plattform für Organisationen, die KI übernehmen. Wir glauben, dass Organisationen KI nicht an ihren Endpunkten ohne Observabilität einführen sollten, und wir möchten die Plattform sein, die die Produktivität und Sicherheit dieser Einführung maximiert. Das Unternehmen existiert, um die Verbreitung von Intelligenz innerhalb einer Organisation zu maximieren, die Produktivität agentischer Systeme und der Menschen, die sie steuern, zu maximieren, die Aktionen der Agenten durchgängig nachvollziehbar zu halten, damit ein Benutzer überprüfen kann, ob der Agent tatsächlich das getan hat, was erwartet wurde, und den Organisationen eine Schnittstelle zu bieten, um die schwierigsten Fragen zu beantworten, die sie über die Arbeitsweise haben. Unsere Plattform überwacht und schützt einige der wichtigsten Organisationen der Welt. Wir werden von Sequoia Capital, Brightmind Ventures, IA Ventures und anderen führenden Firmen unterstützt.

Rolle

Origin sucht einen AI-Sicherheitsforscher, der die sich entwickelnde Schnittstelle zwischen adversarial tradecraft und modernen generativen KI-Systemen untersucht. Diese Rolle konzentriert sich darauf, wie Angreifer LLMs, auf Geräten basierende Assistenten (wie Computer Use Agents), autonome Agenten, Code-Generierungsmodelle und multimodale KI-Systeme missbrauchen oder als Waffe einsetzen, und darauf, diese Forschung in wirkungsvolle Verteidigungsfähigkeiten innerhalb der Produkte von Origin zu übersetzen. Erfolg in dieser Rolle erfordert tiefe Neugier, starkes technisches Gespür, praktische Experimente und die Fähigkeit, mehrdeutige Forschungssignale in klare, umsetzbare Engineering-Ergebnisse umzuwandeln.

Verantwortlichkeiten

• Durchführung eingehender Forschungen darüber, wie moderne Gegner ihre Methoden weiterentwickeln können, um generative KI-Tools auszunutzen oder zu missbrauchen, einschließlich LLMs, autonomer Agenten und auf Geräten basierender Assistenten
• Praktische Forschung zu adversarial prompting, jailbreak-Methoden, tradecraft unter Verwendung von Computer Use Agents und lokalen Modellen sowie anderen KI-gestützten Angriffsmöglichkeiten
• Übersetzung und Implementierung von Forschungsergebnissen in umsetzbare Verbesserungen für die Produkte von Origin
• Erstellung hochwertiger, öffentlich zugänglicher Sicherheitsforschungsinhalte, einschließlich Blogbeiträgen und Konferenzvorträgen
• Aktualisierung über neueste offensive und defensive Sicherheitstechniken durch kontinuierliches Selbststudium und Forschung
• Funktion als Fachexperte für adversarial tradecraft und Sicherheitsoperationen, Unterstützung anderer Geschäftsbereiche bei ihren Projekten nach Bedarf
• Unterstützung anderer Forscher im Team bei ihrer Forschung und aktive Teilnahme an teamgetriebenen Initiativen

Fähigkeiten und Erfahrungen

• Über 2 Jahre Erfahrung in einem oder beiden der folgenden Bereiche:
• Fähigkeit, Code zur Entwicklung von Forschungstools zu schreiben
• Fähigkeit, komplexe technische Konzepte und Forschungsergebnisse sowohl an Führungskräfte als auch an hochgradig technische Verbraucher zu erklären
• Neigung, in einem schnelllebigen, anpassungsfähigen Startup-Umfeld zu arbeiten

Nice to Haves

• Nachgewiesene Erfahrung in der Untersuchung oder Ausnutzung generativer KI-Systeme, Prompt Engineering, Jailbreaks, Modellausnutzung oder agentischem Missbrauch
• Vertrautheit mit Reinforcement Learning, Modellinterpretierbarkeit oder Sicherheitsforschung
• Beiträge zu Open-Source-KI oder Sicherheitstools
• Frühere Veröffentlichungen, Konferenzpräsentationen
• Beherrschung mindestens einer Systemprogrammiersprache (Rust, C/C++)
• Kenntnisse über Betriebssysteminternas und Reverse Engineering

Arbeiten bei Origin

Origin ist ein verteiltes Team in den USA, Kanada, Australien und Israel. Wir haben eine Kultur, die auf Vertrauen, Autonomie und Exzellenz basiert. Wir ermächtigen unser Team, Verantwortung zu übernehmen, zielgerichtet zu handeln und kontinuierlich zu verbessern. Unsere Kultur schätzt Top-Performer, die mit unserer Mission übereinstimmen und hohe Standards annehmen. Wir bieten großzügige Gesundheitsleistungen, flexible PTO und Unterstützung für das Homeoffice, um sicherzustellen, dass unser Team die Freiheit und Ressourcen hat, um erfolgreich zu sein. Während wir schnell vorankommen, priorisieren wir Qualität, Zusammenarbeit und bleiben verpflichtet, wirkungsvolle Sicherheitslösungen mit Präzision zu entwickeln.