Software engineer, AI model supply chain and package security in Berlin

Wir bauen schnelle, moderne Entwicklerwerkzeuge in Rust, und eine überraschend große Menge ernsthafter Software läuft auf ihnen. Pixi, rattler und rattler-build sind Open Source und werden von Hunderttausenden von Entwicklern genutzt: Quantenteams in der Finanzwelt, Physiker am CERN, Biotech-Labore und humanoide Roboterunternehmen, von denen Sie wahrscheinlich Videos gesehen haben. Wir sind auch Kernpfleger von conda-forge, einem der größten Open-Source-Paket-Ökosysteme, und wir pflegen RoboStack, das ROS auf jedem Betriebssystem aus einer einzigen Lockdatei zum Laufen bringt.

Wenn so viel Software durch Ihre Werkzeuge fließt, wird Sicherheit nicht optional. Jedes Paket, das auf einem Laptop, einem Server oder einem Roboter landet, sollte zurückverfolgt werden können zu der Quelle und dem Build, der es produziert hat. Wir bauen das heute für conda und möchten es auf KI-Modelle ausweiten.

Das Engineering-Team ist über Europa verteilt (Niederlande, Deutschland, UK, Moldawien). Diese Arbeit basiert in Berlin, und so ist auch diese Rolle.

Die Arbeit:

• Roboter führen zunehmend gelernte Modelle aus: Vision Transformer, RL-Politiken, LLMs. Heute werden diese Modelle normalerweise als große undurchsichtige Dateien auf Maschinen kopiert, mit wenig Aufzeichnung darüber, woher sie stammen oder was sich geändert hat.
• Wir denken, dass Modelle wie Pakete versendet werden sollten: versioniert, signiert, verifizierbar und effizient aktualisiert.

Sie werden an zwei verwandten Bereichen arbeiten:

• Paket-Sicherheit: Signierung und Verifizierung für conda-Pakete mit Sigstore, Herkunft vom Quellcode über den Build bis zur Installation, SBOMs und Zuordnung bekannter Schwachstellen zu den tatsächlich verwendeten Paketen.
• KI-Modelle als Pakete: Die gleichen Ideen auf Modellartefakte anwenden, einschließlich einer Herkunftskette vom Training über die Verpackung bis zur Bereitstellung, mit Signaturen, die offline auf luftdicht abgeschotteten Robotern verifiziert werden können.

Was wir suchen:

• Sie benötigen keine jahrelange Erfahrung, aber solide Grundlagen, Neugier und Geduld, um Sicherheitsdetails richtig zu machen.
• Rust oder einen starken Hintergrund in C++, Go oder Python und den Wunsch, zu wechseln.
• Interesse an der Sicherheit der Software-Lieferkette.
• Bonus, wenn Sie mit Sigstore (Cosign, Rekor, Fulcio), TUF, in-toto, SLSA oder SBOM-Formaten gearbeitet haben.
• Vertrautheit mit ML in der Praxis: Sie haben ein Modell trainiert oder feinjustiert, wissen, was ein LoRA-Adapter oder ein quantisiertes Modell ist und haben PyTorch oder ähnliches verwendet.
• Grundlegendes Verständnis von Kryptographie als Ingenieur: Signaturen, Hashes, Zertifikate und was sie garantieren und was nicht.
• Sie messen gerne Dinge und sind ehrlich über Ergebnisse, die nicht funktionieren.
• Sie leben in Berlin oder sind bereit, hierher zu ziehen.

Es ist von Vorteil, wenn Sie Paketmanager von innen kennen, an der Modellkompression oder Edge-Inferenz gearbeitet haben, Erfahrung mit Robotik haben oder zu Open Source beigetragen haben. Nichts davon ist erforderlich.

Was wir anbieten:

• Sie werden an Problemen arbeiten, die bisher nur wenige Menschen gelöst haben, zusammen mit den Personen, die Mamba, Pixi, rattler und RoboStack geschaffen haben.
• Der Großteil Ihrer Arbeit wird Open Source sein und von einer großen Gemeinschaft ab dem ersten Tag genutzt werden.
• Wir zahlen ein wettbewerbsfähiges Gehalt in Berlin, bieten 30 Tage Urlaub, die Hardware, die Sie möchten, ein Konferenzbudget und Zeit für Upstream-Open-Source-Arbeit.
• Wir helfen bei der Umsiedlung innerhalb der EU.