Research Engineer - RL Infrastructure

Prime Intellect baut den offenen Superintelligenz-Stack: von fortschrittlichen agentischen Modellen bis hin zur Infrastruktur, die es jedem ermöglicht, diese zu trainieren, anzupassen und bereitzustellen. Wir vereinheitlichen global verteilte Rechenressourcen in einem einzigen Kontrollbereich und kombinieren dies mit dem vollständigen Reinforcement Learning Post-Training-Stack: Umgebungen, sichere Sandkästen, überprüfbare Bewertungen und unseren asynchronen RL-Trainer. Wir ermöglichen Forschern, Startups und Unternehmen, End-to-End-RL in großem Maßstab auszuführen und Modelle an reale Werkzeuge, Arbeitsabläufe und Bereitstellungsumgebungen anzupassen.

Wir suchen einen Research Engineer, der an der Systemebene hinter dem großflächigen RL-Training arbeitet. Diese Rolle ist für jemanden, der gerne tief in die Leistung eintaucht: Optimierung von Kernen, Verbesserung der Speicher- und Kommunikations-Effizienz, Skalierung verteilter Arbeitslasten und Steigerung des Durchsatzes und der Zuverlässigkeit von Trainingssystemen näher an die Hardwaregrenzen.

Was Sie bearbeiten werden:

• Aufbau und Optimierung der Systeminfrastruktur hinter großflächigem RL und verteilten Trainingsarbeitslasten.
• Verbesserung der End-to-End-Trainingseffizienz über Rechenleistung, Speicher, Netzwerk und Planungsschichten.
• Entwurf und Implementierung von Low-Level-Leistungsoptimierungen, einschließlich Kernen, Kommunikationspfaden und Laufzeitverbesserungen.
• Arbeiten an verteilten Trainingssystemen, die Daten-, Tensor- und Pipeline-parallele Arbeitslasten umfassen.
• Mitgestaltung der Architektur unseres RL-Training-Stacks, einschließlich asynchroner Rollouts und Post-Training-Systeme.
• Beitrag zu Open-Source-Bibliotheken und interner Infrastruktur, die für das Training von Modellen im Grenzbereich verwendet wird.
• Enger Austausch mit Forschern und Infrastruktur-Ingenieuren, um Engpässe in konkrete Systemverbesserungen umzusetzen.
• Aktualität in Bezug auf Trainingssysteme, Inferenzsysteme, Compiler/Laufzeit-Tools und hardwarebewusste Optimierungstechniken.

Sie könnten passen, wenn Sie:

• Starke Erfahrung in der Systemtechnik im Bereich AI/ML-Infrastruktur haben, insbesondere im Zusammenhang mit großflächigem Modelltraining oder Inferenz.
• Tiefe Vertrautheit mit PyTorch und verteilten Trainingsframeworks wie PyTorch Distributed, DeepSpeed, FSDP, Megatron, vLLM, Ray oder verwandten Tools.
• Erfahrung in der Optimierung der Trainingsleistung über Kerne, Speicherbewegung, Kommunikationsüberhead oder Parallelisierungsstrategien haben.
• Praktische Erfahrung mit Techniken des großflächigen Trainings, einschließlich Datenparallelismus, Tensorparallelismus und Pipelineparallelismus.
• Ein starkes Verständnis der GPU-Architektur, Profilierung und Leistungsdebugging haben.
• Die Fähigkeit besitzen, Engpässe im gesamten Stack zu identifizieren und Verbesserungen aus ersten Prinzipien voranzutreiben.
• Komfortabel in einem sich schnell bewegenden Umfeld mit mehrdeutigen Problemen und hoher Eigenverantwortung arbeiten.

Besonders spannend:

• Erfahrung im Schreiben oder Optimieren von CUDA / Triton-Kernen.
• Erfahrung mit Compiler- oder Laufzeitoptimierung für ML-Systeme.
• Erfahrung in der Arbeit an RL-Trainingsinfrastrukturen, Rollout-Systemen oder asynchronen Trainingspipelines.
• Erfahrung mit Multi-Node-GPU-Clustern und Hochleistungsnetzwerken.
• Beiträge zu Open-Source-ML-Systemen oder Infrastrukturprojekten.
• Interesse an der Veröffentlichung technischer Arbeiten oder dem Teilen von Erkenntnissen durch technische Blogs und technische Schreibarbeiten.

Warum diese Rolle wichtig ist:

Die nächste Grenze in der KI wird nicht nur durch Modelle freigeschaltet. Sie wird durch Systeme freigeschaltet, die es diesen Modellen ermöglichen, schneller zu trainieren, kontinuierlich zu adaptieren und in realen Umgebungen im großen Maßstab zu operieren. Diese Infrastruktur existiert noch nicht in der Form, die die Welt benötigt. Wir bauen sie.

Vorteile & Anreize:

• Wettbewerbsfähige Vergütung, einschließlich Eigenkapital.
• Flexible Arbeitsbedingungen, mit der Option, remote oder persönlich von unserem Büro in San Francisco aus zu arbeiten.
• Visumsponsoring und Umzugshilfe für internationale Kandidaten.
• Vierteljährliche Team-Offsites, Hackathons, Konferenzen und Lernmöglichkeiten.
• Ein tief technisch orientiertes, hochverantwortliches Team, das an der Infrastruktur für offene Superintelligenz arbeitet.

Wenn Sie begeistert sind, die Systemgrundlage für großflächiges RL und offene Superintelligenz aufzubauen, würden wir uns freuen, von Ihnen zu hören.