Research Engineer - Distributed Training

Bei Prime Intellect haben wir die Mission, den Fortschritt von offener und dezentraler KI zu beschleunigen, indem wir es jedem ermöglichen, Rechenleistung, Code oder Kapital beizutragen, um leistungsstarke, offene Modelle zu trainieren. Unser ultimatives Ziel? Offen zugängliche AGI, die allen zugutekommt. Wir bauen die Infrastruktur für die dezentrale KI-Entwicklung in großem Maßstab auf. Wir aggregieren globale Rechenleistung und ermöglichen es Forschern, gemeinsam hochmoderne Modelle durch verteiltes Training über Cluster hinweg zu trainieren.

Als Research Engineer, der an Distributed Training arbeitet, spielen Sie eine entscheidende Rolle bei der Gestaltung unserer technologischen Ausrichtung, mit dem Fokus auf unserem dezentralen KI-Trainings-Stack. Wenn Sie es lieben, Dinge zu skalieren und die Trainingseffizienz zu maximieren, ist diese Rolle genau das Richtige für Sie.

• Leiten und teilnehmen an neuartigen Forschungen zur Entwicklung einer massiven, hochzuverlässigen und sicheren dezentralen Trainingsorchestrierungslösung.
• Optimierung der Leistung, Kosten und Ressourcennutzung von KI-Workloads durch Nutzung der neuesten Fortschritte in den Bereichen Rechen- und Speichereffizienz.
• Beitrag zur Entwicklung unserer Open-Source-Bibliotheken und -Frameworks für das verteilte Modelltraining.
• Veröffentlichung von Forschungsergebnissen auf erstklassigen KI-Konferenzen wie ICML & NeurIPS.
• Verdichtung hochtechnischer Projektergebnisse in verständliche technische Blogs für unsere Kunden und Entwickler.
• Aktualität bezüglich der neuesten Entwicklungen in der KI/ML-Infrastruktur und -Tools, Forschung zum dezentralen Training und proaktive Identifizierung von Möglichkeiten zur Verbesserung der Plattformfähigkeiten und Benutzererfahrung.

• Starker Hintergrund in der KI/ML-Engineering mit umfangreicher Erfahrung in der Gestaltung und Implementierung von End-to-End-Pipelines für das Training und die Bereitstellung von großangelegten KI-Modellen.
• Tiefe Expertise in Techniken des verteilten Trainings, Frameworks (z.B. PyTorch Distributed, DeepSpeed, MosaicML’s LLM Foundry) und Tools (z.B. Ray) zur Optimierung der Leistung und Skalierbarkeit von KI-Workloads.
• Erfahrung im Training großer Modelle einschließlich Techniken des verteilten Trainings wie Daten-, Tensor- und Pipeline-Parallelen.
• Solides Verständnis der besten Praktiken in MLOps, einschließlich Modellversionierung, Experimentverfolgung und kontinuierlicher Integration/Bereitstellung (CI/CD) Pipelines.
• Leidenschaft für die Weiterentwicklung des Stands der Technik im dezentralen KI-Modelltraining und die Demokratisierung des Zugangs zu KI-Fähigkeiten für Forscher, Entwickler und Unternehmen weltweit.

Wenn Sie mit diesen Themen nicht vertraut sind, aber das Gefühl haben, dass Sie zu unserer Mission beitragen können und eine energiegeladene Person sind, machen Sie sich mit diesen Ressourcen vertraut und kontaktieren Sie uns bitte!

• Wettbewerbsfähige Vergütung, einschließlich Eigenkapital und Token-Anreizen, die Ihren Erfolg mit dem Wachstum und der Wirkung von Prime Intellect in Einklang bringen.
• Flexible Arbeitsbedingungen, mit der Option, remote oder persönlich in unseren Büros in San Francisco zu arbeiten.
• Visumsponsoring und Umzugshilfe für internationale Kandidaten.
• Vierteljährliche Team-Offsites, Hackathons, Konferenzen und Lernmöglichkeiten.
• Die Möglichkeit, mit einem talentierten, hart arbeitenden und mission-driven Team zu arbeiten, vereint durch eine gemeinsame Leidenschaft für die Nutzung von Technologie zur Beschleunigung von Wissenschaft und KI.

Wenn Sie begeistert von der Möglichkeit sind, die Grundlage für die Zukunft der dezentralen KI zu schaffen und eine Plattform zu entwickeln, die es Entwicklern und Forschern ermöglicht, die Grenzen des Möglichen zu erweitern, würden wir uns freuen, von Ihnen zu hören.