Auf einen Blick
- Aufgaben: Design and write scalable software for training models and post-train them to achieve SOTA performance.
- Unternehmen: Cohere has one of the highest compute-to-engineer ratios globally, fostering a blend of engineering and research.
- Vorteile: Remote-friendly work environment with offices in major cities like London, Paris, and San Francisco.
- Weitere Informationen: Experience with distributed training infrastructures like Kubernetes and Slurm is essential.
- Warum dieser Job: Join a team that empowers you to advance model post-training and ship state-of-the-art models to production.
- Qualifikationen: Strong software engineering skills and proficiency in Python, JAX, and PyTorch are required.
Das prognostizierte Gehalt liegt zwischen 45000 - 65000 € pro Jahr.
Warum diese Rolle? Fortschritt des Stands der Technik für das Post-Training von Modellen, Bereitstellung von Modellen auf dem neuesten Stand der Technik in der Produktion und Überbrückung der Kluft zwischen Forschung und Produktion. Wir haben eines der höchsten Verhältnisse von Rechenleistung zu Ingenieuren weltweit und unterscheiden nicht stark zwischen Ingenieurwesen und Forschung. Jeder schreibt Produktionscode und unterstützt unsere Forschungsanstrengungen, je nach Interesse und organisatorischen Bedürfnissen. Mit all der verfügbaren Rechenleistung, Daten und Talenten werden Sie befähigt, Ihre beste Arbeit zu leisten.
Bitte beachten Sie: Wir haben Büros in London, Paris, Toronto, San Francisco und New York, und wir unterstützen auch eine remote-freundliche Arbeitsweise.
Verantwortlichkeiten:
- Entwerfen und Schreiben von leistungsstarker, skalierbarer Software für das Training von Modellen.
- Kontinuierliches Post-Training der Modelle, um eine Leistung auf SOTA-Niveau zu erreichen.
- Koordination mit anderen Spezialistenteams (Agentic, Code…), um Modelle mit starker, umfassender Leistung zu produzieren.
- Entwicklung und Implementierung von Techniken zur Verbesserung der Leistung und Ergebnisse unserer Trainingszyklen sowohl im SFT- als auch im RL-Regime.
- Forschung, Implementierung und Experimentieren mit Ideen auf unserer Super-Compute- und Dateninfrastruktur.
- Von den besten Forschern auf diesem Gebiet lernen und mit ihnen arbeiten.
Fähigkeiten & Erfahrung:
- Extrem starke Software-Engineering-Fähigkeiten.
- Kenntnisse in Python und verwandten ML-Frameworks wie JAX, PyTorch und XLA/MLIR.
- Erfahrung mit verteilten Trainingsinfrastrukturen (Kubernetes, Slurm) und zugehörigen Frameworks (Ray).
- Erfahrung mit groß angelegten verteilten Trainingsstrategien.
- Praktische Erfahrung im Training großer Modelle im großen Maßstab.
- Praktische Erfahrung mit der Post-Training-Phase des Modelltrainings, mit starkem Fokus auf Leistungsoptimierung.
- Bonus: Veröffentlichungen in erstklassigen Fachzeitschriften (wie NeurIPS, ICML, ICLR, AIStats, MLSys, JMLR, AAAI, Nature, COLING, ACL, EMNLP).
Dies sind weder eine erschöpfende noch eine notwendige Reihe von Attributen. Selbst wenn keines dieser Attribute auf Sie zutrifft, aber Sie glauben, dass Sie zu Cohere beitragen können, zögern Sie bitte nicht, uns zu kontaktieren.
Member of Technical Staff, Post-Training Arbeitgeber: Cohere
Cohere ist ein hervorragender Arbeitgeber, der seinen Mitarbeitern die Möglichkeit bietet, an der Spitze der KI-Technologie zu arbeiten und dabei einen echten Einfluss auf die Geschäftswelt zu haben. Mit einem starken Fokus auf Mitarbeiterwohlbefinden, einschließlich großzügiger Urlaubsregelungen, umfassender Gesundheitsleistungen und individueller Weiterbildungsmöglichkeiten, fördert Cohere eine inklusive und dynamische Arbeitskultur, die Kreativität und Innovation schätzt. Die internationale Präsenz in Städten wie London und Paris ermöglicht es den Mitarbeitern, in einem vielfältigen Umfeld zu arbeiten und von den besten Talenten weltweit zu lernen.
