Auf einen Blick
- Aufgaben: Entwickle und optimiere Infrastruktur für das Training von KI-Modellen.
- Unternehmen: Baseten, ein schnell wachsendes Startup im Bereich KI-Infrastruktur.
- Vorteile: Wettbewerbsfähiges Gehalt, Aktienoptionen und ein unterstützendes Arbeitsumfeld.
- Weitere Informationen: Vielfältige Lern- und Networking-Möglichkeiten in der ML-Community.
- Warum dieser Job: Gestalte die Zukunft der KI und arbeite an innovativen Projekten.
- Qualifikationen: Erfahrung in Softwareentwicklung und ML-Infrastruktur erforderlich.
Das prognostizierte Gehalt liegt zwischen 60000 - 80000 € pro Jahr.
Baseten bietet die Infrastruktur, Werkzeuge und Expertise, die benötigt werden, um großartige KI-Produkte schnell auf den Markt zu bringen. Mit unserer kürzlichen Finanzierung in Höhe von 75 Millionen US-Dollar in der Serie C wachsen wir schnell, um KI in allen Produkten zugänglich zu machen.
Als Senior Software Engineer – Model Training bei Baseten sind Sie an vorderster Front beim Aufbau der Infrastruktur beteiligt, die das großangelegte Training und die Feinabstimmung von Grundmodellen unterstützt. Sie entwerfen und implementieren verteilte Trainingssysteme, optimieren die GPU-Nutzung und erstellen skalierbare Pipelines, die es Baseten und unseren Kunden ermöglichen, Modelle effizient und zuverlässig anzupassen.
VERANTWORTLICHKEITEN
- Entwurf, Aufbau und Wartung der verteilten Trainingsinfrastruktur für großangelegte Grundmodelle
- Implementierung skalierbarer Pipelines für Feinabstimmung und Training über heterogene GPU-/Beschleuniger-Cluster
- Optimierung der Trainingsleistung durch Techniken wie FSDP, DDP, ZeRO und gemischtes Präzisionstraining
- Beitrag zu Frameworks und Werkzeugen, die Trainingsabläufe effizient, reproduzierbar und entwicklerfreundlich machen
- Zusammenarbeit mit funktionsübergreifenden Teams (Produkt, Forward Deployed Engineering, Inference Infra), um sicherzustellen, dass die Trainingssysteme den realen Anforderungen entsprechen
- Forschung und Anwendung neuer Techniken zur Trainingseffizienz und Modellanpassung und deren Implementierung in der Baseten-Plattform
- Teilnahme an Code-Reviews, Systemdesign-Diskussionen und technischen Vertiefungen, um einen hohen Ingenieurniveau aufrechtzuerhalten
ANFORDERUNGEN
- Abschluss in Informatik, Ingenieurwesen oder einem verwandten Bereich oder gleichwertige Erfahrung
- 4+ Jahre Erfahrung in der Softwareentwicklung mit Schwerpunkt auf ML-Infrastruktur, verteilten Systemen oder ML-Plattformengineering
- Praktische Erfahrung mit verteilten Trainingsframeworks (FSDP, DDP, ZeRO oder ähnlich) und ML-Frameworks (PyTorch, Transformers, Lightning, TRL)
- Starkes Verständnis der Optimierung der GPU-/Beschleunigerleistung und Skalierungstechniken
- Erfahrung im Entwurf und Betrieb großangelegter Systeme in der Produktion (cloud-nativ bevorzugt)
- Ausgezeichnete Problemlösungs- und Kommunikationsfähigkeiten, mit der Fähigkeit, über Infrastruktur- und ML-Grenzen hinweg zu arbeiten
WÜNSCHENSWERT
- Erfahrung im Aufbau von APIs, SDKs oder Entwicklerwerkzeugen für ML-Workflows
- Vertrautheit mit Clusterverwaltung und -planung (Kubernetes, Ray, Slurm usw.)
- Kenntnisse über parameter-effiziente Feinabstimmungsmethoden (LoRA, QLoRA) und Evaluierungspipelines
- Beiträge zu Open-Source-Projekten im Bereich verteiltes Training oder ML-Infrastruktur
- Erfahrung mit Cloud-Umgebungen (AWS, GCP, Azure) und Container-Orchestrierung
LEISTUNGEN
- Wettbewerbsfähiges Vergütungspaket
- Eine einzigartige Gelegenheit, Teil eines schnell wachsenden Startups in einem der aufregendsten Ingenieurbereiche unserer Zeit zu sein
- Eine inklusive und unterstützende Unternehmenskultur, die Lernen und Wachstum fördert
- Einblick in eine Vielzahl von ML-Startups, die unvergleichliche Lern- und Networking-Möglichkeiten bieten
Wenn Sie eine motivierte Person mit einer Leidenschaft für maschinelles Lernen sind und Teil eines kollaborativen und zukunftsorientierten Teams sein möchten, würden wir uns freuen, von Ihnen zu hören. Bei Baseten setzen wir uns für die Förderung eines vielfältigen und integrativen Arbeitsplatzes ein. Wir bieten allen Mitarbeitern und Bewerbern gleiche Beschäftigungsmöglichkeiten, ohne Rücksicht auf Rasse, Hautfarbe, Religion, Geschlecht, sexuelle Orientierung, Geschlechtsidentität oder -ausdruck, nationale Herkunft, Alter, genetische Informationen, Behinderung oder Veteranenstatus.
Vergütung: 200.000 – 275.000 USD • Angebote von Eigenkapital. Wettbewerbsfähige Vergütung. Wir streben an, Gehälter und Eigenkapitalbeteiligungen im 90. Perzentil (oder besser) für jedes Teammitglied entsprechend ihrer Erfahrung bereitzustellen.
Senior Software Engineer - Model Training Arbeitgeber: Baseten
Baseten ist ein hervorragender Arbeitgeber, der Ihnen die Möglichkeit bietet, an der Spitze der KI-Technologie zu arbeiten. Mit einem wettbewerbsfähigen Vergütungspaket und einer inklusiven, unterstützenden Unternehmenskultur fördern wir kontinuierliches Lernen und Wachstum. Unsere Mitarbeiter profitieren von einzigartigen Networking-Möglichkeiten in der dynamischen Welt der ML-Startups und haben die Chance, die Zukunft der KI aktiv mitzugestalten.
