Auf einen Blick
- Aufgaben: Entwickle und optimiere KI-Modelle für skalierbare Systeme.
- Unternehmen: Innovatives KI-Unternehmen mit Sitz in der Schweiz.
- Vorteile: Attraktives Gehalt, flexible Arbeitszeiten und Möglichkeiten zur beruflichen Weiterentwicklung.
- Weitere Informationen: Dynamisches Umfeld mit hervorragenden Karrierechancen.
- Warum dieser Job: Gestalte die Zukunft der KI und arbeite an spannenden Projekten.
- Qualifikationen: Erfahrung in der KI-Entwicklung und Teamarbeit erforderlich.
Das prognostizierte Gehalt liegt zwischen 94500 - 115500 € pro Jahr.
Giotto.ai ist ein in der Schweiz ansässiges KI-Unternehmen, das Intelligenzsysteme für die Schweiz und Europa entwickelt. Unsere Mission ist es, Regierungen und Unternehmen zu ermöglichen, die Kontrolle über die KI-Systeme, die sie verwenden, zu behalten, ohne auf fortschrittliche Denkfähigkeiten verzichten zu müssen. Giotto kombiniert tragbare, konfigurierbare Modelle mit einem KI-Betriebssystem, das offene und proprietäre Gewichte, Datensätze, Werkzeuge und Bereitstellungskomponenten integriert.
Wir suchen einen Senior Research Engineer oder Research Scientist, der die Trainings- und Optimierungsseite unseres gesamten Post-Training-Stacks übernimmt. Ausgehend von vortrainierten Checkpoints werden Sie die Methoden entwerfen, implementieren, skalieren und betreiben, die erforderlich sind, um fähige, zuverlässige und kontrollierbare Produktionsmodelle zu erzeugen.
Ihr Aufgabenbereich umfasst:
- Die Verantwortung für die End-to-End-Post-Training-Pipeline vom vortrainierten Checkpoint bis zum Produktionskandidaten.
- Das Entwerfen und Ausführen von Full-Parameter- und parameter-effizientem SFT.
- Die Implementierung von Präferenzoptimierung, RLHF, RLAIF, Reinforcement Learning mit überprüfbaren Belohnungen und verwandten Methoden.
- Die Entwicklung von Trainingsstrategien für Denken, Programmierung, Werkzeugnutzung, mehrsprachiges Verhalten und langfristige Agentenaufgaben.
- Die Integration von Belohnungsmodellen, Verifizierern, Kritikern, Bewertenden und prozess- oder ergebnisbasierten Belohnungen.
- Der Aufbau skalierbarer Rollout-Generierungssysteme für iterative und on-policy Trainings.
- Das Entwerfen mehrstufiger Curricula, die SFT, Reinforcement Learning, Ablehnungsstichproben, Destillation und Politikkonsolidierung kombinieren.
- Die Skalierung des Trainings über mehrere Maschinen und Beschleuniger unter Verwendung geeigneter Kombinationen von Daten, Tensoren, Pipelines, Sequenzen, Kontext oder Expertenparallelismus.
- Die Auswahl von Sharding-, Präzisions-, Checkpoint-, Optimierer-, Batch-Größe-, Sequenz-Längen- und Aktivierungs-Recomputationsstrategien.
- Die Schätzung von Speicher-, Kommunikations-, Durchsatz-, Rollout-Kapazitäts- und Rechenanforderungen vor dem Start größerer Läufe.
- Das Profilieren und Verbessern der Nutzung von Beschleunigern, der Kommunikationseffizienz, des Datenladens und der End-to-End-Trainingszeit.
- Das Diagnostizieren von numerischer Instabilität, Kommunikationsfehlern, Out-of-Memory-Fehlern, Stragglers, Checkpoint-Problemen und Konvergenzregressionen.
- Die Untersuchung von Belohnungshacking, Entropiekollaps, KL-Drift, veralteten Rollouts, Modus-Kollaps, Bewerterausbeutung und Benchmark-Overfitting.
- Der Aufbau zuverlässiger Checkpointing-, Wiederherstellungs-, Überwachungs- und Reproduzierbarkeitsverfahren.
- Die enge Zusammenarbeit mit Daten-, Evaluierungs-, Infrastruktur- und Inferenzteams.
- Die Bereitstellung von sauberem, getesteten Code, technischen Berichten und operativen Handbüchern.
Wir suchen nach nachgewiesener Erfahrung in den meisten der folgenden Bereiche:
- Eigentum an groß angelegtem Training von Sprachmodellen oder Post-Training-Läufen über mehrere Maschinen und Beschleuniger.
- Erfahrung mit Workloads, bei denen einfaches Training auf einem einzelnen Knoten oder reine Datenparallelität nicht ausreichten.
- Tiefe Kenntnisse in Python, PyTorch, Autograd, gemischter Präzision, Optimierung und verteilter Ausführung.
- Praktische Erfahrung mit PyTorch Distributed, FSDP, DeepSpeed, Megatron-Core oder einem gleichwertigen Framework.
- Fähigkeit zur Auswahl von Parallelisierungs- und Sharding-Strategien basierend auf Modell-, Sequenz-, Speicher- und Netzwerkbeschränkungen.
- Starkes Verständnis von SFT, Präferenzoptimierung, Reinforcement Learning, Belohnungsmodellierung, KL-Regularisierung, Sampling und Trainingsstabilität.
- Erfahrung im Betrieb von Hochdurchsatz-Inferenz- oder Rollout-Systemen als Teil eines Trainingsloops.
- Fähigkeit, über Modellcode, verteilte Kommunikation, numerische Optimierung, Daten und Infrastruktur hinweg zu debuggen.
- Starkes experimentelles Design und die Fähigkeit, algorithmische Verbesserungen von Evaluierungs- oder Systemartefakten zu unterscheiden.
- Erfahrung im Aufbau zuverlässiger, beobachtbarer und reproduzierbarer Forschungssoftware.
- Persönliches Eigentum an entscheidenden Entscheidungen, die ein erhebliches Trainingsprogramm betreffen.
Ein Doktortitel ist nicht erforderlich. Wir schätzen außergewöhnliche technische Arbeit, starkes Urteilsvermögen und nachgewiesenes Eigentum.
Relevanter Stack:
- Python und PyTorch.
- PyTorch Distributed und FSDP.
- DeepSpeed, Megatron-Core oder vergleichbare Frameworks.
- Hugging Face Transformers.
- CUDA und NCCL.
- vLLM, SGLang oder ähnliche Rollout-Engines.
- Ray, Slurm, Kubernetes oder vergleichbare Orchestrierungssysteme.
- MLflow oder Weights & Biases.
- Docker, GCP, GitLab CI, Profilierung, Überwachung und pytest.
Erfahrung mit CUDA oder Triton, Langzeittraining, spärlichen Modellen, asynchronem RL, zustandsbehafteten Agentenumgebungen, Destillation oder bereitstellungsbewusstem Post-Training wäre besonders wertvoll.
Sie könnten gut passen, wenn Sie:
- Gerne an der Schnittstelle zwischen Modellforschung und verteilten Systemen arbeiten.
- Von der Papierreproduktion zur zuverlässigen skalierbaren Implementierung wechseln können.
- Komfortabel damit sind, Verantwortung für teure und betrieblich anspruchsvolle Experimente zu übernehmen.
- Fehler methodisch über Algorithmen, Daten, numerische Stabilität und Infrastruktur angehen.
- Wert auf gehaltene Fähigkeiten und Zuverlässigkeit legen, nicht nur auf Trainingsverlust oder Belohnung.
- Eine bedeutende Verantwortung für ein komplettes Modellprogramm wünschen.
- Wir bieten eine Vollzeitbeschäftigung in der Schweiz.
- Remote-Arbeit wird unterstützt.
- Das Team trifft sich etwa eine Woche pro Monat in einem Schweizer Büro.
- Außergewöhnliche Kandidaten aus anderen Teilen Europas können ebenfalls berücksichtigt werden.
Standort und Arbeitsstil:
Senior Post-Training AI Engineer for Scalable Systems in Bussigny Arbeitgeber: Embodied AI
HYGH ist ein hervorragender Arbeitgeber, der Freiberuflichen Sales Partnern die Möglichkeit bietet, in einem dynamischen und innovativen Umfeld zu arbeiten. Mit flexiblen Arbeitszeiten und der Freiheit, dein eigenes Portfolio aufzubauen, fördert das Unternehmen eine Kultur der Eigenverantwortung und des Wachstums. Zudem profitierst du von umfassenden Schulungen und einem unterstützenden Team, das dir hilft, deine Vertriebsziele zu erreichen und deine Karriere voranzutreiben.
StudySmarter Expertenrat🤫
Wir sind der Meinung, dass du so Senior Post-Training AI Engineer for Scalable Systems in Bussigny erhalten könntest
✨Engagier dich in Entwickler-Communities!
Lass uns mal ehrlich sein: In der Software-Entwicklung sind Netzwerke Gold wert! Tummel dich in GitHub-Projekten, nehme an lokalen Meetups oder Hackathons teil und vernetze dich mit anderen Entwicklern. So steigerst du nicht nur deine Sichtbarkeit, sondern lernst auch die neuesten Trends und Technologien kennen.
✨Zeig deine Fähigkeiten!
Erstelle ein Portfolio, das deine besten Projekte und Code-Examples zeigt. Nichts überzeugt mehr als ein praktischer Beweis deiner Skills. Das kann auch helfen, bei Embodied AI anzuklopfen, wenn du dich auf die Stelle als Senior Post-Training AI Engineer for Scalable Systems bewirbst – so wissen sie gleich, was sie von dir erwarten können!
✨Nutze Jobplattformen speziell für Tech-Jobs!
Plattformen wie Stack Overflow Jobs oder AngelsList sind perfekte Orte, um Vollzeitstellen in der Software-Entwicklung zu finden. Hier sind viele tolle Unternehmen auf der Suche nach Talenten wie uns, also schau regelmäßig vorbei und bewirb dich direkt über die Website.
✨Such dir Mentoren und Feedback!
Hol dir Feedback von erfahrenen Entwicklern, die dir Tipps geben können, was Recruiter wirklich suchen. Ob über LinkedIn oder persönliche Kontakte: Menschen, die sich in der Branche auskennen, können enorm wertvoll sein, um dir zu helfen, dich optimal auf deine Bewerbung bei Embodied AI vorzubereiten!
Wir glauben, dass du diese Fähigkeiten brauchst, um Senior Post-Training AI Engineer for Scalable Systems in Bussigny mit Bravour zu bestehen
Einige Tipps für deine Bewerbung 🫡
Highlights deiner Coding-Skills:In der Software-Entwicklung kommt es auf konkrete Fähigkeiten an. Vergiss nicht, relevante Programmiersprachen und Frameworks in deinen Lebenslauf aufzunehmen. Zeig uns, was du kannst – vielleicht mit einem Link zu deinem GitHub-Profil oder einer Übersicht deiner Side Projects, die deine Programmierkenntnisse illustrieren.
Dokumentation deiner Erfolge:Gerade bei einer Vollzeitstelle in der Software-Entwicklung sind konkrete Ergebnisse Gold wert. Nenn uns Zahlen und Ergebnisse aus deinen vorherigen Projekten. Hast du den Code optimiert oder Systemfehler behoben? Solche Erfolge zeigen, dass du die Sprache der Entwickler sprichst und einen echten Mehrwert bringst.
Attraktive Projektbeschreibungen:Wenn du an Projekten gearbeitet hast, die hervorstechen, beschreibe sie ausführlich in deinem Lebenslauf. Was war das Problem, das du gelöst hast? Welche Technologien hast du eingesetzt? Das gibt uns einen klaren Einblick in deine Herangehensweise und Problemlösungsfähigkeiten.
Motivation zeigen:In deinem Anschreiben solltest du deine Motivation für die Stelle im Bereich Software-Entwicklung bei Embodied AI klar herausstellen. Warum sprichst gerade du die Anforderungen für diese Vollzeitrolle an? Mach deutlich, was dich an der Arbeit bei uns reizt und wie du über das rein Technische hinaus wachsen möchtest.
Wie man sich auf ein Vorstellungsgespräch bei Embodied AI vorbereitet
✨Technische Vorbereitung auf die Coding-Challenges
In der Software-Entwicklung sind technische Fragen oft ein zentraler Teil des Interviews. Macht euch mit Plattformen wie LeetCode oder HackerRank vertraut, um eure Problemlösungsfähigkeiten zu trainieren. Zeigt im Interview viel Selbstbewusstsein beim Erklären eurer Ansätze!
✨Das eigene Portfolio im besten Licht präsentieren
Stellt sicher, dass ihr ein aussagekräftiges Portfolio habt, das einige eurer besten Projekte zeigt. Seid bereit, darüber zu sprechen, was eure Rolle war, welche Technologien ihr verwendet habt und welche Herausforderungen es gab. Das gibt den Interviewern einen Einblick in eure praktische Erfahrung.
✨Teamfähigkeit und Kommunikation betonen
In einer Vollzeit-Position wird Kommunikation im Team sehr wichtig sein. Seid bereit, Beispiele aus der Vergangenheit zu teilen, in denen ihr effektiv im Team gearbeitet habt. Dies zeigt, dass ihr nicht nur technische Fähigkeiten habt, sondern auch gut ins Team passt.
✨Vorbereitung auf Fragen zur Software-Architektur
Bereitet euch darauf vor, Fragen zur Software-Architektur zu beantworten. Themen wie RESTful APIs, Microservices und Cloud-Architekturen können Teil eures Interviews sein. Zeigt euer Verständnis durch Diskussionen und Beispiele aus eurer bisherigen Arbeit oder Projekte.