Senior AI Software Engineer – Model Training (f/m/d)

Unsere Mission

Aleph Alpha ist eines der wenigen Unternehmen in Europa, das ernsthafte Grundlagenmodelle vor und nach dem Training entwickelt. Wir bauen Modelle mit allgemeinen Fähigkeiten, die speziell auf die Bedürfnisse unserer Kunden zugeschnitten sind.

Wir suchen außergewöhnliche Software-Ingenieure, die unserem Modelltrainingsteam beitreten. Der Großteil des Teams hat seinen Sitz in Heidelberg.

Teamkultur

Bei Aleph Alpha fördern wir eine Kultur, die auf Eigenverantwortung, Autonomie und Empowerment basiert. Teams und Einzelpersonen werden ermutigt, Verantwortung für ihre Arbeit zu übernehmen und einen bedeutenden Einfluss auszuüben. Wir pflegen eine flache Organisationsstruktur mit effizientem, unterstützendem Management, das schnelle Entscheidungen, offene Kommunikation und ein starkes Gefühl für gemeinsame Ziele ermöglicht.

Wir glauben, dass eine starke Ingenieurskultur der Schlüssel zum Erfolg im Modelltraining ist. Wir bevorzugen Extreme Programming und trunk-basiertes Entwickeln. Oft arbeiten wir im Mob-Programming, was uns hilft, aufeinander abgestimmt zu bleiben und voneinander zu lernen.

Über die Rolle

Als Software-Ingenieur im Modelltraining arbeiten Sie über unseren gesamten Stack hinweg. Einige Wochen optimieren Sie möglicherweise, wie Trainingslasten auf unserem Cluster geplant werden, und machen die Pipeline robuster und leistungsfähiger, damit wir schneller iterieren können. In anderen Wochen ermöglichen Sie die großflächige Codeausführung für Reinforcement Learning. Und manchmal tauchen Sie tief in unseren Evaluierungscode ein, um den Durchsatz bei Auswertungen zu erhöhen.

Ihre Verantwortlichkeiten

• Co-Ownership der Trainingspipeline von Anfang bis Ende. Entwerfen, bauen und warten Sie die Infrastruktur und Komponenten, die es uns ermöglichen, schnell an Experimenten zu iterieren.
• Hochwertige Werkzeuge entwickeln. Das Modelltraining ist ein kontinuierlicher Prozess, und wir investieren bewusst in unsere Werkzeuge und Infrastruktur, um langfristig erfolgreich zu bleiben.
• Über Disziplinen hinweg zusammenarbeiten. Wir glauben an funktionsübergreifende Teams. Ingenieure und Forscher arbeiten eng zusammen, damit wir voneinander lernen und schneller iterieren können.
• Gute Ingenieurpraktiken fördern. Inkrementelles Arbeiten, schnelle Feedbackschleifen und kontinuierliches Refactoring halten ein Team langfristig erfolgreich, insbesondere wenn man schnell arbeitet.
• Die Richtung des Teams gestalten. Unsere Kultur ermächtigt Einzelpersonen, Verantwortung zu übernehmen. Wenn Sie sehen, dass wir mehr GPUs, ein anderes Speichersystem oder eine Änderung der Teamstruktur benötigen, sollten Sie diese Veränderung vorantreiben.

Ihr Profil

Im Modelltrainingsteam stellen wir langsam und gezielt ein. Wir erkennen an, dass wir Top-Talente benötigen, um die besten Modelle zu liefern, und wir schätzen Fähigkeit über Erfahrung: Wenn Sie denken, dass Sie gut zu dieser Rolle passen und das Training eines LLM in Europa Sie begeistert, möchten wir von Ihnen hören.

Anforderungen

• Eine Erfolgsbilanz in der Eigeninitiative zur Lieferung von hochwirksamer Arbeit.
• Erfahrung in leistungsstarken Teams.
• Abschluss in Informatik, Ingenieurwesen oder einem verwandten Bereich.
• Bereitschaft, nach Deutschland umzuziehen. Unsere Hauptarbeitsorte sind Heidelberg (bevorzugt) und Berlin, obwohl es etwas Flexibilität gibt, von anderen Standorten in Deutschland aus zu arbeiten, mit regelmäßigen Reisen nach Heidelberg (potenziell wöchentlich).
• Fähigkeit, Software zu schreiben, die andere starke Ingenieure lesen und darauf aufbauen möchten.
• Wunsch, Verantwortung für Probleme zu übernehmen und mit anderen Teams zusammenzuarbeiten, um diese zu lösen.
• Tiefes Interesse daran, wie moderne Grundlagenmodelle funktionieren.
• Starke Kommunikationsfähigkeiten, mit der Fähigkeit, technische Lösungen verschiedenen Zielgruppen zu vermitteln.

Nice-to-haves

• Erfahrung mit verteilten Systemen.
• Erfahrung mit Kubernetes.

Wir verlangen keine vorherige Erfahrung im maschinellen Lernen für diese Rolle, schätzen jedoch Ihre Lernbereitschaft. Wenn Sie bereits Erfahrung im ML haben, sind wir besonders begeistert von:

• Erfahrung in der Umsetzung von AI-Forschungsinnovationen in die Produktion.
• Erfahrung in Bereichen wie großflächige Datenverarbeitung oder verteilte Berechnung für das Training oder die Inferenz von Grundlagenmodellen.
• Erfahrung im Performance Engineering: Profiling, Benchmarking und Optimierung von Code für Durchsatz, Latenz oder Speicher.

Vergütung und Vorteile

Werden Sie Teil einer KI-Revolution!

• 30 Tage bezahlter Urlaub
• Zugang zu einer Vielzahl von Fitness- und Wellnessangeboten über Wellhub
• Unterstützung der psychischen Gesundheit durch nilo.health
• Substantielle subventionierte betriebliche Altersvorsorge für Ihre zukünftige Sicherheit
• Subventioniertes deutschlandweites Verkehrsticket
• Budget für zusätzliche technische Ausrüstung
• Flexible Arbeitszeiten für eine bessere Work-Life-Balance und hybrides Arbeitsmodell
• Virtuelles Aktienoptionsprogramm
• JobRad® Fahrrad-Leasing