Senior AI Researcher - Pre-training Data (m/f/d)

Senior AI Researcher - Pre-training Data (m/f/d)

Heidelberg Vollzeit 60000 - 85000 € / Jahr (geschätzt) Homeoffice (teilweise)
alephalpha

Auf einen Blick

  • Aufgaben: Gestalte und verbessere die wissenschaftliche Methodik hinter unseren Pre-Training-Daten.
  • Unternehmen: Aleph Alpha, ein führendes Unternehmen in der KI-Forschung in Europa.
  • Vorteile: 30 Tage Urlaub, Fitnessangebote, mentale Gesundheitsunterstützung und flexible Arbeitszeiten.
  • Weitere Informationen: Flache Hierarchien und ein unterstützendes Team für schnelles Entscheiden und offene Kommunikation.
  • Warum dieser Job: Sei Teil einer KI-Revolution und arbeite an innovativen Projekten mit echtem Einfluss.
  • Qualifikationen: Starkes Verständnis von maschinellem Lernen und Erfahrung in der Datenkurierung.

Das prognostizierte Gehalt liegt zwischen 60000 - 85000 € pro Jahr.

Unsere Mission

Aleph Alpha ist eines der wenigen Unternehmen in Europa, das ernsthafte Grundlagenmodell-Vortrainings durchführt. Unsere Kunden - in den Bereichen Finanzen, Fertigung und öffentliche Verwaltung - benötigen Modelle, die Deutsch verstehen, die europäischen Vorschriften entsprechen und zuverlässig in hochriskanten Umgebungen arbeiten. Wir bauen das in Heidelberg.

Teamkultur

Bei Aleph Alpha fördern wir eine Kultur, die auf Eigenverantwortung, Autonomie und Empowerment basiert. Teams und Einzelpersonen werden ermutigt, Verantwortung für ihre Arbeit zu übernehmen und einen bedeutenden Einfluss auszuüben. Wir pflegen eine flache Organisationsstruktur mit effizientem, unterstützendem Management, das schnelle Entscheidungen, offene Kommunikation und ein starkes Gefühl von gemeinsamem Zweck ermöglicht.

Über die Rolle

Als Senior AI Researcher für Pre-Training Data werden Sie die zugrunde liegende wissenschaftliche Methodik hinter unseren Vortraining-Korpora gestalten und verbessern, während Sie auch an der Software und den Systemen mitarbeiten, die dies ermöglichen. Sie werden mit Ingenieuren und anderen Forschern zusammenarbeiten, um skalierbare Pipelines zu erstellen, und sich auf relevante theoretische und empirische Forschung konzentrieren, um zu verstehen, welche Daten die Modelle bei unseren angestrebten Fähigkeiten am besten abschneiden lassen. Diese Rolle ist für Sie geeignet, wenn Sie über einen starken Hintergrund im Bereich des großangelegten Sprachmodells verfügen und den wissenschaftlichen Antrieb haben, komplexe Fragen zu Daten-Skalierungsgesetzen, synthetischer Datengenerierung und Curriculum-Lernen zu beantworten.

Ihre Verantwortlichkeiten

  • Innovation in Data-Centric AI: Bleiben Sie an der Spitze der Grundlagenforschung. Identifizieren, implementieren und iterieren Sie neuartige Ansätze zur Schätzung der Datenqualität, zur synthetischen Datengenerierung, zum Curriculum-Lernen und zu fortgeschrittenen Kurationsmethoden.
  • Data-to-Performance Science: Entwerfen und leiten Sie rigorose Ablationsstudien in verschiedenen Maßstäben. Analysieren Sie systematisch, wie Änderungen in der Datenzusammensetzung, Strategien zur Duplikatseliminierung, heuristische und modellbasierte Kurierung sowie Skalierungsgesetze die Trainingsdynamik und die Zielmodelle und -systemfähigkeiten beeinflussen.
  • Entwicklung neuer Qualitätsindikatoren: Gehen Sie über grundlegende Perplexitätsfilter hinaus. Forschen und entwickeln Sie fortschrittliche Algorithmen zur Bewertung und Auswahl von Daten, wie z.B. Einflussfunktionen, gradientenbasierte Übereinstimmung oder die Verwendung kleinerer Modelle zur Kurierung von Daten für größere Modelle.
  • Kollaboration über Fachgrenzen hinweg: Arbeiten Sie eng mit einem vielfältigen Team zusammen, um die Forschung von Prototypen auf Pipelines im Billionen-Tokens-Maßstab zu skalieren, und arbeiten Sie mit dem Post-Training-Team zusammen, um sicherzustellen, dass die Vortraining-Verteilungen die gezielte Feinabstimmung und Kundenanpassung effektiv unterstützen.

Ihr Profil

  • Grundqualifikationen: Ein tiefes Verständnis der maschinellen Lernens, insbesondere in Bezug auf die Dynamik des Trainings von Grundlagenmodellen, Skalierungsgesetze und datenzentriertes KI.
  • Erfahrung in der Gestaltung und Bewertung komplexer ML-Experimente im Zusammenhang mit Datenzusammensetzung, Curriculum-Lernen oder Datenqualität beim Training von Sprachmodellen.
  • Vertrautheit mit statistischen Methoden zur Bewertung und Versuchsplanung.
  • Fähigkeit, über die informationstheoretischen Eigenschaften eines Datensatzes und dessen prädiktive Kraft für bewertete Aufgaben nachzudenken: nicht nur Daten zu verarbeiten, sondern deren Signal zu verstehen.
  • Starke Python-Kenntnisse und Vertrautheit mit ML-Tools und Deep-Learning-Frameworks (insbesondere PyTorch).
  • Bereitschaft, nach Heidelberg umzuziehen oder mindestens alle zwei Wochen zu reisen.
  • Bevorzugte Qualifikationen: PhD in maschinellem Lernen, NLP oder gleichwertige Forschungserfahrung mit Schwerpunkt auf großangelegtem Sprachmodell oder Datenkurierung.
  • Eine Geschichte von Beiträgen zu erstklassigen Veranstaltungen (NeurIPS, ICML, ICLR, ACL usw.) insbesondere in Bezug auf Datenkurierung, Skalierungsgesetze, synthetische Daten oder LLM-Vortraining.
  • Erfahrung im Training von Grundlagenmodellen von Grund auf und Diagnose von dateninduzierten Trainingspathologien.
  • Bonus, aber nicht erforderlich: Deutschkenntnisse können hilfreich sein, um deutschsprachige Daten zu kuratieren und zu bewerten.

Vergütung und Vorteile

Werden Sie Teil einer KI-Revolution!

  • 30 Tage bezahlter Urlaub
  • Zugang zu einer Vielzahl von Fitness- und Wellnessangeboten über Wellhub
  • Unterstützung der psychischen Gesundheit durch nilo.health
  • Substantielle Subventionierung der betrieblichen Altersvorsorge für Ihre zukünftige Sicherheit
  • Subventioniertes deutschlandweites Verkehrsticket
  • Budget für zusätzliche technische Ausrüstung
  • Flexible Arbeitszeiten für eine bessere Work-Life-Balance und hybrides Arbeitsmodell
  • Virtuelles Aktienoptionsprogramm
  • JobRad Fahrrad-Leasing

Senior AI Researcher - Pre-training Data (m/f/d) Arbeitgeber: alephalpha

Aleph Alpha ist ein hervorragender Arbeitgeber, der eine Kultur der Eigenverantwortung und Autonomie fördert. In Heidelberg gelegen, bietet das Unternehmen nicht nur 30 Tage bezahlten Urlaub und flexible Arbeitszeiten, sondern auch Zugang zu umfangreichen Fitness- und Wellnessangeboten sowie Unterstützung für die mentale Gesundheit. Die flache Hierarchie und die Möglichkeit zur Zusammenarbeit mit einem talentierten Team von Ingenieuren und Forschern schaffen ein inspirierendes Umfeld, in dem Mitarbeiter bedeutende Beiträge zur KI-Revolution leisten können.

alephalpha

Kontaktdaten:

alephalpha Recruiting-Team

StudySmarter Expertenrat🤫

Wir sind der Meinung, dass Sie so Senior AI Researcher - Pre-training Data (m/f/d) erhalten könnten

Wende dich an die richtigen Communities

Schau dir Online-Communities und Foren an, die sich um Data Science drehen, wie Kaggle oder GitHub. Engagiere dich dort aktiv, teile deine Projekte und lerne von anderen – das wird dir helfen, nicht nur einen Fuß in die Tür zu bekommen, sondern auch wertvolle Kontakte zu knüpfen.

Präsentiere deine Daten-Projekte

Baue ein Portfolio auf, das deine besten Projekte zeigt. Nutze Plattformen wie GitHub oder eine persönliche Webseite, um deine Arbeiten zu veröffentlichen. Arbeitgeber im Data Science-Bereich schauen oft direkt auf praktische Erfahrungen, also zeig, was du drauf hast!

Nimm an Meetups und Hackathons teil

Besuche lokale Data Science-Meetups oder nehme an Hackathons teil. Diese Veranstaltungen sind nicht nur super, um dein Wissen zu erweitern, sondern auch Gold wert für Networking. Du lernst Fachkollegen kennen und kannst auf Lockere Art und Weise Eventualjobs ergattern.

Direkte Bewerbungen über unsere Seite

Vergiss nicht, direkt auf unserer Website nach Stellenangeboten bei alephalpha zu schauen. Hier kannst du dich auf offene Datenwissenschaftsstellen bewerben und zeigst damit direktes Interesse, das viele Arbeitgeber schätzen!

Wir glauben, dass du diese Fähigkeiten brauchst, um Senior AI Researcher - Pre-training Data (m/f/d) mit Bravour zu bestehen

Maschinenlernen Theorie
Datenzentrierte KI
Großes Sprachmodell Training
Datenkomposition
Curriculum Lernen
Datenqualität
Statistische Methoden

Einige Tipps für deine Bewerbung 🫡

Lass deine Daten sprechen!:In einem Bereich wie Data Science ist es entscheidend, dass du deine praktischen Fähigkeiten präsentierst. Wenn du an Projekten gearbeitet hast, die deine Analysefähigkeiten oder dein Wissen über Machine Learning demonstrieren, teile sie in deinem Lebenslauf oder füge einen Link zu deinem GitHub-Portfolio bei. Die Daten, die du analysiert hast, und die Tools, die du verwendest, sollten klar hervorgehoben werden.

Ergebnisse quantifizieren!:Unterstütze deine Erfahrung mit quantifizierbaren Ergebnissen. Zeige, wie du durch deine Analysen oder Modelle zur Entscheidungsfindung beigetragen hast oder wie deine Berechnungen den Rohdaten neue Erkenntnisse entlockt haben. Arbeitgeber in der Data Science sind oft an konkreten Verbesserungen und Effizienzsteigerungen interessiert!

Erläutere deine Lernbereitschaft!:Da es sich um eine Vollzeitstelle handelt, zeige in deinem Anschreiben, dass du bereit bist, zu lernen und dich weiterzuentwickeln. Sprich über deine Neugier für neue Technologien oder Methoden im Data Science Bereich. Vielleicht hast du auch Kurse besucht oder Zertifikate erworben, die deine Begeisterung zeigen!

Die richtige technische Sprache!:Achte darauf, dass deine Bewerbung alle relevanten technischen Begriffe enthält, die in der Data Science gebräuchlich sind. Nenne spezifische Programmier- und Analysetools wie Python, R oder SQL, die du beherrschst. Dies macht es für die Rekrutierer einfacher, schnell zu erkennen, dass du für die Rolle als Senior AI Researcher - Pre-training Data (m/f/d) bei alephalpha gut geeignet bist.

Wie man sich auf ein Vorstellungsgespräch bei alephalpha vorbereitet

Bereite deine technischen Skills vor

In einem Vorstellungsgespräch für eine Data-Science-Position wird oft dein Wissen über Tools wie Python, R oder SQL getestet. Mach dich mit gängigen Algorithmen und deren Einsatzmöglichkeiten vertraut, denn technische Fragen können schnell kommen. Lass uns sicherstellen, dass du in diesen Bereichen glänzt!

Verschaffe dir einen Überblick über Projekte

Da es sich um eine Vollzeitstelle handelt, ist es wichtig, dass du konkrete Erfahrungen und Projekte vorweisen kannst. Wenn du bereits an Data-Science-Projekten gearbeitet hast, sei bereit, diese in der Tiefe zu erläutern und zu diskutieren, wie du die Probleme gelöst hast. Dein Portfolio kann hier einen echten Unterschied machen!

Vorbereitung auf case studies

In Data-Science-Interviews sind case studies und praktische Probleme häufig Teil des Gesprächs. Übe, wie du strukturiert und logisch an solche Aufgaben herangehst. Arbeitgeber möchten sehen, wie du Daten analysierst und Lösungen entwickelst – bring also deine analytischen Fähigkeiten mit!

Zeige deine Leidenschaft für Daten

Mehr denn je geht es bei einer Vollzeitstelle darum, dass du nicht nur die Skills hast, sondern auch wirklich für das Feld brennst. Teile Anekdoten oder Erfahrungen, die zeigen, wie du zur Datenwissenschaft gekommen bist und was dich fasziniert. Diese Begeisterung kann für alephalpha entscheidend sein!