PhD Position \"Foundation Models & Efficient LLM Training\" - DS-NLP Lab @HSG (m/f/d) 100 %

PhD Position \"Foundation Models & Efficient LLM Training\" - DS-NLP Lab @HSG (m/f/d) 100 %

Vollzeit 41850 - 51150 € / Jahr (geschätzt) Kein Homeoffice möglich
Universität St.Gallen

Auf einen Blick

  • Aufgaben: Führe innovative Forschung zu Sprachmodellen und effizienten Lernmethoden durch.
  • Unternehmen: Hochschule St. Gallen, führende Universität für Wirtschaft und Management.
  • Vorteile: Vollfinanzierte Promotionsstelle, moderne Infrastruktur und internationale Forschungsumgebung.
  • Weitere Informationen: Flexible Arbeitszeiten, familienfreundliche Angebote und zahlreiche Weiterbildungsmöglichkeiten.
  • Warum dieser Job: Gestalte die Zukunft der Sprachmodelle und arbeite an spannenden Projekten.
  • Qualifikationen: Masterabschluss in Informatik oder verwandten Bereichen, starke Programmierkenntnisse in Python.

Das prognostizierte Gehalt liegt zwischen 41850 - 51150 € pro Jahr.

Ihre Aufgaben

  • Sie arbeiten an Ihrer Doktorarbeit im Bereich des Trainings von Foundation Models und effizienten Lernmethoden.
  • Sie entwerfen und führen Forschungsarbeiten zu den Trainingsdynamiken großer Sprachmodelle durch, einschließlich Skalierungsverhalten, Optimierung und Verallgemeinerung.
  • Sie integrieren linguistische Erkenntnisse in die Entwicklung und Analyse von Sprachmodellen, mit besonderem Fokus auf Token-Gewichtungsstrategien und deren Auswirkungen auf die Trainingsdynamik.
  • Sie engagieren sich in Lehrtätigkeiten (ca. 2 SWS pro Semester), einschließlich Tutorien, Übungen und der Betreuung von Bachelor- und Masterarbeiten sowie Projekten.
  • Sie unterstützen den Lehrstuhl bei organisatorischen und forschungsbezogenen Aufgaben.

Ihr Profil

  • Sie haben einen Masterabschluss in Informatik, Maschinenlernen, Computerlinguistik oder einem verwandten Bereich.
  • Wünschenswert: frühere Forschungserfahrung oder Veröffentlichungen in NLP, ML oder verwandten Bereichen.
  • Sie verfügen über starke Programmierkenntnisse in Python.
  • Wünschenswert: Erfahrung mit PyTorch oder TensorFlow/Keras.
  • Sie haben Erfahrung oder starkes Interesse an:
    • Training großer Sprachmodelle (Transformers).
    • Effizienten Trainingstechniken (z.B. LoRA, Quantisierung, Sparsamkeit, Destillation).
    • Skalierungsgesetzen, Trainingsdynamiken oder der Evaluierung generativer Modelle.
    • Datensatzkonstruktion und großangelegter Datenverarbeitung.
  • Wünschenswert: Hintergrund oder Interesse an Linguistik oder Computerlinguistik, insbesondere in Bezug auf Tokenisierung und Token-Gewichtungsstrategien.
  • Sie sind in der Lage, selbstständig zu arbeiten, Ihre Forschung zu strukturieren und Ihre Zeit effektiv zu managen.
  • Sie sind motiviert, zur Lehre und zur kollaborativen Forschung beizutragen.

Wir bieten

  • Vollständig finanzierte PhD-Position in einem dynamischen und schnell wachsenden Forschungsbereich.
  • Zugang zu moderner Recheninfrastruktur.
  • Unterstützung beim Publizieren auf erstklassigen Konferenzen.
  • Ein kollaboratives und internationales Forschungsumfeld.
  • Umfassende Betreuung und Mentoring während Ihrer PhD-Reise.

Inspirierendes Arbeitsumfeld

  • Als führende Wirtschaftsuniversität in Europa bieten wir ein unternehmerisches Umfeld, in dem Sie hochqualifizierte, ehrgeizige Experten treffen - sowohl regional als auch international.
  • Wir unterstützen interne und externe Weiterbildungsmöglichkeiten.
  • Wir fördern unsere Kultur der funktionsübergreifenden Zusammenarbeit und schaffen Raum für wertvolle Beziehungen - auch mit externen Partnern.
  • Wir bieten flexible Arbeitszeitmodelle mit variabler Stundenzahl pro Woche.
  • Als familienfreundlicher Arbeitgeber bieten wir Teilzeitstellen, 16 Wochen Mutterschaftsurlaub und eine subventionierte Krippe sowie Unterstützung bei der Kinderbetreuung während der Ferien.
  • Die Universität ermöglicht Chancengleichheit für alle Mitarbeiter und Studierenden.
  • Wir helfen Ihnen, fit und gesund zu bleiben.

Für Fragen zur Stelle

Prof. Dr. Siegfried Handschuh, Vollzeitprofessor für Data Science und Natural Language Processing.

Anja Boxlein, Officemanagerin.

Ihr Arbeitsplatz: Universität St.Gallen.

PhD Position \"Foundation Models & Efficient LLM Training\" - DS-NLP Lab @HSG (m/f/d) 100 % Arbeitgeber: Universität St.Gallen

Die Universität St.Gallen ist ein hervorragender Arbeitgeber, der seinen Mitarbeitenden nicht nur flexible Arbeitszeiten bietet, sondern auch die Möglichkeit, aktiv an spannenden Forschungsprojekten und der Lehre im Marketingbereich mitzuwirken. Die offene und unterstützende Arbeitskultur fördert die persönliche und berufliche Weiterentwicklung, während die attraktive Vergütung und die Mitwirkung an renommierten Auszeichnungen wie dem CMO of the Year zusätzliche Anreize schaffen, Teil dieses dynamischen Teams zu werden.

Universität St.Gallen

Kontaktdaten:

Universität St.Gallen Recruiting-Team

StudySmarter Expertenrat🤫

Wir sind der Meinung, dass du so PhD Position \"Foundation Models & Efficient LLM Training\" - DS-NLP Lab @HSG (m/f/d) 100 % erhalten könntest

Wende dich an die richtigen Communities

Schau dir Online-Communities und Foren an, die sich um Data Science drehen, wie Kaggle oder GitHub. Engagiere dich dort aktiv, teile deine Projekte und lerne von anderen – das wird dir helfen, nicht nur einen Fuß in die Tür zu bekommen, sondern auch wertvolle Kontakte zu knüpfen.

Präsentiere deine Daten-Projekte

Baue ein Portfolio auf, das deine besten Projekte zeigt. Nutze Plattformen wie GitHub oder eine persönliche Webseite, um deine Arbeiten zu veröffentlichen. Arbeitgeber im Data Science-Bereich schauen oft direkt auf praktische Erfahrungen, also zeig, was du drauf hast!

Nimm an Meetups und Hackathons teil

Besuche lokale Data Science-Meetups oder nehme an Hackathons teil. Diese Veranstaltungen sind nicht nur super, um dein Wissen zu erweitern, sondern auch Gold wert für Networking. Du lernst Fachkollegen kennen und kannst auf Lockere Art und Weise Eventualjobs ergattern.

Direkte Bewerbungen über unsere Seite

Vergiss nicht, direkt auf unserer Website nach Stellenangeboten bei Universität St.Gallen zu schauen. Hier kannst du dich auf offene Datenwissenschaftsstellen bewerben und zeigst damit direktes Interesse, das viele Arbeitgeber schätzen!

Wir glauben, dass du diese Fähigkeiten brauchst, um PhD Position \"Foundation Models & Efficient LLM Training\" - DS-NLP Lab @HSG (m/f/d) 100 % mit Bravour zu bestehen

Doktorarbeit in der Modellierung von Grundlagenmodellen
Forschung zu Trainingsdynamiken großer Sprachmodelle
Optimierung und Generalisierung
Linguistische Einsichten in die Entwicklung von Sprachmodellen
Tokengewichtungsstrategien
Programmierung in Python
Erfahrung mit PyTorch oder TensorFlow/Keras

Einige Tipps für deine Bewerbung 🫡

Lass deine Daten sprechen!:In einem Bereich wie Data Science ist es entscheidend, dass du deine praktischen Fähigkeiten präsentierst. Wenn du an Projekten gearbeitet hast, die deine Analysefähigkeiten oder dein Wissen über Machine Learning demonstrieren, teile sie in deinem Lebenslauf oder füge einen Link zu deinem GitHub-Portfolio bei. Die Daten, die du analysiert hast, und die Tools, die du verwendest, sollten klar hervorgehoben werden.

Ergebnisse quantifizieren!:Unterstütze deine Erfahrung mit quantifizierbaren Ergebnissen. Zeige, wie du durch deine Analysen oder Modelle zur Entscheidungsfindung beigetragen hast oder wie deine Berechnungen den Rohdaten neue Erkenntnisse entlockt haben. Arbeitgeber in der Data Science sind oft an konkreten Verbesserungen und Effizienzsteigerungen interessiert!

Erläutere deine Lernbereitschaft!:Da es sich um eine Vollzeitstelle handelt, zeige in deinem Anschreiben, dass du bereit bist, zu lernen und dich weiterzuentwickeln. Sprich über deine Neugier für neue Technologien oder Methoden im Data Science Bereich. Vielleicht hast du auch Kurse besucht oder Zertifikate erworben, die deine Begeisterung zeigen!

Die richtige technische Sprache!:Achte darauf, dass deine Bewerbung alle relevanten technischen Begriffe enthält, die in der Data Science gebräuchlich sind. Nenne spezifische Programmier- und Analysetools wie Python, R oder SQL, die du beherrschst. Dies macht es für die Rekrutierer einfacher, schnell zu erkennen, dass du für die Rolle als PhD Position \"Foundation Models & Efficient LLM Training\" - DS-NLP Lab @HSG (m/f/d) 100 % bei Universität St.Gallen gut geeignet bist.

Wie man sich auf ein Vorstellungsgespräch bei Universität St.Gallen vorbereitet

Bereite deine technischen Skills vor

In einem Vorstellungsgespräch für eine Data-Science-Position wird oft dein Wissen über Tools wie Python, R oder SQL getestet. Mach dich mit gängigen Algorithmen und deren Einsatzmöglichkeiten vertraut, denn technische Fragen können schnell kommen. Lass uns sicherstellen, dass du in diesen Bereichen glänzt!

Verschaffe dir einen Überblick über Projekte

Da es sich um eine Vollzeitstelle handelt, ist es wichtig, dass du konkrete Erfahrungen und Projekte vorweisen kannst. Wenn du bereits an Data-Science-Projekten gearbeitet hast, sei bereit, diese in der Tiefe zu erläutern und zu diskutieren, wie du die Probleme gelöst hast. Dein Portfolio kann hier einen echten Unterschied machen!

Vorbereitung auf case studies

In Data-Science-Interviews sind case studies und praktische Probleme häufig Teil des Gesprächs. Übe, wie du strukturiert und logisch an solche Aufgaben herangehst. Arbeitgeber möchten sehen, wie du Daten analysierst und Lösungen entwickelst – bring also deine analytischen Fähigkeiten mit!

Zeige deine Leidenschaft für Daten

Mehr denn je geht es bei einer Vollzeitstelle darum, dass du nicht nur die Skills hast, sondern auch wirklich für das Feld brennst. Teile Anekdoten oder Erfahrungen, die zeigen, wie du zur Datenwissenschaft gekommen bist und was dich fasziniert. Diese Begeisterung kann für Universität St.Gallen entscheidend sein!