Research Staff, LLMs

Diese Position wird im Auftrag eines Partnerunternehmens ausgeschrieben, das alle Bewerbungen und nächsten Schritte verwaltet. Unser Partner sucht einen erfahrenen KI-Forscher, der sich auf große Sprachmodelle (LLMs) und fortschrittliche Transformer-Architekturen spezialisiert hat, um die Grenzen der nächsten Generation von KI zu erweitern. In dieser Rolle werden Sie grundlegende Herausforderungen in der Modellarchitektur, Datenkuratierung, verteiltem Training und Reinforcement Learning untersuchen. Sie werden ehrgeizige Forschungsprogramme entwerfen und durchführen, wissenschaftliche Entdeckungen in skalierbare Modelle und produktionsbereite Fähigkeiten umsetzen.

Zu den Verantwortlichkeiten gehören:

• Beitrag zur Spitzenforschung im Bereich LLM, Kombination wissenschaftlicher Untersuchungen mit praktischer Ingenieurskunst zur Entwicklung, Optimierung und Bereitstellung fortschrittlicher Modelle.
• Zusammenarbeit mit anderen Forschungswissenschaftlern zur Identifizierung, Definition und Entwicklung neuer Forschungsinitiativen, die sich auf große Sprachmodelle konzentrieren.
• Durchführung umfassender Literaturüberprüfungen, Bewertung, Klassifizierung und Synthese bestehender Forschungsmethoden und aufkommender Techniken.
• Entwurf, Planung und Durchführung experimenteller Programme zur Untersuchung neuer Ansätze zur Entwicklung und Optimierung von LLM.
• Forschung und Verbesserung von Transformer-Architekturen, einschließlich Modellentwurf, Trainingsmethoden und Leistungsoptimierung.
• Leitung großangelegter LLM-Trainingsinitiativen unter Verwendung verteilter Computerinfrastruktur.
• Untersuchung und Verbesserung von Datenkuratierungsstrategien, Trainingseffizienz, Modelloptimierung und Techniken des Reinforcement Learning.
• Übersetzung erfolgreicher Forschungsexperimente und Machbarkeitsnachweise in skalierbare Lösungen und produktionsbereite Modelle.
• Beitrag zur Entwicklung und Bereitstellung neuer Modelle, um sicherzustellen, dass Forschungsergebnisse in reale Produkte integriert werden können.
• Dokumentation von Forschungsergebnissen und klare Kommunikation komplexer technischer Konzepte an relevante Zielgruppen.
• Überwachung der neuesten Entwicklungen in der tiefen Lern- und LLM-Forschung, Identifizierung von Techniken mit potenziellen Anwendungen für Produkte und zukünftige Forschungsrichtungen.
• Nutzung von KI-Tools zur Automatisierung von Arbeitsabläufen, Beschleunigung von Experimenten und Steigerung der Forschungsproduktivität.

Die idealen Kandidaten kombinieren starke praktische Erfahrungen in der angewandten Forschung im Bereich Deep Learning mit praktischer Expertise in der Erstellung, dem Training und der Optimierung großangelegter Sprachmodelle:

• Mindestens 3 Jahre Erfahrung in der angewandten Forschung im Bereich Deep Learning.
• Starkes Verständnis von neuronalen Netzwerkarchitekturen, deren Anwendungen und den Auswirkungen verschiedener Modelltypen und Verlustfunktionen.
• Nachgewiesene praktische Erfahrung mit großen Sprachmodellen, einschließlich Datenkuratierung, verteilt großflächigem Training, Optimierung von Transformer-Architekturen und Reinforcement Learning.
• Starke Programmierkenntnisse in Python und praktische Erfahrung mit PyTorch.
• Erfahrung mit verschiedenen Transformer-Architekturen, einschließlich autoregressiver und sequenz-zu-sequenz Modelle.
• Praktisches Wissen über verteiltes Rechnen und großflächige Datenverarbeitung.
• Erfahrung im Entwerfen und Durchführen von Forschungsexperimenten, Analyse von Ergebnissen und Nutzung von Erkenntnissen zur Verbesserung der Modellleistung.
• Starke analytische und problemlösende Fähigkeiten, mit der Fähigkeit, komplexe technische Herausforderungen zu untersuchen.
• Ausgezeichnete Kommunikationsfähigkeiten und die Fähigkeit, komplexe Forschungskonzepte klar zu erklären.
• Ein innovativer, selbstgesteuerter Denkansatz, mit der Fähigkeit, autonom zu arbeiten und neue Ideen schnell zu testen.
• Starkes Interesse an modernster KI-Forschung und der Umsetzung wissenschaftlicher Fortschritte in praktische Anwendungen.
• Komfortables Arbeiten in einem schnelllebigen, KI-orientierten Umfeld, das kontinuierliches Lernen, Experimentieren und Anpassen erfordert.

Bevorzugte Qualifikationen:

• Tiefes Verständnis von Transformer-Architekturen, kausalen Sprachmodellen und deren zugrunde liegenden Mechanismen.
• Erfahrung mit verteiltem Training und verteilten Inferenzansätzen für LLMs.
• Vertrautheit mit Reinforcement Learning aus menschlichem Feedback (RLHF), einschließlich Kennzeichnung und Trainingspipelines.
• Aktuelles Wissen über aufkommende LLM-Techniken, Architekturen und Forschungsentwicklungen.
• Veröffentlichte Forschungsarbeiten im Bereich Deep Learning, insbesondere in großen Sprachmodellen und tiefen neuronalen Netzwerken.

Vorteile:

• Vollständig remote Arbeitsanordnung in der EMEA-Region.
• Vollzeitmöglichkeit innerhalb eines engagierten KI-Forschungsteams.
• Gelegenheit, an modernster LLM-Forschung zu arbeiten und zu neuen wissenschaftlichen und technischen Entwicklungen beizutragen.
• Signifikanter Spielraum zur Entwicklung innovativer Ansätze und zum Aufbau neuer Systeme von Grund auf.
• Hoher Grad an Autonomie und Eigenverantwortung bei der Definition und Durchführung von Forschungsinitiativen.
• KI-orientiertes Arbeitsumfeld, das Experimente mit fortschrittlichen Modellen und Tools fördert.
• Gelegenheit, Forschungsergebnisse in skalierbare, produktionsbereite KI-Fähigkeiten umzusetzen.
• Schnelllebiges Umfeld mit kontinuierlichem Lernen und Zugang zu aufkommenden Technologien.