AIML Researcher - Foundation Model, Post-Training

Wir sind eine enge Gruppe von Forschern und Ingenieuren, die für den Aufbau groß angelegter Frontier-Foundation-Modelle bei Apple verantwortlich sind. Wir glauben, dass die interessantesten Durchbrüche im Deep Learning stattfinden, wenn wir die Lücke zwischen der Rohmodellfähigkeit und der benutzerzentrierten Nützlichkeit überbrücken.

In dieser Rolle werden Sie eine entscheidende Rolle bei der Gestaltung der Zukunft unserer LLM-Bemühungen spielen, insbesondere bei der Transformation unserer Modelle in hochfähige, intelligente Assistenten, die Milliarden von Apple-Produkten antreiben. Sie werden zentrale Trainingsherausforderungen in Bezug auf Anweisungsbefolgung, Werkzeugnutzung, tiefes Denken und architektonische Anpassung angehen – und Modelle entwerfen, die magische, tief integrierte und datenschutzfreundliche Erlebnisse im gesamten Apple-Ökosystem bieten.

Sie werden eng mit einem schnell wachsenden Team von Experten zusammenarbeiten, um neuartige Trainingsstrategien, architektonische Anpassungen und fortschrittliche Evaluierungsmethoden zu erkunden.

• Entwerfen und Iterieren von End-to-End-Post-Training-Strategien (einschließlich Reinforcement Learning), um Modellkapazitäten freizuschalten und spezifische Modellverhalten zu erreichen.
• Pionierarbeit bei neuartigen Algorithmen zur Präferenzoptimierung, Modellsteuerung und Sicherheit.
• Vorantreiben unserer Datenstrategie durch Forschung zu Methoden zur Generierung hochwertiger menschlicher und synthetischer Daten, automatisierter Datenfilterung und Curriculum-Lernen zur Verbesserung der Anweisungsbefolgung und des Denkens.
• Entwerfen robuster Evaluierungsmethoden zur Messung der Nützlichkeit, Faktizität und Nützlichkeit von Modellen, um über statische Benchmarks hinauszugehen und die reale Leistung genau zu erfassen.
• Eng mit Pre-Training-Teams zusammenarbeiten, um Architekturentscheidungen zu informieren, und mit Produktteams, um Benutzeranforderungen in Modellfähigkeiten zu übersetzen.

• Nachgewiesene Expertise im Deep Learning mit Schwerpunkt auf LLMs, Post-Training oder Reinforcement Learning, unterstützt durch eine starke Erfolgsbilanz akademischer oder praktischer Leistungen in diesen oder eng verwandten Bereichen.
• Fundierte Programmierkenntnisse in Python und einem wichtigen Deep-Learning-Framework wie JAX oder PyTorch.
• Master/PhD oder gleichwertige praktische Erfahrung in Informatik, Maschinenlernen oder einem verwandten technischen Bereich.

• Erfahrung im Training von State-of-the-Art großen Modellen im großen Maßstab, mit Vertrautheit mit Herausforderungen und Kompromissen beim verteilten Training.
• Erfahrung in der Verbesserung der Modellleistung bei komplexen Denkaufgaben (Mathematik, Programmierung, Logik).
• Erfahrung mit verschiedenen Transformer-Architekturen und deren Transformationen.
• Starke Kommunikationsfähigkeiten und eine Leidenschaft für die Zusammenarbeit über Forschungs- und Produktteams hinweg.

Bei Apple sind wir nicht alle gleich. Und das ist unsere größte Stärke. Wir ziehen aus den Unterschieden in dem, wer wir sind, was wir erlebt haben und wie wir denken. Denn um Produkte zu schaffen, die allen dienen, glauben wir daran, alle einzubeziehen. Daher verpflichten wir uns, alle Bewerber fair und gleich zu behandeln. Wir werden mit Bewerbern zusammenarbeiten, um angemessene Vorkehrungen zu treffen. Bei Apple glauben wir, dass Zugänglichkeit ein fundamentales Menschenrecht ist. Sie werden diese Idee in allem hier finden – in unserer Kultur, unseren Vorteilen und unseren digitalen Tools. Indem wir so viele Perspektiven wie möglich willkommen heißen, helfen wir Ihnen, eine Karriere aufzubauen, in der Sie sich zugehörig fühlen.