Research Scientist, Foundation Model

Tabellarische Daten brechen die Annahmen, die das Skalieren für Sprache und Vision ermöglichen. Es gibt keine natürliche Reihenfolge, keine räumliche Struktur und kein gemeinsames Vokabular über Datensätze hinweg. Die Architekturen und Skalierungsgesetze, die LLMs antreiben, übertragen sich nicht. Bei Prior Labs treiben Forschungswissenschaftler die Kernmodellagenda voran. Sie definieren Forschungsrichtungen, entwerfen neuartige Architekturen und veröffentlichen Arbeiten, die das Feld voranbringen – während sie sicherstellen, dass ihre Ideen in Modelle umgesetzt werden, die tatsächlich ausgeliefert werden. Wir schaffen hochmoderne Modelle, weil dieselben Personen beides tun. Als frühes Teammitglied haben Sie erheblichen technischen Einfluss und Raum zum Wachsen, während wir skalieren.

Die Probleme, die wir lösen:

• Skalierung von Transformatorarchitekturen von 10K auf 1M+ Proben – ohne die strukturellen Annahmen, die es Sprachmodellen ermöglichen zu skalieren
• Aufbau multimodaler Modelle, die tabellarisches, textuelles und numerisches Verständnis kombinieren
• Modelle effizient genug für den Einsatz in der realen Welt zu machen – nicht nur genau genug für ein Papier
• Entwurf von Architekturen für Zeitreihen, Prognosen, Anomalieerkennung und mehrere verwandte Tabellen
• Forschung zum kausalen Verständnis in Fundamentmodellen

Was wir suchen:

• PhD in Informatik, angewandter Mathematik, Statistik, Elektrotechnik oder einem eng verwandten Bereich oder gleichwertige Forschungserfahrung mit nachweisbarem Einfluss
• Veröffentlichungen in erstklassigen ML-Veranstaltungen (NeurIPS, ICML, ICLR usw.) oder gleichwertiger Einfluss durch weit verbreitete Open-Source-Projekte, Benchmarks oder implementierte Systeme
• Starke Erfahrung im Aufbau und in der Analyse von maschinellen Lernmodellen, einschließlich Transformator- oder anderer sequenzbasierter Architekturen, unter Verwendung von PyTorch
• Solides Verständnis der Trainingsdynamik, der Verallgemeinerung, des Skalierungsverhaltens und der häufigen Fehlerquellen in Deep-Learning-Systemen
• Ausgezeichnete Ingenieurgrundlagen und starke Python-Kenntnisse, mit einer Erfolgsbilanz beim Schreiben von qualitativ hochwertigem Forschungscode

Schön zu haben:

• Erfahrung in einem Startup oder Forschungslabor in der Frühphase mit einer Versandkultur
• Beiträge zu Open-Source-ML-Bibliotheken oder -Tools
• Erfahrung mit Modell-Distillation, Inferenzoptimierung oder effizienten Architekturen
• Hintergrund in tabellarischen Daten, Zeitreihen oder anderen strukturierten Daten – hilfreich, aber nicht erforderlich

Das Leben bei Prior Labs:

Wir sind ein kleines, ehrgeiziges Team, das eines der schwierigsten Probleme in der KI löst, und wir fangen gerade erst an. Sie arbeiten eng mit weltklasse Forschern und Entwicklern zusammen, die sich leidenschaftlich für die Qualität ihres Handwerks, die Auswirkungen ihrer Arbeit und die Menschen, mit denen sie arbeiten, einsetzen. Wir bewegen uns schnell, denken rigoros und nehmen uns die Zeit, die Dinge richtig zu machen. Wenn Sie von schwierigen Problemen begeistert sind, von realen Auswirkungen motiviert werden und Teil des Aufbaus von etwas sein möchten, das wichtig ist, würden wir uns freuen, von Ihnen zu hören.

Unsere Verpflichtungen:

Wir glauben, dass die besten Produkte und Teams aus einer Vielzahl von Perspektiven, Erfahrungen und Hintergründen entstehen. Deshalb begrüßen wir Bewerbungen von Menschen aller Identitäten und Lebenswege, insbesondere von Personen, die sich jemals durch „nicht alle Kästchen abhaken“ entmutigt gefühlt haben. Wir setzen uns dafür ein, eine sichere, integrative Umgebung zu schaffen und Chancengleichheit unabhängig von Geschlecht, sexueller Orientierung, Herkunft, Behinderung oder einem anderen Merkmal, das Sie ausmacht, zu gewährleisten.