Research Engineer, Foundation Model

Foundation models haben Text und Bilder transformiert, aber strukturierte Daten - die größte und bedeutendste Datenmodalität der Welt - sind unberührt geblieben. Tabellen steuern jede klinische Studie, jedes Finanzmodell, jedes wissenschaftliche Experiment und jede Geschäftsentscheidung. Bis jetzt hat niemand ein Fundamentmodell entwickelt, das sie wirklich versteht.

Momentum: Wir haben tabellarische Fundamentmodelle pioniert und sind nun die weltweit führende Organisation im Bereich strukturiertes Daten-ML. Unser TabPFN v2 Modell wurde in Nature veröffentlicht und setzte einen neuen Stand der Technik für tabellarisches maschinelles Lernen. Seit seiner Veröffentlichung haben wir die Modellfähigkeiten um mehr als das 20-fache skaliert, über 3 Millionen Downloads erreicht, 6.000+ GitHub-Sterne erhalten und sehen eine beschleunigte Akzeptanz in Forschung und Industrie.

Unser Team: Wir sind ein kleines, hochselektives Team von über 20 Ingenieuren, Forschern und GTM-Spezialisten, ausgewählt aus über 5.000 Bewerbungen, mit Hintergründen von Google, Apple, Amazon, Microsoft, G-Research, Jane Street, Goldman Sachs und CERN, geleitet von Frank Hutter, Noah Hollmann und Sauraj Gambhir und beraten von weltweit führenden KI-Forschern.

Über die Rolle: Tabellarische Daten brechen die Annahmen, die das Skalieren für Sprache und Vision ermöglichen. Es gibt keine natürliche Sequenz, keine räumliche Struktur, kein gemeinsames Vokabular über Datensätze hinweg. Die Architekturen und Skalierungsgesetze, die LLMs antreiben, übertragen sich nicht. Wir haben den ersten Durchbruch mit TabPFN erzielt - aber die schwierigsten Probleme stehen noch bevor.

Die Probleme, die wir lösen:

• Skalierung von Transformer-Architekturen von 10K auf 1M+ Proben - ohne die strukturellen Annahmen, die Sprachmodelle skalieren lassen
• Aufbau multimodaler Modelle, die tabellarisches, textuelles und numerisches Verständnis kombinieren
• Modelle effizient genug für den Einsatz in der realen Welt zu machen - nicht nur genau genug für ein Papier
• Entwicklung von Architekturen für Zeitreihen, Prognosen, Anomalieerkennung und mehrere verwandte Tabellen

Was wir suchen:

• Master oder PhD in Informatik oder einem verwandten Bereich, plus 3+ Jahre Erfahrung im Aufbau von ML-Systemen in Forschung oder Industrie
• Veröffentlichungen in führenden ML-Veranstaltungen (NeurIPS, ICML, ICLR usw.) oder gleichwertige nachgewiesene Forschungswirkung
• Tiefe Kenntnisse in Python, PyTorch und dem breiteren ML- und Data-Science-Ökosystem
• Erfahrung in der Implementierung und dem Training von neuronalen Netzwerkarchitekturen - idealerweise Transformatoren oder Fundamentmodelle
• Echtes Interesse an Modelleffizienz - große Modelle schneller, skalierbarer und praktisch einsetzbar zu machen

Wir sind ein kleines, ehrgeiziges Team, das eines der schwierigsten Probleme in der KI löst, und wir fangen gerade erst an. Wenn Sie von schwierigen Problemen begeistert sind, von der realen Wirkung motiviert werden und Teil von etwas sein möchten, das wichtig ist, würden wir uns freuen, von Ihnen zu hören.

Unsere Verpflichtungen: Wir glauben, dass die besten Produkte und Teams aus einer Vielzahl von Perspektiven, Erfahrungen und Hintergründen entstehen. Deshalb begrüßen wir Bewerbungen von Menschen aller Identitäten und Lebenswege.