ML Infrastructure Engineer

Wer wir sind: Foundation-Modelle haben Text und Bilder transformiert. Strukturierte Daten - das größte und folgenschwerste Datenformat der Welt - blieben unberührt. Tabellen steuern jede klinische Studie, jedes Finanzmodell, jedes wissenschaftliche Experiment, jede Geschäftsentscheidung, und niemand hatte ein Foundation-Modell entwickelt, das sie wirklich verstand. Bis jetzt. Was LLMs für Sprache taten, tun wir für Tabellen. Der nächste Modalitätswechsel in der KI findet statt, und wir stellen das Team ein, das es möglich macht.

Momentum: Wir haben tabellarische Foundation-Modelle pioniert und sind nun die weltweit führende Organisation im Bereich strukturierte Daten-ML. Unser TabPFN v2-Modell wurde als Cover-Story in Nature veröffentlicht und setzte einen neuen Maßstab für tabellarisches maschinelles Lernen. Seit der Veröffentlichung haben wir die Modellfähigkeiten um über 20x skaliert, über 3,5 Millionen Downloads und mehr als 7.500 GitHub-Sterne erreicht und sehen eine beschleunigte Akzeptanz in Forschung und Industrie - von der Erkennung von Lungenerkrankungen mit Oxford Cancer Analytics bis zur Verhinderung von Zugausfällen mit Hitachi und der Verbesserung von Entscheidungen in klinischen Studien mit BostonGene.

Die schwierigste Arbeit steht noch bevor. Wir skalieren tabellarische Foundation-Modelle auf Millionen von Zeilen, Tausenden von Merkmalen, Echtzeitinferenz und völlig neue Datenmodalitäten, während wir die Infrastruktur aufbauen, um sie in Produktion in einigen der anspruchsvollsten Branchen der Erde zu betreiben. Dies sind offene Probleme, an denen sonst niemand auf diesem Niveau arbeitet.

Unser Team: Wir sind ein kleines, hochselektives Team von über 30 Ingenieuren, Forschern und GTM-Spezialisten mit Hintergründen aus Google, Apple, Amazon, DeepMind, Meta, Microsoft Research, G-Research, Jane Street, Goldman Sachs und CERN. Wir werden von Frank Hutter, Noah Hollmann und Sauraj Gambhir geleitet und von weltweit führenden KI-Forschern wie Bernhard Schölkopf und dem Turing-Preisträger Yann LeCun beraten. Wir liefern schnell, betreiben erstklassige Forschung und halten uns gegenseitig an einen extrem hohen Standard.

Über die Rolle: Wir geben jährlich mehrere Millionen Euro für GPU-Compute aus, um tabellarische Foundation-Modelle zu trainieren. Das ist kein Ziel, sondern das, was wir heute betreiben, und es wächst. Die Person, die diese Infrastruktur besitzt, trifft Entscheidungen im Wert von Millionen von Euro: Clusterarchitektur, Planungseffizienz, Anbieterstrategie, Hardwareauswahl. Ein falscher Anruf kostet sechsstellige Beträge.

Was Sie bearbeiten werden:

• Besitzen und weiterentwickeln der Multi-Cluster-GPU-Infrastruktur.
• Architektur, Planung, Zuverlässigkeit, Kostenoptimierung.
• GPU-Nutzung und Training-Durchsatz steigern: Profilierung, Speicheroptimierung, Kommunikationsengpässe, systemweites Debugging des verteilten Trainings über große Läufe.
• Die nächste Generation unserer Infrastruktur entwerfen: Multi-Cluster-Orchestrierung, neue GPU-Generationen, Anbieter-Diversifizierung, Kapazitätsplanung gegen wachsende Compute-Anforderungen.
• Die Entwicklerproduktivitätsschicht aufbauen: CI-Pipelines, Experimentverfolgung, Modellregistrierung, Datenverarbeitung und interne Tools, die die Forschungsiterationsgeschwindigkeit hoch halten.
• Das Compute-Budget besitzen. Sie verstehen die Kosten pro FLOP über Anbieter und Hardware und hassen verschwendete Compute-Ressourcen.

Technologiestack: Slurm, GCP, Docker, wandb, GitHub Actions, uv, PyTorch, Triton.

Sie könnten gut passen, wenn Sie:

• Über 3 Jahre Erfahrung im Aufbau und Betrieb von Produktions-GPU-Infrastrukturen oder verteilten Trainingssystemen in großem Maßstab haben.
• Tiefgehende praktische Erfahrung mit Slurm und Clusterverwaltung haben.
• Expertenniveau im Systemdenken haben: Speicherbandbreite, GPU-Profilierung.
• Starke Python-Kenntnisse und echte Vertrautheit mit den internen Abläufen von PyTorch haben.
• Eine Erfolgsbilanz bei der Entscheidungsfindung in der Infrastruktur haben, die messbar den Training-Durchsatz oder die Kosteneffizienz verbessert hat.

Das Leben bei Prior Labs: Wir sind ein kleines, ehrgeiziges Team, das eines der schwierigsten Probleme in der KI löst, und wir fangen gerade erst an. Sie arbeiten eng mit erstklassigen Forschern und Entwicklern zusammen, die sich leidenschaftlich für die Qualität ihres Handwerks, die Auswirkungen ihrer Arbeit und die Menschen, mit denen sie arbeiten, einsetzen.

Wir bewegen uns schnell, denken rigoros und nehmen uns die Zeit, die Dinge richtig zu machen. Wenn Sie von schwierigen Problemen begeistert sind, von realen Auswirkungen motiviert werden und Teil des Aufbaus von etwas sein möchten, das wichtig ist, würden wir uns freuen, von Ihnen zu hören.

Unsere Verpflichtungen: Wir glauben, dass die besten Produkte und Teams aus einer breiten Palette von Perspektiven, Erfahrungen und Hintergründen entstehen. Deshalb begrüßen wir Bewerbungen von Menschen aller Identitäten und Lebenswege, insbesondere von Personen, die sich jemals durch "nicht alle Kästchen abhaken" entmutigt gefühlt haben. Wir setzen uns dafür ein, ein sicheres, integratives Umfeld zu schaffen und Chancengleichheit unabhängig von Geschlecht, sexueller Orientierung, Herkunft, Behinderung oder einem anderen Merkmal, das Sie ausmacht, zu bieten.