Auf einen Blick
- Aufgaben: Leite Forschungsprojekte zur effizienten LLM- und VLM-Inferenz und entwickle innovative Prototypen.
- Unternehmen: Nebius, ein führendes Unternehmen im Bereich Cloud-Infrastruktur für KI.
- Vorteile: Wettbewerbsfähige Vergütung, Karrierewachstum, Flexibilität und ein innovatives Arbeitsumfeld.
- Weitere Informationen: Dynamisches, internationales Umfeld mit echten Entwicklungsmöglichkeiten.
- Warum dieser Job: Gestalte die Zukunft der KI mit bedeutenden Projekten und einem talentierten Team.
- Qualifikationen: PhD in Informatik oder verwandten Bereichen und starke Programmierkenntnisse in Python und PyTorch.
Das prognostizierte Gehalt liegt zwischen 49500 - 60500 € pro Jahr.
Nebius ist führend in einer neuen Ära der Cloud-Infrastruktur für die globale KI-Wirtschaft. Wir bauen eine Full-Stack-AI-Cloud-Plattform auf, die Entwicklern und Unternehmen von der Daten- und Modellschulung bis hin zur Produktionsbereitstellung unterstützt, ohne die Kosten und die Komplexität des Aufbaus großer interner AI/ML-Infrastrukturen.
Die Nebius Token Factory sucht Wissenschaftler, die Engpässe bei der Inferenz von LLM und VLM in Forschungsfragen umwandeln, rigorose Experimente durchführen und ihre Ergebnisse in Produktionsfähigkeiten übersetzen können. Sie werden fokussierte Forschungs- und Optimierungsprojekte leiten, starken Code schreiben und Prototypen, Veröffentlichungen und technische Artefakte erstellen, auf denen Ingenieure aufbauen können.
Ihre Forschung wird Quantisierung, Destillation, spekulative Dekodierung, KV-Cache-Optimierung und Modell-/Laufzeit-Co-Optimierung umfassen, neben Inferenz-Engines und verteilten Inferenzarchitekturen. Sie werden untersuchen, wie diese Ansätze interagieren, ihre Trade-offs in Bezug auf Modellqualität, Latenz, Durchsatz, Speicherbedarf und Kosten pro Token bewerten und mit Ingenieurteams zusammenarbeiten, um vielversprechende Ergebnisse in die Produktion zu bringen.
Ihre Verantwortlichkeiten
- Leitung von Forschungsprojekten zur effizienten LLM- und VLM-Inferenz, von Hypothesen und Experimenten über Ablationen, Prototypen bis hin zur Übergabe an die Produktion.
- Entwicklung und Bewertung von Methoden, die Quantisierung, quantisierungsbewusstes Training (QAT), Destillation, spekulative Dekodierung, KV-Cache-Wiederverwendung, KV-Cache-Kompression, Langkontextinferenz, MoE-Routing und Modell-/Laufzeit-Co-Optimierung umfassen.
- Erstellung von Prototypen mit PyTorch, Triton, CUDA-nahen Werkzeugen oder Inferenz-Servierungs-Frameworks und Zusammenarbeit mit MLEs und Plattformingenieuren, um sie in Produktionskomponenten umzuwandeln.
- Forschung zu LLM-Anforderungsrouting und -planungsstrategien, einschließlich cache-bewusster Lastverteilung und Vorbefüllung-Dekodierung-Disaggregation (PDD). Bewertung, wie Warteschlangen, KV-Cache-Übertragung, Arbeitsplatzeinteilung und Vorbefüllungs-/Dekodierungskapazitätszuweisung Latenz, Durchsatz und Servierungskosten beeinflussen.
- Untersuchung der Multi-Knoten-Inferenz für dichte und Mischmodelle von Experten, einschließlich breiter Expertenparallelität (WideEP). Untersuchung der Expertenplatzierung, Lastungleichgewicht und Handelsabkommen zwischen Berechnung und Kommunikation und Nutzung der Erkenntnisse zur Anleitung von Modell- und Systemarchitekturentscheidungen.
- Entwicklung rigoroser Bewertungen, die Qualität, Latenz, Durchsatz, numerische Stabilität, Speicherbedarf, Tail-Latenz und Kosten pro Token abdecken. Vergleich von Servierungsarchitekturen unter konsistenten Arbeitslastbedingungen und GPU-Budgets.
- Zusammenarbeit mit MLE, GPU-Kernel-, Backend-Infrastruktur-, Produkt- und Kunden-Teams zur Auswahl von Forschungsprioritäten mit messbarem Produktionseinfluss.
- Teilen von Ergebnissen durch interne Berichte, technische Blogs, Veröffentlichungen und Open-Source-Artefakte sowie Mentoring von Ingenieuren und Wissenschaftlern zu experimentellem Design, wissenschaftlicher Strenge und Modell-/Systemtrade-offs.
Must-haves
- Ein PhD in Informatik, maschinellem Lernen, ML-Systemen, Computersystemen, Computerarchitektur, Elektrotechnik, angewandter Mathematik oder einem eng verwandten Fachgebiet.
- Ein starkes Publikationsverzeichnis oder gleichwertige Forschungsartefakte in ML, ML-Systemen, effizienter Inferenz, Modellkompression, Quantisierung, Destillation, Servierungssystemen oder verwandten Bereichen.
- Starke Python- und PyTorch-Implementierungsfähigkeiten, mit der Fähigkeit, Ideen in Experimente und funktionierende Prototypen umzusetzen.
- Tiefes Wissen über LLMs, VLMs, Transformer-Inferenz, Dekodierungsalgorithmen, Modellkompression, Quantisierung und Produktionsservierungs-Trade-offs.
- Starke Fähigkeiten im experimentellen Design, die Ablationen, Baselines, Metriken, statistisches Denken und Fehleranalyse abdecken.
- Exzellente schriftliche und mündliche Kommunikation.
Nice-to-haves
- Erstautor-Publikationen in Fachzeitschriften wie NeurIPS, ICML, ICLR, MLSys, ACL, EMNLP, ASPLOS, OSDI, SOSP, ISCA oder HPCA.
- Erfahrung in der Bereitstellung von ML-Modellen oder Inferenzoptimierungen in der Produktion.
- Erfahrung mit vLLM, SGLang, TensorRT-LLM, NVIDIA Dynamo, FlashAttention, FlashInfer, Triton, CUDA oder PyTorch-Interna.
- Erfahrung in der Anwendung von Post-Training, SFT, DPO, RLHF, RLAIF, Präferenzoptimierung oder synthetischer Datengenerierung zur Verbesserung der Inferenzqualität oder -effizienz.
- Open-Source-Forschungsartefakte, weit verbreitete Benchmarks, technische Blogs oder eingeladene Vorträge, die Beiträge zu effizienten KI-Systemen demonstrieren.
- Forschungs- oder Implementierungserfahrung in einem oder mehreren Bereichen der Architektur verteilter Inferenzsysteme, wie LLM-Anforderungsrouting, PDD, Multi-Knoten-Servierung oder MoE-Expertenparallelität, einschließlich WideEP.
Benefits / Perks
- Wettbewerbsfähige Vergütung
- Karrierewachstums- und Lernmöglichkeiten
- Flexibilität und Eigenverantwortung
- Kollaborative und innovative Kultur
- Gelegenheit, an bedeutenden KI-Projekten zu arbeiten
- Internationales Umfeld und talentierte Teams
Was es bedeutet, bei Nebius zu arbeiten
Schnelllebig - Mutiges Denken - Ständige Entwicklung - Bedeutender Einfluss - Vertrauen und echte Verantwortung - Gelegenheit, die Zukunft der KI zu gestalten.
Gleichstellungserklärung
Nebius ist ein Arbeitgeber, der Chancengleichheit bietet. Wir setzen uns dafür ein, einen integrativen und vielfältigen Arbeitsplatz zu fördern und Chancengleichheit in allen Aspekten der Beschäftigung zu gewährleisten. Wir diskriminieren nicht aufgrund von Rasse, Hautfarbe, Religion, Geschlecht (einschließlich Schwangerschaft), nationaler Herkunft, Abstammung, Alter, Behinderung, genetischen Informationen, Familienstand, Veteranenstatus, sexueller Orientierung, Geschlechtsidentität oder -ausdruck oder einer anderen durch geltendes Recht geschützten Eigenschaft.
Bewerber müssen berechtigt sein, in dem Land zu arbeiten, in dem sie sich bewerben, und müssen als Bedingung für die Einstellung einen Nachweis über die Beschäftigungsberechtigung vorlegen.
Wenn Sie während des Bewerbungsprozesses Unterstützung benötigen, lassen Sie es uns bitte wissen.
Senior Applied Scientist, Efficient LLM Inference & Model Optimization Arbeitgeber: FDE Times
Databricks ist ein hervorragender Arbeitgeber, der seinen Mitarbeitern die Möglichkeit bietet, an der Spitze von Daten- und KI-Technologien zu arbeiten. Mit einem starken Fokus auf Vielfalt und Inklusion fördert das Unternehmen eine Kultur, in der jeder Mitarbeiter wachsen und sich weiterentwickeln kann. Die umfassenden Benefits und die Chance, an bedeutenden Projekten mit namhaften Kunden zu arbeiten, machen Databricks zu einem attraktiven Arbeitsplatz für innovative Denker und Problemlöser.
StudySmarter Expertenrat🤫
Wir sind der Meinung, dass du so Senior Applied Scientist, Efficient LLM Inference & Model Optimization erhalten könntest
✨Engagier dich in Entwickler-Communities!
Lass uns mal ehrlich sein: In der Software-Entwicklung sind Netzwerke Gold wert! Tummel dich in GitHub-Projekten, nehme an lokalen Meetups oder Hackathons teil und vernetze dich mit anderen Entwicklern. So steigerst du nicht nur deine Sichtbarkeit, sondern lernst auch die neuesten Trends und Technologien kennen.
✨Zeig deine Fähigkeiten!
Erstelle ein Portfolio, das deine besten Projekte und Code-Examples zeigt. Nichts überzeugt mehr als ein praktischer Beweis deiner Skills. Das kann auch helfen, bei FDE Times anzuklopfen, wenn du dich auf die Stelle als Senior Applied Scientist, Efficient LLM Inference & Model Optimization bewirbst – so wissen sie gleich, was sie von dir erwarten können!
✨Nutze Jobplattformen speziell für Tech-Jobs!
Plattformen wie Stack Overflow Jobs oder AngelsList sind perfekte Orte, um Vollzeitstellen in der Software-Entwicklung zu finden. Hier sind viele tolle Unternehmen auf der Suche nach Talenten wie uns, also schau regelmäßig vorbei und bewirb dich direkt über die Website.
✨Such dir Mentoren und Feedback!
Hol dir Feedback von erfahrenen Entwicklern, die dir Tipps geben können, was Recruiter wirklich suchen. Ob über LinkedIn oder persönliche Kontakte: Menschen, die sich in der Branche auskennen, können enorm wertvoll sein, um dir zu helfen, dich optimal auf deine Bewerbung bei FDE Times vorzubereiten!
Wir glauben, dass du diese Fähigkeiten brauchst, um Senior Applied Scientist, Efficient LLM Inference & Model Optimization mit Bravour zu bestehen
Einige Tipps für deine Bewerbung 🫡
Highlights deiner Coding-Skills:In der Software-Entwicklung kommt es auf konkrete Fähigkeiten an. Vergiss nicht, relevante Programmiersprachen und Frameworks in deinen Lebenslauf aufzunehmen. Zeig uns, was du kannst – vielleicht mit einem Link zu deinem GitHub-Profil oder einer Übersicht deiner Side Projects, die deine Programmierkenntnisse illustrieren.
Dokumentation deiner Erfolge:Gerade bei einer Vollzeitstelle in der Software-Entwicklung sind konkrete Ergebnisse Gold wert. Nenn uns Zahlen und Ergebnisse aus deinen vorherigen Projekten. Hast du den Code optimiert oder Systemfehler behoben? Solche Erfolge zeigen, dass du die Sprache der Entwickler sprichst und einen echten Mehrwert bringst.
Attraktive Projektbeschreibungen:Wenn du an Projekten gearbeitet hast, die hervorstechen, beschreibe sie ausführlich in deinem Lebenslauf. Was war das Problem, das du gelöst hast? Welche Technologien hast du eingesetzt? Das gibt uns einen klaren Einblick in deine Herangehensweise und Problemlösungsfähigkeiten.
Motivation zeigen:In deinem Anschreiben solltest du deine Motivation für die Stelle im Bereich Software-Entwicklung bei FDE Times klar herausstellen. Warum sprichst gerade du die Anforderungen für diese Vollzeitrolle an? Mach deutlich, was dich an der Arbeit bei uns reizt und wie du über das rein Technische hinaus wachsen möchtest.
Wie man sich auf ein Vorstellungsgespräch bei FDE Times vorbereitet
✨Technische Vorbereitung auf die Coding-Challenges
In der Software-Entwicklung sind technische Fragen oft ein zentraler Teil des Interviews. Macht euch mit Plattformen wie LeetCode oder HackerRank vertraut, um eure Problemlösungsfähigkeiten zu trainieren. Zeigt im Interview viel Selbstbewusstsein beim Erklären eurer Ansätze!
✨Das eigene Portfolio im besten Licht präsentieren
Stellt sicher, dass ihr ein aussagekräftiges Portfolio habt, das einige eurer besten Projekte zeigt. Seid bereit, darüber zu sprechen, was eure Rolle war, welche Technologien ihr verwendet habt und welche Herausforderungen es gab. Das gibt den Interviewern einen Einblick in eure praktische Erfahrung.
✨Teamfähigkeit und Kommunikation betonen
In einer Vollzeit-Position wird Kommunikation im Team sehr wichtig sein. Seid bereit, Beispiele aus der Vergangenheit zu teilen, in denen ihr effektiv im Team gearbeitet habt. Dies zeigt, dass ihr nicht nur technische Fähigkeiten habt, sondern auch gut ins Team passt.
✨Vorbereitung auf Fragen zur Software-Architektur
Bereitet euch darauf vor, Fragen zur Software-Architektur zu beantworten. Themen wie RESTful APIs, Microservices und Cloud-Architekturen können Teil eures Interviews sein. Zeigt euer Verständnis durch Diskussionen und Beispiele aus eurer bisherigen Arbeit oder Projekte.