GPU Kernel Engineer

Baseten bietet die Infrastruktur, Werkzeuge und Expertise, die benötigt werden, um großartige KI-Produkte schnell auf den Markt zu bringen. Wir sind von führenden Investoren wie IVP, Spark Capital, Greylock und Conviction unterstützt und vertrauen führenden KI-gestützten Innovatoren wie Writer, Abridge, Bland, Patreon, Descript, Retool und Zed, um branchenführende Leistung, Sicherheit und Zuverlässigkeit für ihre geschäftskritischen Arbeitslasten zu liefern. Mit unserer kürzlichen Finanzierung in Höhe von 75 Millionen US-Dollar in der Serie C wachsen wir schnell, um KI in allen Produkten zugänglich zu machen.

Wir suchen einen GPU Kernel Engineer, der unserem Team an der Spitze der KI-Beschleunigung beitritt, wo Ihr Code direkt die Leistung modernster maschineller Lernmodelle beeinflusst. Als GPU Kernel Engineer gestalten Sie das Fundament, das moderne KI-Arbeitslasten antreibt, und optimieren jede Mikrosekunde der Berechnung, um bahnbrechende Anwendungen zu ermöglichen.

Sie arbeiten in einer schnelllebigen, intellektuell anregenden Umgebung, in der technische Exzellenz von größter Bedeutung ist und Ihre Beiträge direkt die Produktionssysteme beeinflussen, die Millionen von Nutzern über zahlreiche Produkte bedienen. Diese Rolle bietet außergewöhnliches Wachstumspotenzial für Ingenieure, die leidenschaftlich an niedrigstufiger Optimierung und hochwirksamer Systemarbeit interessiert sind.

Beispielprojekte, an denen Sie als Teil unseres Model Performance-Teams arbeiten werden:

• Baseten Embeddings Inference: Die schnellste Embedding-Lösung
• Der Baseten Inference Stack: Optimierung der Modellleistung

Verantwortlichkeiten

• Entwurf und Implementierung von Hochleistungs-GPU-Kernen für wichtige ML-Operationen, einschließlich Matrixmultiplikationen, Aufmerksamkeitsmechanismen und Mixture-of-Experts-Routing
• Schreiben und Optimieren von Code mit CUDA, PTX-Assembly und architekturspezifischen Techniken
• Anwendung fortschrittlicher Leistungsoptimierungsmethoden wie Speicherkohäsion, Warp-Level-Programmierung, Tensor-Core-Beschleunigung und Compute/Memory-Überlappung
• Implementierung modernster Funktionen wie Quantisierung (FP8/FP4), Sparsamkeit und Compute/Kommunikationsüberlappung
• Identifizierung und Behebung von Leistungsengpässen mit Tools wie Nsight Systems, Nsight Compute und Torch Profiler
• Zusammenarbeit mit Forschungsteams zur Produktionsreife theoretischer Fortschritte
• Beitrag zu internen und Open-Source-GPU-Bibliotheken
• Präsentation technischer Beiträge auf Branchenkonferenzen (z.B. NVIDIA GTC, AWS re:Invent)

Voraussetzungen

• 1–5 Jahre Erfahrung in der CUDA-Entwicklung
• Starkes Verständnis der GPU-Architektur und Programmierparadigmen
• Versiert in C++ und GPU-Leistungsprofiling-Tools

Wünschenswert

• Erfahrung mit Transformer-Modellen und Aufmerksamkeitsoptimierung (z.B. Flash Attention)
• Vertrautheit mit GPU-Kernbibliotheken: Cutlass, Triton, Thrust, CUB
• Hintergrund in GEMM-Tuning und verteiltem/multi-GPU-Computing
• Beiträge zu Open-Source-GPU-Projekten
• Forschungsveröffentlichungen oder Konferenzpräsentationen zur GPU-Leistung

Vorteile

• Wettbewerbsfähiges Vergütungspaket (flexible PTO, 401k, gedeckte Gesundheitsprämien).
• Eine einzigartige Gelegenheit, Teil eines schnell wachsenden Startups in einem der aufregendsten Ingenieurbereiche unserer Zeit zu sein.
• Eine inklusive und unterstützende Unternehmenskultur, die Lernen und Wachstum fördert.
• Exposition gegenüber einer Vielzahl von ML-Startups, die unvergleichliche Lern- und Networking-Möglichkeiten bieten.
• Vergütung: 185.000 – 250.000 USD • Angebote von Eigenkapital
• Wettbewerbsfähige Vergütung. Wir streben an, Gehälter und Eigenkapitalbeteiligungen im 90. Perzentil (oder besser) für jedes Teammitglied entsprechend ihrer Erfahrung bereitzustellen.

Bewerben Sie sich jetzt, um eine lohnende Reise zur Gestaltung der Zukunft der KI zu beginnen! Wenn Sie eine motivierte Person mit einer Leidenschaft für maschinelles Lernen und dem Wunsch sind, Teil eines kollaborativen und zukunftsorientierten Teams zu sein, würden wir uns freuen, von Ihnen zu hören.

Bei Baseten setzen wir uns dafür ein, einen vielfältigen und integrativen Arbeitsplatz zu fördern. Wir bieten allen Mitarbeitern und Bewerbern gleiche Beschäftigungsmöglichkeiten, ohne Rücksicht auf Rasse, Hautfarbe, Religion, Geschlecht, sexuelle Orientierung, Geschlechtsidentität oder -ausdruck, nationale Herkunft, Alter, genetische Informationen, Behinderung oder Veteranenstatus.