AI Engineer - Model Performance

Wir haben Fathom gegründet, um den unnötigen Aufwand von Meetings zu beseitigen. Unser KI-Assistent erfasst, fasst zusammen und organisiert die wichtigsten Momente Ihrer Anrufe, damit Sie und Ihr Team vollständig präsent bleiben können, ohne Kontext oder Klarheit zu opfern. Von sofort durchsuchbaren Anrufzusammenfassungen bis hin zu nahtlosen CRM-Updates und teamweiten Freigaben verwandelt Fathom Meetings von einer Quelle der Reibung in einen Ort für Ausrichtung und Momentum. Wir sind ein kleines Unternehmen, das magische Erlebnisse durch die harte Arbeit fokussierter Entwickler schafft. Wir versuchen, unsere Werte - Tiefes Interesse, Hebelwirkung suchen, Eigentum teilen, Dringlichkeit aufrechterhalten und Hartnäckigkeit zeigen - in allem, was wir tun, jeden Tag zu leben.

Rollenübersicht

Wir stellen einen Model Performance Engineer ein, der für die Geschwindigkeit, Kosten und Zuverlässigkeit unseres Modells verantwortlich ist und die Infrastruktur für das Fine-Tuning aufbaut, die das restliche KI-Team schneller macht. Dies ist keine Forschungsrolle. Sie werden reale Systeme optimieren, die Millionen von Meetings bedienen, und dabei Durchsatz- und Latenzüberlegungen über Hardware- und Softwareebenen hinweg ausbalancieren.

VERANTWORTLICHKEITEN

• Eigenverantwortung für die Inferenzleistung: Modelle beschleunigen und Kosten durch Techniken wie Quantisierung, Batching-Strategien, GPU-Auswahl und Kaltstartminderung reduzieren, während eine schnelle Produkt-Erfahrung während stark schwankendem Verkehr sichergestellt wird.
• Eigenverantwortung für Fine-Tuning-Pipelines: Wiederholbare Infrastruktur aufbauen, damit KI-Ingenieure schnell vom Datensatz zum bereitgestellten Modell wechseln können, einschließlich Destillation, Adaptern und aufgabenbezogenem Tuning.
• Benchmarking und Bewertung von Bereitstellungsoptionen: Handelsabkommen über FP8-Quantisierung, statische vs. dynamische Quantisierung, Bereitstellungsframeworks und Compiler-Optimierungen quantifizieren, um Leistungsziele zu erreichen.
• Debugging und Behebung von Produktionsinferenzproblemen: Rückverfolgen von Regressionen zu Updates des Bereitstellungsframeworks oder Datenverarbeitungswegen und Implementierung dauerhafter Lösungen.

ANFORDERUNGEN

• Hard Skills: Tiefe Erfahrung mit LLM-Bereitstellungsframeworks (z.B. vLLM, SGLang, TensorRT-LLM oder ähnlich) und Tuning, einschließlich Attention-Backends, Scheduling, CUDA-Graph-Warmup und Prefix-Caching.
• Praktische Erfahrung mit Quantisierung (Gewicht vs. Aktivierung, pro-Kanal vs. pro-Tensor-Skalierung, Überlegungen zur dynamischen Quantisierung).
• Erfahrung im Produktions-Fine-Tuning (LoRA/QLoRA SFT, Vertrautheit mit Trainingsframeworks, Datenformatierung, Lernratenpläne und Diagnose von Trainingsfehlern).
• Starke Python-Kenntnisse zum Schreiben von Bereitstellungsinfrastruktur, Benchmarking-Hilfen und Trainingspipelines.
• Komfort mit GPU-Profilierung und Leistungsanalyse; Fähigkeit, Engpässe in der Berechnung, im Speicherbandbreite oder im Scheduling-Overhead zu identifizieren.
• Starkes Signal: Kostenmodellierung für GPU-Infrastruktur und Fähigkeit, Handelsabkommen zwischen GPU-Typen zu rechtfertigen.
• Erfahrung mit multimodalen Modellen und serverlosen GPU-Plattformen.
• Verständnis der Audiobearbeitung (Codecs, Chunking, Abtastraten).
• Erfahrung im Aufbau interner Werkzeuge, die die Teamgeschwindigkeit verbessern.

Nicht erforderlich:

• ML-Forschungshintergrund oder Veröffentlichungen.
• Expertise im Prompt Engineering.
• Frontend- oder Full-Stack-Erfahrung.
• Master/PhD (obwohl es in Ordnung ist, wenn Sie einen haben).

WAS IST FÜR SIE DRIN?

• Die Möglichkeit, die grundlegenden Softwaredienste eines wachsenden Unternehmens zu gestalten.
• Eine Rolle, die Innovation und schrittweise Verbesserung ausbalanciert.
• Ein dynamisches und kollaboratives Ingenieurteam.
• Wettbewerbsfähige Vergütung und Leistungen.
• Ein unterstützendes Umfeld, das Innovation und persönliches Wachstum fördert.

WARUM SIE UNS BEITRETEN SOLLTEN

• Gelegenheit zur Einflussnahme. Wir sind auf den Versand fokussiert und immer noch früh genug, damit Ihre Arbeit echte Auswirkungen hat.
• Startup-Erfahrung. Arbeiten Sie eng mit unserem CEO, einem 2x Gründer/CEO mit einem Hintergrund in Informatik und Produktdesign, zusammen.
• Remote-first. Wir planen Meetings sparsam und verlassen uns auf asynchrone Kommunikation (Slack, Notion, Loom).

ÜBER DAS INTERVIEW

Sie werden das gesamte Team treffen. Treffen Sie alle, mit denen Sie arbeiten werden. Keine Ausreden. Fragen Sie alles, was Sie möchten; wir schätzen Transparenz im Einstellungsprozess. Schnelle Bearbeitung. Wir bewegen uns normalerweise von Anfang bis Ende in weniger als einer Woche.

WIE MAN SICH BEWIRBT

Fügen Sie eine kurze Beschreibung oder Demo der Inferenzoptimierung oder der Modellbereitstellung hinzu, die Sie durchgeführt haben. Uns interessiert die Begründung hinter Ihren Entscheidungen - warum Sie eine bestimmte Quantisierungsstrategie gewählt haben, wie Sie eine Leistungsregression diagnostiziert haben und welche Handelsabkommen Sie navigiert haben. Ein GitHub-Repo, ein Blogbeitrag oder ein paar Absätze in Ihrem Bewerbungsschreiben sind geeignet.