Staff+ Software Engineer, Inference Velocity

Über Anthropic

Anthropic’s Mission ist es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu schaffen. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer und die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe von engagierten Forschern, Ingenieuren, Politikspezialisten und Geschäftsführern, die zusammenarbeiten, um nützliche KI-Systeme zu entwickeln.

Über die Rolle

Die Inference-Organisation von Anthropic bedient Claude mit der Geschwindigkeit, Zuverlässigkeit und Effizienz, die die neueste KI erfordert. Wir arbeiten mit GPUs, TPUs und Trainium, und die Komplexität unserer Entwicklungsumgebung wächst mit jeder Plattform, die wir hinzufügen. Wir suchen einen Staff Engineer, der die technische Leitung für die Inference Developer Productivity übernimmt: das Team, das jeden Ingenieur in der Organisation erheblich effektiver macht beim Erstellen, Testen und Ausliefern von Inference-Software. Dies ist eine Senior-IC-Rolle mit umfassender technischer Verantwortung. Sie werden die technische Richtung für die Toolchains, Workflows und Feedback-Schleifen des Teams festlegen und die schwierigen Entscheidungen über Architektur, Priorisierung und Abwägungen über heterogene Beschleunigerplattformen treffen. Sie werden eng mit dem Engineering Manager des Teams zusammenarbeiten, der für Einstellung und Personalentwicklung verantwortlich ist, während Sie die technische Roadmap besitzen und die Arbeit vorantreiben. Sie werden auch eng mit der zentralen Infrastrukturorganisation von Anthropic zusammenarbeiten, wo die unternehmensweite Entwicklerproduktivität angesiedelt ist, um sicherzustellen, dass die Multi-Beschleuniger-Realität von Inference gut bedient wird, ohne dass doppelte Anstrengungen erforderlich sind. Diese Rolle ist für jemanden gedacht, der zuvor der technische Anker eines Plattform- oder Infrastrukturteams war, der in Systemen und Feedback-Schleifen denkt und der echte Zufriedenheit daraus schöpft, dass ein anderer Ingenieur aufhört, gegen seine Umgebung zu kämpfen, und anfängt, auszuliefern.

Hauptverantwortlichkeiten

• Technische Richtung für die Inference Developer Productivity festlegen, Architektur und Roadmap für Toolchains, Entwicklungsumgebungen und CI/CD über GPU (CUDA), TPU und Trainium-Plattformen besitzen.
• Technischer Eigentümer des Managements von Beschleuniger-Toolchains sein: Compiler, Treiber, Bibliotheken, Frameworks, aktuell, kompatibel und gut getestet halten, damit sich Inference-Ingenieure auf das Modell-Serving konzentrieren können, anstatt die Umgebung zu durchforsten.
• Infrastruktur für eine effiziente Nutzung von Beschleunigern während der Entwicklung entwerfen und aufbauen, einschließlich Devbox-Umgebungen, Vor- und Nachvalidierungsautomatisierung und gemeinsamer Werkzeuge, die die Kosten für die Arbeit über heterogene Hardware reduzieren.
• Produktivitätsmetriken für die Inference-Organisation definieren und instrumentieren, Dashboards und Alarme erstellen, die Regressionen frühzeitig sichtbar machen (Smoke Tests rot für längere Zeit, steigende Build-Zeiten, Toolchain-Ausfälle) und diese zur Lösung treiben.
• Proaktiv Engpässe, Mühe und Reibung in den Inference-Engineering-Workflows aufspüren und dann die Systeme entwerfen und aufbauen, die diese beseitigen.
• Als technischer Ansprechpartner für die zentrale Infrastrukturorganisation von Anthropic fungieren, sich auf gemeinsame Initiativen zur Entwicklerproduktivität abstimmen, spezifische Anforderungen für Inference beitragen und die Entscheidung über Build vs. Adopt treffen.
• Ingenieure im Team durch Design-Reviews, Code-Reviews und direkte Zusammenarbeit betreuen, die technischen Standards erhöhen, ohne Personalverantwortung zu übernehmen.

Mindestens erforderliche Qualifikationen

• 8+ Jahre Erfahrung in der Softwareentwicklung, mit erheblicher Zeit als technischer Leiter oder Anker in einem Infrastruktur-, Plattform- oder Entwicklerproduktivitätsteam.
• Tiefgehender Hintergrund in Systems Engineering, Build/Test-Infrastruktur oder ML-Infrastruktur, mit der Fähigkeit, praktisch mit Toolchain-Problemen, CI/CD-Pipelines und der Optimierung von Entwickler-Workflows umzugehen.
• Erfahrung im Besitz von Toolchains oder Entwicklungsumgebungen für rechenintensive Workloads (ML-Training oder Inference, HPC, großangelegte verteilte Systeme).
• Echte Tiefe in mindestens einem Beschleuniger-Ökosystem (CUDA/GPU, TPU oder Trainium/AWS Neuron) und echtes Interesse daran, die anderen zu lernen.
• Eine Erfolgsbilanz bei der Definition und Nutzung von Engineering-Metriken zur Verbesserung: Sie haben Dashboards erstellt, SLOs für Entwickler-Workflows festgelegt oder Initiativen geleitet, die die Engineering-Geschwindigkeit messbar verbessert haben.
• Erfahrung in der Förderung technischer Abstimmungen über organisatorische Grenzen hinweg, die Bedürfnisse Ihres Teams vertreten und gleichzeitig zur gemeinsamen Infrastruktur beitragen.
• Starke schriftliche und mündliche Kommunikationsfähigkeiten sowie die Fähigkeit, die technische Richtung ohne formale Autorität zu beeinflussen.

Bevorzugte Qualifikationen

• Erfahrung mit ML-Compiler-Toolchains (XLA, Triton, NeuronX) oder dem Management von Beschleuniger-Treibern/Firmware in großem Maßstab.
• Hintergrund im Aufbau oder Betrieb gemeinsamer Entwicklungsumgebungen (Devboxes, Remote-Entwicklung, temporäre Umgebungen) für hardwareabhängige Workflows.
• Erfahrung mit CI/CD-Systemen in großem Maßstab, insbesondere für Workloads, die Beschleunigerhardware beinhalten.
• Vertrautheit mit Kubernetes-basierten Entwicklungs- und Job-Planungsumgebungen.
• Frühere Erfahrung als technischer Leiter in einem Entwicklerproduktivitäts- oder Plattformengineering-Team in einem schnell wachsenden AI/ML-Unternehmen.

Die jährliche Vergütungsspanne für diese Rolle ist unten aufgeführt. Für Vertriebsrollen umfasst die angegebene Spanne die On Target Earnings ("OTE") der Rolle, was bedeutet, dass die Spanne sowohl die Zielprovisionen/-boni als auch das Jahresgehalt für die Rolle umfasst. Jährliches Gehalt: 405.000—485.000 USD.

Logistik

• Minimale Ausbildung: Bachelor-Abschluss oder eine gleichwertige Kombination aus Ausbildung, Schulung und/oder Erfahrung.
• Erforderliches Studienfeld: Ein für die Rolle relevantes Feld, das durch Kursarbeit, Schulung oder berufliche Erfahrung nachgewiesen wird.
• Minimale Jahre an Erfahrung: Die erforderlichen Jahre an Erfahrung korrelieren mit den internen Anforderungen an die Stellenebene für die Position.
• Standortbasierte Hybridpolitik: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25% der Zeit in einem unserer Büros sind. Einige Rollen können jedoch mehr Zeit in unseren Büros erfordern.
• Visumsponsoring: Wir sponsern Visa! Wir sind jedoch nicht in der Lage, für jede Rolle und jeden Kandidaten erfolgreich Visa zu sponsern. Wenn wir Ihnen jedoch ein Angebot machen, werden wir alle angemessenen Anstrengungen unternehmen, um Ihnen ein Visum zu besorgen, und wir behalten einen Einwanderungsanwalt, um dabei zu helfen.

Wie wir uns unterscheiden

Wir glauben, dass die wirkungsvollste KI-Forschung große Wissenschaft sein wird. Bei Anthropic arbeiten wir als ein einziges kohärentes Team an nur wenigen großangelegten Forschungsanstrengungen. Und wir schätzen den Einfluss — die Verfolgung unserer langfristigen Ziele einer steuerbaren, vertrauenswürdigen KI — anstatt an kleineren und spezifischeren Rätseln zu arbeiten. Wir betrachten KI-Forschung als empirische Wissenschaft, die ebenso viel mit Physik und Biologie zu tun hat wie mit traditionellen Bemühungen in der Informatik. Wir sind eine äußerst kollaborative Gruppe und veranstalten häufig Forschungsdiskussionen, um sicherzustellen, dass wir die wirkungsvollste Arbeit zu jedem Zeitpunkt verfolgen. Daher schätzen wir Kommunikationsfähigkeiten sehr. Der einfachste Weg, unsere Forschungsrichtungen zu verstehen, besteht darin, unsere aktuellen Forschungsarbeiten zu lesen. Diese Forschung setzt viele der Richtungen fort, an denen unser Team vor Anthropic gearbeitet hat, einschließlich: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety und Learning from Human Preferences.

Kommen Sie zu uns!

Anthropic ist eine gemeinnützige Gesellschaft mit Sitz in San Francisco. Wir bieten wettbewerbsfähige Vergütung und Leistungen, optionale Aktien-Spendenübereinstimmungen, großzügigen Urlaub und Elternzeit, flexible Arbeitszeiten und einen schönen Büroraum, in dem Sie mit Kollegen zusammenarbeiten können.

Richtlinien zur Nutzung von KI durch Bewerber: Erfahren Sie mehr über unsere Richtlinien zur Nutzung von KI in unserem Bewerbungsprozess.