Research Engineer, Production Model Post-Training

Anthropic's mission is es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu schaffen. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer und die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe engagierter Forscher, Ingenieure, Politikspezialisten und Geschäftsleiter, die zusammenarbeiten, um nützliche KI-Systeme zu entwickeln.

Die Produktionsmodelle von Anthropic durchlaufen anspruchsvolle Nachschulungsprozesse, um ihre Fähigkeiten, Ausrichtung und Sicherheit zu verbessern. Als Research Engineer in unserem Post-Training-Team werden Sie unsere Basis-Modelle durch den gesamten Nachschulungsprozess trainieren, um die Produktionsmodelle Claude bereitzustellen, mit denen die Nutzer interagieren.

Sie arbeiten an der Schnittstelle zwischen modernster Forschung und Produktionsengineering, implementieren, skalieren und verbessern Nachschulungstechniken wie Constitutional AI, RLHF und andere Ausrichtungs-Methoden. Ihre Arbeit wird sich direkt auf die Qualität, Sicherheit und Fähigkeiten unserer Produktionsmodelle auswirken.

Verantwortlichkeiten

• Implementierung und Optimierung von Nachschulungstechniken im großen Maßstab auf modernen Modellen
• Forschung zur Entwicklung und Optimierung von Nachschulungsrezepten, die die Qualität des Produktionsmodells direkt verbessern
• Entwurf, Aufbau und Betrieb robuster, effizienter Pipelines für das Feintuning und die Bewertung von Modellen
• Entwicklung von Werkzeugen zur Messung und Verbesserung der Modellleistung über verschiedene Dimensionen hinweg
• Zusammenarbeit mit Forschungsteams, um aufkommende Techniken in produktionsbereite Implementierungen zu übersetzen
• Fehlerbehebung bei komplexen Problemen in Trainingspipelines und Modellverhalten
• Hilfe bei der Etablierung von Best Practices für zuverlässige, reproduzierbare Nachschulungen von Modellen

Sie könnten gut passen, wenn Sie

• in kontrolliertem Chaos gedeihen und eher energetisiert als überwältigt sind, wenn Sie mehrere dringende Prioritäten jonglieren
• schnell auf sich ändernde Prioritäten reagieren
• bei der Fehlersuche komplexer, zeitkritischer Probleme Klarheit bewahren
• starke Software-Engineering-Fähigkeiten mit Erfahrung im Aufbau komplexer ML-Systeme haben
• mit großflächigen verteilten Systemen und Hochleistungsrechnern vertraut sind
• Erfahrung im Training, Feintuning oder der Bewertung großer Sprachmodelle haben
• Forschungserkundung mit ingenieurtechnischer Strenge und betrieblicher Zuverlässigkeit in Einklang bringen können
• geschickt beim Analysieren und Debuggen von Modelltrainingsprozessen sind
• gerne über Forschungs- und Ingenieurdiziplinen hinweg zusammenarbeiten
• mit Unklarheiten umgehen und Fortschritte in schnelllebigen Forschungsumgebungen erzielen können

Starke Kandidaten haben möglicherweise auch

• Erfahrung mit LLMs
• ein starkes Interesse an KI-Sicherheit und verantwortungsvoller Bereitstellung

Wir begrüßen Bewerber auf verschiedenen Erfahrungsstufen, bevorzugen jedoch erfahrene Ingenieure mit praktischer Erfahrung mit modernen KI-Systemen. Kenntnisse in Python, tiefen Lernframeworks und verteilter Datenverarbeitung sind für diese Rolle erforderlich.

Logistik

• Bildungsanforderungen: Wir verlangen mindestens einen Bachelor-Abschluss in einem verwandten Bereich oder gleichwertige Erfahrung.
• Standortbasierte Hybridpolitik: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25 % ihrer Zeit in einem unserer Büros verbringen. Einige Rollen erfordern jedoch möglicherweise mehr Zeit in unseren Büros.
• Visumsponsoring: Wir sponsern Visa, können jedoch nicht für jede Rolle und jeden Kandidaten erfolgreich Visa sponsern. Wenn wir Ihnen ein Angebot machen, werden wir alle angemessenen Anstrengungen unternehmen, um Ihnen ein Visum zu besorgen, und wir behalten uns einen Einwanderungsanwalt vor, um dabei zu helfen.

Wir ermutigen Sie, sich zu bewerben, auch wenn Sie nicht glauben, dass Sie jede einzelne Qualifikation erfüllen. Nicht alle starken Kandidaten erfüllen jede einzelne aufgeführte Qualifikation. Forschung zeigt, dass Menschen, die sich als unterrepräsentierte Gruppen identifizieren, eher dazu neigen, ein Imposter-Syndrom zu erleben und an der Stärke ihrer Kandidatur zu zweifeln. Daher fordern wir Sie auf, sich nicht vorzeitig auszuschließen und eine Bewerbung einzureichen, wenn Sie an dieser Arbeit interessiert sind.

Ihre Sicherheit ist uns wichtig. Um sich vor potenziellen Betrügereien zu schützen, denken Sie daran, dass Anthropic-Rekruten Sie nur von E-Mail-Adressen kontaktieren. In einigen Fällen können wir mit geprüften Personalvermittlungsagenturen zusammenarbeiten, die sich als im Auftrag von Anthropic tätig identifizieren. Seien Sie vorsichtig bei E-Mails von anderen Domains. Legitime Anthropic-Rekruten werden niemals vor Ihrem ersten Tag nach Geld, Gebühren oder Bankinformationen fragen.

Wie wir anders sind

Wir glauben, dass die wirkungsvollste KI-Forschung große Wissenschaft sein wird. Bei Anthropic arbeiten wir als ein einziges kohärentes Team an nur wenigen großangelegten Forschungsanstrengungen. Und wir schätzen den Einfluss — die Verwirklichung unserer langfristigen Ziele einer steuerbaren, vertrauenswürdigen KI — mehr als die Arbeit an kleineren und spezifischeren Rätseln. Wir betrachten KI-Forschung als empirische Wissenschaft, die ebenso viel mit Physik und Biologie gemeinsam hat wie mit traditionellen Bemühungen in der Informatik. Wir sind eine äußerst kollaborative Gruppe und veranstalten häufig Forschungsdiskussionen, um sicherzustellen, dass wir die wirkungsvollste Arbeit zu jedem Zeitpunkt verfolgen. Daher schätzen wir Kommunikationsfähigkeiten sehr.

Der einfachste Weg, unsere Forschungsrichtungen zu verstehen, besteht darin, unsere aktuellen Forschungen zu lesen. Diese Forschung setzt viele der Richtungen fort, an denen unser Team vor Anthropic gearbeitet hat, einschließlich: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety und Learning from Human Preferences.

Kommt arbeiten Sie mit uns

Anthropic ist eine gemeinnützige Gesellschaft mit Sitz in San Francisco. Wir bieten wettbewerbsfähige Vergütung und Leistungen, optionale Aktien-Spendenabgleich, großzügigen Urlaub und Elternzeit, flexible Arbeitszeiten und einen schönen Büroraum, in dem Sie mit Kollegen zusammenarbeiten können.