Research Engineer, Production Model Post-Training in Zürich

Anthropic’s mission ist es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu schaffen. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer und die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe engagierter Forscher, Ingenieure, Politikspezialisten und Geschäftsleiter, die zusammenarbeiten, um nützliche KI-Systeme zu entwickeln.

Anthropic's Produktionsmodelle durchlaufen anspruchsvolle Nachschulungsprozesse, um ihre Fähigkeiten, Ausrichtung und Sicherheit zu verbessern. Als Research Engineer in unserem Post-Training-Team werden Sie unsere Basis-Modelle durch den gesamten Nachschulungsprozess trainieren, um die Produktionsmodelle Claude bereitzustellen, mit denen die Nutzer interagieren. Sie arbeiten an der Schnittstelle zwischen modernster Forschung und Produktionstechnik, implementieren, skalieren und verbessern Nachschulungstechniken wie Constitutional AI, RLHF und andere Ausrichtungs-Methoden. Ihre Arbeit wird sich direkt auf die Qualität, Sicherheit und Fähigkeiten unserer Produktionsmodelle auswirken.

Hinweis: Für diese Rolle führen wir alle Interviews in Python durch. Diese Rolle kann erfordern, dass Sie auf Vorfälle kurzfristig reagieren, auch an Wochenenden.

Verantwortlichkeiten

• Implementierung und Optimierung von Nachschulungstechniken im großen Maßstab bei Grenzmodellen
• Forschung zur Entwicklung und Optimierung von Nachschulungsrezepten, die die Qualität des Produktionsmodells direkt verbessern
• Entwurf, Aufbau und Betrieb robuster, effizienter Pipelines für Modellanpassung und -bewertung
• Entwicklung von Werkzeugen zur Messung und Verbesserung der Modellleistung über verschiedene Dimensionen hinweg
• Zusammenarbeit mit Forschungsteams, um aufkommende Techniken in produktionsbereite Implementierungen zu übersetzen
• Fehlerbehebung komplexer Probleme in Trainingspipelines und Modellverhalten
• Hilfe bei der Etablierung von Best Practices für zuverlässige, reproduzierbare Nachschulungen von Modellen

Sie könnten gut passen, wenn Sie

• in kontrolliertem Chaos gedeihen und eher energetisiert als überwältigt sind, wenn Sie mehrere dringende Prioritäten jonglieren
• schnell auf sich ändernde Prioritäten anpassen
• klar bleiben, wenn Sie komplexe, zeitkritische Probleme debuggen
• starke Software-Engineering-Fähigkeiten mit Erfahrung im Aufbau komplexer ML-Systeme haben
• mit groß angelegten verteilten Systemen und Hochleistungsrechnern vertraut sind
• Erfahrung mit dem Training, der Feinabstimmung oder der Bewertung großer Sprachmodelle haben
• Forschungserkundung mit Ingenieurdisziplin und betrieblicher Zuverlässigkeit in Einklang bringen können
• geschickt im Analysieren und Debuggen von Modelltrainingsprozessen sind
• gerne über Forschungs- und Ingenieurdiziplinen hinweg zusammenarbeiten
• mit Unklarheiten umgehen und Fortschritte in schnelllebigen Forschungsumgebungen erzielen können

Starke Kandidaten könnten auch

• Erfahrung mit LLMs haben
• ein großes Interesse an KI-Sicherheit und verantwortungsbewusster Bereitstellung haben

Wir begrüßen Bewerber auf verschiedenen Erfahrungsstufen, mit einer Präferenz für erfahrene Ingenieure, die praktische Erfahrungen mit Grenz-KI-Systemen haben. Kenntnisse in Python, tiefen Lernframeworks und verteilter Datenverarbeitung sind jedoch für diese Rolle erforderlich.

Logistik

• Minimale Ausbildung: Bachelor-Abschluss oder eine gleichwertige Kombination aus Ausbildung, Schulung und/oder Erfahrung
• Erforderliches Studienfeld: Ein für die Rolle relevantes Feld, das durch Kursarbeit, Schulung oder berufliche Erfahrung nachgewiesen wird
• Minimale Jahre an Erfahrung: Die erforderlichen Jahre an Erfahrung korrelieren mit den internen Anforderungen an die Stellenebene für die Position
• Standortbasierte Hybridpolitik: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25 % der Zeit in einem unserer Büros sind. Einige Rollen können jedoch mehr Zeit in unseren Büros erfordern.
• Visumsponsoring: Wir sponsern Visa! Wir sind jedoch nicht in der Lage, Visa für jede Rolle und jeden Kandidaten erfolgreich zu sponsern. Wenn wir Ihnen jedoch ein Angebot machen, werden wir alle angemessenen Anstrengungen unternehmen, um Ihnen ein Visum zu besorgen, und wir behalten einen Einwanderungsanwalt, um dabei zu helfen.

Wir ermutigen Sie, sich zu bewerben, auch wenn Sie nicht glauben, dass Sie jede einzelne Qualifikation erfüllen. Nicht alle starken Kandidaten erfüllen jede einzelne aufgeführte Qualifikation. Forschung zeigt, dass Menschen, die sich als aus unterrepräsentierten Gruppen identifizieren, eher dazu neigen, Imposter-Syndrom zu erleben und an der Stärke ihrer Bewerbung zu zweifeln. Daher fordern wir Sie auf, sich nicht vorzeitig auszuschließen und eine Bewerbung einzureichen, wenn Sie an dieser Arbeit interessiert sind. Wir denken, dass KI-Systeme wie die, die wir bauen, enorme soziale und ethische Implikationen haben. Wir glauben, dass dies die Repräsentation noch wichtiger macht, und wir bemühen uns, eine Vielzahl von unterschiedlichen Perspektiven in unser Team einzubeziehen.

Wie wir anders sind

Wir glauben, dass die wirkungsvollste KI-Forschung große Wissenschaft sein wird. Bei Anthropic arbeiten wir als ein einziges kohärentes Team an nur wenigen großangelegten Forschungsanstrengungen. Und wir schätzen den Einfluss — die Verwirklichung unserer langfristigen Ziele für steuerbare, vertrauenswürdige KI — mehr als die Arbeit an kleineren und spezifischeren Rätseln. Wir betrachten KI-Forschung als empirische Wissenschaft, die ebenso viel mit Physik und Biologie gemeinsam hat wie mit traditionellen Bemühungen in der Informatik. Wir sind eine äußerst kollaborative Gruppe und veranstalten häufige Forschungsdiskussionen, um sicherzustellen, dass wir zu jedem Zeitpunkt die wirkungsvollste Arbeit verfolgen. Daher schätzen wir Kommunikationsfähigkeiten sehr.

Der einfachste Weg, unsere Forschungsrichtungen zu verstehen, besteht darin, unsere aktuellen Forschungen zu lesen. Diese Forschung setzt viele der Richtungen fort, an denen unser Team vor Anthropic gearbeitet hat, einschließlich: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety und Learning from Human Preferences.

Kommen Sie zu uns!

Anthropic ist eine gemeinnützige Gesellschaft mit Sitz in San Francisco. Wir bieten wettbewerbsfähige Vergütung und Leistungen, optionale Aktien-Spendenübereinstimmungen, großzügigen Urlaub und Elternzeit, flexible Arbeitszeiten und einen schönen Büroraum, in dem Sie mit Kollegen zusammenarbeiten können.

Leitfaden zur Nutzung von KI durch Kandidaten: Erfahren Sie mehr über unsere Richtlinien zur Nutzung von KI in unserem Bewerbungsprozess.