Platform Engineer, Model Shaping

Das Model Shaping-Team bei Together AI arbeitet an Produkten und Forschungen zur Anpassung offener Basis-Modelle für nachgelagerte Anwendungen. Wir entwickeln Dienste, die es Entwicklern von maschinellem Lernen ermöglichen, die besten Modelle für ihre Aufgaben auszuwählen und diese Modelle mit domänenspezifischen Daten weiter zu verbessern. Darüber hinaus entwickeln wir neue Methoden für ein effizienteres Modelltraining und -bewertung, inspiriert von einem breiten Spektrum an Ideen aus dem maschinellen Lernen, der Verarbeitung natürlicher Sprache und ML-Systemen.

Als Platform Engineer im Model Shaping werden Sie an den grundlegenden Schichten der Plattform von Together für die Modellanpassung und -bewertung arbeiten. Sie entwerfen die Infrastruktur und Backend-Dienste, die es uns ermöglichen, die Systeme, die die Produktionsworkflows unserer Nutzer antreiben, nachhaltig und zuverlässig zu skalieren, sowie interne Forschungsprojekte. Sie arbeiten in einer funktionsübergreifenden Umgebung und kollaborieren mit anderen Ingenieuren und Forschern im Team, um die Infrastruktur basierend auf den Bedürfnissen der Projekte, an denen sie arbeiten, zu verbessern. Außerdem interagieren Sie mit anderen Ingenieurteams bei Together (wie Commerce, Data Engineering und Cloud Infrastructure), um die von Model Shaping entwickelten Dienste mit den von diesen Teams entwickelten Systemen zu integrieren.

Verantwortlichkeiten

• Entwurf und Aufbau der Systeme und Infrastruktur von Together für die Modellanpassung, einschließlich benutzerorientierter Funktionen und interner Verbesserungen
• Beitrag zu Zuverlässigkeitsverbesserungen der Plattform, Teilnahme an einer Bereitschaftsrotation und Verbesserung der Prozesse für die Incident-Reaktion
• Erstellung und Verbesserung interner Werkzeuge für Bereitstellung, kontinuierliche Integration und Beobachtbarkeit
• Aufbau einer Job-Orchestrierungsplattform, die mehrere Rechenzentren umfasst und eine hoch heterogene Hardware-Landschaft unterstützt
• Partnerschaft mit Teams, die interne Dienste entwickeln, um diese Dienste gemeinsam zu entwerfen und in die von Model Shaping gebauten Systeme zu integrieren

Anforderungen

• 3+ Jahre Erfahrung im Aufbau von Infrastruktur oder Backend-Komponenten von Produktionsdiensten
• Vertrautheit mit den Grundlagen von Linux-Umgebungen und modernen Container-/Orchestrierungsstacks (z.B. Docker und Kubernetes)
• Starker Hintergrund in der Softwareentwicklung in Python oder Go
• Erfahrung mit Infrastrukturautomatisierungstools (Terraform, Ansible), Überwachungs-/Beobachtungsstacks (Prometheus, Grafana) und CI/CD-Pipelines (GitHub Actions, ArgoCD)
• Fähigkeit zur Analyse nicht trivialer Probleme komplexer Softwaresysteme und Dokumentation Ihrer Erkenntnisse
• Erfahrung in der Verwaltung von Cloud-Umgebungen (z.B. AWS/GCP/Azure), vorzugsweise mit einer hybriden Bare-Metal/Cloud-Umgebung
• Starke Kommunikationsfähigkeiten, bereit, Systeme und Prozesse zu dokumentieren und mit Kollegen unterschiedlicher technischer Expertise zusammenzuarbeiten

Herausragende Erfahrungen

• Entwicklung von großangelegten Produktionssystemen mit hohen Zuverlässigkeitsanforderungen
• Pipelines-Orchestrierungsframeworks (z.B. Kubeflow, Argo Workflows, Flyte)
• Verwaltung von GPU-Workloads auf HPC-Clustern, idealerweise mit praktischer Erfahrung im Betrieb von NVIDIA-Netzwerk-Stacks (z.B. NCCL, Mellanox-Firmware, GPUDirect RDMA)
• Bereitstellung von Diensten für KI-Training oder Inferenz
• Pflege oder Beitrag zu Open-Source-Projekten

Together AI ist ein forschungsgetriebenes Unternehmen für künstliche Intelligenz. Wir glauben, dass offene und transparente KI-Systeme Innovationen vorantreiben und die besten Ergebnisse für die Gesellschaft schaffen werden. Gemeinsam sind wir auf einer Mission, die Kosten moderner KI-Systeme erheblich zu senken, indem wir Software, Hardware, Algorithmen und Modelle gemeinsam entwerfen. Wir haben zu führenden Open-Source-Forschungen, Modellen und Datensätzen beigetragen, um die Grenzen der KI voranzutreiben, und unser Team war hinter technologischen Fortschritten wie FlashAttention, RedPajama, SWARM Parallelism und SpecExec. Wir laden Sie ein, einer leidenschaftlichen Gruppe von Forschern auf unserer Reise beizutreten, die nächste Generation der KI-Infrastruktur aufzubauen.

Vergütung

Wir bieten wettbewerbsfähige Vergütung, Startup-Equity, Krankenversicherung und andere Vorteile sowie Flexibilität in Bezug auf Remote-Arbeit. Die US-Grundgehaltsspanne für diese Vollzeitstelle liegt zwischen 200.000 und 290.000 US-Dollar. Unsere Gehaltsspannen werden durch Standort, Niveau und Rolle bestimmt. Die individuelle Vergütung wird durch Erfahrung, Fähigkeiten und berufsbezogenes Wissen festgelegt.

Gleichberechtigung

Together AI ist ein Arbeitgeber, der Chancengleichheit bietet, und ist stolz darauf, allen unabhängig von Rasse, Hautfarbe, Abstammung, Religion, Geschlecht, nationaler Herkunft, sexueller Orientierung, Alter, Staatsbürgerschaft, Familienstand, Behinderung, Geschlechtsidentität, Veteranenstatus und mehr gleiche Beschäftigungsmöglichkeiten zu bieten.