Lead Member of Technical Staff, Inference Infrastructure

Wer sind wir? Unsere Mission ist es, Intelligenz zu skalieren, um der Menschheit zu dienen. Wir trainieren und setzen fortschrittliche Modelle für Entwickler und Unternehmen ein, die KI-Systeme zur Schaffung magischer Erlebnisse wie Inhaltsgenerierung, semantische Suche, RAG und Agenten aufbauen. Wir glauben, dass unsere Arbeit entscheidend für die weitreichende Akzeptanz von KI ist. Wir sind besessen von dem, was wir bauen. Jeder von uns ist dafür verantwortlich, die Fähigkeiten unserer Modelle und den Wert, den sie für unsere Kunden schaffen, zu steigern. Wir arbeiten hart und schnell, um das Beste für unsere Kunden zu tun. Cohere ist ein Team von Forschern, Ingenieuren, Designern und mehr, die leidenschaftlich für ihr Handwerk sind. Jede Person gehört zu den Besten der Welt in dem, was sie tut. Wir glauben, dass eine vielfältige Perspektive eine Voraussetzung für den Bau großartiger Produkte ist. Schließen Sie sich uns an und gestalten Sie die Zukunft!

Warum diese Rolle? Sind Sie begeistert davon, das Design von leistungsstarken, skalierbaren und zuverlässigen maschinellen Lernsystemen zu leiten? Möchten Sie die technische Richtung festlegen und die nächste Generation von KI-Plattformen gestalten, die fortschrittliche NLP-Anwendungen antreiben? Wir suchen einen Lead Member of Technical Staff, der dem Model Serving-Team bei Cohere beitritt. Das Team ist verantwortlich für die Entwicklung, Bereitstellung und den Betrieb der KI-Plattform, die Cohere’s große Sprachmodelle über benutzerfreundliche API-Endpunkte bereitstellt.

In dieser Rolle werden Sie technische Führung über mehrere Teams hinweg bieten, die Architektur und Strategie für die Bereitstellung optimierter NLP-Modelle in Produktionsumgebungen mit niedriger Latenz, hoher Durchsatzrate und hoher Verfügbarkeit vorantreiben. Sie werden als wichtiger Ansprechpartner für Kunden fungieren, das Design maßgeschneiderter Bereitstellungen leiten, um deren spezifische Bedürfnisse zu erfüllen, und Ingenieure betreuen, um das technische Niveau im Team zu erhöhen.

Sie könnten gut passen, wenn Sie:

• 8+ Jahre Erfahrung in der Ingenieurwissenschaft haben, die Produktion von Infrastruktur in großem Maßstab betreiben, mit einer Erfolgsbilanz in der technischen Führung
• Nachgewiesene Erfahrung in der Leitung der Architektur und des Designs großer, hochverfügbarer verteilter Systeme mit Kubernetes und GPU-Workloads auf diesen Clustern haben
• Tiefe Expertise in der Kubernetes-Entwicklung und -Produktion sowie Unterstützung, einschließlich der Festlegung teamweiter Standards und Best Practices
• Umfangreiche Erfahrung in GCP, Azure, AWS, OCI und Multi-Cloud-On-Premise-/Hybrid-Bereitstellungsumgebungen haben, mit der Fähigkeit, strategische Infrastrukturentscheidungen zu leiten
• Nachgewiesene Fähigkeit besitzen, das Design, die Bereitstellung, die Unterstützung und die Fehlersuche komplexer Linux-basierter Computerumgebungen in großem Maßstab zu leiten
• Verantwortung für das Management von Rechen-/Speicher-/Netzwerkressourcen und Kosten auf organisatorischer Ebene übernommen haben, einschließlich Optimierungsstrategien
• Außergewöhnliche Zusammenarbeit und Kommunikationsfähigkeiten besitzen, mit Erfahrung in der Betreuung von Ingenieuren und der Leitung funktionsübergreifender Initiativen zum Aufbau mission-kritischer Systeme
• Die Entschlossenheit und Anpassungsfähigkeit haben, sowohl komplexe technische Herausforderungen zu lösen als auch andere durch diese zu führen, die sich täglich entwickeln
• Starke Expertise in den rechnerischen Eigenschaften von Beschleunigern (GPUs, TPUs und/oder benutzerdefinierten Beschleunigern) haben und wissen, wie man diese nutzt, um Latenz- und Durchsatzverbesserungen in großem Maßstab zu erzielen
• Tiefes Wissen über verteilte Systeme haben, mit Erfahrung in der Etablierung von Mustern und Praktiken über Ingenieurteams hinweg
• Beherrschung von Golang, C++ oder anderen Sprachen, die für hochleistungsfähige, skalierbare Server entwickelt wurden, mit der Fähigkeit, Codierungsstandards festzulegen und technische Überprüfungen auf Senior-Level durchzuführen

Wenn einige der oben genannten Punkte nicht perfekt mit Ihrer Erfahrung übereinstimmen, ermutigen wir Sie dennoch, sich zu bewerben! Wir schätzen und feiern Vielfalt und bemühen uns, ein integratives Arbeitsumfeld für alle zu schaffen. Wir heißen Bewerber aus allen Hintergründen willkommen und setzen uns dafür ein, Chancengleichheit zu bieten. Sollten Sie während des Rekrutierungsprozesses Unterstützung benötigen, reichen Sie bitte ein Anfrageformular für Unterkünfte ein, und wir werden gemeinsam daran arbeiten, Ihre Bedürfnisse zu erfüllen.

Vollzeitmitarbeiter bei Cohere genießen folgende Vorteile:

• Eine offene und inklusive Kultur und Arbeitsumgebung
• Enger Kontakt mit einem Team an der Spitze der KI-Forschung
• Wöchentlicher Mittagszuschuss, Mittagessen und Snacks im Büro
• Umfassende Gesundheits- und Zahnleistungen, einschließlich eines separaten Budgets für Ihre psychische Gesundheit
• 100% Elternzeit-Zuschuss für bis zu 6 Monate
• Persönliche Bereicherungsleistungen für Kunst und Kultur, Fitness und Wohlbefinden, Qualitätszeit und Arbeitsplatzverbesserung
• Remote-flexible Arbeitsmöglichkeiten, Büros in Toronto, New York, San Francisco, London und Paris sowie ein Co-Working-Zuschuss
• 6 Wochen Urlaub (30 Arbeitstage)