Member of Technical Staff, Pre-Training Data Engineer

Wer sind wir? Unsere Mission ist es, Intelligenz zu skalieren, um der Menschheit zu dienen. Wir trainieren und setzen fortschrittliche Modelle für Entwickler und Unternehmen ein, die KI-Systeme entwickeln, um magische Erlebnisse wie Inhaltsgenerierung, semantische Suche, RAG und Agenten zu ermöglichen. Wir glauben, dass unsere Arbeit entscheidend für die weitreichende Akzeptanz von KI ist. Wir sind besessen von dem, was wir bauen. Jeder von uns ist verantwortlich dafür, die Fähigkeiten unserer Modelle und den Wert, den sie für unsere Kunden schaffen, zu steigern. Wir arbeiten hart und schnell, um das Beste für unsere Kunden zu tun. Cohere ist ein Team von Forschern, Ingenieuren, Designern und mehr, die leidenschaftlich für ihr Handwerk sind. Jede Person gehört zu den Besten der Welt in dem, was sie tut. Wir glauben, dass eine vielfältige Perspektive eine Voraussetzung für den Bau großartiger Produkte ist. Schließen Sie sich uns an und gestalten Sie die Zukunft!

Warum diese Rolle? Als Pre-Training Data Engineer spielen Sie eine entscheidende Rolle bei der Entwicklung der Dateninfrastruktur, die Cohere’s fortschrittliche Sprachmodelle unterstützt. Ihre Aufgaben umfassen das End-to-End-Management von Trainingsdaten, einschließlich Ingestion, Reinigung, Filterung und Optimierung sowie Datenmodellierung, um sicherzustellen, dass Datensätze strukturiert und formatiert sind für optimale Modellleistung. Sie werden mit verschiedenen Datenquellen arbeiten – wie Webdaten, Codierungsdaten, mehrsprachigen Korpora und synthetischen Daten – um deren Qualität, Vielfalt und Zuverlässigkeit sicherzustellen. In dieser Rolle entwerfen und implementieren Sie skalierbare, robuste Pipelines für die Datenverarbeitung, führen Datenablationen durch, um die Qualität zu bewerten, und experimentieren mit Datenmischungen, um die Modellleistung zu verbessern. Durch die Kombination von Forschung und Ingenieurwesen überbrücken Sie die Lücke zwischen Rohdaten und modernsten KI-Modellen und tragen direkt zur Verbesserung kritischer Trainingsmetriken wie Durchsatz und Beschleunigernutzung bei. Ihre Arbeit wird entscheidend für Cohere’s Mission sein, effiziente und zuverlässige Sprachverständnis- und Generierungsfähigkeiten bereitzustellen und Innovationen im Bereich der natürlichen Sprachverarbeitung voranzutreiben.

Wenn Sie leidenschaftlich daran interessiert sind, Daten in die Grundlage von KI-Systemen zu transformieren, bietet Ihnen diese Rolle eine einzigartige Gelegenheit, einen bedeutenden Einfluss auszuüben.

Bitte beachten Sie: Wir haben Büros in London, Paris, Toronto, Ottawa, San Francisco und New York, begrüßen jedoch auch eine remote-freundliche Arbeitsweise! Es gibt keine Einschränkungen, wo Sie für diese Rolle ansässig sein können.

Als Data Engineer im Pre-Training-Team werden Sie:

• Skalierbare Datenpipelines entwerfen und erstellen, um verschiedene Datensätze zu ingestieren, zu reinigen, zu filtern und zu optimieren, einschließlich Webdaten, Codierungsdaten, mehrsprachigen Korpora und synthetischen Daten.
• Datenablationen durchführen, um die Datenqualität zu bewerten und mit Datenmischungen zu experimentieren, um die Modellleistung zu verbessern.
• Robuste Datenmodellierungstechniken entwickeln, um sicherzustellen, dass Datensätze strukturiert und formatiert sind für optimale Trainingseffizienz.
• Innovative Methoden zur Datenkuratierung erforschen und implementieren, um Fortschritte in der natürlichen Sprachverarbeitung voranzutreiben.
• Mit funktionsübergreifenden Teams, einschließlich Forschern und Ingenieuren, zusammenarbeiten, um sicherzustellen, dass die Datenpipelines den Anforderungen modernster Sprachmodelle entsprechen.

Sie könnten gut passen, wenn Sie:

• Starke Software-Engineering-Fähigkeiten haben, mit Kenntnissen in Python und Erfahrung im Aufbau von Datenpipelines.
• Vertrautheit mit Datenverarbeitungsframeworks wie Apache Spark, Apache Beam, Pandas oder ähnlichen Tools haben.
• Erfahrung im Umgang mit großangelegten Datensätzen, einschließlich Webdaten, Codierungsdaten und mehrsprachigen Korpora, besitzen.
• Kenntnisse über Techniken zur Bewertung der Datenqualität und Experimentieren mit Datenmischungen haben.
• Eine Leidenschaft dafür haben, Forschung und Ingenieurwesen zu verbinden, um komplexe datenbezogene Herausforderungen im Training von KI-Modellen zu lösen.

Bonus: Der Kandidat könnte eine Veröffentlichung in erstklassigen Fachzeitschriften wie NeurIPS, ICML, ICLR, AIStats, MLSys, JMLR, AAAI, Nature, COLING, ACL, EMNLP haben.

Wir schätzen und feiern Vielfalt und bemühen uns, ein integratives Arbeitsumfeld für alle zu schaffen. Wir heißen Bewerber aus allen Hintergründen willkommen und setzen uns dafür ein, Chancengleichheit zu bieten. Sollten Sie während des Rekrutierungsprozesses Unterstützung benötigen, reichen Sie bitte ein Anfrageformular für Anpassungen ein, und wir werden gemeinsam daran arbeiten, Ihre Bedürfnisse zu erfüllen.

Vollzeitmitarbeiter bei Cohere genießen folgende Vorteile:

• Eine offene und inklusive Kultur und Arbeitsumgebung
• Enger Kontakt mit einem Team an der Spitze der KI-Forschung
• Wöchentlicher Mittagszuschuss, Mittagessen und Snacks im Büro
• Umfassende Gesundheits- und Zahnleistungen, einschließlich eines separaten Budgets für Ihre psychische Gesundheit
• 100% Elternzeit-Zuschuss für 6 Monate für Mitarbeiter mit Sitz in Kanada, den USA und dem Vereinigten Königreich
• Persönliche Bereicherungsleistungen für Kunst und Kultur, Fitness und Wohlbefinden, Qualitätszeit und Arbeitsplatzverbesserung
• Remote-flexibel, Büros in Toronto, New York, San Francisco und London sowie Zuschuss für Co-Working
• 6 Wochen Urlaub