Senior Software Developer, LLM Infrastructure

Wealthsimple ist Kanadas führender Finanzinnovator. Das Unternehmen bietet eine vollständige Palette einfacher, ausgeklügelter Finanzprodukte in den Bereichen verwaltete Investitionen, Do-it-yourself-Handel, Kryptowährung, Steuererklärung, Ausgaben und Sparen an. Wealthsimple bedient derzeit mehr als 4 Millionen Kanadier und verwaltet über 155 Milliarden Dollar an Vermögenswerten. Das Unternehmen wurde 2014 von einem Team aus Finanzexperten und Technologieunternehmern gegründet und hat seinen Hauptsitz in Toronto, Kanada.

Die Machine Learning Infrastructure Team baut die Kerninfrastruktur, die die KI- und GenAI-Initiativen von Wealthsimple antreibt. Unsere Priorität ist der Aufbau einer skalierbaren, kosteneffizienten Infrastruktur, die eine leistungsstarke Inferenz mit Open-Source-Modellen und Anbieterlösungen ermöglicht.

Unsere Verantwortlichkeiten sind:

• Aufbau und Wartung der Infrastruktur zum Hosting und zur Bereitstellung von Open-Source-LLMs auf Cloud/GPU-Systemen.
• Implementierung intelligenter Modell-Routing-Frameworks zur Optimierung von Leistung, Kosten und Latenz.
• Entwicklung von Evaluierungs- und Benchmarking-Tools (Evals) zur Testung, Validierung und zum Vergleich der Modellleistung über Anwendungsfälle hinweg.
• Festlegung der technischen Richtung für den Betrieb skalierbarer LLM-Infrastruktur im gesamten Unternehmen.

Als Senior Software Engineer im ML Infrastructure Team werden Sie das Backend und die Infrastruktur entwerfen und implementieren, die unsere KI-Systeme antreiben. Sie arbeiten eng mit Datenwissenschaftlern, Plattformingenieuren und Engineering-Leitern zusammen, um unseren GenAI-Fußabdruck effizient und sicher zu skalieren.

In dieser Rolle haben Sie die Möglichkeit:

• Architektur für das Modell-Routing (z.B. LiteLLM-Integration) zu erstellen, um Anfragen dynamisch zwischen internen und externen Modellen zu leiten.
• Hochleistungs-GPU-Infrastruktur für die Bereitstellung von Open-Source-LLMs bereitzustellen und zu verwalten.
• Evaluierungsframeworks (Evals) zu erstellen, die es Ingenieuren und Datenwissenschaftlern ermöglichen, die Modellqualität anhand der Produktionsanforderungen zu benchmarken.
• Wichtige Initiativen zur Kostenoptimierung und Effizienz der Infrastruktur voranzutreiben, ohne die Systemgenauigkeit oder -zuverlässigkeit zu beeinträchtigen.

Wir suchen Personen, die:

• Über 6 Jahre Erfahrung in der Softwareentwicklung verfügen und produktionsbereite verteilte Systeme oder Datenplattforminfrastrukturen aufgebaut haben.
• Starke Kenntnisse in Python und Infrastruktur-Tools wie Kubernetes und Terraform haben.
• Erfahrung in der Gestaltung und dem Betrieb hochleistungsfähiger, beobachtbarer Backend-Systeme nachweisen können.
• Praktische Erfahrung oder tiefes Wissen über das moderne KI-Ökosystem (z.B. Bereitstellung von Open-Source-Modellen, vLLM, Ray, Modell-Routing oder Evaluierungsframeworks) haben.
• Eine Erfolgsbilanz bei der eigenverantwortlichen Durchführung technischer Projekte von Anfang bis Ende vorweisen können.

Unser Stack umfasst:

• Container & Infra: Kubernetes, Terraform, AWS GPU-Infrastruktur
• Sprachen & APIs: Python, FastAPI
• LLM-Tools & -Bereitstellung: LiteLLM, vLLM, Ray, Bedrock
• Daten & Streaming: Kafka, Postgres, Redshift, Snowflake

Warum Wealthsimple?

• Top-Gesundheitsleistungen und Lebensversicherung
• Langfristige Gruppensparpläne mit Arbeitgeberbeitrag über Wealthsimple for Business
• 20 Urlaubstage, 4 Wellnesstage und unbegrenzte Krankheits- und mentale Gesundheitstage pro Jahr
• 90 Tage außerhalb Kanadas arbeiten: Arbeiten Sie bis zu 90 Tage pro Jahr außerhalb Kanadas
• Mitarbeiterressourcengruppen, einschließlich Rainbow (2SLGBTQ), Women of WS und Black at WS

Wir sind ein hybrides Team mit über 1.500 Mitarbeitern in Nordamerika. Die Menschen sind einer der besten Teile der Arbeit hier: Sie werden mit unglaublich talentierten, neugierigen und engagierten Kollegen zusammenarbeiten, die sich leidenschaftlich dafür einsetzen, großartige Arbeit zu leisten.

Inklusionsaussage: Wir bauen Produkte für eine vielfältige Welt und benötigen ein diverses Team, um dies gut zu tun. Wir ermutigen alle, sich zu bewerben, unabhängig von Rasse, Religion, Hautfarbe, nationaler Herkunft, Geschlecht, sexueller Orientierung, Alter, Familienstand oder Behinderungsstatus.

Zugänglichkeitsaussage: Wir setzen uns für ein barrierefreies Einstellungserlebnis ein. Wenn Sie während des Einstellungsprozesses Unterstützung benötigen, lassen Sie es uns bitte wissen – wir arbeiten mit Ihnen zusammen, um sicherzustellen, dass Sie alles haben, was Sie benötigen. Wir begrüßen auch Feedback, wie wir Kandidaten mit Zugänglichkeitsbedürfnissen besser unterstützen können.

KI im Einstellungsprozess: Wir verwenden möglicherweise KI-Tools, um Teile unseres Einstellungsprozesses zu unterstützen, z. B. bei der Überprüfung von Bewerbungen, der Analyse von Lebensläufen oder der Bewertung von Antworten. Diese Tools unterstützen unser Team, ersetzen jedoch nicht das menschliche Urteil – alle endgültigen Einstellungsentscheidungen werden von Menschen getroffen. Wenn Sie Fragen dazu haben, wie Ihre Daten verwendet werden, wenden Sie sich bitte an uns.