AI Infrastructure Engineer

Fin ist das Unternehmen für KI-Kundenagenten mit der Mission, Unternehmen dabei zu helfen, perfekte Kundenerlebnisse zu bieten. Unser KI-Agent Fin ist der leistungsstärkste KI-Kundenagent auf dem Markt und ermöglicht es Unternehmen, makellosen, jederzeit verfügbaren Kundenservice über die gesamte Kundenreise hinweg zu bieten – von Service über Vertrieb bis hin zu E-Commerce. Angetrieben von unseren eigenen KI-Modellen löst Fin komplexe Kundenanfragen end-to-end über alle Kanäle mit minimalem Aufwand bei Einrichtung und Integration.

Wir suchen Senior+ AI Infrastructure Engineers, um die Systeme zu entwickeln, die Fin's nächste Generation von KI-Produkten trainieren und bereitstellen. Sie werden Teil eines kleinen, hochqualifizierten Teams, das an der Spitze der modernen KI-Infrastruktur arbeitet. Das AI Infra-Team hat die Trainingspipelines entwickelt und führt die Inferenz für benutzerdefinierte Modelle wie Fin Apex durch, das in Kundenservicetasks besser abschneidet als Grenzmodelle und die Grundlage für den Full-Stack-Ansatz der AI-Gruppe bildet.

Was werde ich tun?

• Implementierung und Skalierung von Trainingspipelines für große Transformer- und LLM-Modelle, von der Datenaufnahme und -vorverarbeitung bis hin zu verteiltem Training und Evaluierung.
• Aufbau und Optimierung von Inferenzdiensten, die latenzarme, zuverlässige Erlebnisse für unsere Kunden bieten, einschließlich Autoskalierung, Routing und Fallbacks.
• Arbeiten an der GPU-Leistungsoptimierung: Tuning von Kernen, Verbesserung der Auslastung und Identifizierung von Engpässen in unserem Trainings- und Inferenz-Stack.
• Enge Zusammenarbeit mit ML-Wissenschaftlern zur Implementierung modernster Trainings- und Inferenzmethoden und deren Einführung in die Produktion.
• Aktive Rolle bei der Einstellung, Mentoring und Entwicklung anderer Ingenieure im Team.
• Erhöhung der technischen Standards, Zuverlässigkeit und operativen Exzellenz auf Fin's KI-Plattform.

Profil, das wir suchen:

• Mindestens 5 Jahre Erfahrung in der Softwareentwicklung mit nachweislichem Erfolg beim Versand hochwertiger Produkte oder Plattformen.
• Abschluss in Informatik, Computertechnik oder einem verwandten Bereich (oder gleichwertige Erfahrung mit sehr starken Grundlagen).
• Praktische Erfahrung mit einem oder mehreren der folgenden Bereiche: Modelltraining (insbesondere Transformer und LLMs), Modellinferenz in großem Maßstab, niedrigstufige GPU-Arbeit wie das Schreiben von CUDA- oder Triton-Kernen.
• Komfortable Arbeit in Produktionsumgebungen in bedeutendem Maßstab (Verkehr, Daten oder Organisation).
• Klare Kommunikation, Fähigkeit, komplexe technische Themen verschiedenen Zielgruppen zu erklären, und Freude an enger Zusammenarbeit mit Ingenieuren und Nicht-Ingenieuren.
• Stolz auf starke technische Grundlagen, Lernfreude und Bereitschaft zur Investition in die eigene Entwicklung.
• Tiefes Wissen in mindestens einer Programmiersprache (z.B. Python, Ruby, Java, Go usw.).

Bonusfähigkeiten & Attribute:

• Erfahrung in KI-nativen Unternehmen, die ihre eigenen Modelle trainieren und/oder Inferenz durchführen.
• Erfahrung mit Kubernetes.
• Erfahrung mit AWS oder anderen großen Cloud-Anbietern.
• Produktionserfahrung mit Python in ML- oder Infrastrukturkontexten.
• Nachgewiesene Leidenschaft für Technologie durch persönliche Projekte, Open Source, Meetups oder Veröffentlichung von Inhalten über Ihre Arbeit und Erkenntnisse.

Wir bieten ein wettbewerbsfähiges Gehalt, jährliche Boni und Aktienoptionen sowie regelmäßige Vergütungsüberprüfungen. Wir haben unbegrenzten Zugang zu Claude Code und erstklassigen KI-Tools; Experimentieren und Bauen wird gefördert und gefeiert. Wir bieten großzügige bezahlte Freizeit über das gesetzliche Minimum hinaus und hybride Arbeitsmöglichkeiten. MacBooks sind unser Standard, aber wir bieten auch Windows für bestimmte Rollen an, wenn nötig. Spaßige Veranstaltungen für Mitarbeiter, Freunde und Familie!

Fin hat eine hybride Arbeitsrichtlinie. Wir glauben, dass die Arbeit vor Ort uns hilft, verbunden zu bleiben, die Zusammenarbeit zu erleichtern und eine großartige Kultur zu schaffen, während wir gleichzeitig Flexibilität bieten, von zu Hause aus zu arbeiten. Wir erwarten von den Mitarbeitern, dass sie mindestens drei Tage pro Woche im Büro sind. Fin schätzt Vielfalt und verpflichtet sich zu einer Politik der Chancengleichheit. Fin diskriminiert nicht aufgrund von Rasse, Farbe, Religion, Glauben, nationaler Herkunft, Geschlecht, Alter, körperlicher oder geistiger Behinderung, Veteranenstatus, genetischen Informationen, sexueller Orientierung, Geschlechtsidentität, Geschlechtsausdruck, Familienstand oder einem anderen rechtlich anerkannten geschützten Grund.