AI Infrastructure Engineer

Fin ist das Unternehmen für KI-Kundenagenten mit der Mission, Unternehmen dabei zu helfen, perfekte Kundenerlebnisse zu bieten. Unser KI-Agent Fin ist der leistungsstärkste KI-Kundenagent auf dem Markt und ermöglicht es Unternehmen, makellosen, jederzeit verfügbaren Kundenservice über die gesamte Customer Journey hinweg zu liefern – von Service über Vertrieb bis hin zu E-Commerce. Angetrieben von unseren eigenen KI-Modellen löst Fin komplexe Kundenanfragen end-to-end über alle Kanäle mit minimalem Aufwand und Integration.

Wir suchen nach Senior+ AI Infrastructure Engineers, um die Systeme zu entwickeln, die Fin's nächste Generation von KI-Produkten trainieren und bereitstellen. Sie werden Teil eines kleinen, hochqualifizierten Teams sein, das an der Spitze der modernen KI-Infrastruktur arbeitet. Das AI Infra-Team hat die Trainingspipelines entwickelt und führt die Inferenz für benutzerdefinierte Modelle wie Fin Apex durch, das in Kundenservicetasks besser abschneidet als Grenzmodelle und die Grundlage für den Full-Stack-Ansatz der AI-Gruppe bildet.

Was werde ich tun?

• Implementierung und Skalierung von Trainingspipelines für große Transformer- und LLM-Modelle, von der Datenaufnahme und -vorverarbeitung bis hin zu verteiltem Training und Evaluierung.
• Aufbau und Optimierung von Inferenzdiensten, die latenzarme, zuverlässige Erlebnisse für unsere Kunden bieten, einschließlich Autoskalierung, Routing und Fallbacks.
• Arbeiten an der GPU-Leistungsoptimierung: Tuning von Kernen, Verbesserung der Auslastung und Identifizierung von Engpässen in unserem Trainings- und Inferenz-Stack.
• Enge Zusammenarbeit mit ML-Wissenschaftlern zur Implementierung modernster Trainings- und Inferenzmethoden und deren Produktionsreife.
• Aktive Rolle bei der Einstellung, Mentoring und Entwicklung anderer Ingenieure im Team.
• Erhöhung der technischen Standards, Zuverlässigkeit und operativen Exzellenz auf Fin's KI-Plattform.

Profil, das wir suchen:

• Mindestens 5 Jahre Erfahrung in der Softwareentwicklung mit nachweislichem Erfolg beim Versand hochwertiger Produkte oder Plattformen.
• Abschluss in Informatik, Computertechnik oder einem verwandten Bereich (oder gleichwertige Erfahrung mit sehr starken Grundlagen).
• Praktische Erfahrung mit einem oder mehreren der folgenden Bereiche: Modelltraining (insbesondere Transformer und LLMs), Modellinferenz in großem Maßstab, Low-Level-GPU-Arbeit wie das Schreiben von CUDA- oder Triton-Kernen.
• Komfortable Arbeit in Produktionsumgebungen in bedeutendem Maßstab (Verkehr, Daten oder Organisation).
• Klare Kommunikation, Fähigkeit, komplexe technische Themen verschiedenen Zielgruppen zu erklären, und Freude an enger Zusammenarbeit mit Ingenieuren und Nicht-Ingenieuren.
• Stolz auf starke technische Grundlagen, Lernbereitschaft und Investition in die eigene Entwicklung.
• Tiefes Wissen in mindestens einer Programmiersprache (z.B. Python, Ruby, Java, Go usw.).

Zusätzliche Fähigkeiten und Eigenschaften:

• Erfahrung in KI-nativen Unternehmen, die ihre eigenen Modelle trainieren und/oder Inferenz durchführen.
• Erfahrung mit Kubernetes.
• Erfahrung mit AWS oder anderen großen Cloud-Anbietern.
• Produktionserfahrung mit Python in ML- oder Infrastrukturkontexten.
• Nachgewiesene Leidenschaft für Technologie durch persönliche Projekte, Open Source, Meetups oder Veröffentlichung von Inhalten über Ihre Arbeit und Erkenntnisse.

Vorteile:

• Wettbewerbsfähiges Gehalt, jährlicher Bonus und Aktienoptionen.
• Regelmäßige Vergütungsüberprüfungen - wir belohnen großartige Arbeit!
• Unbegrenzter Zugang zu Claude Code und erstklassigen KI-Tools; Experimentieren und Bauen wird gefördert und gefeiert.
• Großzügige bezahlte Freizeit über das gesetzliche Minimum hinaus.
• Hybrides Arbeiten.
• MacBooks sind unser Standard, aber wir bieten auch Windows für bestimmte Rollen an, wenn nötig.
• Unterhaltsame Veranstaltungen für Mitarbeiter, Freunde und Familie!

Fin hat eine hybride Arbeitsrichtlinie. Wir glauben, dass die Arbeit vor Ort uns hilft, verbunden zu bleiben, die Zusammenarbeit zu erleichtern und eine großartige Kultur zu schaffen, während wir gleichzeitig Flexibilität bieten, von zu Hause aus zu arbeiten. Wir erwarten von den Mitarbeitern, dass sie mindestens drei Tage pro Woche im Büro sind. Wir haben eine radikal offene und akzeptierende Kultur bei Fin. Wir vermeiden es, Zeit mit spaltenden Themen zu verbringen, um ein sicheres und kohäsives Arbeitsumfeld für alle zu fördern. Unsere Politik ist es, nicht im Namen des Unternehmens oder unserer Mitarbeiter zu sozialen oder politischen Themen in unseren internen oder externen Kommunikationen zu plädieren. Wir respektieren persönliche Meinungen und Ausdrucksformen zu diesen Themen auf persönlichen sozialen Plattformen in persönlicher Zeit und fordern niemanden wegen seiner Ansichten zu nicht arbeitsbezogenen Themen heraus oder konfrontieren ihn damit. Unser Ziel ist es, unglaubliche Arbeit zu leisten, um unsere Ziele zu erreichen und das Unternehmen durch unsere Kernwerte zu vereinen.

Fin schätzt Vielfalt und verpflichtet sich zu einer Politik der Chancengleichheit. Fin wird keinen Bewerber oder Mitarbeiter aufgrund von Rasse, Hautfarbe, Religion, Glauben, nationaler Herkunft, Abstammung, Geschlecht, Geschlechtsidentität, Alter, körperlicher oder geistiger Behinderung, Veteranen- oder Militärstatus, genetischen Informationen, sexueller Orientierung, Geschlechtsausdruck, Familienstand oder aus einem anderen rechtlich anerkannten geschützten Grund gemäß Bundes-, Landes- oder lokaler Gesetzgebung diskriminieren.