AI Infrastructure Engineer

Fin ist das Unternehmen für KI-Kundenagenten mit der Mission, Unternehmen dabei zu helfen, perfekte Kundenerlebnisse zu bieten. Unser KI-Agent Fin ist der leistungsstärkste KI-Kundenagent auf dem Markt und ermöglicht es Unternehmen, makellosen, jederzeit verfügbaren Kundenservice über die gesamte Customer Journey hinweg zu liefern – von Service über Vertrieb bis hin zu E-Commerce. Angetrieben von unseren eigenen KI-Modellen löst Fin komplexe Kundenanliegen end-to-end über alle Kanäle mit minimalem Aufwand und Integration. Fin kann auch mit unserem nativ integrierten Helpdesk kombiniert werden, um ein einziges System zu schaffen, das den Bedürfnissen moderner Support-Teams gerecht wird.

Wir suchen nach Senior+ AI Infrastructure Engineers, die die Systeme entwickeln, die Fin's nächste Generation von KI-Produkten trainieren und bereitstellen. Das AI Infra-Team hat die Trainingspipelines entwickelt und führt die Inferenz für benutzerdefinierte Modelle wie Fin Apex durch, das in Kundenservicetasks besser abschneidet als Grenzmodelle und die Grundlage für den Full-Stack-Ansatz der AI-Gruppe bildet.

Wir sind besonders an Ingenieuren interessiert, die:

• Eine Erfolgsbilanz in der Arbeit an Modelltraining oder Modellinferenz im großen Maßstab oder an Low-Level-GPU-Coding (z.B. CUDA, Triton) haben.

Was werde ich tun?

Als Senior AI Infrastructure Engineer, der sich auf Modelltraining und -inferenz konzentriert, werden Sie:

• Trainingspipelines für große Transformer- und LLM-Modelle implementieren und skalieren, von der Datenaufnahme und -vorverarbeitung bis hin zu verteiltem Training und Evaluierung.
• Inferenzdienste aufbauen und optimieren, die latenzarme, hochzuverlässige Erlebnisse für unsere Kunden bieten, einschließlich Autoskalierung, Routing und Fallbacks.
• An GPU-Leistungsoptimierungen arbeiten: Kerne abstimmen, Auslastung verbessern und Engpässe in unserem Trainings- und Inferenz-Stack identifizieren.
• Eng mit ML-Wissenschaftlern zusammenarbeiten, um modernste Trainings- und Inferenzmethoden zu implementieren und in die Produktion zu bringen.
• Eine aktive Rolle bei der Einstellung, Mentoring und Entwicklung anderer Ingenieure im Team spielen.
• Die technischen Standards, Zuverlässigkeit und betriebliche Exzellenz auf Fin's KI-Plattform erhöhen.

Profil, das wir suchen:

Wir suchen Senior+ AI Infrastructure Engineers. Sie passen gut zu uns, wenn:

• Sie über 5 Jahre Erfahrung in der Softwareentwicklung verfügen, mit einer starken Erfolgsbilanz beim Versand hochwertiger Produkte oder Plattformen.
• Sie einen Abschluss in Informatik, Computertechnik oder einem verwandten Bereich haben (oder über gleichwertige Erfahrungen mit sehr starken Grundlagen verfügen).
• Sie praktische Erfahrungen mit einem oder mehreren der folgenden Bereiche haben:
• Modelltraining (insbesondere Transformer und LLMs).
• Modellinferenz im großen Maßstab (insbesondere Transformer und LLMs).
• Low-Level-GPU-Arbeiten, wie das Schreiben von CUDA- oder Triton-Kernen.
• Sie sich in Produktionsumgebungen in bedeutendem Maßstab (Verkehr, Daten oder Organisation) wohlfühlen.
• Sie klar kommunizieren können, komplexe technische Themen verschiedenen Zielgruppen erklären können und enge Zusammenarbeit mit Ingenieuren und Nicht-Ingenieuren genießen.
• Sie stolz auf starke technische Grundlagen sind, gerne lernen und bereit sind, in Ihre eigene Entwicklung zu investieren.
• Sie tiefgehende Kenntnisse in mindestens einer Programmiersprache haben (zum Beispiel Python, Ruby, Java, Go usw.).

Bonusfähigkeiten & Attribute:

Keine dieser Fähigkeiten ist erforderlich, aber sie sind von Vorteil:

• Erfahrung in KI-nativen Unternehmen, die ihre eigenen Modelle trainieren und/oder Inferenz durchführen.
• Erfahrung mit Kubernetes.
• Erfahrung mit AWS oder anderen großen Cloud-Anbietern.
• Produktionserfahrung mit Python in ML- oder Infrastrukturkontexten.
• Nachgewiesene Leidenschaft für Technologie durch persönliche Projekte, Open Source, Meetups oder Veröffentlichung von Inhalten über Ihre Arbeit und Erkenntnisse.

Vorteile:

Wir sind ein gut behandeltes Team mit großartigen Vorteilen! Wenn Ihnen etwas wichtig ist, das nicht auf dieser Liste steht, sprechen Sie mit uns!

• Wettbewerbsfähiges Gehalt, jährlicher Bonus und Aktienoptionen.
• Regelmäßige Vergütungsüberprüfungen – wir belohnen großartige Arbeit!
• Unbegrenzter Zugang zu Claude Code und erstklassigen KI-Tools; Experimentieren und Bauen wird gefördert und gefeiert.
• Großzügige bezahlte Freizeit über das gesetzliche Minimum hinaus.
• Hybrides Arbeiten.
• MacBooks sind unser Standard, aber wir bieten auch Windows für bestimmte Rollen an, wenn nötig.
• Unterhaltsame Veranstaltungen für Mitarbeiter, Freunde und Familie!

Fin hat eine hybride Arbeitsrichtlinie. Wir glauben, dass die Arbeit vor Ort uns hilft, verbunden zu bleiben, die Zusammenarbeit zu erleichtern und eine großartige Kultur zu schaffen, während wir gleichzeitig Flexibilität bieten, von zu Hause aus zu arbeiten. Wir erwarten von den Mitarbeitern, dass sie mindestens drei Tage pro Woche im Büro sind. Wir haben eine radikal offene und akzeptierende Kultur bei Fin. Wir vermeiden es, Zeit mit spaltenden Themen zu verbringen, um ein sicheres und kohäsives Arbeitsumfeld für alle zu fördern. Unsere Politik ist es, nicht im Namen des Unternehmens oder unserer Mitarbeiter zu sozialen oder politischen Themen in unseren internen oder externen Kommunikationen zu plädieren. Wir respektieren persönliche Meinungen und Ausdrucksformen zu diesen Themen auf persönlichen sozialen Plattformen in persönlicher Zeit und fordern niemanden wegen seiner Ansichten zu nicht arbeitsbezogenen Themen heraus. Unser Ziel ist es, unglaubliche Arbeit zu leisten, um unsere Ziele zu erreichen und das Unternehmen durch unsere Kernwerte zu vereinen. Fin schätzt Vielfalt und verpflichtet sich zu einer Politik der Chancengleichheit. Fin wird keinen Bewerber oder Mitarbeiter aufgrund von Rasse, Hautfarbe, Religion, Glauben, nationaler Herkunft, Abstammung, Geschlecht, Geschlecht, Alter, körperlicher oder geistiger Behinderung, Veteranen- oder Militärstatus, genetischen Informationen, sexueller Orientierung, Geschlechtsidentität, Geschlechtsausdruck, Familienstand oder einer anderen rechtlich anerkannten geschützten Grundlage gemäß Bundes-, Landes- oder Kommunalrecht diskriminieren.