AI Infrastructure Engineer

Über Meshy

Meshy hat seinen Hauptsitz im Silicon Valley und ist das führende Unternehmen für 3D-generative KI mit der Mission, 3D-Kreativität zu entfesseln, indem es den Inhaltserstellungsprozess transformiert. Meshy ermöglicht es sowohl professionellen Künstlern als auch Hobbyisten, einzigartige 3D-Assets mühelos zu erstellen – Texte und Bilder in atemberaubende 3D-Modelle in nur wenigen Minuten umzuwandeln. Was früher Wochen dauerte und 1.000 Dollar kostete, dauert jetzt nur 2 Minuten und 1 Dollar.

Unser weltklasse Team von Top-Experten in Computergraphik, KI und Kunst umfasst Alumni von MIT, Stanford und Berkeley sowie Veteranen von Nvidia und Microsoft. Unser Talent spannt sich über den Globus, mit Teammitgliedern, die in Nordamerika, Asien und Ozeanien verteilt sind, und fördert eine vielfältige und innovative multiregionale Kultur, die sich auf die Lösung globaler 3D-Herausforderungen konzentriert. Meshy wird von führenden Entwicklern vertraut, von renommierten Risikokapitalgesellschaften wie Sequoia und GGV unterstützt und hat erfolgreich 52 Millionen Dollar an Finanzierung gesammelt. Meshy ist Marktführer und wird als Nr. 1 in der Beliebtheit unter 3D-KI-Tools (laut 2024 A16Z Games) und Nr. 1 im Website-Verkehr (laut SimilarWeb, mit 3 Millionen monatlichen Besuchen) anerkannt. Die Plattform hat über 5 Millionen Nutzer und hat 40 Millionen Modelle generiert.

Über die Rolle

Diese Rolle befindet sich an der Schnittstelle von Plattformengineering, Betriebszuverlässigkeit und angewandten ML-Systemen. Die Funktion ist verantwortlich für die Zuverlässigkeit, Skalierbarkeit und Betriebsfähigkeit des AI-Modell-Servierungsstacks von Meshy sowie der Kerninfrastruktur. Das Team betreibt eine konventionelle Produktionsinfrastruktur (CI/CD, Build-Systeme, Bereitstellung, Laufzeitumgebungen) und entwickelt eine Modellservierungsplattform, die die von unserem Forschungsteam entwickelten Modelle mit produktorientierten Backend-Systemen verbindet. Die Position ist systemlastig, produktionsorientiert und konzentriert sich darauf, experimentelle Modellartefakte in robuste, beobachtbare und kosteneffiziente Dienste umzuwandeln.

Aufgaben

• Verantwortlich für das Design, die Entwicklung und die Optimierung der Kernfähigkeiten der AI-Inferenzplattform, einschließlich wichtiger Module wie Inferenzdienste, Aufgabenplanung, Dienstorchestrierung, elastische Skalierung und Freigabeverwaltung.
• Teilnahme an der Entwicklung von CPU/GPU-Ressourcenmanagementsystemen zur Optimierung von Stabilität, Ressourcennutzung und Kosteneffizienz in Szenarien, in denen Online-Inferenz- und Schulungsaufgaben im selben Cluster ausgeführt werden.
• Vorantreiben des einheitlichen Managements und der Planung von GPU-Ressourcen sowie Erforschen der praktischen Implementierung von Fähigkeiten wie MIG, MPS, Zeitteilung und Virtualisierung in realen Geschäftsoperationen.
• Kontinuierliche Optimierung des Durchsatzes, der Latenz und der Verfügbarkeit der Inferenzpipeline, Verfeinerung der Ingenieursqualität in komplexen Inferenzpipelines, Multi-Modell-Zusammenarbeit und Hochkonkurrenzszenarien.
• Fokus auf R&D-Effizienz, Ressourcen- und Kostenmanagement, Online-Stabilität und Entwurf der Architektur für die Notfallwiederherstellung, um die kontinuierliche Evolution des Unternehmens in Bezug auf Leistung, Zuverlässigkeit und Wartbarkeit voranzutreiben.
• Erforschen von KI-nativer Infrastruktur und automatisierten Operationen, um die Infrastruktur intelligenter und benutzerfreundlicher zu gestalten und das schnelle Wachstum des Unternehmens während seiner Startup-Phase zu unterstützen.

Qualifikationen

• Abschluss (Bachelor oder höher); bevorzugt Studienrichtungen wie Informatik, Software Engineering, Künstliche Intelligenz, Telekommunikation oder verwandte Bereiche.
• 1 bis 3 Jahre Erfahrung in der Backend-Entwicklung, Infrastruktur, cloud-nativen Plattformen, Maschinenlernplattformen oder KI-Plattformen.
• Beherrschung von mindestens einer der Programmiersprachen Go oder Python, mit soliden Software-Engineering-Fähigkeiten und einem starken Engagement für Codequalität.
• Verständnis der grundlegenden Prinzipien in Linux, Betriebssystemen, Computernetzwerken und verteilten Systemen; Fähigkeit, komplexe Ingenieuranforderungen selbstständig zu identifizieren und zu lösen.
• Praktische Entwicklungserfahrung mit Kubernetes, Docker, Microservices oder verteilten Systemen, mit einem grundlegenden Verständnis der Stabilität von Produktionssystemen.
• Erfahrung in realen Projekten in Bereichen wie Modellinferenz, Aufgabenorchestrierung, Ressourcenplanung und Dienstestabilität – über bloßes konzeptionelles Verständnis hinaus.
• Selbstmotiviert, neugierig und ein schneller Lerner; bereit, größere Verantwortung und breitere Aufgaben in einem Startup-Umfeld zu übernehmen, während er kontinuierlich lernt und schnell neue Technologien annimmt.

Wünschenswert

• Erfahrung mit GPU-Inferenzplattformen, Kubernetes-Schedulern, Geräte-Plugins oder verwandter Plattformentwicklung.
• Vertrautheit mit Frameworks wie Ray und Ray Serve oder Erfahrung in der Entwicklung und Optimierung von Modellservierung, verteilter Inferenz und Aufgabenorchestrierungs-Frameworks.
• Vertrautheit mit Lösungen im Zusammenhang mit MIG, MPS, vGPU, partitionierten GPUs oder GPU-Ressourcennutzung und Erfahrung im Ausbalancieren von Leistung und Stabilität.
• Ingenieurserfahrung in Beobachtbarkeit, SRE, Kapazitätsplanung, Kostenverwaltung, Canary-Bereitstellungen und automatisierten Rollbacks.
• Open-Source-Projekte, technische Blogs, persönliche Projekte (Nebenprojekte) oder andere Errungenschaften, die Lernagilität und Wachstumspotenzial demonstrieren.
• Fortlaufendes Interesse und praktische Erfahrung in aufkommenden Bereichen wie KI-Infrastruktur (AI Infra), Inferenzsystemen und KI-Agenten-Toolchains.

Unsere Werte

• Verstand: Wir schätzen Intelligenz und das Streben nach Wissen. Unser Team besteht aus einigen der klügsten Köpfe der Branche.
• Herz: Wir kümmern uns tief um unsere Arbeit, unsere Nutzer und einander. Empathie und Leidenschaft treiben uns voran.
• Bauch: Wir vertrauen unseren Instinkten und scheuen uns nicht, mutige Risiken einzugehen. Innovation erfordert Mut.
• Geschmack: Wir haben ein scharfes Auge für Qualität und Ästhetik. Unsere Produkte sind nicht nur funktional, sondern auch schön.

Warum Meshy beitreten?

• Wettbewerbsfähiges Gehalt, Aktienoptionen und Leistungspaket.
• Gelegenheit, mit einem talentierten und leidenschaftlichen Team an der Spitze von KI- und 3D-Technologie zu arbeiten.
• Flexibles Arbeitsumfeld mit Optionen für Remote- und Vor-Ort-Arbeit.
• Chancen für schnelles berufliches Wachstum und Entwicklung.
• Eine inklusive Kultur, die Kreativität, Innovation und Zusammenarbeit schätzt.
• Unbegrenzte, flexible Freizeit.

Leistungen

• Aktienoptionen für Kernteammitglieder verfügbar.
• 401(k)-Plan für Mitarbeiter.
• Umfassende Gesundheits-, Zahn- und Augenversicherung.
• Die neueste und beste Büroausstattung.