Infrastructure / Platform Engineer

Standort: Remote (Australien oder Neuseeland)

Typ: Vollzeit, remote

Über Neuphonic

Neuphonic entwickelt die nächste Generation von Sprach-KI und macht natürliche, Echtzeit-Sprachausgabe über Geräte, Sprachen und Anwendungen hinweg zugänglich. Unsere Technologie ermöglicht ultra-niedrige Latenz bei Text-zu-Sprache, Sprachklonung und mehrsprachiger Sprachgenerierung. Wir erweitern die Grenzen dessen, was mit Sprachmodellen möglich ist, von hochleistungsfähiger Cloud-Inferenz bis hin zu KI, die direkt auf alltäglichen Geräten ohne teure GPUs oder Internetverbindung läuft.

Wir sind ein kleines, ehrgeiziges Team von Forschern und Ingenieuren, das Technologien entwickelt, die von Entwicklern und Unternehmen weltweit genutzt werden. Unsere Open-Source-Veröffentlichungen haben Millionen von Downloads erreicht, und wir wachsen schnell.

Warum wir einstellen

Mit dem Wachstum unserer Kundenbasis müssen wir unsere Produktionsinfrastruktur skalieren und gleichzeitig die Leistung, Zuverlässigkeit und niedrige Latenz aufrechterhalten, auf die unsere Produkte angewiesen sind. Wir suchen einen Infrastructure / Platform Engineer, der die Verantwortung für unsere Cloud-Infrastruktur und Inferenzsysteme übernimmt. Sie werden eng mit unseren Ingenieur- und ML-Teams zusammenarbeiten, um skalierbare, zuverlässige und kosteneffiziente Systeme zu entwickeln.

Ein wichtiger Teil dieser Rolle besteht darin, unsere Produktionsunterstützung über die Arbeitszeiten im Vereinigten Königreich hinaus auszudehnen. Wir stellen in Australien oder Neuseeland ein, um uns dabei zu helfen, 24/7 Unterstützung für unsere Produktionskunden anzubieten. Daher suchen wir jemanden, der sich wohlfühlt, die Verantwortung für Live-Systeme zu übernehmen, auf Vorfälle zu reagieren und unabhängige technische Entscheidungen zu treffen.

Wichtig ist, dass es nicht nur darum geht, unsere Systeme am Laufen zu halten. Wir möchten jemanden, der aktiv nach Möglichkeiten sucht, wie wir unsere Modelle verbessern, bereitstellen und bedienen können, indem er kontinuierlich experimentiert, optimiert und unsere Infrastruktur weiterentwickelt, während wir skalieren.

Was Sie besitzen werden

• Cloud-Infrastruktur: Aufbau, Verwaltung und Skalierung unserer Produktionsinfrastruktur über GCP und GPU-Cloud-Anbieter unter Verwendung von Kubernetes, Docker und Terraform.
• Optimierung der Inferenz: Kontinuierliche Verbesserung der Inferenzleistung, Latenz, Durchsatz, GPU-Auslastung und Infrastrukturkosten durch Profilierung, Experimentieren und Iteration.
• Plattformentwicklung: Identifizierung von Engpässen und Ineffizienzen in der Art und Weise, wie wir Modelle erstellen, bereitstellen und bedienen, und Verantwortung für die Umsetzung von Verbesserungen übernehmen.
• Produktionszuverlässigkeit: Überwachung kritischer Systeme, Reaktion auf Vorfälle und Sicherstellung eines zuverlässigen Services für unsere Kunden außerhalb der Arbeitszeiten im Vereinigten Königreich.
• Infrastrukturarchitektur: Treffen autonomer technischer Entscheidungen, die Skalierbarkeit, Zuverlässigkeit, Leistung und Kosten in Einklang bringen.
• CI/CD und Automatisierung: Verbesserung von Bereitstellungspipelines, Infrastrukturautomatisierung, Überwachung und Beobachtbarkeit.
• Sicherheit und Unternehmensbereitschaft: Unterstützung sicherer Infrastrukturpraktiken und Anforderungen an Unternehmensbereitstellungen.

Was wir suchen

• Starke Erfahrung im Aufbau und Betrieb von Produktions-Cloud-Infrastrukturen in großem Maßstab, idealerweise zur Unterstützung von Anwendungen mit erheblichem Benutzerverkehr.
• Praktische Erfahrung mit GCP, Kubernetes, Docker, Terraform und Python.
• Erfahrung mit CI/CD, Überwachung, Beobachtbarkeit und Reaktion auf Produktionsvorfälle.
• Ein starkes Verständnis für Infrastrukturleistung, Skalierbarkeit und Kostenoptimierung.
• Erfahrung in der Teilnahme an Bereitschaftsdiensten oder der Übernahme von Verantwortung für Produktionsvorfälle.
• Eine proaktive Herangehensweise an Engineering mit Erfahrung in der Identifizierung von Engpässen, dem Experimentieren mit Verbesserungen und der Optimierung von Produktionssystemen.
• Komfortables Arbeiten autonom, Treffen architektonischer Entscheidungen und Übernahme der Verantwortung für kritische Systeme.
• Ansässig in Australien oder Neuseeland und bereit, Produktionssupport während vereinbarter Stunden zu leisten, die unsere Ingenieurteams im Vereinigten Königreich und in Indien ergänzen.

Schön zu haben

• Erfahrung mit AI/ML-Inferenz, GPU-Infrastruktur oder vLLM.
• Erfahrung im Hosting von Audio-, Sprach- oder Echtzeit-AI-Anwendungen.
• Erfahrung mit C++.
• Vertrautheit mit SOC 2, ISO 27001 oder anderen Sicherheitskonformitätsrahmen.
• Erfahrung mit privaten Cloud- oder On-Premise-Unternehmensbereitstellungen.

Mit wem Sie arbeiten werden

Sie arbeiten direkt mit unseren Ingenieur- und ML-Teams zusammen und helfen dabei, die Infrastruktur hinter Neuphonic's Produktionsmodellen und -diensten zu gestalten. Wir sind ein kleines Team, daher haben Sie echte Verantwortung und die Freiheit, bedeutende technische Entscheidungen zu treffen. Wir schätzen Menschen, die Initiative ergreifen, Probleme unabhängig lösen und gerne Systeme bauen, die in der realen Welt zuverlässig funktionieren. Sie werden eng mit unseren Teams im Vereinigten Königreich und in Indien zusammenarbeiten, mit klaren Übergaben zwischen den Zeitzonen, um sicherzustellen, dass unsere Produktionskunden rund um die Uhr unterstützt werden.

Remote Vollzeit en 10.000-120.000 USD/Jahr