Software Engineer, Inference - Multi Modal

Über das Team

Das Inference-Team von OpenAI ermöglicht den Einsatz unserer fortschrittlichsten Modelle - einschließlich unserer GPT-Modelle, 4o Bildgenerierung und Whisper - auf einer Vielzahl von Plattformen. Unsere Arbeit stellt sicher, dass diese Modelle in der Produktion verfügbar, leistungsfähig und skalierbar sind, und wir arbeiten eng mit der Forschung zusammen, um die nächste Generation von Modellen in die Welt zu bringen. Wir sind ein kleines, schnelllebiges Team von Ingenieuren, das sich darauf konzentriert, eine erstklassige Entwicklererfahrung zu bieten und die Grenzen dessen, was KI leisten kann, zu erweitern. Wir erweitern uns in die multimodale Inferenz und bauen die Infrastruktur auf, die benötigt wird, um Modelle zu bedienen, die Bilder, Audio und andere nicht-textuelle Modalitäten verarbeiten.

Über die Rolle

Wir suchen einen Software-Ingenieur, der uns hilft, die multimodalen Modelle von OpenAI in großem Maßstab bereitzustellen. Sie werden Teil eines kleinen Teams sein, das für den Aufbau einer zuverlässigen, leistungsstarken Infrastruktur zur Bereitstellung von Echtzeit-Audio-, Bild- und anderen MM-Workloads in der Produktion verantwortlich ist. Diese Arbeit ist von Natur aus funktionsübergreifend: Sie werden direkt mit Forschern zusammenarbeiten, die diese Modelle trainieren, und mit Produktteams, die neue Interaktionsmodalitäten definieren. Sie werden die Systeme entwickeln und optimieren, die es Benutzern ermöglichen, Sprache zu generieren, Bilder zu verstehen und mit Modellen auf weit über Text hinausgehende Weise zu interagieren.

In dieser Rolle werden Sie:

• Infrastruktur für die Inferenz großer multimodaler Modelle entwerfen und implementieren.
• Systeme für eine hohe Durchsatzrate und niedrige Latenz bei der Bereitstellung von Bild- und Audioeingaben und -ausgaben optimieren.
• Experimentelle Forschungsabläufe ermöglichen, um in zuverlässige Produktionsdienste überzugehen.
• Eng mit Forschern, Infrastrukturteams und Produktentwicklern zusammenarbeiten, um modernste Fähigkeiten bereitzustellen.
• Zu systemweiten Verbesserungen beitragen, einschließlich GPU-Nutzung, Tensorparallelismus und Hardware-Abstraktionsschichten.

Sie könnten in dieser Rolle erfolgreich sein, wenn Sie:

• Erfahrung im Aufbau und in der Skalierung von Inferenzsystemen für LLMs oder multimodale Modelle haben.
• Mit GPU-basierten ML-Workloads gearbeitet haben und die Leistungsdynamik großer Modelle, insbesondere mit komplexen Daten wie Bildern oder Audio, verstehen.
• Experimentelle, sich schnell entwickelnde Arbeiten genießen und eng mit der Forschung zusammenarbeiten.
• Komfortabel mit Systemen sind, die Netzwerke, verteiltes Rechnen und die Handhabung von Hochdurchsatzdaten umfassen.
• Vertraut mit Inferenzwerkzeugen wie vLLM, TensorRT-LLM oder benutzerdefinierten Modellparallelsystemen sind.
• Probleme von Anfang bis Ende übernehmen und begeistert sind, in unklaren, schnelllebigen Bereichen zu arbeiten.

Schön zu haben:

• Erfahrung in der Arbeit mit Bildgenerierungs- oder Audio-Synthesemodellen in der Produktion.
• Einblick in verteiltes ML-Training oder systemeffizientes Modellentwurf.

Über OpenAI

OpenAI ist ein Unternehmen für KI-Forschung und -Bereitstellung, das sich dafür einsetzt, dass allgemeine künstliche Intelligenz der gesamten Menschheit zugutekommt. Wir erweitern die Grenzen der Fähigkeiten von KI-Systemen und streben an, sie sicher durch unsere Produkte in die Welt zu bringen. KI ist ein äußerst leistungsfähiges Werkzeug, das mit Sicherheit und den Bedürfnissen der Menschen im Mittelpunkt geschaffen werden muss, und um unsere Mission zu erreichen, müssen wir die vielen verschiedenen Perspektiven, Stimmen und Erfahrungen, die das gesamte Spektrum der Menschheit bilden, einbeziehen und wertschätzen.

Wir sind ein Arbeitgeber, der Chancengleichheit bietet, und diskriminieren nicht aufgrund von Rasse, Religion, Farbe, nationaler Herkunft, Geschlecht, sexueller Orientierung, Alter, Veteranenstatus, Behinderung, genetischen Informationen oder anderen anwendbaren rechtlich geschützten Merkmalen. Qualifizierte Bewerber mit Vorstrafen oder Verurteilungen werden gemäß den geltenden Gesetzen, einschließlich der San Francisco Fair Chance Ordinance, der Los Angeles County Fair Chance Ordinance für Arbeitgeber und des California Fair Chance Act, für eine Anstellung in Betracht gezogen.

Wir sind bestrebt, angemessene Vorkehrungen für Bewerber mit Behinderungen zu treffen, und Anfragen können über diese erfolgen.

Vergütung: $325K – $490K • Angebote von Eigenkapital. Das angebotene Grundgehalt kann je nach mehreren individuellen Faktoren variieren, einschließlich Marktstandort, berufsbezogenem Wissen, Fähigkeiten und Erfahrung. Neben dem oben genannten Gehaltsbereich umfasst die Gesamtvergütung auch großzügige Eigenkapital- und Sozialleistungen.

• Kranken-, Zahn- und Augenversicherung für Sie und Ihre Familie
• Unterstützung für psychische Gesundheit und Wellness
• 401(k)-Plan mit 50% Matching
• Generöse Freizeit, viele Feiertage und mehrere koordinierte Unternehmensschließungen im Laufe des Jahres zur Fokussierung und Erholung.
• Bezahlte Elternzeit (24 Wochen bezahlte Elternzeit für gebärende Eltern und 20 Wochen bezahlte Elternzeit) und Unterstützung bei der Familienplanung
• Jährliches Lern- und Entwicklungsgeld ($1.500 pro Jahr)