Staff Software Engineer - ML Observability

Das ML Observability-Team entwickelt modernste Tools zur Überwachung, Erklärung und Verbesserung von KI-Systemen in der Produktion, insbesondere solchen, die auf großen Sprachmodellen (LLMs) und generativer KI basieren. Wir bieten robuste, skalierbare Beobachtbarkeit für KI-Arbeitslasten, einschließlich Drift-Erkennung und Modellauswertung sowie Verhaltensverfolgung, die es den Kunden ermöglicht, KI mit Vertrauen einzusetzen.

Als Staff Engineer werden Sie die Entwicklung neuer Funktionen und grundlegender Fähigkeiten innerhalb des LLM Observability-Produkts von Datadog leiten. Sie werden die Produktentwicklung gestalten, Experimente vorantreiben und Ihr tiefes Verständnis sowohl von KI-Systemen als auch von Softwareengineering anwenden, um offene Probleme im schnelllebigen KI-Bereich zu lösen. Ihre Arbeit wird direkten Einfluss darauf haben, wie unsere Kunden LLM-basierte Anwendungen in der Produktion überwachen, beheben und optimieren.

Schließen Sie sich uns an, um die grundlegenden Tools zu entwickeln, die KI-Systeme in der realen Welt beobachtbar, verständlich und zuverlässig machen. Bei Datadog legen wir Wert auf unsere Bürokultur – die Beziehungen und die Zusammenarbeit, die sie aufbaut, und die Kreativität, die sie mit sich bringt. Wir arbeiten als hybrides Unternehmen, um sicherzustellen, dass unsere Datadogs eine Work-Life-Harmonie schaffen können, die am besten zu ihnen passt.

Was Sie tun werden:

• Gestaltung und Implementierung von LLM-Beobachtungsfunktionen vorantreiben.
• Ideen entwickeln, Prototypen erstellen und neue Produktfunktionen skalieren, um Einblicke zu bieten und Verbesserungen für generative KI-Systeme voranzutreiben.
• Bereichsübergreifend mit anderen Engineering-Teams, Produkt, UX und angewandter Wissenschaft zusammenarbeiten, um schnell zu iterieren und die Produkt-Markt-Passung zu finden.
• Tools zur Verfolgung, Bewertung und Fehlersuche von LLMs entwickeln und erweitern.
• Architekturentscheidungen beeinflussen und Ingenieure betreuen, um widerstandsfähige, leistungsstarke Systeme zu bauen.
• Eng an den Schmerzpunkten der Kunden bleiben und diese Erkenntnisse nutzen, um Produkt- und Engineering-Prioritäten zu steuern.
• Aktuell bleiben mit Branchentrends und Fortschritten im maschinellen Lernen und in der Beobachtbarkeit und Innovation innerhalb des Teams vorantreiben.