Principal Engineer

CoCounsel ist unser fortschrittlichstes KI-Angebot bis heute – es kombiniert generative und agentische KI-Fähigkeiten, um juristischen Fachleuten zu helfen, über das Eingeben von Befehlen hinauszugehen und mit der Delegation zu beginnen. Als Principal Software Engineer, der sich auf Cloud-Kostenoptimierung konzentriert, werden Sie der eingebettete, zentrale Experte innerhalb des (Produkt-)Engineering-Teams sein, wenn es darum geht, wie Ausgaben für Cloud und KI/Modelle verfolgt, prognostiziert und reduziert werden, ohne die Zuverlässigkeit oder Benutzererfahrung zu beeinträchtigen.

Sie werden eng mit dem Plattform-/Infrastrukturteam (das für die Bereitstellung und Architektur des LLM-Servings verantwortlich ist), AI/ML-Ingenieuren, Produktmanagern und FinOps zusammenarbeiten, um Kosten zu einem erstklassigen Engineering-Anliegen innerhalb des Produktteams zu machen.

Über die Rolle

• Seien Sie die Autorität für Kostenoptimierung des Teams: Dienen Sie als zentrale Ressource für Fragen zu Cloud- und KI-Inferenzkosten innerhalb des Produktengineering-Teams – identifizieren, quantifizieren und treiben Sie hochwirksame Optimierungsmöglichkeiten in den Bereichen Compute, Storage und Modellnutzung voran.
• Analysieren und optimieren Sie die Nutzung von LLM für Kosteneffizienz: Arbeiten Sie mit AI/ML- und Plattformteams zusammen, um die Modellauswahl, das Routing und die Nutzungsmuster (Batching, Caching, Eingabe-/Antwortgröße, Anbieter-Mix) für Kosteneffizienz zu optimieren, ohne die Qualität oder die SLAs für Latenz zu beeinträchtigen.
• Besitzen Sie Tools zur Kostenverfolgung und -prognose: Erstellen und pflegen Sie Dashboards, Showback-/Chargeback-Berichte und Prognosemodelle, die dem Produktteam Einblick in die Ausgaben pro Funktion, pro Workflow und pro Kundensegment geben.
• Beraten Sie zu Elastizität und Caching aus einer Kostenperspektive: Arbeiten Sie mit dem Plattformengineering an Auto-Scaling, Caching und Warteschlangendesigns und wägen Sie dabei speziell die Kosten-/Leistungsabgleichungen ab, anstatt die zugrunde liegende Architektur zu besitzen.
• Kreuzfunktionale Einflussnahme: Leiten Sie Initiativen zur Kostenreduzierung, die über Produkt-, AI/ML- und Plattformteams hinweg wirken.
• Mentorieren Sie Senior-/Staff-Ingenieure in kostenbewussten Engineering-Praktiken und FinOps-Gewohnheiten.
• Kostenbeobachtbarkeit und Governance: Etablieren Sie SLOs, Budgetwarnungen und Anomalieerkennung im Zusammenhang mit Ausgaben; leiten Sie die Reaktion, wenn die Ausgaben unerwartet abweichen.

Über Sie

Sie passen zur Position des Principal Software Engineer, wenn Ihr Hintergrund Folgendes umfasst:

• Abschluss in Informatik/Computertechnik oder gleichwertige Erfahrung.
• Solide praktische Erfahrung mit Cloud-Infrastruktur (AWS bevorzugt) – Compute, Networking, Storage, IaC (Terraform/CloudFormation) – mit einem nachgewiesenen Fokus auf Kosten, nicht nur Architektur.
• Erfahrung in der Analyse und Optimierung der Kosten/Leistung von Produktions-LLM-Servingsystemen (Multi-Provider-Routing, Caching, Batching); Sie müssen die Serving-Plattform nicht gebaut haben, aber Sie müssen sie tief genug verstehen, um Einsparungen darin zu finden.
• Nachweisliche Erfolge bei der Durchführung von kostenoptimierenden Initiativen über Teams hinweg mit messbarem, quantifiziertem Dollar-Effekt im großen Maßstab.
• Praktische Kenntnisse in Python (oder ähnlichem) und ausreichende Vertrautheit mit FastAPI/Kubernetes/verteilten Systemen, um Produktionscode und Infrastruktur zu lesen, zu instrumentieren und darüber nachzudenken.
• FinOps-Praktiken und -Tools für Cloud- und Inferenzkosten im großen Maßstab (Prognosen, Chargeback/Showback, Budgetverwaltung) – dies ist jetzt zentral, nicht nur ein „nice-to-have“.
• Beobachtungs-/Zuverlässigkeitspraktiken in Bezug auf Ausgaben – Kosten-SLOs, Dashboards, Anomaliewarnungen, Incident-Response bei Kostenanstiegen.
• Starke Kommunikation über Produkt-, AI/ML-, Plattform- und FinOps-Stakeholder hinweg.

Bevorzugte Fähigkeiten & Erfahrungen

• GPU-/Beschleunigerinfrastruktur und Inferenzoptimierung (Batching, Quantisierung, individuelles Serving) – immer noch sehr relevant, da die Inferenz normalerweise der größte Kostenfaktor ist.
• Nachweisliche Erfolge beim Aufbau oder der Anpassung von FinOps-Tools im eigenen Haus.
• Vertrautheit mit Vektordatenbanken/Embeddings/Abruf-Pipelines, insbesondere um deren Kostenfußabdruck zu bewerten.
• Multi-Region/Multi-Cloud-Kostenabwägungen (nicht erforderlich, um die DR-Architektur zu besitzen).

Was ist für Sie drin?

• Hybrid-Arbeitsmodell: Wir haben ein flexibles hybrides Arbeitsumfeld (2-3 Tage pro Woche im Büro, je nach Rolle) für unsere bürobasierten Rollen übernommen und bieten gleichzeitig ein nahtloses Erlebnis, das digital und physisch verbunden ist.
• Flexibilität & Work-Life-Balance: Flex My Way ist eine Reihe unterstützender Arbeitsplatzrichtlinien, die dazu dienen, persönliche und berufliche Verantwortlichkeiten zu managen, sei es, sich um die Familie zu kümmern, der Gemeinschaft etwas zurückzugeben oder Zeit zum Entspannen und Erneuern zu finden.
• Karriereentwicklung und Wachstum: Durch die Förderung einer Kultur des kontinuierlichen Lernens und der Fähigkeitenentwicklung bereiten wir unser Talent darauf vor, die Herausforderungen von morgen zu meistern und reale Lösungen zu liefern.
• Wettbewerbsfähige Branchenleistungen: Wir bieten umfassende Leistungspläne, einschließlich flexibler Urlaubsregelungen, zwei unternehmensweiten Mental Health Days, Zugang zur Headspace-App, Altersvorsorge, Studiengebührenrückerstattung, Mitarbeiteranreizprogramme und Ressourcen für psychisches, körperliches und finanzielles Wohlbefinden.
• Kultur: Weltweit anerkanntes, preisgekröntes Ansehen für Inklusion und Zugehörigkeit, Flexibilität, Work-Life-Balance und mehr.
• Soziale Auswirkungen: Machen Sie einen Unterschied in Ihrer Gemeinde mit unserem Social Impact Institute. Wir bieten Mitarbeitern jährlich zwei bezahlte Freiwilligentage und Möglichkeiten, sich an Pro-bono-Beratungprojekten und Umwelt-, Sozial- und Governance-Initiativen (ESG) zu beteiligen.
• Reale Auswirkungen: Wir sind eines der wenigen Unternehmen weltweit, das seinen Kunden hilft, Gerechtigkeit, Wahrheit und Transparenz zu verfolgen.