Principal Engineer

CoCounsel ist unser fortschrittlichstes KI-Angebot bis heute - es kombiniert generative und agentische KI-Fähigkeiten, um juristischen Fachleuten zu helfen, über das Eingeben von Aufforderungen hinauszugehen und mit der Delegation zu beginnen. Als Principal Software Engineer, der sich auf Cloud-Kostenoptimierung konzentriert, werden Sie der eingebettete, zentrale Experte innerhalb des (Produkt-)Ingenieurteams sein, wie Cloud- und KI-/Modellkosten verfolgt, prognostiziert und reduziert werden, ohne die Zuverlässigkeit oder Benutzererfahrung zu opfern.

In dieser Rolle als Principal Software Engineer werden Sie:

• Die Autorität für Kostenoptimierung des Teams sein: Dienen Sie als zentrale Ressource für Fragen zu Cloud- und KI-Inferenzkosten innerhalb des Produktentwicklungsteams - identifizieren, quantifizieren und treiben Sie hochwirksame Optimierungsmöglichkeiten in den Bereichen Compute, Storage und Modellnutzung voran.
• LLM-Nutzung auf Kosteneffizienz analysieren und optimieren: Arbeiten Sie mit AI/ML- und Plattformteams zusammen, um die Modellauswahl, das Routing und die Nutzungsmuster (Batching, Caching, Eingabe-/Antwortgröße, Anbieter-Mix) für Kosteneffizienz zu optimieren, ohne die Qualität oder die SLAs für Latenz zu beeinträchtigen.
• Kostenverfolgungs- und Prognosetools besitzen: Erstellen und pflegen Sie Dashboards, Showback-/Chargeback-Berichte und Prognosemodelle, die dem Produktteam Einblick in die Ausgaben pro Funktion, pro Workflow und pro Kundensegment geben.
• Beratung zu Elastizität und Caching aus einer Kostenperspektive: Arbeiten Sie mit der Plattformtechnik an Auto-Scaling, Caching und Warteschlangendesigns und wägen Sie dabei speziell die Kosten-/Leistungsabgleichungen ab, anstatt die zugrunde liegende Architektur zu besitzen.
• Cross-funktionale Einflussnahme: Leiten Sie Kostenreduktionsinitiativen, die über Produkt-, AI/ML- und Plattformteams hinweg gehen.
• Mentoring von Senior-/Staff-Ingenieuren: Fördern Sie kostenbewusste Ingenieurpraktiken und FinOps-Gewohnheiten.
• Kostenbeobachtbarkeit und Governance: Etablieren Sie ausgabenbezogene SLOs, Budgetwarnungen und Anomalieerkennung; leiten Sie die Reaktion, wenn die Ausgaben unerwartet abweichen.

Über Sie:

• Abschluss in Informatik/Computer Engineering oder gleichwertige Erfahrung.
• Solide praktische Erfahrung mit Cloud-Infrastruktur (AWS bevorzugt) - Compute, Networking, Storage, IaC (Terraform/CloudFormation) - mit einem nachgewiesenen Fokus auf Kosten, nicht nur Architektur.
• Erfahrung in der Analyse und Optimierung der Kosten/Leistung von Produktions-LLM-Servierungssystemen (Multi-Provider-Routing, Caching, Batching); Sie müssen die Servierplattform nicht gebaut haben, aber Sie müssen sie tief genug verstehen, um Einsparungen darin zu finden.
• Nachweisliche Erfolge bei der Durchführung von kostenoptimierenden Initiativen über Teams hinweg mit messbarem, quantifiziertem Dollar-Effekt im großen Maßstab.
• Praktische Kenntnisse in Python (oder ähnlich) und ausreichende Vertrautheit mit FastAPI/Kubernetes/verteilten Systemen, um Produktionscode und Infrastruktur zu lesen, zu instrumentieren und darüber nachzudenken.
• FinOps-Praktiken und -Tools für Cloud- und Inferenzkosten im großen Maßstab (Prognosen, Chargeback/Showback, Budgetverwaltung) - dies ist jetzt zentral, nicht nur ein nettes Extra.
• Beobachtungs-/Zuverlässigkeitspraktiken in Bezug auf Ausgaben - Kosten-SLOs, Dashboards, Anomaliewarnungen, Vorfallreaktion bei Kostenanstiegen.
• Starke Kommunikation über Produkt-, AI/ML-, Plattform- und FinOps-Stakeholder hinweg.

Bevorzugte Fähigkeiten & Erfahrungen:

• GPU-/Beschleunigerinfrastruktur und Inferenzoptimierung (Batching, Quantisierung, benutzerdefinierte Bereitstellung) - immer noch sehr relevant, da die Inferenz normalerweise der größte Kostenfaktor ist.
• Nachweisliche Erfolge beim Aufbau oder der Anpassung von FinOps-Tools im Haus.
• Vertrautheit mit Vektordatenbanken/Einbettungen/Abruf-Pipelines, insbesondere um deren Kostenfußabdruck zu bewerten.
• Multi-Region/Multi-Cloud-Kostenabwägungen (nicht erforderlich, um die DR-Architektur zu besitzen).

Was bieten wir Ihnen?

• Hybrides Arbeitsmodell: Wir haben ein flexibles hybrides Arbeitsumfeld (2-3 Tage pro Woche im Büro, je nach Rolle) für unsere bürobasierten Rollen übernommen und bieten gleichzeitig ein nahtloses Erlebnis, das digital und physisch verbunden ist.
• Flexibilität & Work-Life-Balance: Flex My Way ist eine Reihe unterstützender Arbeitsplatzrichtlinien, die helfen sollen, persönliche und berufliche Verantwortlichkeiten zu managen, sei es die Betreuung von Familie, das Engagement in der Gemeinschaft oder das Finden von Zeit zum Erfrischen und Zurücksetzen.
• Karriereentwicklung und Wachstum: Durch die Förderung einer Kultur des kontinuierlichen Lernens und der Fähigkeitenentwicklung bereiten wir unser Talent darauf vor, die Herausforderungen von morgen zu meistern und reale Lösungen zu liefern.
• Wettbewerbsfähige Branchenleistungen: Wir bieten umfassende Leistungspläne, einschließlich flexibler Urlaubsregelungen, zwei unternehmensweiten Mental Health Days, Zugang zur Headspace-App, Altersvorsorge, Studiengebührenrückerstattung, Mitarbeiteranreizprogramme und Ressourcen für psychisches, körperliches und finanzielles Wohlbefinden.
• Kultur: Global anerkannt, preisgekrönt für Inklusion und Zugehörigkeit, Flexibilität, Work-Life-Balance und mehr. Wir leben nach unseren Werten: Besessenheit für unsere Kunden, Wettbewerb um den Sieg, Herausforderung (Y)our Thinking, schnell handeln / schnell lernen und stärker zusammen.
• Soziale Auswirkungen: Machen Sie einen Unterschied in Ihrer Gemeinde mit unserem Social Impact Institute. Wir bieten Mitarbeitern jährlich zwei bezahlte Freiwilligentage und Möglichkeiten, sich an Pro-bono-Beratung Projekten sowie Umwelt-, Sozial- und Governance-Initiativen zu beteiligen.
• Reale Auswirkungen: Wir sind eines der wenigen Unternehmen weltweit, das seinen Kunden hilft, Gerechtigkeit, Wahrheit und Transparenz zu verfolgen.