Principal Engineer

CoCounsel ist unser fortschrittlichstes KI-Angebot bis heute - es kombiniert generative und agentische KI-Fähigkeiten, um juristischen Fachleuten zu helfen, über das Eingeben von Befehlen hinauszugehen und mit der Delegation zu beginnen. Als Principal Software Engineer, der sich auf Cloud-Kostenoptimierung konzentriert, werden Sie der eingebettete, zentrale Experte innerhalb des (Produkt-)Engineering-Teams sein, wie Cloud- und KI-/Modellausgaben verfolgt, prognostiziert und reduziert werden, ohne die Zuverlässigkeit oder Benutzererfahrung zu beeinträchtigen. Sie werden eng mit dem Plattform-/Infrastrukturteam (das für die Bereitstellung und Architektur des LLM-Servings verantwortlich ist), AI/ML-Ingenieuren, Produkt- und FinOps-Teams zusammenarbeiten, um Kosten zu einem erstklassigen Engineering-Anliegen innerhalb des Produktteams zu machen.

Über die Rolle

• Seien Sie die Autorität für Kostenoptimierung des Teams: Dienen Sie als zentrale Ressource für Fragen zu Cloud- und KI-Inferenzkosten innerhalb des Produktengineering-Teams - identifizieren, quantifizieren und treiben Sie hochwirksame Optimierungsmöglichkeiten in den Bereichen Compute, Storage und Modellnutzung voran.
• Analysieren und optimieren Sie die Nutzung von LLM für Kosteneffizienz: Arbeiten Sie mit AI/ML- und Plattformteams zusammen, um die Modellauswahl, das Routing und die Nutzungsmuster (Batching, Caching, Eingabe-/Antwortgröße, Anbieter-Mix) für Kosteneffizienz zu optimieren, ohne die Qualität oder die SLAs für Latenz zu beeinträchtigen.
• Besitzen Sie die Werkzeuge zur Kostenverfolgung und -prognose: Erstellen und pflegen Sie Dashboards, Showback-/Chargeback-Berichte und Prognosemodelle, die dem Produktteam Sichtbarkeit über die Ausgaben pro Funktion, pro Workflow und pro Kundensegment geben.
• Beraten Sie zu Elastizität und Caching aus einer Kostenperspektive: Arbeiten Sie mit dem Plattformengineering an Auto-Scaling, Caching und Warteschlangendesigns, wobei Sie speziell die Kosten-/Leistungsabgleichungen abwägen, anstatt die zugrunde liegende Architektur zu besitzen.
• Kreuzfunktionale Einflussnahme: Leiten Sie Initiativen zur Kostenreduzierung, die über Produkt-, AI/ML- und Plattformteams hinweg wirken.
• Mentorieren Sie Senior-/Staff-Ingenieure in kostenbewussten Engineering-Praktiken und FinOps-Gewohnheiten.
• Kostenbeobachtbarkeit und Governance: Etablieren Sie SLOs, Budgetwarnungen und Anomalieerkennung im Zusammenhang mit Ausgaben; leiten Sie die Reaktion, wenn die Ausgaben unerwartet abweichen.

Über Sie

• Abschluss in Informatik/Computertechnik oder gleichwertige Erfahrung.
• Solide praktische Erfahrung mit Cloud-Infrastruktur (AWS bevorzugt) - Compute, Networking, Storage, IaC (Terraform/CloudFormation) - mit einem nachgewiesenen Fokus auf Kosten, nicht nur Architektur.
• Erfahrung in der Analyse und Optimierung der Kosten/Leistung von Produktions-LLM-Servingsystemen (Multi-Provider-Routing, Caching, Batching); Sie müssen die Serving-Plattform nicht gebaut haben, aber Sie müssen sie tief genug verstehen, um Einsparungen darin zu finden.
• Nachweisliche Erfolge bei der Durchführung von teamübergreifenden Kostenoptimierungsinitiativen mit messbarem, quantifiziertem Dollar-Effekt im großen Maßstab.
• Praktische Kenntnisse in Python (oder ähnlich) und ausreichende Vertrautheit mit FastAPI/Kubernetes/verteilten Systemen, um Produktionscode und Infrastruktur zu lesen, zu instrumentieren und darüber nachzudenken.
• FinOps-Praktiken und -Werkzeuge für Cloud- und Inferenzkosten im großen Maßstab (Prognosen, Chargeback/Showback, Budgetverwaltung) - dies ist jetzt zentral, nicht nur Website-Praktiken, die auf Ausgaben angewendet werden - Kosten-SLOs, Dashboards, Anomaliewarnungen, Incident-Response bei Kostenanstiegen.
• Starke Kommunikation zwischen Produkt-, AI/ML-, Plattform- und FinOps-Stakeholdern.

Bevorzugte Fähigkeiten

• Erfahrung mit GPU-/Beschleunigerinfrastruktur und Inferenzoptimierung (Batching, Quantisierung, individuelles Serving) - immer noch sehr relevant, da die Inferenz normalerweise der größte Kostenfaktor ist.
• Nachweisliche Erfolge beim Aufbau oder der Anpassung von FinOps-Tools im Haus.
• Vertrautheit mit Vektordatenbanken/Einbettungen/Abruf-Pipelines, insbesondere um deren Kosten-Nutzen-Abwägungen zu verstehen (nicht erforderlich, um die DR-Architektur zu besitzen).

Was ist für Sie drin?

• Hybrid-Arbeitsmodell: Wir haben ein flexibles hybrides Arbeitsumfeld (2-3 Tage pro Woche im Büro, je nach Rolle) für unsere bürobasierten Rollen übernommen und bieten gleichzeitig ein nahtloses Erlebnis, das digital und physisch verbunden ist.
• Flexibilität - Work-Life-Balance: Flex My Way ist eine Reihe unterstützender Arbeitsplatzrichtlinien, die dazu dienen, persönliche und berufliche Verantwortlichkeiten zu managen, sei es, sich um die Familie zu kümmern, der Gemeinschaft etwas zurückzugeben oder Zeit zum Entspannen und Erneuern zu finden. Dies baut auf unseren flexiblen Arbeitsregelungen auf, einschließlich der Möglichkeit, bis zu 8 Wochen pro Jahr von überall aus zu arbeiten, was den Mitarbeitern hilft, eine bessere Work-Life-Balance zu erreichen.
• Karriereentwicklung und Wachstum: Durch die Förderung einer Kultur des kontinuierlichen Lernens und der Entwicklung von Fähigkeiten bereiten wir unser Talent darauf vor, die Herausforderungen von morgen zu meistern und reale Lösungen zu liefern. Unser Grow My Way-Programm und der skills-first-Ansatz stellen sicher, dass Sie die Werkzeuge und das Wissen haben, um zu wachsen, zu führen und in einer KI-fähigen Zukunft zu gedeihen.
• Wettbewerbsfähige Vorteile in der Branche: flexible Urlaubsregelungen, zwei unternehmensweite mentale Gesundheitstage, Zugang zur Headspace-App, Altersvorsorge, Studiengebührenrückerstattung, Mitarbeiteranreizprogramme, Ressourcen für geistiges, körperliches und finanzielles Wohlbefinden.

Kultur

Weltweit anerkanntes, preisgekröntes Ansehen für Inklusion und Zugehörigkeit, Flexibilität, Work-Life-Balance und mehr. Wir leben nach unseren Werten: Über unsere Kunden besessen sein, um den Sieg konkurrieren, (Y)our Thinking herausfordern, schnell handeln / schnell lernen und gemeinsam stärker.

Soziale Auswirkungen

Wir leisten einen Beitrag in unserer Gemeinschaft mit unserem Social Impact Institute. Wir bieten Mitarbeitern jährlich zwei bezahlte Freiwilligentage und Möglichkeiten, sich an Pro-bono-Beratung Projekten sowie Umwelt-, Sozial- und Governance-Initiativen zu beteiligen.

Reale Auswirkungen

Wir sind eines der wenigen Unternehmen weltweit, das seinen Kunden hilft, Gerechtigkeit, Wahrheit und Transparenz zu verfolgen. Gemeinsam mit den Fachleuten und Institutionen, die wir bedienen, helfen wir, die Rechtsstaatlichkeit aufrechtzuerhalten, die Räder des Handels in Bewegung zu setzen, schlechte Akteure zu fangen, die Fakten zu berichten und vertrauenswürdige, unparteiische Informationen an Menschen auf der ganzen Welt bereitzustellen.