Principal Engineer

CoCounsel ist unser fortschrittlichstes KI-Angebot bis heute – es kombiniert generative und agentische KI-Fähigkeiten, um juristischen Fachleuten zu helfen, über das Eingeben von Aufforderungen hinauszugehen und mit der Delegation zu beginnen. Als Principal Software Engineer, der sich auf Cloud-Kostenoptimierung konzentriert, werden Sie der eingebettete, zentrale Experte innerhalb des (Produkt-)Ingenieurteams sein, wenn es darum geht, wie Cloud- und KI-/Modellausgaben verfolgt, prognostiziert und reduziert werden, ohne die Zuverlässigkeit oder Benutzererfahrung zu beeinträchtigen. Sie werden eng mit dem Plattform-/Infrastrukturteam (das für die Bereitstellung und Architektur des LLM-Servings verantwortlich ist), AI/ML-Ingenieuren, Produkt- und FinOps-Teams zusammenarbeiten, um Kosten zu einem erstklassigen Ingenieurthema innerhalb des Produktteams zu machen.

Über die Rolle

• Seien Sie die Autorität für Kostenoptimierung des Teams: Dienen Sie als zentrale Ressource für Fragen zu Cloud- und KI-Inferenzkosten innerhalb des Produktengineering-Teams – identifizieren, quantifizieren und treiben Sie hochwirksame Optimierungsmöglichkeiten in den Bereichen Compute, Storage und Modellnutzung voran.
• Analysieren und optimieren Sie die LLM-Nutzung auf Kosteneffizienz: Arbeiten Sie mit AI/ML- und Plattformteams zusammen, um die Modellauswahl, das Routing und die Nutzungsmuster (Batching, Caching, Eingabe-/Antwortgröße, Anbieter-Mix) für Kosteneffizienz zu optimieren, ohne die Qualität oder die SLAs für Latenz zu beeinträchtigen.
• Verantworten Sie die Kostenverfolgung und Prognosetools: Erstellen und pflegen Sie Dashboards, Showback-/Chargeback-Berichte und Prognosemodelle, die dem Produktteam Einblick in die Ausgaben pro Funktion, pro Workflow und pro Kundensegment geben.
• Beraten Sie zu Elastizität und Caching aus einer Kostenperspektive: Arbeiten Sie mit der Plattformtechnik an Auto-Scaling, Caching und Warteschlangendesigns und wägen Sie dabei speziell die Kosten-/Leistungsabgleichungen ab, anstatt die zugrunde liegende Architektur zu besitzen.
• Cross-funktionale Einflussnahme: Leiten Sie Initiativen zur Kostenreduzierung, die über Produkt-, AI/ML- und Plattformteams hinweg wirken.
• Mentor für Senior-/Staff-Ingenieure: Fördern Sie kostenbewusste Ingenieurpraktiken und FinOps-Gewohnheiten.
• Kostenbeobachtbarkeit und Governance: Etablieren Sie ausgabenbezogene SLOs, Budgetwarnungen und Anomalieerkennung; leiten Sie die Reaktion, wenn die Ausgaben unerwartet abweichen.

Über Sie

Sie passen zur Position des Principal Software Engineer, wenn Ihr Hintergrund Folgendes umfasst:

• Bachelor-Abschluss in Informatik/Computer Engineering oder gleichwertige Erfahrung.
• Solide praktische Erfahrung mit Cloud-Infrastruktur (AWS bevorzugt) – Compute, Networking, Storage, IaC (Terraform/CloudFormation) – mit einem nachgewiesenen Fokus auf Kosten, nicht nur Architektur.
• Erfahrung in der Analyse und Optimierung der Kosten/Leistung von Produktions-LLM-Servingsystemen (Multi-Provider-Routing, Caching, Batching); Sie müssen die Servierplattform nicht gebaut haben, aber Sie müssen sie tief genug verstehen, um Einsparungen darin zu finden.
• Nachweisliche Erfolge bei der Durchführung von teamübergreifenden Kostenoptimierungsinitiativen mit messbarem, quantifiziertem Dollar-Effekt im großen Maßstab.
• Praktische Kenntnisse in Python (oder ähnlichem) und ausreichende Vertrautheit mit FastAPI/Kubernetes/verteilten Systemen, um Produktionscode und Infrastruktur zu lesen, zu instrumentieren und darüber nachzudenken.
• FinOps-Praktiken und -Tools für Cloud- und Inferenzkosten im großen Maßstab (Prognosen, Chargeback/Showback, Budgetverwaltung) – dies ist jetzt zentral, nicht nur ein „nice-to-have“.
• Beobachtungs-/Zuverlässigkeitspraktiken in Bezug auf Ausgaben – Kosten-SLOs, Dashboards, Anomaliewarnungen, Incident-Response bei Kostenanstiegen.
• Starke Kommunikation über Produkt-, AI/ML-, Plattform- und FinOps-Stakeholder hinweg.

Bevorzugte Fähigkeiten

• Erfahrung: GPU/Beschleunigerinfrastruktur und Inferenzoptimierung (Batching, Quantisierung, individuelles Serving) – immer noch sehr relevant, da die Inferenz normalerweise der größte Kostenfaktor ist.
• Nachweisliche Erfolge beim Aufbau oder der Anpassung von FinOps-Tools im Haus.
• Vertrautheit mit Vektordatenbanken/Einbettungen/Abruf-Pipelines, insbesondere um deren Kostenfußabdruck zu bewerten.
• Multi-Region/Multi-Cloud-Kostenabwägungen (nicht erforderlich, um die DR-Architektur zu besitzen).

Was ist für Sie drin?

• Hybrides Arbeitsmodell: Wir haben ein flexibles hybrides Arbeitsumfeld (2-3 Tage pro Woche im Büro, je nach Rolle) für unsere bürobasierten Rollen übernommen und bieten gleichzeitig ein nahtloses Erlebnis, das digital und physisch verbunden ist.
• Flexibilität und Work-Life-Balance: Flex My Way ist eine Reihe unterstützender Arbeitsplatzrichtlinien, die dazu dienen, persönliche und berufliche Verantwortlichkeiten zu managen, sei es die Betreuung von Familie, das Engagement in der Gemeinschaft oder die Suche nach Zeit zum Erfrischen und Zurücksetzen. Dies baut auf unseren flexiblen Arbeitsregelungen auf, einschließlich der Möglichkeit, bis zu 8 Wochen pro Jahr von überall aus zu arbeiten, was die Mitarbeiter ermächtigt, eine bessere Work-Life-Balance zu erreichen.
• Karriereentwicklung und Wachstum: Durch die Förderung einer Kultur des kontinuierlichen Lernens und der Fähigkeitenentwicklung bereiten wir unser Talent darauf vor, die Herausforderungen von morgen zu meistern und reale Lösungen zu liefern. Unser Grow My Way-Programm und der skills-first-Ansatz stellen sicher, dass Sie die Werkzeuge und das Wissen haben, um zu wachsen, zu führen und in einer KI-gestützten Zukunft zu gedeihen.
• Wettbewerbsfähige Branchenleistungen: Wir bieten umfassende Leistungspläne, darunter flexible Urlaubsregelungen, zwei unternehmensweite mentale Gesundheitstage, Zugang zur Headspace-App, Altersvorsorge, Studiengebührenrückerstattung, Mitarbeiteranreizprogramme und Ressourcen für geistiges, körperliches und finanzielles Wohlbefinden.
• Kultur: Global anerkanntes, preisgekröntes Ansehen für Inklusion und Zugehörigkeit, Flexibilität, Work-Life-Balance und mehr. Wir leben nach unseren Werten: Besessenheit für unsere Kunden, Wettbewerb um den Sieg, Herausforderung (Y)our Thinking, schnell handeln / schnell lernen und gemeinsam stärker.
• Soziale Auswirkungen: Machen Sie einen Unterschied in Ihrer Gemeinde mit unserem Social Impact Institute. Wir bieten Mitarbeitern jährlich zwei bezahlte Freiwilligentage und Möglichkeiten, sich an Pro-bono-Beratung Projekten sowie Umwelt-, Sozial- und Governance-Initiativen zu beteiligen.
• Reale Auswirkungen: Wir sind eines der wenigen Unternehmen weltweit, das seinen Kunden hilft, Gerechtigkeit, Wahrheit und Transparenz zu verfolgen. Gemeinsam mit den Fachleuten und Institutionen, die wir bedienen, helfen wir, die Rechtsstaatlichkeit aufrechtzuerhalten, schlechte Akteure zu fangen, die Fakten zu berichten und vertrauenswürdige, unparteiische Informationen für Menschen auf der ganzen Welt bereitzustellen.