Lead Software Engineer - Agent Safety

Hilf uns, Technologie zu nutzen, um einen großen grünen Eindruck im Universum zu hinterlassen! Das Unternehmen treibt einige der innovativsten globalen Entwicklungen im Energiebereich voran. Wir sind ein Technologieunternehmen, das sich auf die Schaffung eines intelligenten, nachhaltigen Energiesystems konzentriert. Von der Optimierung der erneuerbaren Erzeugung über die Schaffung eines intelligenteren Netzes bis hin zur Ermöglichung von hervorragenden Kundenerlebnissen transformiert unser Betriebssystem für Energie die Branche weltweit zum Nutzen aller.

Es ist eine wirklich aufregende Zeit in der Energiebranche. Hilf uns, einen echten Einfluss auf die Gestaltung einer besseren, nachhaltigeren Zukunft zu nehmen. Das Unternehmen ist das Betriebssystem für den Energiewandel. Wir helfen Energieunternehmen, Versorgungsunternehmen und Systembetreibern, ihre Betriebsweise zu transformieren, damit die Welt schneller auf eine kohlenstofffreie Zukunft zusteuern kann. Wir entwickeln Technologien, die echte, komplexe Probleme in großem Maßstab lösen - über Daten, Software und zunehmend KI. Unsere Teams arbeiten schnell, übernehmen Verantwortung und kümmern sich intensiv um den Einfluss.

KI ist ein wichtiger Investitionsbereich für das Unternehmen, während wir unsere bestehenden Fähigkeiten erweitern. Ein entscheidender Teil davon ist die Erweiterung der grundlegenden Infrastruktur, um Teams in der gesamten Organisation zu ermöglichen, KI effektiv zu nutzen, um unsere Mission zu beschleunigen.

Du wirst im Agent Safety/Evals-Team arbeiten, einem neuen Unterteam innerhalb der KI-Grundlagen. Wir bauen die gemeinsamen Plattformen, Sicherheitsvorrichtungen und Leitplanken, die es Ingenieur- und Produktteams ermöglichen, maschinelles Lernen und generative KI-Agenten sicher, zuverlässig und deterministisch für interne Systeme und Arbeitsabläufe im gesamten Unternehmen zu nutzen. Dies ist ein lieferfokussiertes Team, das an der Schnittstelle von Engineering und Lieferung sitzt und sich darauf konzentriert, unsere internen Benutzer zu befähigen.

Die Rolle

Wir stellen einen Lead Software Engineer ein, um unser neu gegründetes Agent Safety/Evals-Team zu leiten. Während KI-Agenten zunehmend autonome Aufgaben in den internen Arbeitsabläufen des Unternehmens übernehmen, ist diese Rolle entscheidend, um sicherzustellen, dass sie dies sicher und vorhersehbar tun.

Dies ist eine Führungsrolle, die sich darauf konzentriert, unsere intern ausgerichteten KI-Agenten auf einen erwarteten Betriebsraum zu beschränken und die Systemzuverlässigkeit zu gewährleisten. Du wirst die technische Strategie definieren, wie wir Modelle bewerten, Sicherheitsleitplanken durchsetzen und das Verhalten von KI auf internen Plattformen, Fähigkeiten und Sicherheitsvorrichtungen steuern.

Was du übernehmen wirst

• Leite die technische Richtung für die Sicherheit interner Agenten: Entwerfe und implementiere Systeme, die sich auf die Zuverlässigkeit, Sicherheit und Determinismus von LLMs und autonomen Agenten konzentrieren und sie strikt auf erwartete Betriebsräume innerhalb unserer internen Ökosysteme beschränken.
• Baue robuste Bewertungsrahmen: Entwickle skalierbare Sicherheitsvorrichtungen und Bewertungen, die auf interne Arbeitsabläufe und Fähigkeiten zugeschnitten sind.
• Implementiere Sicherheitsleitplanken und Governance: Erstelle und setze Vor- und Nachgenerierungsleitplanken durch und verwalte die übergreifende Governance von KI-Modellen, die innerhalb interner Tools und Plattformen betrieben werden.
• Treibe die Sicherheit und Beobachtbarkeit von KI voran: Baue dedizierte Authentifizierungs-/Berechtigungssysteme für interne KI-Agenten auf, etabliere tiefgehende Überwachungs-/Beobachtungs-Pipelines und definiere Protokolle zur Reaktion auf Vorfälle bei KI-spezifischen Anomalien.
• Verifizierung und Red Teaming: Leite kontinuierliche Verifizierungsbemühungen und Red Teaming-Übungen, um proaktiv Schwachstellen, Eingabeverzerrungen oder unvorhersehbare Verhaltensweisen in unseren internen KI-Implementierungen zu identifizieren.
• Arbeite in AWS: Setze hochdurchsatzfähige, latenzarme Sicherheitsdienste für interne Anwendungsfälle ein, betreibe und unterstütze sie; treffe sinnvolle Architektur-/Kostenentscheidungen; arbeite effektiv mit Plattform-/TechOps-/Sicherheitsbeteiligten zusammen.

Was du mitbringst

• Starke technische Führung: Nachgewiesene Erfahrung in der Leitung technischer Initiativen oder Teams, fähig, die technische Vision für komplexe, mehrdeutige Bereiche festzulegen.
• Tiefe Software-Engineering-Grundlagen: Senior/fortgeschrittene Fähigkeit im Entwerfen sicherer Komponenten von Ende zu Ende, gründliches Testen und intensives Nachdenken über Systemdesign, Parallelität und Architekturtrade-offs. (Python bevorzugt).
• Expertise in KI-Bewertung und Sicherheit: Ein hochkritischer Denker, der die Nuancen des Verhaltens von LLM versteht.
• Sicherheits- und Governance-Mindset: Erfahrung mit Bedrohungsmodellierung, Authentifizierung, Red Teaming oder dem Aufbau von Sicherheitsleitplanken für interne Systeme, Tools oder Plattformen.
• Cloud-Erfahrung (AWS): Sicher im Betrieb interner Dienste, verantwortlich für Zuverlässigkeit/Skalierbarkeit und Zusammenarbeit mit Plattform-/TechOps-/Sicherheitskollegen.
• Exzellente Kommunikation: In der Lage, komplexe Sicherheits- und Bewertungsmetriken in umsetzbare Erkenntnisse für sowohl technische als auch nicht-technische Stakeholder zu synthetisieren.

Wie Erfolg aussieht

• Vertrauen in interne Tools: Ingenieure im gesamten Unternehmen können neue autonome Modelle, KI-Fähigkeiten und interne Agenten mit vollem Vertrauen bereitstellen, da sie wissen, dass sie durch zuverlässige Sicherheitsleitplanken und strenge betriebliche Einschränkungen innerhalb unserer internen Ökosysteme gebunden sind.
• Hochwertige interne Bewertungen: Du hast eine Kultur und Infrastruktur robuster, hoch reproduzierbarer Bewertungsmetriken etabliert, die die reale Leistung und Sicherheit unserer intern ausgerichteten KI-Tools und Sicherheitsvorrichtungen genau widerspiegeln.
• Resiliente interne Infrastruktur: KI-Sicherheit, Überwachung und Reaktion auf Vorfälle werden als erstklassige Bürger behandelt, sodass jedes erratische Agentenverhalten in unseren internen Plattformen sofort erkannt und gemildert wird, bevor es breitere Operationen beeinträchtigt.
• Technische Führung: Starke Zusammenarbeit über die KI-Grundlagen hinweg hilft, die sichere interne KI-Adoption zu beschleunigen; du mentorst aktiv Ingenieure und prägst die interne KI-Governance-Strategie des Unternehmens.

Bonuspunkte

• Erfahrung mit spezifischen LLM-Bewertungs- und Sicherheitsrahmen (z.B. Inspect AI, Ragas, OpenAI Evals, NeMo Guardrails).
• Django-Erfahrung und starke Backend-Engineering-Muster (Sicherheit, Leistung, Wartbarkeit).
• Erfahrung mit Datadog für komplexe Beobachtbarkeit, Nachverfolgung und Überwachung in KI-Umgebungen.
• Vertrautheit mit grundlegenden KI-Engineering-Tools wie Pydantic AI, LiteLLM oder LangChain.

Das Unternehmen ist ein zertifizierter Great Place to Work in Frankreich, Deutschland, Spanien, Japan, Australien und den USA. Im Vereinigten Königreich gehören wir zu den besten Arbeitsplätzen auf Glassdoor mit einer Bewertung von 4,5, und in Deutschland bewerten wir 4,7 auf Kununu als Top-Unternehmen.

Wir möchten sicherstellen, dass du alle Werkzeuge und die Umgebung hast, die du benötigst, um dein Potenzial zu entfalten. Wenn du spezielle Anpassungen oder eine besondere Präferenz hast, kontaktiere uns bitte unter hr@unitedstatesdigital.space, und wir werden unser Bestes tun, um deinen Interviewprozess für Komfort und maximalen Erfolg anzupassen!

Studien haben gezeigt, dass einige Gruppen von Menschen, wie Frauen, weniger wahrscheinlich eine Stelle beantragen, es sei denn, sie erfüllen 100 % der Anforderungen. Wer auch immer du bist, wenn dir eines unserer Stellenangebote gefällt, ermutigen wir dich, dich zu bewerben, da du möglicherweise der Kandidat bist, den wir einstellen.

Als Arbeitgeber, der Chancengleichheit bietet, diskriminieren wir nicht aufgrund eines geschützten Merkmals. Wir betrachten alle Bewerber unabhängig von Rasse, Hautfarbe, Religion, nationaler Herkunft, Alter, Geschlecht, Geschlechtsidentität oder -ausdruck, sexueller Orientierung, Familienstand oder Veteranenstatus, Behinderung oder einem anderen rechtlich geschützten Status.