Senior Software Engineer - Agent Safety / Evals - AI Foundations

Hilf uns, Technologie zu nutzen, um einen großen grünen Eindruck im Universum zu hinterlassen! Kraken treibt einige der innovativsten globalen Entwicklungen im Energiebereich voran. Wir schaffen die Technologie, die Versorgungsunternehmen neu definiert und ein neues Energiesystem der Zukunft freischaltet. Durch die Optimierung erneuerbarer Erzeugung, den Aufbau eines intelligenteren Netzes und die Befähigung von Versorgungsunternehmen, ein außergewöhnliches Kundenerlebnis zu bieten, transformiert unser Betriebssystem die Branche weltweit. Es ist eine unglaublich aufregende Zeit, um im Energiebereich zu arbeiten. Schließe dich uns an, um das Leben von EINER MILLIARDE Menschen innerhalb des Jahrzehnts zu verbessern und eine sauberere, bessere Zukunft für alle zu gestalten.

AI ist ein wichtiger Investitionsbereich für Kraken Technologies, während wir unsere bestehenden Fähigkeiten erweitern möchten. Ein entscheidender Teil davon ist der Ausbau der grundlegenden Infrastruktur, die es Teams in der gesamten Organisation ermöglicht, KI effektiv zu nutzen und unsere Mission zu beschleunigen. Du wirst im Agent Safety-Team arbeiten. Wir bauen die gemeinsamen Plattformen, Sicherheitsvorkehrungen und Leitplanken, die es Ingenieur- und Produktteams ermöglichen, maschinelles Lernen und generative KI-Agenten sicher, zuverlässig und deterministisch für interne Systeme und Arbeitsabläufe im gesamten Unternehmen zu nutzen. Dies ist ein lieferfokussiertes Team, das an der Schnittstelle von Ingenieurwesen, Sicherheit und interner Befähigung sitzt.

Wir suchen einen Senior Software Engineer, der unserem neu gegründeten Agent Safety / Evals-Team beitritt. Während KI-Agenten zunehmend autonome Aufgaben in den internen Arbeitsabläufen von Kraken übernehmen, wirst du sicherstellen, dass sie dies sicher, vorhersehbar und innerhalb klar definierter betrieblicher Grenzen tun. Dies ist eine praktische Rolle für einen erfahrenen Einzelbeitragenden. In Zusammenarbeit mit dem Lead Software Engineer und dem breiteren KI-Team wirst du wesentliche Teile unseres Evaluierungs-, Sicherheits- und Zuverlässigkeitsstacks besitzen - technische Richtungen in Produktionssysteme umsetzen, zu Architekturentscheidungen beitragen und die Ingenieurstandards durch durchdachte Zusammenarbeit und Mentoring erhöhen.

Was du besitzen wirst:

• Interne Agentensicherheitssysteme aufbauen: Entwerfen und Implementieren von Diensten, die die Zuverlässigkeit, Sicherheit und Determinismus von LLMs und autonomen Agenten verbessern und sie innerhalb der erwarteten betrieblichen Grenzen halten.
• Robuste Evaluierungsrahmen entwickeln: Skalierbare Sicherheitsvorkehrungen und Evaluierungen für interne Arbeitsabläufe und KI-Fähigkeiten erstellen. Bedeutungsvolle Testfälle definieren, die Ausgabequalität überprüfen und die Reproduzierbarkeit der Systeme verbessern, die zur Messung verwendet werden.
• Sicherheitsvorkehrungen und Governance-Kontrollen implementieren: Vor- und Nachgenerationskontrollen entwickeln und vereinbarte Governance-Anforderungen in wartbare Software über interne Tools und Plattformen übersetzen.
• KI-Sicherheit und Beobachtbarkeit stärken: Authentifizierungs- und Berechtigungsmuster für interne Agenten entwickeln, Überwachung und Nachverfolgung verbessern und zu operativen Handbüchern für KI-spezifische Anomalien beitragen.
• Verifizierung und Red-Teaming unterstützen: Tests entwerfen und an kontinuierlichen Verifizierungs- und Red-Teaming-Übungen teilnehmen, um Risiken wie Prompt-Injection, Datenzugriff und unvorhersehbares Verhalten zu identifizieren, bevor sie in die Produktion gelangen.
• Dienste in AWS betreiben: Hochdurchsatz-, latenzarme Sicherheitsdienste bereitstellen, betreiben und unterstützen; fundierte Architektur-, Zuverlässigkeits- und Kostenentscheidungen treffen; und effektiv mit Plattform-, TechOps- und Sicherheitspartnern zusammenarbeiten.
• Den Ingenieurstandard erhöhen: Zu technischen Entscheidungen beitragen, Designs und Code überprüfen, andere Ingenieure mentorieren und pragmatische Muster etablieren, die über AI Foundations hinweg wiederverwendet werden können.

Was du mitbringst:

• Starke senior‑level Softwareentwicklung: Nachgewiesene Erfahrung in der Verantwortung für komplexe Komponenten oder Dienste von der Planung und Implementierung bis hin zu Tests, Bereitstellung und Betrieb.
• Tiefe Ingenieurgrundlagen: Starke Urteilsfähigkeit in Bezug auf Systemdesign, Parallelität, Sicherheit, Tests und Architekturentscheidungen.
• Praktische Erfahrung in der KI-Evaluierung und -Sicherheit: Kritisches Verständnis des Verhaltens von LLMs und Erfahrung im Aufbau oder in der Nutzung von Evaluierungsrahmen zur Messung der Ausgabequalität und Zuverlässigkeit.
• Sicherheits- und Governance-Mindset: Erfahrung in Bereichen wie Bedrohungsmodellierung, Authentifizierung und Autorisierung, Red-Teaming, Datenzugriffskontrollen oder Sicherheitsvorkehrungen für interne Plattformen.
• Cloud-Erfahrung: Sicher im Betrieb von Diensten in AWS, Verantwortung für Zuverlässigkeit und Skalierbarkeit und Zusammenarbeit mit Plattform-, TechOps- und Sicherheitsteams.
• Klare Kommunikation und Zusammenarbeit: Fähigkeit, technische Abwägungen zu erklären, konstruktiv herauszufordern und komplexe Sicherheits- und Evaluierungsbefunde in praktische Maßnahmen umzusetzen.

Was Erfolg aussieht:

• Zuverlässige Lieferung: Du lieferst gut getestete Sicherheits- und Evaluierungsfähigkeiten, die von internen Ingenieur- und Produktteams übernommen werden.
• Hochwertige Evaluierungen: Evaluierungsrahmen erzeugen bedeutungsvolle, reproduzierbare Signale, die die reale Leistung und Sicherheit der internen KI-Tools von Kraken widerspiegeln.
• Resiliente Infrastruktur: Die von dir verantworteten Dienste sind beobachtbar, sicher, skalierbar und werden durch klare betriebliche Praktiken unterstützt.
• Starke technische Zusammenarbeit: Du arbeitest effektiv über AI Foundations und Partnerteams hinweg, verbesserst Designs durch konstruktive Herausforderungen und hilfst anderen, sicher und selbstbewusst zu liefern.

Bonuspunkte:

• Evaluierungs- und Sicherheitsrahmen: Erfahrung mit Tools wie Inspect AI, Ragas, OpenAI Evals oder NeMo Guardrails.
• Backend-Engineering: Django-Erfahrung und starke Muster für Sicherheit, Leistung und Wartbarkeit.
• Beobachtbarkeit: Erfahrung mit Datadog zur Nachverfolgung, Überwachung und Untersuchung komplexer KI-gestützter Systeme.
• KI-Engineering-Tools: Vertrautheit mit Tools wie Pydantic AI, LiteLLM oder LangChain.

Bist du bereit für eine Karriere bei uns? Wir möchten sicherstellen, dass du die richtigen Werkzeuge und die richtige Umgebung hast, um dein Potenzial zu entfalten. Wenn du besondere Anforderungen hast, kontaktiere uns bitte unter inclusion@kraken.tech. Wir werden unser Bestes tun, um die Erfahrung auf deine Bedürfnisse zuzuschneiden, damit du dich wohlfühlst, selbstbewusst bist und dein Bestes geben kannst!

Studien haben gezeigt, dass einige Gruppen von Menschen, wie Frauen, weniger wahrscheinlich auf eine Stelle bewerben, es sei denn, sie erfüllen 100 % der Anforderungen. Wer auch immer du bist, wenn dir eines unserer Stellenangebote gefällt, ermutigen wir dich, dich zu bewerben, denn vielleicht bist du genau der Kandidat, den wir suchen!

Bei Kraken schaffen wir ein Team aus echten, ehrlichen, empathischen Menschen. Unsere Mitarbeiter sind unser größtes Kapital, und die einzigartigen Fähigkeiten und Perspektiven, die die Menschen ins Team einbringen, sind die treibende Kraft unseres Erfolgs. Als Arbeitgeber, der Chancengleichheit bietet, diskriminieren wir nicht aufgrund eines geschützten Merkmals.

Unsere (i) Datenschutzrichtlinie für Bewerber und Kandidaten sowie die Hinweise zur künstlichen Intelligenz (AI), (ii) Datenschutzrichtlinie der Website und (iii) Cookie-Richtlinie regeln die Erhebung und Verwendung deiner persönlichen Daten im Zusammenhang mit deiner Bewerbung und der Nutzung unserer Website. Diese Richtlinien erklären, wie wir deine Daten behandeln und deine Rechte gemäß den geltenden Gesetzen, einschließlich, aber nicht beschränkt auf die Datenschutz-Grundverordnung (DSGVO) und das kalifornische Gesetz über den Verbraucherschutz (CCPA), umreißen. Je nach deinem Standort hast du möglicherweise das Recht, auf deine Informationen zuzugreifen, sie zu korrigieren oder zu löschen, der Verarbeitung zu widersprechen oder die Einwilligung zu widerrufen. Mit deiner Bewerbung bestätigst du, dass du diese Bedingungen gelesen, verstanden und akzeptiert hast.

Bitte beachte, dass wir gemäß unserer aktuellen Rekrutierungspolitik keine Visumsponsoren für diese Position anbieten können; Bewerber müssen zum Zeitpunkt der Bewerbung das Recht haben, im Land zu arbeiten, in dem sie sich bewerben.