Agentic Platform Engineer (gn) @ AI Venture, Berlin

Dies ist ein Atlantic Portfolio Venture.

Über das Venture

AI-Modelle haben sich schneller entwickelt als die meisten Unternehmen in der Lage sind, sie zu nutzen. Die Fähigkeiten sind vorhanden; zu wissen, wie man sie effektiv kombiniert, hinkt noch hinterher. Frontier Labs setzen natürlich ihre eigenen Modelle an erste Stelle. Unternehmen folgen oft diesem Beispiel und bitten ein allgemeines Modell, zehn sehr unterschiedliche Aufgaben zu übernehmen. Wir glauben, dass es viel mehr gibt, was in den bereits existierenden Modellen freigeschaltet werden kann, selbst bevor die nächste Generation ankommt. Das ist die Gelegenheit, um die wir herum aufbauen.

Wir bringen geschlossene Anbieter und offene Modelle hinter einer einzigen API zusammen. Unser Motor zerlegt Anfragen in ihre Einzelteile, leitet jede an das richtige Modell innerhalb eines Kostenbudgets weiter, optimiert mit Kundendaten und überprüft das Ergebnis anhand vereinbarter Qualitätsstandards. Da wir kein proprietäres Modell bewerben, können wir die richtige Kombination für die Aufgabe auswählen. Niedrigere Kosten sind wichtig, weil sie ermöglichen, dass ein kleines Team etwas bauen kann, das zuvor ein viel größeres erfordert hätte.

Unser Gründer bringt erheblichen Antrieb, einen praktischen Ansatz und ein starkes Gefühl der Dringlichkeit in den Aufbau des Unternehmens ein. Unterstützt von Atlantic in der Pre-Seed-Phase wachsen wir das Engineering-Team, um das Produkt in die Produktion zu bringen, wobei bereits Menschen darauf warten, es zu nutzen.

Über die Rolle

Als einer unserer ersten Plattform-Ingenieure werden Sie die Grundlagen schaffen, auf denen jede Produktfunktion basiert: das Gateway und den Router, Nutzung- und Abrechnungssysteme, Kunden-Schlüsselverwaltung und die europäische Infrastruktur darunter. Ein Großteil dieser Plattform befindet sich noch im Aufbau. In direkter Zusammenarbeit mit dem Gründer, CTO und dem ersten KI-Ingenieur werden Sie helfen, frühe architektonische Entscheidungen in Systeme umzusetzen, die zuverlässig bleiben, während das Produkt wächst.

Sie werden Fähigkeiten vom Design bis zur Produktion bringen, dabei über deren APIs, Fehlermodi, Bereitstellung, Beobachtbarkeit und laufenden Betrieb nachdenken. In einem so kleinen Team gehören der Aufbau und der Betrieb des Systems zusammen. Sie werden auch eng mit unserem ersten KI-Ingenieur an Bewertungen, Einbettungen und dem Bereitstellen offener Modelle arbeiten und dabei Tiefe in der Plattformtechnik in die ML-Seite des Produkts bringen.

Agentic Engineering ist zentral für unsere Arbeitsweise. Sie werden standardmäßig auf agentische Weise arbeiten, indem Sie Codierungsagenten als einen Kernbestandteil Ihres Designs, Ihrer Entwicklung, Ihres Tests und Ihrer Auslieferung verwenden. Sie entwickeln die Werkzeuge und Workflows, die es Ihnen ermöglichen, Arbeit effektiv zu delegieren und zu parallelisieren, wodurch das, was ein kleines Ingenieurteam liefern kann, erhöht wird. Dies erfordert starke Programmiergrundlagen und das Urteilsvermögen, alles zu überprüfen, herauszufordern und Verantwortung für alles zu übernehmen, was in die Produktion gelangt.

Es gibt viel zu bauen und einen ehrgeizigen Zeitplan vor uns. Wir arbeiten intensiv, bewegen uns schnell von Entscheidungen zur Ausführung und schätzen Menschen, die Initiative ergreifen und Dinge durchziehen.

Woran Sie arbeiten werden

• Gateway und Routing: Erstellen Sie eine konsistente API über Modellanbieter hinweg, mit zuverlässigem Streaming, Fallbacks und sicherem Umgang mit Wiederholungen und Anbieterfehlern.
• Agentic Engineering Workflows: Entwickeln und verfeinern Sie die Werkzeuge, die es Codierungsagenten ermöglichen, effektiv über den Entwicklungslebenszyklus hinweg zu arbeiten, von der Implementierung und dem Testen bis hin zur Fehlersuche und Bereitstellung.
• Kostenoptimierung: Entwickeln Sie Caching, Geschichts-Kompression und Modellauswahl, messen Sie Einsparungen, während Sie geschätzte Kosten von tatsächlichen Ausgaben unterscheiden.
• Nutzung und Abrechnung: Erstellen Sie eine genaue Buchhaltung für Modellaufrufe, Nutzungsberichte, Planansprüche und Rechnungsabgleich.
• Agenteninfrastruktur und Integrationen: Unterstützen Sie Toolaufrufe, Kostenlimits, menschliche Genehmigungen und Abläufe, die sicher aus Unterbrechungen wiederhergestellt werden können, sowie Connectoren für Dienste wie Gmail, Slack und Kalender.
• Mietverhältnisse und Geheimnisse: Gewährleisten Sie die Isolation von Arbeitsbereichen, sichere Authentifizierung und verschlüsselte Kunden-Schlüsselverwaltung.
• Europäische Infrastruktur und Modellbereitstellung: Bauen und betreiben Sie unsere Cloud-Infrastruktur, einschließlich der GPU-Kapazität, die zur Bereitstellung offener Modelle verwendet wird.
• Produktionszuverlässigkeit: Machen Sie Systeme beobachtbar, Migrationen umkehrbar und Releases sicher, mit Tests, die die Datenintegrität schützen und Protokolle, die Kundeninhalte und Geheimnisse privat halten.

Die Plattform wird sich schnell entwickeln. Sie müssen sich wohlfühlen, zwischen der Verbesserung des Bestehenden und dem Lernen über ein neues Problem zu wechseln, um das nächste Stück gut zu bauen.

Unser Stack

Unser Backend ist in Python gebaut, mit einem TypeScript-Frontend in einem gemeinsamen Monorepo.

• Backend: Python, FastAPI, Pydantic und LiteLLM.
• Daten und Warteschlangen: Postgres mit Zeilenebene-Sicherheit und pgvector, Redis und arq.
• Frontend: Next.js, React und TypeScript.
• Cloud und Infrastruktur: Scaleway, Terraform und Kubernetes für GPU-Workloads.
• Auth und Geheimnisse: Zitadel, Secret Manager und KMS.
• Beobachtbarkeit und Tests: OpenTelemetry, Langfuse, Sentry, pytest und testcontainers, neben Frontend-Testwerkzeugen.

Sie sollten mit den Kerntechnologien des Backends vertraut sein und bereit sein, den Rest zu lernen, wenn es die Arbeit erfordert.

Über Sie

Sie genießen das Handwerk des Engineerings und die Verantwortung, Ihre Arbeit in der Produktion zu sehen. Wenn Sie mit einem unklaren Problem konfrontiert sind, können Sie identifizieren, was wichtig ist, sinnvolle Kompromisse eingehen und eine Lösung bis zur Veröffentlichung umsetzen, ohne dass jemand jeden Schritt plant. Sie suchen natürlich nach Möglichkeiten, Ihre Ergebnisse durch agentische Workflows zu vervielfachen, anstatt jede Ingenieuraufgabe als etwas zu betrachten, das man manuell ausführen muss.

Wir suchen:

• Erfahrung im Aufbau und Betrieb von Produktionssystemen: mehrere Jahre Backend-Engineering mit echten Nutzern, typischerweise drei bis sechs, und bedeutende Verantwortung für das, was Sie ausgeliefert haben.
• Starke Python-Grundlagen: Vertrauen in asynchrone Programmierung, Typisierung und Tests. Erfahrung mit TypeScript ist ein Plus.
• Agentic Engineering als Standardarbeitsweise: Sie haben praktische Erfahrung mit Codierungsagenten als einem Kernbestandteil Ihres Engineering-Workflows. Sie wissen, wie man Probleme aufschlüsselt, Aufgaben delegiert und parallelisiert, den richtigen Kontext bereitstellt und effektive agentische Workflows aufbaut. Entscheidend ist, dass Sie die technische Tiefe haben, um den resultierenden Code zu überprüfen, zu debuggen und Verantwortung dafür zu übernehmen.
• Tiefe in der Plattformtechnik: praktische Erfahrung mit Postgres, Redis, Warteschlangen, Netzwerken und Terraform. Erfahrung mit Kubernetes ist nützlich, insbesondere für unsere GPU-Infrastruktur.
• Solides Ingenieururteil: klare APIs, Mieterisolierung, Datenintegrität, partielle Fehler und sichere Rollouts. Sie können sowohl Ihre Entscheidungen als auch das, was Sie weggelassen haben, erklären.
• Ein funktionales Verständnis von ML-Systemen: Vertrautheit mit LLMs, Einbettungen, Bewertungen, Modellbereitstellung und Feinabstimmung. Erfahrung mit LLM-APIs, Streaming und Token-Kosten ist ein starkes Plus.
• Ein disziplinierter Ansatz zur Messung: Sie benchmarken Änderungen, hinterfragen Annahmen und verwenden Beweise, um zu verstehen, ob eine Verbesserung Bestand hat.
• Initiative und Antrieb: Sie genießen es, tief in ein Problem einzutauchen, einen Weg nach vorne zu finden und die Arbeit zu leisten, um es zu verwirklichen.

Dies ist eine erfahrene Rolle für einen individuellen Beitragenden, mit Verantwortung für die Fähigkeiten, die Sie aufbauen, und enger Zusammenarbeit mit dem Gründungsteam.

Fließendes Englisch ist erforderlich; Deutsch ist ein Plus.

Warum beitreten

In dieser Phase haben Entscheidungen im Bereich Plattformtechnik einen direkten Einfluss auf das Produkt und darauf, wie schnell das Team es bauen kann. Sie werden eng mit dem Gründer und CTO arbeiten, mit Raum, die Systeme, die Sie besitzen, zu gestalten und die Ergebnisse Ihrer Arbeit aus erster Hand zu sehen.

Die Herausforderung umfasst KI-Infrastruktur, verteilte Systeme, Sicherheit und Kosteneffizienz. Sie werden über diese Grenzen hinweg bauen, frühzeitig echte Verantwortung übernehmen und ein bedeutendes Eigenkapitalpaket in dem Unternehmen erhalten, das Sie mitentwickeln.

Wir konkurrieren mit Teams, die mehr Menschen, mehr Finanzierung und einen früheren Start haben. Unser Ansatz hängt von technischer Tiefe, fokussierten Entscheidungen und dem Antrieb ab, diese in funktionierende Software umzusetzen. Wir glauben, dass agentisches Engineering grundlegend verändern kann, was ein kleines, technisch starkes Team in der Lage ist zu bauen, und wir suchen Menschen, die diesen Ansatz vorantreiben möchten. Für jemanden, der eine anspruchsvolle Entwicklung, enge Zusammenarbeit und sichtbare Auswirkungen genießt, gibt es viel zu tun.

Dies ist eine Vollzeitstelle, die in unserem Büro in Berlin fünf Tage die Woche angesiedelt ist, beginnend so bald wie möglich.