Founding AI Engineer @ Embedded AI Efficiency Layer, Berlin

Dies ist ein Atlantic Portfolio-Venture.

Über das Venture

KI wird jeden Monat in mehr Produkte integriert, und jede Interaktion verbraucht Tokens. Mit der Skalierung des Gebrauchs summieren sich die Kosten schnell. Der erste Wettlauf war die Akzeptanz. Der nächste ist die Effizienz: Die Kosten für Inferenz bestimmen zunehmend, was Unternehmen sich leisten können zu bauen und zu versenden.

Wir bauen die Effizienzhülle für Produktions-KI. Unsere Systeme machen KI dramatisch schlanker, reduzieren den Tokenverbrauch und senken die Kosten jeder Interaktion, ohne die Qualitätsstandards zu beeinträchtigen, die wichtig sind. Im Laufe der Zeit streben wir an, sowohl Kosten als auch Qualität zu verbessern, damit Unternehmen mehr mit KI tun können, anstatt zwischen besserer Leistung und einer gesünderen Bilanz wählen zu müssen.

Wir haben unsere Pre-Seed-Finanzierung in nur drei Wochen abgeschlossen und bereiten nun unsere ersten Kundenpiloten vor. Das Tempo ist hoch und die Zeitpläne sind ehrgeizig. Wir streben nach etwas Großem, und das erfordert viel Input von jedem Mitglied unseres frühen Teams.

Über die Rolle

Sie werden als unser erster KI-Ingenieur beitreten und direkt mit den Gründern zusammenarbeiten, um das Kernprodukt von Grund auf zu entwickeln. Sie werden wichtige Bereiche der Produktentwicklung übernehmen, unsere Architektur und technische Richtung definieren und komplexe Forschungs- und Ingenieurprobleme in zuverlässige Produktionssysteme umwandeln.

Diese Rolle erfordert jemanden, der tief über KI-Systeme nachdenken und den Code schreiben kann, um sie zu bauen. Sie werden über KI-Infrastruktur, Backend-Systeme, Evaluierung und Unternehmensbereitstellungen arbeiten, mit erheblichem Einfluss auf die technischen Entscheidungen hinter dem Produkt.

Was Sie tun werden

• Forschung, Erfindung und Produktion von Systemen für KI-Kosteneffizienz, Kontextoptimierung und Tokenreduktion.
• Aufbau von Kontextauswahl, Kompression, Caching, Modellrouting, Reduzierung von Toolaufrufen, Retry-Kontrolle und Ausgabe-Budgets.
• Entwicklung von APIs, einem OpenAI-kompatiblen Gateway und Integrationen mit Modellanbietern und Unternehmens-KI-Anwendungen.
• Erstellung reproduzierbarer Kosten-Qualitäts-Evaluierungen, Regressionstests und Qualitätskontrollen.
• Übernahme der Produktionszuverlässigkeit über Überwachung, Bereitstellungen, Vorfälle, Kapazität, Verfügbarkeit und Latenz.
• Aufbau einer sicheren Unternehmensinfrastruktur mit Mandantentrennung, Zugriffskontrollen, Geheimnisverwaltung und geschützten Kundendaten.
• Optimierung der Leistung verteilter Systeme über Durchsatz, Caching, Ratenlimits, Ressourcennutzung und Fehlerbehandlung.
• Übersetzung früher Kundenanforderungen in zuverlässige Produktfähigkeiten.
• Übernahme der breiten täglichen Ingenieurarbeit, die erforderlich ist, um ein frühes Produkt voranzubringen.

Über Sie

Sie sind ein erfahrener KI-Ingenieur, der starke Softwaretechnik mit originellem Denken kombiniert, wie Produktions-KI-Systeme effizienter werden können. Sie können von den Grundprinzipien aus überlegen, wo Kosten und Qualität verloren gehen, neue Ansätze rigoros testen und die stärksten Ideen in produktionsgerechten Code umsetzen.

Sie haben umfangreiche Erfahrung in Softwaretechnik, Backend-Systemen und API-Entwicklung.

Sie sind sehr versiert in Python oder TypeScript oder zumindest einigen Programmiersprachen und fühlen sich wohl, über diese hinweg zu arbeiten.

Sie verstehen die Grundlagen moderner LLM-Systeme, einschließlich Tokenisierung, Kontextmanagement, Inferenzverhalten, Modellevaluation und die Abwägungen zwischen Kosten, Latenz und Qualität.

Sie haben praktische Erfahrung im Umgang mit LLM-APIs und verstehen die Herausforderungen in Bezug auf Verhalten, Kosten und Zuverlässigkeit von Produktions-KI-Systemen.

Sie haben praktische Erfahrung in der Gestaltung von Experimenten und Bewertungen, die sowohl die Modellqualität als auch die Systemleistung messen.

Sie haben mit Cloud-Infrastruktur, PostgreSQL und Docker gearbeitet. Kubernetes-Erfahrung ist ein großer Vorteil.

Erfahrung mit vLLM, SGLang, LiteLLM oder ähnlicher KI-Infrastruktur ist sehr relevant.

Sie verstehen die Leistung verteilter Systeme, einschließlich Latenz, Durchsatz, Caching, Ratenlimits und Fehlerbehandlung.

Sie können unabhängig schwierige Probleme recherchieren, Hypothesen testen und technische Ideen in funktionierende Systeme umsetzen.

Sie schreiben klaren, zuverlässigen Code und sind damit vertraut, Systeme durch Bereitstellung und Produktion zu betreuen.

Fließendes Englisch ist erforderlich. Deutsch ist von Vorteil.

Wir erwarten nicht, dass Sie an jedem der oben genannten Systeme oder Technologien gearbeitet haben. Wir erwarten jedoch tiefgehende Erfahrung in einigen dieser Bereiche, starke Grundlagen in der Softwaretechnik und die Fähigkeit, echte technische Tiefe in den restlichen Bereichen zu entwickeln.

Warum beitreten

Sie werden in der frühesten Phase beitreten und helfen, das Produkt, die Architektur und die Unternehmensstrategie zu gestalten. Sie werden gemeinsam mit den Gründern grundlegende Technologien erfinden und bedeutende Anteile an dem erhalten, was Sie helfen, aufzubauen.

Das Tempo ist anspruchsvoll und die technischen Anforderungen sind hoch, aber der Umfang und die Möglichkeiten sind erheblich. Diese Rolle eignet sich für einen KI-Ingenieur, der substanzielle Verantwortung und die Chance möchte, an schwierigen, kommerziell wichtigen Infrastrukturproblemen zu arbeiten.

Dies ist eine Vollzeitstelle in unserem Büro in Berlin, fünf Tage die Woche, mit einem Startdatum so bald wie möglich.