Auf einen Blick
- Aufgaben: Entwickle Backend-Systeme für KI-gestützte Funktionen und optimiere deren Leistung.
- Unternehmen: Innovatives Unternehmen, das KI-Lösungen für den Alltag entwickelt.
- Vorteile: Wettbewerbsfähiges Gehalt, flexible Arbeitszeiten und Entwicklungsmöglichkeiten.
- Weitere Informationen: Dynamisches Umfeld mit großartigen Wachstumschancen in der Technologiebranche.
- Warum dieser Job: Sei Teil eines Teams, das KI für Millionen von Menschen zugänglich macht.
- Qualifikationen: Erfahrung mit hochdurchsatzfähigen, latenzarmen Diensten und KI-Inferenzmustern.
Das prognostizierte Gehalt liegt zwischen 60000 - 80000 € pro Jahr.
A1 entwickelt einen proaktiven KI-Smart-Assistenten für alltägliche Nutzer, um Intelligenz in Gespräche, Aufgaben, Organisation und Arbeitsabläufe zu bringen. Unser Produkt konzentriert sich auf hohe Zuverlässigkeit für langlaufende Arbeitsabläufe, anhaltenden Kontext und die Erledigung realer Aufgaben. Das System muss mehrstufiges Denken verarbeiten, mit externen Tools interagieren und trotz nicht deterministischer Modellverhalten zuverlässig bleiben.
Als Backend Engineer, AI, sind Sie verantwortlich für die Inferenz- und Orchestrierungsschicht, die jede KI-Interaktion im Produkt antreibt. Ihre Arbeit liegt zwischen Modellen und Nutzern, wobei Latenz, Korrektheit, Zuverlässigkeit und Kosten direkte Auswirkungen auf die reale Erfahrung haben.
Aufgaben:
- Entwicklung und Betrieb von Produktionssystemen, die die Modellfähigkeiten in schnelle, stabile, beobachtbare APIs umwandeln, die über mobile und Desktop-Clients genutzt werden.
- Entwurf von Inferenzpipelines und Orchestrierungsschichten, die mehrstufige Arbeitsabläufe, Toolaufrufe und Wiederholungen verarbeiten.
- Verwaltung des gesamten Lebenszyklus von KI-Anfragen: Routing, Caching, Batching, Streaming und Zustandsmanagement.
- Optimierung von Latenz, Durchsatz und Kosten über Modellinferenz und nachgelagerte Systeme.
- Entwurf von Systemen, die trotz nicht deterministischer Modellverhalten und externer Abhängigkeiten zuverlässig bleiben.
- Implementierung von Beobachtbarkeit für KI-Systeme, einschließlich Protokollierung, Nachverfolgung und Debugging von Modellausgaben und -fehlern.
- Zusammenarbeit mit ML- und Produktteams, um Modellfähigkeiten in stabile, produktionsreife APIs zu übersetzen.
Ideale Erfahrungen:
- Erfahrung im Betrieb von Hochdurchsatz- und Niedriglatenzdiensten.
- Vertrautheit mit KI-Inferenzmustern (LLMs, Einbettungen, multimodal).
- Neigung zum Versenden und Lernen aus dem Produktionsverhalten.
Ergebnisse:
- Backend-Systeme laufen zuverlässig im großen Maßstab und verarbeiten Produktions-KI-Verkehr mit niedriger Latenz und hohem Durchsatz.
- Mehrstufige KI-Arbeitsabläufe werden erfolgreich über Tools und Dienste abgeschlossen, mit robuster Handhabung von Fehlern und Wiederholungen.
- APIs sind stabil, klar und unterstützen nahtlose Integration mit Frontend- und ML-Systemen.
- Produktionsvorfälle werden schnell erkannt, diagnostiziert und behoben, um die Auswirkungen auf die Nutzer zu minimieren.
- Iterative Verbesserungen basierend auf der tatsächlichen Nutzung erhöhen kontinuierlich die Systemleistung und Zuverlässigkeit.
- Das Systemdesign entwickelt sich weiter, um zunehmendem Maßstab, Komplexität und neuen KI-Fähigkeiten ohne größere Umstellungen gerecht zu werden.
Technologien: Python, NodeJs, Pytorch, OpenAI / Anthropic / Open-Source LLMs, SQL
Es ist eine Einladung, Teil eines Teams zu sein, das KI praktische Vorteile für Milliarden von Menschen weltweit bringt.
Backend Engineer, AI Systems Arbeitgeber: A1
A1 ist ein hervorragender Arbeitgeber, der innovative Lösungen im Bereich KI entwickelt und dabei eine dynamische und unterstützende Arbeitsumgebung bietet. Mitarbeiter profitieren von flexiblen Arbeitszeiten, kontinuierlichen Weiterbildungsmöglichkeiten und einer Kultur, die Kreativität und Zusammenarbeit fördert. In dieser Rolle als Backend Engineer haben Sie die Möglichkeit, an spannenden Projekten zu arbeiten, die das Potenzial haben, das Leben von Milliarden von Menschen weltweit zu verbessern.