LLM Application Engineer

Es gibt über 5 Milliarden Nutzer, die heute grundlegende Anwendungen wie E-Mail, Notizen, Aufgaben und Kalender verwenden, und diese sind nicht KI-nativ. Unsere Mission ist es, proaktive Anwendungen für alle Menschen auf der Welt zu entwickeln, die nicht an komplexe Eingaben gewöhnt sind. Wir zielen darauf ab, Intelligenz in Gespräche, Erledigungen, Organisation und Arbeitsabläufe zu bringen, mit minimaler bis gar keiner Eingabe. Unser Produkt konzentriert sich darauf, eine hohe Zuverlässigkeit für langanhaltende Arbeitsabläufe, persistente Kontexte und die Erledigung realer Aufgaben zu erreichen. Wir glauben, dass Produkte Halluzinationen erheblich reduzieren werden.

Unser Ziel ist es, das Leben von jedem zu organisieren, damit wir alle Zeit für wertvolle und bedeutungsvolle Dinge haben.

Über die Rolle

Als LLM Application Engineer werden Sie die Intelligenzschicht entwickeln, die die KI-Erfahrungen von ActAI antreibt. Sie arbeiten an der Schnittstelle von LLMs, Softwareengineering und Produkt - entwerfen Agentenarbeitsabläufe, verbessern das Modellverhalten und verwandeln KI-Fähigkeiten in zuverlässige Benutzererlebnisse. Sie übernehmen Probleme von Anfang bis Ende, vom Verständnis der Benutzerbedürfnisse über das Design agentenbasierter Arbeitsabläufe bis hin zur Integration von Modellen und Tools, dem Aufbau von Evaluierungssystemen und der kontinuierlichen Verbesserung des KI-Verhaltens in der Produktion.

Fokus

• Entwicklung und Bereitstellung von LLM-gestützten Anwendungen und KI-Agentenarbeitsabläufen
• Design von Systemen für Schlussfolgerungen, Planung, Gedächtnis, Tool-Nutzung und mehrstufige Ausführung
• Aufbau zuverlässiger Orchestrierungspipelines, die probabilistische Modellausgaben in vorhersehbare, beobachtbare und sichere Aktionen umwandeln
• Integration von LLMs mit APIs, Datenbanken, Suchdiensten, internen Services und externen Tools
• Entwicklung von Eingaben, Kontextengineering, strukturierten Ausgaben, Tool-Aufrufen und anderen Techniken zur Verbesserung des Modellverhaltens
• Aufbau von Evaluierungsrahmen und Datensätzen zur Messung der KI-Qualität, Zuverlässigkeit und Regressionen
• Debugging von KI-Systemen über den gesamten Stack hinweg – vom Modellverhalten und Eingaben bis hin zur Orchestrierung, Backend-Services und Produkt-UX
• Optimierung von KI-Systemen hinsichtlich Qualität, Latenz und Kosten
• Enge Zusammenarbeit mit Produkt- und Engineering-Teams, um mehrdeutige Produktprobleme in funktionierende KI-Lösungen zu verwandeln
• Festlegung von Produktionspraktiken für Beobachtbarkeit, Nachverfolgung, Experimentierung, Evaluierung und kontinuierliche Verbesserung

Ideale Erfahrung

• Starke Grundlagen im Softwareengineering mit Erfahrung in der Entwicklung von KI-gestützten Anwendungen
• Praktische Erfahrung mit LLMs, generativer KI oder agentenbasierten Systemen
• Erfahrung im Design von Eingaben, Arbeitsabläufen, Evaluierungen oder KI-Verhalten
• Fähigkeit, sauberen, produktionsreifen Code zu schreiben
• Starke Problemlösungsfähigkeiten in mehrdeutigen, schnelllebigen Umgebungen
• Neigung zur Bereitstellung, Iteration und kontinuierlichen Verbesserung

Ergebnisse

• KI-Funktionen erreichen schnell die Produktion und liefern messbare Auswirkungen auf die Benutzer
• LLM-gestützte Arbeitsabläufe sind zuverlässig, skalierbar, beobachtbar und wartbar
• Die KI-Qualität verbessert sich durch systematische Evaluierung, Experimentierung und Iteration
• KI-Arbeitsabläufe werden zunehmend vorhersehbar, effizient und kosteneffektiv
• Komplexe KI-Fähigkeiten werden in einfache, intuitive Benutzererlebnisse übersetzt