Senior Engineer - Reliable Generative AI for Intelligent Agent Safety (m/f/d)

Das Heisenberg Research Center von Huawei ist verantwortlich für die Forschung an fortschrittlichen Technologien, architektonische Entwicklungen, Design und strategische Ingenieurarbeit unserer Produkte. Das TTE RAMS Lab von Huawei ist ein Kompetenzzentrum, das sich mit der Erforschung hochzuverlässiger und sicherer Architekturen sowie Technologien für komplexe intelligente Systeme beschäftigt. Unser Ziel ist es, Huawei-Produkte mit modernsten Forschungen und fortschrittlichen technischen Lösungen zur intelligenten Zuverlässigkeit und Sicherheit für carrier-grade ICT und sicherheitskritische Systeme wie autonomes Fahren auszustatten, damit unsere Produkte unseren Kunden die besten Benutzererfahrungen und Leistungen bieten.

Die Integration von Intelligenz in autonome agentische Plattformen wie Mehragentensysteme (MAS), Robotik und autonomes Fahren erfordert strenge Sicherheitsüberlegungen. Aufgrund der inhärenten Mängel aktueller ML-Techniken wie regressiven generativen Modellen bleibt die Sicherheit eine große Herausforderung für sicherheitskritische intelligente Systeme. Probleme wie Erklärbarkeit, Robustheit und Zuverlässigkeit stellen Hindernisse für vertrauenswürdige Anwendungen dar. Die Komplexität der sich ändernden und oft feindlichen offenen Umgebung des Systems macht die Zerbrechlichkeit der heutigen ML-Methoden zu einem großen Sicherheitsrisikofaktor.

Ihre Mission:

• Untersuchung des aktuellen Stands der Forschung zur Zuverlässigkeit von generativen KI-Modellen und agentischen Systemen mit Fokus auf Sicherheit und Zuverlässigkeit, Identifizierung und Formalisierung detaillierter Herausforderungen und Mängel der untersuchten Ansätze.
• Durchführung unabhängiger Forschungen zu relevanten Themen mit hoher technischer Priorität, Veröffentlichung auf führenden Konferenzen und in Fachzeitschriften, Leitung und Mitwirkung an internen/externen technischen Projekten.
• Enge Zusammenarbeit mit einer Gruppe von Fachexperten und Forschern sowohl aus Huawei-Teams als auch aus der akademischen Welt, um Forschungsergebnisse zu liefern und Auswirkungen zu erzielen.
• Durchführung von Kooperationen mit Forschungseinrichtungen wie Universitäten und anderen Partnern.

Ihr Fachwissen:

• Erfolgreich abgeschlossenes PhD- oder Masterstudium in Informatik, Elektrotechnik, Mathematik oder anderen relevanten Ingenieurdisziplinen. Industrieerfahrung in KI-relevanten Bereichen wäre von Vorteil.
• Solide Kenntnisse in Mathematik, insbesondere in linearer Algebra, Statistik/Wahrscheinlichkeitstheorie, und tiefgehendes Wissen über die theoretischen Grundlagen des maschinellen Lernens, auch über Auto-Regressionsmodelle hinaus.
• Tiefes Verständnis und Forschungserfahrungen zu aktuellen state-of-the-art Ansätzen für KI-Sicherheit in einem oder mehreren Bereichen wie Computer Vision, Reinforcement Learning, NLP mit guten Publikationsnachweisen in renommierten Konferenzen oder Fachzeitschriften.
• Praktische Erfahrungen mit den neuesten Open-Source-agentischen Plattformen, Vertrautheit mit deren Prinzipien sowie Vor- und Nachteilen.
• Praktische Erfahrungen mit den neuesten ML-Methoden wie Transformer (ViT/Text), Unsicherheitsabschätzung und robusten/Zuverlässigkeitsbewertungen von KI-Modellen sind von Vorteil.
• Erfahrung mit Grundmodellen für agentische Anwendungen wie Vibe-Codierung, Robotik.
• Ausgezeichnete Programmierkenntnisse und praktische Erfahrungen mit den wichtigsten ML-Frameworks.
• Starke Programmierkenntnisse in mindestens einer der folgenden Programmiersprachen: Python, C/C++, Rust, Julia. Kenntnisse in der unterstützten Entwicklung mit automatisierter Codegenerierung sind wünschenswert.
• Erfahrung und Wissen im Bereich Systemsicherheit wären von Vorteil.

Unsere Kultur ist geprägt von Innovationskraft und Teamgeist sowie dem intensiven Austausch von Wissen und Erfahrungen innerhalb unseres globalen Netzwerks. Wir bieten gesunde Mahlzeiten, die von traditionellen chinesischen bis hin zu westlichen Delikatessen in unserer berühmten Betriebskantine reichen. Um Ihre Entwicklung fortlaufend zu fördern, finden Sie ein breites Spektrum an Schulungsmöglichkeiten. Viele Online- und Präsenzschulungsprogramme, einschließlich Sprachkurse in Deutsch und Mandarin. Unsere vielfältige und einladende Umgebung wird durch unterschiedliche Hintergründe und rund 40 Nationalitäten geprägt. Selbstverantwortliches Arbeiten in einem kompetenten, motivierten und ständig wachsenden Team.