AI Research Engineer (Model Compression & Quantization)

Als Mitglied unseres KI-Forschungsteams werden Sie Innovationen in der Modellkompression und effizienten Bereitstellung für fortschrittliche multimodale KI-Systeme vorantreiben, einschließlich großer Sprachmodelle (LLMs) und Bild-Sprach-Modelle (VLMs). Ihre Arbeit wird sich darauf konzentrieren, den Modellfußabdruck und die Rechenkosten zu reduzieren, während die Genauigkeit erhalten bleibt, um leistungsstarke KI effizient auf ressourcenbeschränkten Edge-Geräten auszuführen.

Sie werden Kompressionstechniken wie Quantisierung, Wissensdistillation und Pruning anwenden und weiterentwickeln, um komplexe multimodale Architekturen zu optimieren, die Text, Bilder und Audio integrieren. Wir erwarten von Ihnen tiefgehende Expertise in Methoden zur Modellkompression und einen starken Hintergrund in multimodalen Modellarchitekturen. Sie werden einen praxisorientierten, forschungsgetriebenen Ansatz verfolgen, um neuartige Kompressionsstrategien zu entwickeln, zu testen und umzusetzen, die Modellgröße, Latenz, Durchsatz und Genauigkeit in Einklang bringen.

Ihre Aufgaben umfassen:

• Anwendung von Low-Bit-Quantisierung zur Reduzierung der Modellgröße und Inferenzlatenz für generative KI-Modelle (LLMs, VLMs, multimodal), während die Genauigkeit und Ausgabequalität erhalten bleibt.
• Nutzung von Wissensdistillation, um Fähigkeiten von größeren Lehrermodellen auf kleinere Schülermodelle zu übertragen und so effizientes multimodales Denken über Text-, Bild- und Audioeingaben zu ermöglichen.
• Implementierung von Pruning-Techniken zur Entfernung redundanter Parameter und Aufmerksamkeitsköpfe, um den Rechenaufwand zu reduzieren, ohne die Aufgabenleistung zu beeinträchtigen.
• Analyse von Trade-offs zwischen Modelleffizienz (Größe, Latenz, Speicher) und Genauigkeit über Quantisierungs-, Distillations- und Pruning-Methoden; Vorschlag von Verbesserungen basierend auf empirischen Ergebnissen.
• Forschung und Anwendung von Mixed-Precision-Quantisierung und anderen fortschrittlichen Kompressionsstrategien (z.B. adaptive Pruning-Zeitpläne, Distillation mit Zwischenmerkmalsabgleich), um das Gleichgewicht zwischen Genauigkeit und Leistung zu optimieren.
• Aktuell bleiben mit den neuesten Forschungen zur Modellkompression, einschließlich neuer Techniken für multimodale und generative Architekturen.
• Dokumentation von Methoden, Experimenten und Ergebnissen zur Unterstützung der Reproduzierbarkeit, internen Zusammenarbeit und Kommunikation mit Stakeholdern.
• Verfassen technischer Arbeiten und Veröffentlichung von Ergebnissen in erstklassigen Konferenzen (z.B. NeurIPS, ICML, ICLR, CVPR, ACL, AAAI), um das Feld der Modellkompression für multimodale KI voranzutreiben.

Qualifikationen:

• Ein Abschluss in Informatik oder einem verwandten Bereich. Idealerweise ein Doktortitel in NLP, Maschinellem Lernen oder einem verwandten Bereich, ergänzt durch eine solide Erfolgsbilanz in der KI-Forschung und -Entwicklung (mit guten Veröffentlichungen in A*-Konferenzen).
• Erfahrung mit PyTorch Deep Learning-Frameworks oder gleichwertigen Frameworks.
• Praktische Erfahrung mit Modellquantisierung, einschließlich Quantization-Aware Training (QAT) und Post-Training Quantization (PTQ).
• Forschung und praktische Erfahrung mit Wissensdistillation zur Kompression großer Modelle in kleinere, effiziente Modelle.
• Forschung und praktische Erfahrung mit Modellpruning zur Kompression großer Modelle in kleinere, effiziente Modelle.
• Solides Verständnis von neuronalen Netzwerkarchitekturen und Trainingsprozessen – einschließlich Transformer (z.B. LLMs, VLMs), Rückpropagation, Optimierung und Feinabstimmungstechniken.
• Kenntnisse in C++ sind von Vorteil (insbesondere für die Implementierung von Low-Level-Quantisierungskernen oder Inferenzoptimierungen).