Student (m/f/d) - Computer Science, Mathematics, Data Science, Physics, or similar

Das DLR-Institut für Datenwissenschaften in Jena konzentriert sich auf die Suche nach Lösungen für die neuen Herausforderungen der Digitalisierungsära. Die Forschung konzentriert sich auf die Bereiche Datenmanagement, Datenanalyse und Datenerfassung. Drei Abteilungen wurden entsprechend dem thematischen Fokus des Instituts eingerichtet.

Im Bereich Datenanalyse und Intelligenz werden Methoden entwickelt und angewendet, die die Analyse komplexer und großer Datensätze ermöglichen. Hierbei kommen Methoden des maschinellen Lernens, der kausalen Inferenz und domänenspezifisches Prozesswissen zum Einsatz. Um das Potenzial des Technologietransfers zu erhöhen, werden menschliche Faktoren wie Akzeptanz bei der Anwendungsentwicklung berücksichtigt.

Was wir anbieten:

• In der Arbeitsgruppe „Maschinelles Lernen“ forschen und entwickeln wir innovative datengestützte Methoden zur Datenanalyse und finden in Zusammenarbeit mit anderen DLR-Instituten Lösungen für praktische Anwendungen unter Verwendung von Methoden des maschinellen Lernens.
• Im Rahmen unserer Arbeitsgruppe bieten wir Ihnen die Möglichkeit, Ihre Abschlussarbeit zu schreiben oder als Student im Bereich des maschinellen Lernens zu arbeiten, insbesondere zum Thema Modellkompression von grundlegenden Modellen wie großen Sprachmodellen (LLMs) in Kombination mit datenschutzfreundlichen Ansätzen.
• Als Teil eines internationalen Teams besteht Ihre Aufgabe darin, neue Methoden zu entwerfen, umzusetzen und zu evaluieren.

Ihre Aufgaben:

• Implementierung und Test von LLM-Kompressionsmethoden wie Pruning, Quantisierung und Low-Rank-Anpassung.
• Durchführung von Experimenten mit Open-Source-LLMs wie LLaMA, Phi, Mistral, Gemma oder Qwen-Modellen.
• Evaluierung komprimierter Modelle anhand von Benchmarks für Schlussfolgerungen, Fragenbeantwortung und Sprachverständnis.
• Unterstützung von Experimenten zu datenschutzfreundlichen KI-Methoden, wie z.B. föderiertes Lernen, differenzielle Privatsphäre, sichere Inferenz oder homomorphe Verschlüsselung.
• Lesen und Zusammenfassen aktueller Forschungsarbeiten zu effizienten und vertrauenswürdigen LLMs.
• Beitrag zu internen Werkzeugen für LLM-Kompression und -Evaluation.
• Test und Dokumentation der Arbeit, einschließlich der Vorbereitung von Skripten, Experimentprotokollen, Diagrammen und Ergebnistabellen.

Im Rahmen Ihrer studentischen Tätigkeit sind Sie für bis zu 20 Stunden Arbeit pro Woche verantwortlich. Das genaue Thema einer Abschlussarbeit wird gemeinsam mit Ihnen entsprechend Ihrer spezifischen Qualifikationen und Erwartungen festgelegt.

Was Sie mitbringen:

• Aktuelle Studien in Informatik, Mathematik, Physik, Datenwissenschaft oder verwandten Fächern.
• Grundkenntnisse in Mathematik (Analyse, lineare Algebra, Stochastik, Logik).
• Gute Programmierkenntnisse in Python.
• Vertrautheit mit PyTorch, Hugging Face Transformers und ähnlichen Bibliotheken.
• Interesse an großen Sprachmodellen, vertrauenswürdigen und effizienten KI-Systemen.
• Gute Englischkenntnisse.
• Nachweis über abgeschlossene Projekte, z.B. Studienarbeiten, Praktika usw.

Wir freuen uns darauf, Sie kennenzulernen! Bei Fragen zu dieser Position (Stellen-ID 5387) wenden Sie sich bitte an: Prof. Christian Thiel Tel.: +49 3641 30960 128