Soft- and hardware co-optimization for sustainable AI

In den letzten Jahren hat die Künstliche Intelligenz (KI) eine extrem schnelle Verbreitung erfahren, insbesondere durch den Erfolg des maschinellen Lernens (ML). Tiefe neuronale Netzwerke haben die Computer Vision und die Verarbeitung natürlicher Sprache revolutioniert. Diese tiefen neuronalen Netzwerke erfordern jedoch massive Datenmengen, um ihre Milliarden von Parametern zu trainieren, was die Umweltbelastungen verstärkt. Das Design nachhaltiger KI-Systeme ist daher eine entscheidende Forschungsfrage.

Dieses Problem wird hauptsächlich aus zwei Perspektiven angegangen. Erstens führt die Gemeinschaft des maschinellen Lernens viele Bemühungen um Softwareverbesserungen an. Ziel dieser Verbesserungen ist es, ML-Algorithmen zu entwerfen, die weniger rechenintensiv sind. Zweitens entwickelt die Hardware-Gemeinschaft eine breite Palette von Hardware-Beschleunigern, die speziell für die effiziente Ausführung bestehender ML-Aufgaben konzipiert sind. Es gibt ein wachsendes Interesse daran, über diese getrennten Ansätze hinauszugehen und einen ganzheitlichen Ansatz zu verfolgen, bei dem Algorithmen und Hardware gemeinsam entworfen werden.

Hochrangiges Ziel: Diese Doktorarbeit wird das Ökodesign von maschinellen Lernsystemen untersuchen, während die Soft- und Hardware co-optimiert werden. Dies wird aus einer interdisziplinären Perspektive angegangen, die Wissen aus dem maschinellen Lernen, der Algorithmusgestaltung, dem Hardwaredesign und der Lebenszyklusanalyse umfasst. Die Doktorarbeit könnte beispielsweise folgende Forschungsfragen behandeln:

• Wie können wir den gesamten Lebenszyklus eines maschinellen Lernsystems modellieren?
• Was ist eine faire Vergleichseinheit im Fall eines maschinellen Lernsystems, wenn es um nachhaltige KI geht?
• Wie gut sind bestehende nachhaltige KI-Bemühungen darin, den gesamten Lebenszyklus zu berücksichtigen?
• Was ist die Umweltwirkung von Rechenzentren und wie können wir einen Teil ihrer Auswirkungen einem bestimmten ML-Modell zuordnen?
• Welche Hardware- und/oder Softwaretechnologieentscheidungen minimieren die Umweltbelastung?
• Wie können wir diese Entscheidungen robust gestalten, angesichts der zahlreichen zugrunde liegenden Unsicherheiten?

Profil des Kandidaten: Der Kandidat hat einen Ingenieur-Masterabschluss (Informatik, Elektrotechnik, angewandte Mathematik) und gute Kenntnisse in mindestens einem der folgenden Bereiche:

• Maschinelles Lernen
• Hardwaredesign
• Nachhaltigkeit

Die Forschung wird im IRIS-Team von imec durchgeführt, das über Fachkenntnisse in der Nachhaltigkeitsforschung für die Halbleiterfertigung verfügt.