Titel

KERE - Kosten- und energieeffiziente Realisierung von Empfehlungssystemen (KMU-innovativ - Verbundprojekt)

Kurzbeschreibung

Die derzeit in modernen Anwendungen verwendeten Deep-Learning-Empfehlungsmodelle (DLRMs) haben mit drei großen Problemen zu kämpfen: hoher Speicherbedarf, erheblicher Ressourcenverbrauch und erhöhter Energieverbrauch. Während sich größere Unternehmen die mit dem Einsatz solcher ressourcenintensiven und rechenintensiven Modelle verbundenen Kosten leisten können, müssten kleinere Unternehmen alle drei Aspekte deutlich reduzieren, um solche Systeme in ihren Arbeitsabläufen rentabel einzusetzen. Das Kere-Projekt zielt daher darauf ab, dieses Problem in dreifacher Hinsicht effizient anzugehen, indem es die Optimierung für jeden dieser Aspekte einzeln vornimmt. Speicherprobleme sollen durch die Implementierung von Tensor Trains in den Eingabeschichten gelöst und später mit der Riemann Stochastic Gradient Descent-Optimierung kombiniert werden, was zu einer weiteren Beschleunigung des Prozesses beitragen würde. Die Einbeziehung von Computation Coding (CC) für die Durchführung der hochdimensionalen Matrixmultiplikationen reduziert die rechenintensive Natur dieser Modelle erheblich. Schließlich soll die Implementierung des bereits optimierten DLRM auf einem FPGA zu einer weiteren Senkung des Energieverbrauchs bei maximalem Durchsatz führen.

Förderung

Dieses Projekt wird vom Bundesministerium für Forschung, Technologie und Raumfahrt gefördert (Förderkennzeichen: 01IS25018B).

Laufzeit

01.07.2025 - 30.06.2027

Team

Prof. Dr.-Ing.
Marc Reichenbach
E-Mail
Tel.: +49 381 498 7270
Raum: 102

M.Sc.
Sudatta Mondal
E-Mail
Tel.: +49 381 498 7351
Raum: 205

Publikationen