Ressourcenbewusste Edge AI ermöglicht KI-Anwendungen auf mobilen Geräten

Gemeinsames Projekt FAIRe von DFKI und Inria gestartet.

Künstliche Intelligenz (KI) findet zunehmend vielfältige Anwendungen in der physischen Welt, insbesondere auf eingebetteten, cyber-physischen Geräten mit begrenzten Ressourcen und unter anspruchsvollen Bedingungen. Diese Art von KI wird als „Frugale KI“ bezeichnet und zeichnet sich durch geringen Speicherbedarf, reduzierte Rechenleistung und den Einsatz von weniger Daten aus. Das Projekt FAIRe (Frugal Artificial Intelligence in Resource-limited environments) des DFKI und des französischen Informatikinstituts Inria entwickelt einen umfassenden Ansatz für alle Abstraktionsschichten von KI-Anwendungen an der Peripherie.

Edge Devices wie Fahrerassistenz- und Infotainment-Systeme im Auto, medizinische Geräte, Explorations-, Fertigungs- oder Service-Roboter und nicht zuletzt Mobiltelefone verfügen bei weitem nicht über die Ressourcen riesiger Cloud-Rechenzentren, die moderne Anwendungen für maschinelles Lernen benötigen. Die Herausforderung besteht darin, mit beschränkter Rechenleistung, begrenztem Speicherplatz und eingeschränkter Stromversorgung umzugehen.

Aufgrund eingeschränkter Konnektivität an abgelegenen Orten, unter Wasser oder im Weltraum und aufgrund von Sicherheits- oder Datenschutzbedenken, z. B. im häuslichen und industriellen Umfeld, ist es dennoch wünschenswert, dass diese Geräte Daten direkt verarbeiten, anstatt sie in die Cloud zu senden. Edge Computing kann außerdem Energie sparen, die sonst für den Datentransfer aufgewendet werden müsste. Damit die Rechenprozesse auf Edge-Devices schneller, umfangreicher und effizienter ausgeführt werden, kommt das Konzept der „Frugalen KI („Genügsame KI“) zum Tragen.

FAIRE zielt darauf ab, die Bereitstellung von KI-Anwendungen auf mobilen Geräten durch einen innovativen Ansatz zur Reduzierung der Modellgröße und des Rechenaufwands durch Netzwerkquantisierung, Optimierung der Netzwerkarchitektur, Optimierung der Berechnungen und schließlich Ausführung auf spezialisierter Hardware (z.B. auf RISC-V-Basis oder FPGAs) zu ermöglichen.

FAIRe entwickelt einen umfassenden Ansatz auf allen Abstraktionsebenen einer KI-Anwendung, der die verschiedenen Schichten implementierter, laufender KI-Systeme adressiert, und die Kompetenzen aus mehreren Forschungsbereichen des DFKI kombiniert: die eigentlichen KI-Algorithmen, die Hardware, auf der sie laufen, und die dazwischen liegende Compiler-Schicht, die dafür verantwortlich ist, KI-Algorithmen so effizient wie möglich für eine bestimmte Hardware zu übersetzen. Um diesen Ansatz in der Praxis zu demonstrieren, führt das Projektteam um Prof. Dr. Christoph Lüth eine Fallstudie zur Mensch-Roboter-Interaktion (HRI) durch, die alle diese Aspekte abdeckt.

Die Fallstudie wird anhand der Interaktion mit einem Menschen verdeutlichen, wie die verschiedenen Abstraktionsschichten zusammenarbeiten und wie robotische Systeme ressourcenbewusst und kontinuierlich lernen können. In diesem Szenario interagiert ein intelligenter Roboter über einen ausgedehnten Zeitraum mit einem Menschen, um ihn kontinuierlich bei spezifischen Aufgaben zu unterstützen. Während dieser Interaktion passt sich der Roboter an unbekannte Kontexte an. Die Ergebnisse der Fallstudie sollen die breite Anwendbarkeit der in FAIRe entwickelten KI-Algorithmen zeigen und weisen über das spezifische Szenario hinaus.

Edge-AI-Projekte wie FAIRe tragen dazu bei, KI-Anwendungen auf mobilen Endgeräten weitreichend nutzbar zu machen und eröffnen neue Potenziale für Anwendungen.

Das Projekt wird im Rahmen der Kooperation von DFKI und Inria durchgeführt und vom Bundesforschungsministerium (BMBF) vom 01.11.2023 – 31.10.2026 unter dem Förderkennzeichen 01IS23074 gefördert.

Wissenschaftliche Ansprechpartner:

Prof. Dr. Christoph Lüth
Forschungsbereich Cyber-Physical Systems
E-Mail: christoph.lueth@dfki.de
Telefon: 0421 218 59830

Weitere Informationen:

http://www.dfki.de/web/news/ressourcenbewusste-edge-ai-ermoeglicht-ki-anwendunge…