Hardware Agnostic Artificial Intelligence for Embedded

01.04.2021 bis 30.05.2023

Für einen Einsatz in eingebetteten Systemen sollten bestehende neuronale Netze auf unterschiedlicher Hardware eingesetzt werden können und bessere, gleiche oder vergleichbare Ergebnisse in Bezug auf skalierbare Leistung, Latenz, Stromverbrauch liefern, ohne dass ein Softwareentwickler seine Anwendungen neu schreiben muss. Die Universität Tübingen entwickelt neue Ansätze, um verschiedene KI-Rechenbeschleuniger (neural processing units, NPUs) zu evaluieren und zu optimieren, die mit SiMa.AI und ARM-basierter Hardware betrieben werden können. Außerdem sollen die Leistungsfähigkeit des Open-Source-Compiler-Frameworks TVM oder des SiMa.AI SDK demonstriert und gezeigt werden, in welchen Umfang die Entwicklung von Deep Neural Networks (DNNs) NPU-unabhängig sein kann. Darüber hinaus entwickelt und verwendet die Universität Tübingen repräsentative Machine-Learning-Workloads für verschiedene Anwendungsdomänen und portiert diese Lasten auf verschiedene NPUs.