AITE

Artificial Intelligence, Trustworthiness & Explainability

01.11.2020 bis 31.10.2023

Gegenwärtig bleiben die Antworten oder Entscheidungen von maschinellen Lernsystemen (ML) für uns relativ undurchsichtig, warum entscheiden sie so, wie sie es tun. Wenn ein Bildklassifikator sagt: "Das ist ein Zug", erkennt es dann den Zug oder nur die Schienen oder etwas ganz anderes? Wie können wir sicher sein, dass es seine Entscheidungen aus den richtigen Gründen trifft? Dieses Problem steht im Mittelpunkt mehrerer Debatten: Können wir künstlich intelligenten Systemen (KI) vertrauen? Und wenn ja, auf welcher Grundlage? Würde eine Erklärung der Entscheidung unserem Verständnis helfen und letztlich das Vertrauen fördern? Und wenn ja, welche Art von Erklärung?

Das AITE-Projekt gliedert sich in drei zusammenhängende Teilprojekte. Im Teilprojekt 1 formulieren wir erkenntnis- und wissenschaftstheoretische Erklärungsnormen, um epistemische Standards für erklärbare KI (XAI) zu etablieren. In Teilprojekt 2 untersuchen wir moralische Normen der XAI auf der Grundlage einer Kasuistik von moralisch relevanten Fällen algorithmischer Entscheidungsfindung. In Teilprojekt 3 analysieren wir den Begriff des "Vertrauens" in KI-Systeme und seine Beziehung zur Erklärbarkeit.