KI-Seminar

Menschzentrierte KI-Entwicklung: KI-Anwendungen strategisch planen auf der Basis von Wertesensitivem Design und Human-Centered Design

23.06.2023 bis 31.08.2023

Bei der Einführung von Verfahren der Künstliche Intelligenz (KI) in softwaregestützte Arbeitsprozesse ist oft die Rede davon, dass KI-Systeme entwickelt werden sollen, die „menschzentriert“[1] sind. So benennt zum Beispiel Margrethe Vestager menschzentrierte Technologien als eines der wesentlichen Ziele innerhalb der „Neuen Europäischen Innovationsagenda“[2].
Durch die aktuelle Generation der Generative AI, der schöpferischen KI, steht ein weiterer Quantensprung der KI-Technologie an. Diesmal einer, der das berufliche und alltägliche Leben der Menschen wirklich berührt, und nicht nur als leerer Hype im Raum steht, wie auch Sascha Lobo attestiert.[3] Künstliche Intelligenz werde sich sehr schnell und massiv im Alltag der Menschen etablieren – so sieht es der Digitalminister Volker Wissing. Er appelliert deshalb daran, bei der Entwicklung von KI-Technologie alles aus der Perspektive der Anwenderinnen und Anwender heraus zu denken.[4]

Doch wie kann menschzentrierte KI-Entwicklung konkret gelingen, ohne bei Überlegungen zur Usability (guten Nutzbarkeit) stehen zu bleiben?

Das Hamburger „New Institute“ stellt in seiner aktuellen Publikation[5] fest: „Die erfolgreiche Einführung der KI wird die Wirtschaft antreiben, die Gesellschaft umgestalten und zudem darüber bestimmen, welche Länder die Regeln für das kommende Jahrhundert vorgeben.“

Zugleich wird eine Warnung ausgesprochen: „Die KI geht mit den Risiken autoritärer Überwachung und Kontrolle einher, gefährdet die Werte der individuellen Freiheit und Menschenrechte und verschärft durch wachsende Datenmonopole die Ungleichheit sowohl innerhalb der einzelnen Länder als auch zwischen ihnen. Technologien können Freiheit und Entfaltung nur dann fördern, wenn sie vor dem Hintergrund ethischer Überlegungen zu den zentralen Werten und Resultaten entwickelt und eingesetzt werden.“[6]

Auch Sam Altman, CEO von OpenAI gibt aktuell zu bedenken: „Die entscheidende Frage wird sein, nach wessen Wertvorstellungen wir unsere künstliche Intelligenz ausrichten.[7]“

Berlin (dts Nachrichtenagentur) – Die Vorsitzende des Deutschen Ethikrats, Alena Buyx, will die Aufmerksamkeit auf die unmittelbaren Herausforderungen von Künstlicher Intelligenz (KI) lenken, anstatt vor dem Weltuntergang zu warnen, sagte sie am Freitag den Sendern RTL und ntv. Man müsse darüber nachdenken, welche Herausforderungen es bereits gebe, so Buyx. Trotzdem sei die Aufmerksamkeit, die durch die Warnungen für das Thema entstanden sind, sinnvoll. So sei mittlerweile klar, dass Gesellschaften und Entwickler von KI eng zusammenarbeiten müssten. Diese Hilfe bei der Gestaltung müsse die Gesellschaft von den Herstellern der Technologie einfordern. Menschen dürften nicht zu Schaden kommen, gleichzeitig wolle man aber das Potenzial von KI nutzen.