Wie wir Vertrauen in die Entscheidungen eines
selbstfahrenden Autos gewinnen können
Wie entscheidet eine
künstliche Intelligenz?
KI unterstützt uns im Alltag, indem sie uns bei Entscheidungen
hilft oder sie uns ganz abnimmt. Dies geschieht etwa beim autonomen Fahren,
aber auch in anderen Bereichen wie bei Diagnosen in der Medizin. Dabei haben
gut trainierte KI-Systeme einen großen Erfahrungsschatz zur Verfügung – oft
sogar einen größeren als Menschen.
Vertrauen oder nicht?
Auf welcher Grundlage eine KI ihre Empfehlungen oder
Entscheidungen trifft, ist jedoch nicht immer nachvollziehbar. Denn der Weg
dorthin ist tief in ihrem neuronalen Netzwerk verborgen, vergleichbar mit dem
„Bauchgefühl“ eines Menschen. Wir können uns also nicht sicher sein, ob auf die
KI Verlass ist, so lange wir ihre Entscheidungsgründe nicht kennen.
Entscheidungsweg der KI
aufzeigen
Um die Empfehlungen eines KI-Systems annehmen zu können, müssen
wir ihm vertrauen können. Das ist besonders wichtig bei Technologien wie
selbstfahrenden Autos, die im Straßenverkehr sicher unterwegs sein sollen.
Deshalb konzentriert sich die Forschung zunehmend darauf, wie KI sich erklären
kann. Es werden Methoden gesucht, die die Entscheidungswege einer KI
offenlegen.
Das Institut für
Kognitionswissenschaften an der Universität Osnabrück erforscht informationsverarbeitende
Prozesse im Gehirn und nutzt dieses Wissen in der Entwicklung von künstlichen
intelligenten Systemen.