Login

Vertrauen in AI-basierte Entscheidungssysteme

Motivation

Mit den technologischen Durchbrüchen bei Rechenleistung und künstlicher Intelligenz (KI) in den letzten Jahren sind intelligente Algorithmen zunehmend in der Lage, Aufgaben von menschlichen Entscheidungsträgern zu übernehmen. Mit dem Aufkommen und dem Erfolg von KI-basierten Entscheidungsunterstützungssystemen ist jedoch eine weitere große Herausforderung entstanden. Forscher haben festgestellt, dass Menschen Algorithmen aufgrund einer allgemeinen, auf Misstrauen beruhenden Abneigung ablehnen, auch dann, wenn es eigentlich besser wäre, sie zu benutzen.

Dieses Phänomen, das als Algorithmus-Aversion bezeichnet wird, stellt eine große Herausforderung für Entscheidungsprozesse dar. Die Ablehnung der Hilfe von KI-basierten Entscheidungsunterstützungssystemen führt entweder zu falscher Benutzung, d. h. Unter- oder Überbeanspruchung der Hilfe durch Algorithmen, zu Missbrauch, d. h. Manipulation der Ergebnisse des Algorithmus, oder sogar zur Nichtnutzung, d. h. zur völligen Verweigerung der Verwendung eines Algorithmus, was letztlich zu schlechteren Entscheidungen führen kann. In der aktuellen Forschung wurden Faktoren vorgeschlagen, die die Akzeptanz von Algorithmen verbessern könnten, z.B. sog. Algorithm Literacy, sog. Human-in-the-Loop Entscheidungen, und die Gestaltung des Kontexts durch sog. Verhaltensdesign. Aufgrund des relativ jungen Forschungsgebiets sind jedoch noch viele Fragen unbeantwortet.

Methode

In diesem Projekt untersuchen wir in einem Laborexperiment, wie das anfängliche Vertrauen in und die anschließende Akzeptanz von KI-basierten Entscheidungsunterstützungssystemen gestärkt werden kann und wie das Vertrauen und die anschließende Akzeptanz wiederhergestellt werden kann, nachdem ein KI-basiertes Entscheidungsunterstützungssystem Fehlentscheidungen getroffen hat.

 

In einer Reihe von Laborexperimenten müssen die Teilnehmer Prognosen treffen, bei der wir das reale Verhalten der Teilnehmer bei der Nutzung eines KI-basierten Entscheidungsunterstützungssystems beobachten können.

Die Studie zielt darauf ab, das Bewusstsein dafür zu schärfen, dass nicht jedes KI-basierte Entscheidungsunterstützungssystem von den Entscheidungsträgern reibungslos angenommen wird und Barrieren für die Annahme entstehen können.

Relevanz

In bestimmten Situationen können KI-basierte Entscheidungsunterstützungssysteme die Entscheidungen erleichtern oder gar verbessern. Die Ergebnisse dieser Studie können Unternehmensentscheidern, die vor der Einführung solcher Systeme in ihren Unternehmen stehen, als Orientierungshilfe dienen, indem verschiedene Implementierungsstrategien vergleichen werden und Vorschläge entwickelt werden, wie anfängliche Widerstände überwunden werden können.

Partner

Prof. Elena Freisinger, Technische Universität Ilmenau

Prof. Sabrina Schneider, MCI Management Center Innsbruck

Publikationen

Publikation in Vorbereitung