Wie verändern sich die Einstellungen der Verbraucher in Abhängigkeit davon, ob die Entscheidung von einem Algorithmus oder von einem Menschen getroffen wurde?
In dem Journal „Thumbs Up or Down: Consumer Reactions to Decisions by Algorithms Vs. Humans” von Gizem Yalcin, Sarah Lim, Stefano Puntoni und Stijn M.J. van Osselae wurde sich mit dieser Fragestellung beschäftigt. Dabei wurde die Thesis aufgestellt, dass ein Interaktionseffekt zwischen den Entscheidungsträger (Mensch/Algorithmus) und Entscheidungsergebnis (Zusage/Absage) stattfindet. Hierfür wurden 10 Studien mit unterschiedlichen Anwendungsfällen durchgeführt.
Welche Meinungen haben Manager?
Damit die Ergebnisse eine Bedeutung für die Unternehmensführung haben, wurden vorab 88 Manager aus einem Executive Master of Business Administration Programm rekrutiert. Es wurde eine Geschäftssituation mit Verbraucheranwendung beschrieben.
Die meisten Manager sind der Meinung, dass Verbraucher positiver auf Entscheidungen reagieren, die von Menschen getroffen werden, unabhängig vom Ergebnis.
5% der Manager sagten den Interaktionseffekt voraus. Die Verbraucher würden positiv auf eine Annahme durch einen Menschen (im Vergleich zum Algorithmus) reagieren und wären ähnlich zufrieden mit einer Ablehnung durch einen Menschen und einem Algorithmus.
Überraschenderweise sagten einiger der Manager das Gegenteil voraus. Bei einer Zusage spielt die Art des Entscheidungsträgers eine geringere Rolle.
Studie 1a: Einfluss des Trägertyps auf die Günstigkeit des Ergebnisses (Einstellung)
Die erste Studie wurde nochmal in zwei Teilstudien aufgeteilt, die zum einen unterschiedliche Variablen und zum anderen unterschiedliche Anwendungsfälle untersuchen.
In der Studie 1a wurden 992 Amazon MTurk Arbeitnehmer befragt. Sie mussten einen Mitgliedschaftsantrag im Violethall Country Club stellen. Den Arbeitnehmern wurden die Ergebnisse mitgeteilt und dass diese entweder von einem Algorithmus oder von einem Menschen getroffen wurde. Anschließend wurde die Einstellung gegenüber dem Country Club erfragt.
Die Ergebnisse zeigten einen signifikanten Haupteffekt des Entscheidungsträgertyps und der Günstigkeit des Ergebnisses. Außerdem wurde ein signifikanter Interaktionseffekt beobachtet. Bedeutet, dass die Einstellung der Verbraucher weniger positiv war, wenn der Antrag von einem angenommen wurde. Gleichzeitig wurde der Effekt des Trägertyps signifikant abgeschwächt, wenn die Anträge abgelehnt wurde.
Studie 1b: Einfluss des Trägertyps auf die Günstigkeit des Ergebnisses (WoM-Intention)
Im zweiten Teil der ersten Studie wurde zum einen der Interaktionseffekt auf einen nicht-sozialen Kontext überprüft und zum anderen die Variable Weiterempfehlung untersucht.
Es wurden 500 Prolific-Arbeiter befragt. Diese sollten einen Geschäftskredit bei einer Bank beantragen. Auch hier wurde den Arbeitern mitgeteilt, dass die Entscheidung entweder von einem Algorithmus oder einem Menschen getroffen wurde. Anschließend wurde die Einstellung und die WoM-Intention untersucht.
Hinsichtlich der Einstellung wurde ein signifikanter Haupteffekt des Entscheidungsergebnisses und Trägertyps gefunden, sowie den Interaktionseffekt, wie bei der vorherigen Studie.
Als nächstes wurde die WoM-Intention untersucht. Hier wurde ebenfalls ein signifikanter Haupteffekt der beiden Parameter gefunden, sowie den Interaktionseffekt. Die Arbeiter empfehlen die Bank mit einer geringeren Wahrscheinlichkeit weiter, wenn der Antrag durch ein Algorithmus angenommen wird. Der Effekt des Trägertyps wird auf die WoM-Intention signifikant abgeschwächt, wenn die Anträge abgelehnt werden.
Studie 2: Replikation von Studie 1 mit echtem Bewerbungsprozess
Die zweite durchgeführte Studie hat zwei Ziele. Das erste Ziel ist es den vorausgesagten Effekt in einem realen Szenario nachzuweisen. Die Teilnehmer bewarben sich bei einem Meinungsforschungsunternehmen, um an einer Forschungsumfrage teilzunehmen, die Bewerbungen wurden von einem Menschen oder von einem Algorithmus angenommen oder abgelehnt. Daraufhin wurde die Einstellung zum Unternehmen abgefragt. Das zweite Ziel der Studie war es, die Unaufmerksamkeit gegenüber ungünstigen Entscheidungen auszuschließen. Menschen tendieren dazu ungünstigen Informationen keine Beachtung zu schenken. Um diese Möglichkeit auszuschließen, wurden die Teilnehmer vor Abfragung der Einstellungen auf den Entscheidungsträger hingewiesen.
303 Teilnehmer bewarben sich beim Meinungsforschungsunternehmen und mussten in Ihrer Bewerbung Ihre Kognitiven Fähigkeiten angeben. Nach abgeben der Bewerbung bekamen die Teilnehmer Ihre Ergebnisse und sollten daraufhin Ihre Einstellung zum Unternehmen abgeben.
Die Studie fand einen signifikanten Haupteffekt des Entscheidungsträgertypen und beim Entscheidungsergebnis. Der Interaktionseffekt wurde unter realen Bedingungen nachgestellt. Einstellungen gegenüber dem Unternehmen sind weniger positiv bei den Teilnehmern, deren Bewerbungen von einem Algorithmus akzeptiert wurden.
Studie 3a und 3b: Auswirkung der (nicht) Offenlegung des Entscheidungsträgers
Studie 3a und 3b fokussieren sich auf die günstigen Entscheidungen. Es soll klargestellt werden, ob der Haupteffekt durch einen positiven Effekt auf den menschlichen Entscheidungsträger oder durch einen negativen Effekt auf den Algorithmus begründet werden kann. Die Studien haben noch einen dritten unspezifischen Entscheidungsträger betrachtet, um einen Vergleichswert zu haben.
In Studie 3a haben 403 Teilnehmer eine Mitgliedschaft bei einem Country-Club beantragt und daraufhin erfahren, dass die Bewerbung von einem Menschen, Algorithmus oder unspezifisch angenommen wurde. Studie 3b ist wie Studie 3a aufgebaut mit dem Unterschied, dass die Teilnehmer einen Kredit beantragen.
In der Studie 3a wurde ein Signifikanter Effekt auf den Entscheidungsträgern festgestellt, wie bei den vorherigen Studien. Einstellungen gegenüber dem Country-Club waren schlechter, wenn die Bewerbung von einem Algorithmus angenommen wurde.
In Studie 3b wurde ein Signifikanter Effekt auf den Entscheidungsträgern festgestellt. Einstellungen gegenüber der Bank waren schlechter, wenn der Antrag von einem Algorithmus angenommen wurde.
Studie 4: Vermittlung durch interne Attribution
Wie in Studie 3a bewerben sich 571 Teilnehmer auf eine Mitgliedschaft in einem Country-Club, die Teilnehmer werden abgelehnt oder angenommen von einem Algorithmus oder vom Club-Koordinator. Daraufhin geben sie Ihre Einstellung zum Unternehmen an. Zuletzt wird die interne Attribution gemessen.
Es wurde ein signifikanter Haupteffekt des Entscheidungsträgers und der Günstigkeit des Entscheidungsergebnisses festgestellt. Einstellungen gegenüber dem Country-Club waren geringer positiv, wenn der Antrag vom Algorithmus angenommen wurde.
Außerdem wurde ein signifikanter Interaktionseffekt bei der internen Attribution festgestellt. Diese war schwächer, wenn die günstige Entscheidung von einem Algorithmus getroffen wurde.
Studie 4 hat den vorausgesagten Mechanismus direkt untersucht und Beweise dafür gefunden, dass die Begünstigung des Entscheidungsergebnisses den internen Zuordnungsprozess von algorithmischen gegenüber menschlichen Entscheidungen beeinflusst. Dies führt zu unterschiedlichen Reaktionen auf die von den verschiedenen Entscheidungsträgern getroffenen Entscheidungen.
Studie 5: Moderierte Mediation durch interne Attribution eines günstigen Ergebnisses
Konsumenten reagieren positiv, wenn eine günstige Entscheidung von einem Menschen entschieden wird, weil dieser Entscheidungsträger die interne Attribution erleichtert. Wenn dies der Fall ist, müsste der Effekt gemildert werden, wenn das Entscheidungsergebnis nicht selbst diagnostisch ist.
In Studie 5 bewerben sich 443 Teilnehmer für eine Business-Networking-Community. Die Teilnehmer erfahren, dass Ihre Bewerbung von einem Algorithmus oder von einem Menschen angenommen wurde. Außerdem wurde die Bewerbung ausgewertet oder gelost.
Studie 5 bestätigt den Attributionsmechanismus, indem sie Mäßigung durch die Selbstdiagnose der Entscheidung demonstriert. Zusammen liefern die Ergebnisse der Studien 4 und 5 konvergierende Beweise, die den Zuordnungsmechanismus unterstützen.
Studie 6: Externe Attribution eines ungünstigen Entscheidungsergebnisses
Menschen sind weniger Objektiv und Algorithmen vernachlässigen die Einzigartigkeit. Wenn Konsumenten eine ungünstige Entscheidung erhalten, machen sie diese Schwächen der Entscheidungsträger dafür verantwortlich. Es wird argumentiert, dass diese Effekte sich gegenseitig aufheben, was in einer relativen Indifferenz gegenüber dem Entscheidungsträger resultiert.
In Studie 6 bewerben sich 626 Teilnehmer bei einem Country-Club und werden von einem Algorithmus oder Menschen angenommen oder abgelehnt. Die Teilnehmer bewerten daraufhin die Objektivität und die Berücksichtigung der Einzigartigkeit des Bewerbers des Entscheidungsträgers.
Studie 6 bestätigt die Theorie, dass Verbraucher externe Faktoren für ungünstige Entscheidungsergebnisse verantwortlich machen, sowohl für menschliche als auch algorithmische Entscheidungsträger, was durch die wahrgenommene Schwäche des Entscheidungsträgers erleichtert wird. Menschliche Entscheidungsträger haben eine geringe Objektivität, während algorithmische Entscheidungsträger die einzigartigen Eigenschaften des Bewerbers nicht berücksichtigen.
Studie 7: Auswirkung menschlicher Entscheidungsfindung gegenüber bloßer menschlicher Beobachtung
In Studie 7 wird überprüft ob auf den Menschen positiver reagiert wird, aufgrund von sozialer Präsenz.
In der Studie bewerben sich 597 Teilnehmer bei einem Country-Club und werden angenommen oder abgelehnt. Entscheidungsträger ist ein Algorithmus, ein Mensch und ein Algorithmus mit menschlicher Überwachung. Nach Mitteilung des Entscheidungsträgers wird die Einstellung zum Unternehmen abgefragt.
Es wurde herausgefunden, dass die Teilnehmer positiver reagieren, wenn eine Akzeptanzentscheidung von einem Menschen getroffen wird, als von einem Algorithmus, unabhängig davon, ob ein Mensch die Entscheidungen des Algorithmus überwacht.
Studie 8: Algorithmus vermenschlichen
Dadurch, dass Verbraucher weniger positiv reagieren, wenn ein Algorithmus eine positive Entscheidung trifft, wurde eine mögliche Lösung untersucht: Der Anthropomorphismus. Die Vermenschlichung eines Objektes, die dazu führen kann, dass Verbrauchen ihm menschenähnliche Fähigkeiten zuschreiben.
In der letzten Studie wurden 601 Prolific-Arbeiter befragt. Der Ablauf ist der gleiche, wie in der Studie 1a. In diesem Fall gibt es aber drei Entscheidungsträger: den Algorithmus (dargestellt als Roboter), einen Club-Koordinator namens Sam (dargestellt als Mensch) und den Algorithmus namens Sam (dargestellt als eine Version einer Frau). Den Teilnehmern wurde mitgeteilt, dass die Bewerbung angenommen wurde und anschließend wurde die Einstellung untersucht.
Die Ergebnisse zeigten erneut einen signifikanten Haupteffekt des Trägertyps auf. Die Einstellung war weniger positiv, wenn die Bewerbung vom Algorithmus angenommen wurde im Vergleich zum Menschen. Interessanter ist das Ergebnis, dass die Vermenschlichung des Algorithmus zu einer deutlich positiveren Einstellung geführt hat.
Separat wurde ein Vortest durchgeführt, um zu testen, ob ein menschenähnlicher Algorithmus menschlicher erscheint als ein nicht menschenähnlicher Algorithmus. Dazu wurden 100 Prolific-Arbeitern befragt, inwieweit Sie glauben, dass [der Algorithmus/Sam] einige menschenähnliche Eigenschaften hat. Die Ergebnisse bestätigen, dass die Manipulation erfolgreich war, denn der menschenähnliche Algorithmus wurde menschlicher wahrgenommen.
Gibt es alternative Erklärungen?
Es gibt viele mögliche alternative Erklärungen, die diskussionswürdig sind. Zum einen könnten die Ergebnisse durch soziale Anhaltspunkte erklärt werden. Die Akzeptanz eines Menschen kann das Gefühl der sozialen Zugehörigkeit erzeugen, währen die Bewertung durch einen Algorithmus ein Gefühl der Respektlosigkeit hervorruft. Jedoch wird der Interaktionseffekt auch in Situationen beobachtet, wo die soziale Beziehung weniger wichtig ist, wie in Studie 1b.
Ein weiteres Argument könnte sein, dass die wahrgenommene Fairness die Ergebnisse erklärt. Verbraucher nehmen Entscheidungen von Algorithmen weniger fair wahr als von einem Menschen. Deswegen wurde eine Folgestudie durchgeführt. Hier wurde ein Haupteffekt des Trägertyps gefunden, denn die Verbraucher empfinden den Menschen als fairer. Jedoch wurde der Effekt nicht auf die Günstigkeit der Ergebnisse moderiert, was wiederrum die Fairness als Erklärung ausschließt.
Zusammengefasst schließt die Studie mögliche Erklärungen aus und zeigt, dass ein signifikanter Interaktionseffekt zwischen dem Träger und dem Ergebniss vorhanden ist.
Quellen
[1] S. L. S. P. S. M. v. O. Gizem Yalcin, „Thumbs Up or Down: Consumer Reactions to Decisions by Algorithms Versus Humans,“ Marketing Research, 2021.