Connect with us

Deutsch

Amazon, Spotify, Netflix oder Steam: Wie Empfehlungsmaschinen unseren Geschmack beeinflussen

Published

on

Amazon, Spotify, Netflix oder Steam: Wie Empfehlungsmaschinen unseren Geschmack beeinflussen

Wenn Sie online etwas kaufen, einen Film auf einer SVOD-Plattform ansehen, ein Lied in einer Musik-Streaming-App anhören: Ohne dass Sie sich dessen bewusst sind, begleiten Sie Algorithmen auf Ihrem Weg ins kulturelle Angebot. Und Sie bei Ihren Einkäufen oder Ihren kulturellen Entscheidungen beeinflussen.

Ob bei Amazon, Spotify, Netflix oder Steam (ASNS), Empfehlungs-Engines führen Sie zu beliebten, angesehenen und geteilten Inhalten. Angesichts der anfänglichen Prämisse, dass es angesichts einer Überfülle an Auswahlmöglichkeiten nützlich sein kann, sich von Tools beraten zu lassen, die Inhalte für uns „filtern“.

Angesichts der Lähmung und des Stresses, die durch die Unermesslichkeit der Spotify- oder Netflix-Kataloge verursacht werden, beruhigen Algorithmen Sie und sparen Ihnen Zeit. Zu wissen, dass Zeit auch Geld ist: Nicht umsonst ist das Empfehlungssystem von Amazon die Grundlage seines Wirtschaftsmodells. Nach Angaben der E-Commerce-Plattform, für die die Zeit, die mit dem Treffen von Entscheidungen verbracht wird, verschwendete Konsumzeit ist, stammen 30 % der auf ihrer Website angezeigten Seiten von ihren algorithmischen Vorschlägen.

Noch stärker bei Netflix, das sich rühmt, dass 75% der von seinen Kunden angesehenen Inhalte von einer personalisierten Empfehlung seines Algorithmus stammen. Und das Beste daran ist, dass sich die Nutzer selbst gerne von Algorithmen beeinflussen lassen: Laut einer Studie der CNIL aus dem Jahr 2015 sind 9 von 10 Nutzern von Streaming-Diensten der Meinung, dass ihre Daten zur Verbesserung des Dienstes verwendet werden. Und 65 % hören auf die Empfehlungen des Algorithmus. Bei Nutzern von Videodiensten wie YouTube oder Netflix steigt die Quote auf 68 %.

Gefangene unserer digitalen Doppelgänger

Die Kritik an den von den Algorithmen erzeugten „Filterblasen“ betrifft nicht nur Facebook: Die der ASNS bindet uns auch an manchen unserer Geschmäcker und hindert uns letztlich daran, „unsere kulturelle Vertrauenszone zu verlassen“. Diese berühmten Algorithmen, die nur Sätze von Rechenregeln sind, die zur Lösung mathematischer Probleme verwendet werden, werden hier verwendet, um, wenn wir online sind, ständig Informationselemente (Filme, Musik, Bücher usw. Bilder, Webseiten) zu filtern , verwenden sie zwei Ressourcen: das Surfverhalten des Benutzers (Suchschlüsselwörter, Nutzungsverlauf, Konsumverhalten) und kollaborative, soziale Empfehlungen, die auf dem Verhalten von “ähnlichen” Benutzern basieren.

Alle diese Daten, einmal gemischt, bilden „persönliche kulturelle Daten“; Sie spiegeln Ihre Entscheidungen wider und ermöglichen dank KI, dass sich Empfehlungssysteme an Ihren Geschmack anpassen (der sich ändern kann). Netflix verwendet beispielsweise Algorithmen, um die Miniaturansichten von Filmen oder Serien, die auf seiner Homepage angezeigt werden, abhängig von der Nutzungshistorie des Abonnenten zu ändern: Für denselben Film kann das verwendete Poster also wie ein Thriller, Horrorfilm, Liebesroman oder Komödie klingen . Das heißt, wenn Sie auf Netflix sind und denken, Sie treffen Ihre eigene Auswahl, ist Ihr Gefühl, eine Wahl zu haben oder „zufällig“ wählen zu können, nur eine Illusion. Sie sind in Wirklichkeit ein Gefangener Ihres digitalen Doppelgängers, der Sie in Ihrer kulturellen Filterblase eingeschlossen hat.

Unser Geschmack ist manipulierbar…

Aber Empfehlungstools können nicht nur unsere Entscheidungen beeinflussen, sondern im Wesentlichen auch unseren Geschmack verändern. Das ist das Ergebnis eines verhaltensökonomischen Experiments, das 2020 im MIT Sloan mit dem Titel “Side Effects of Referral Systems” veröffentlicht wurde. Ein Team amerikanischer Forscher bat 169 Studenten (und begeisterte Musikkonsumenten), sich die ersten 30 Sekunden von mehreren Dutzend Songs anzuhören.

Jedem von ihnen wurde eine Punktzahl zwischen 1 und 5 Sternen zugeschrieben. Den Schülern wurde gesagt, dass diese Werte auf der Grundlage ihrer früheren Präferenzen berechnet wurden. In Wirklichkeit wurde diese Notation jedoch völlig zufällig generiert. Am Ende des Tests fragten die Forscher, ob sie bereit seien, Lieder zu kaufen und welche, um sie vollständig anzuhören. Dadurch stieg die Zahlungsbereitschaft der Meerschweinchen pro zusätzlichem Notenpunkt von 12 % auf 17 %. Und doch spiegelten diese Werte in keiner Weise ihre Vorlieben wider.

Verbraucher ziehen es vor, dass das System ihnen sagt, was sie möchten

Konkret haben wir sie deshalb geworben, weil sie glauben, dass ihnen dieses oder jenes Lied schon gefallen hat und am Ende ihre Kaufbereitschaft viel größer war. Die Meerschweinchen fühlen sich fast “verpflichtet”, ein Musikstück zu mögen, wenn ein Empfehlungstool (hier manipuliert) es ihnen sagt. “Konsumenten bevorzugen nicht nur das, was sie erlebt haben und wissen, dass es ihnen Spaß macht; sie bevorzugen das, was ihnen das System mitteilt. Das ist überraschend, denn die Verbraucher sollten es nicht müssen. Ein System, das ihnen sagt, wie sehr ihnen ein Lied gefallen hat.” sie haben es gerade gehört. Das Aufkommen von Empfehlungssystemen kann uns dazu bringen, uns über unseren eigenen Geschmack zu wundern. Wir werden von der Frage ‘Liebe ich es ‘ weitergehen. auf die Frage ‚Soll mir das gefallen?‘“, schreiben die Forscher.

Für die Autoren der Studie zeigt diese Erfahrung die „dunkle Seite“ von Empfehlungsmaschinen: die Existenz potenzieller Entscheidungsverzerrungen, die durch Algorithmen eingeführt werden. Und die Fähigkeit dieser Systeme, unsere Vorlieben, unseren Geschmack zu manipulieren, ohne dass wir uns dessen wirklich bewusst sind. Schließlich sind die Details hinter Empfehlungsalgorithmen alles andere als transparent: Fehlerhafte Empfehlungs-Engines, die die wahren Präferenzen der Verbraucher falsch einschätzen, riskieren, die Zahlungsbereitschaft für bestimmte Artikel zu senken und den Preis zu senken Spiel.

Dies könne weniger ethische Organisationen dazu animieren, Empfehlungen künstlich aufzublähen, „schreiben sie eines Produktes, oder im Gegenteil, indem sie es unterschätzen, können sie einen Verbraucher dazu bringen, etwas zu kaufen, was er sonst nie gekauft hätte (aber er wird ganz am Ende enttäuscht sein) oder ihn von Inhalten “ablenken”, die er sonst möglicherweise hätte verbraucht haben.

… weil sie von anderen abhängig sind

Sollten wir uns also Sorgen machen und Angst haben, manipuliert zu werden, wenn wir zu Netflix, Amazon oder Spotify gehen? Ein Professor für Sozialpsychologie, Stéphane Laurens, widerlegt die Vorstellung einer solchen “Manipulationsgefahr” durch Algorithmen: Der Einfluss von Empfehlungsmaschinen sei ihm zufolge tatsächlich ein Phänomen, das so alt wie der Handel ist. Was heute durch Algorithmen automatisiert wird, wurde einst von Menschen gemacht: „Verkäufer beraten ihre Kunden mit Formeln wie ‚Alles wird gut‘, Anzeigen sagen ‚du liebst…‘ und zeigen Menschen, die vom Produkt begeistert sind Produkte sind das Gegenstück zu diesen Ratschlägen auf den Websites, die sich aus Hinweisen aus Profilen, Käufen oder Beratungen zusammensetzen, ähnlich den Hinweisen, die wir einem Verkäufer geben, wenn wir seinen Laden betreten und ein paar Augenblicke mit ihm sprechen, “er erklärt. Kurz gesagt, Empfehlungssysteme sind nur die High-Tech-Version einiger Verkäufer, die so gut sind, dass sie mit ihrem Rat dazu führen, dass Sie Dinge kaufen, die Ihnen nicht gefallen, und Ihren Geschmack abwägen. Menschliche Verkäufer, die ihre Empfehlungen auch auf der Grundlage unserer Hinweise, unserer Gewohnheiten und der Einkäufe anderer Kunden, die sie für wie wir halten, erstellen.

Wir werden von der Illusion eingelullt, unsere eigenen Entscheidungen unabhängig und objektiv zu treffen

Stéphane Laurens geht aber noch weiter: Für ihn ist nicht nur unser Geschmack für Produkte, die handhabbar sind, sondern „die Vorstellung, die wir von uns selbst haben“. Es basiert dabei auf der Forschung der Psychologin Hazel Markus zum “Selbstschema”, einem Konzept, das suggeriert, dass Individuen Selbstschemata von sich selbst konstruieren, Repräsentationen, mit denen wir uns selbst beschreiben ( Ich bin extrovertiert, ich bin aufrichtig, Ich bin kreativ). Laut Markus, wenn Sie einer Person fiktive Informationen über ihre Persönlichkeit geben, die sich stark von dem unterscheiden, was die Person über sich selbst denkt (z aus den Ergebnissen eines ernsthaften klinischen und wissenschaftlichen Tests wird es seine Selbstwahrnehmung maßgeblich beeinflussen. „Die Empfehlungs-Engine sagt, dass Sie dieses und jenes Lied genießen werden, die Rezension sagt, dass Sie eine unabhängige Person sind … und die Leute übersehen diese Informationen nicht: Unsere Meinungen und unser Geschmack sind nicht nur das Ergebnis unserer eigenen Erfahrungen, sie hängen davon ab darüber, was andere uns über uns selbst und die Objekte um uns herum sagen “, bemerkt Stéphane Laurens.

Letztendlich zeigen uns all diese Studien nicht, dass wir ständig manipuliert werden; aber dass wir von der Illusion eingelullt werden, unsere eigenen Entscheidungen unabhängig und objektiv zu treffen. “Wenn man diese Illusion als Ausgangspunkt nimmt, scheinen solche Ergebnisse zu zeigen, dass, wenn jemand eine Empfehlung oder die Meinung eines anderen abgibt, der Einzelne seine anfängliche Einschätzung aufgibt, wenn er eine hatte, die Realität nicht analysiert und sich ändert, um der Empfehlung oder Meinung zu folgen. Das läuft darauf hinaus, instabile Urteile zu sehen, Individuen, die ihre Positionen nicht halten, die sich ohne Grund ändern … Sie erscheinen dann als törichte Konsumenten, deren Zeit geschickt eingefangen wurde bedeutet nicht, dass wir notwendigerweise manipulierbare Schafe sind, sondern einfach, dass wir zutiefst soziale Wesen sind und dass unsere Urteile instabil sind, Algorithmen oder nicht.

Zufälligkeit nachstellen

Aber wie können wir dann aus unseren kulturellen Blasen herauskommen, uns von dieser Illusion des freien Willens befreien und all diese Vorurteile reduzieren? Der Soziologe Dominique Cardon, Autor des Buches „Wovon träumen Algorithmen“, schlägt vor, dass wir zum Beispiel Menschen in die redaktionellen Vorschläge von Streaming-Plattformen einführen könnten. Oder verbessern Sie das Verständnis aller Computermechanismen und die Möglichkeit, “zum Handbuch zurückzukehren”. Mit anderen Worten, lernen Sie, „die Haube zu heben“ und erklären Sie, wie Algorithmen funktionieren.

Aber wir könnten auch den Zufall, den wahren Zufall, nachbilden; wie der „Random Shopper“, entworfen von Entwickler Darius Kazemi. Ein Bot, der (wirklich) eine zufällige Auswahl für ein bestimmtes Budget bei Amazon trifft. Dies bietet auch Forgotify, eine Website, die nur Songs gewidmet ist, die noch nie auf Spotify gehört wurden. Es verwendet ein Programm, mit dem Sie auf dieser Plattform Lieder anhören können, die noch nie gehört wurden, außer von ihren Schöpfern. Um aus algorithmischen Blasen herauszukommen und uns nicht mehr beeinflussen zu lassen, wäre es so möglich, unbekannte Inhalte auszugraben, wenig gehört / angeschaut / gelesen. Indem wir uns mit dem beschäftigen, was manche das „einsame Netz“ nennen – oder „einsames Netz“. Aber das ist eine andere Geschichte, von der ich Ihnen nächste Woche in einem anderen Artikel erzählen werde.

Continue Reading

Copyright © 2021 Meta Mag Inc.