Connect with us

Deutsch

Laut Facebook-Whistleblower wird es sicher noch mehr gewalttätige Ereignisse geben, die durch soziale Medien ausgelöst werden

Published

on

Frances Haugen sprach in London vor dem britischen Parlament im Rahmen einer Untersuchung des Entwurfs des Gesetzentwurfs zur Online-Sicherheit.

Bild: Britisches Parlament 2021/ Annabel Möller

Social-Media-Plattformen, die undurchsichtige Algorithmen verwenden, um schädliche Inhalte zu verbreiten, sollten eingedämmt werden, da sie sonst laut Facebook-Whistleblowerin Frances Haugen eine wachsende Zahl gewalttätiger Ereignisse auslösen könnten, wie die Angriffe auf das US-Kapitol im vergangenen Januar.

Laut Haugen sind Ereignisse wie die Kapitol-Unruhen und andere von den sozialen Medien angeheizte Konflikte ein Vorgeschmack auf das, was noch kommen wird.

“Ich habe keinen Zweifel, dass die Ereignisse, die wir auf der ganzen Welt sehen, Dinge wie Myanmar und Äthiopien, die Eröffnungskapitel sind”, sagte Haugen. „Weil die bindungsbasierte Bewertung zwei Dinge bewirkt. Erstens priorisiert und verstärkt sie spaltende, polarisierende, extreme Inhalte. Und zweitens konzentriert sie sie.“

Haugen sprach in London vor dem britischen Parlament im Rahmen einer Untersuchung des Anfang des Jahres von der Regierung vorgelegten Entwurfs zur Online-Sicherheitsgesetzgebung. Dieser Gesetzentwurf sieht vor, Unternehmen zu zwingen, ihre Nutzer vor schädlichen Inhalten zu schützen, die von Rachepornos bis hin zu Desinformation, Hassreden und rassistischem Missbrauch reichen.

Parlamentarier nahmen Beweise von Haugen entgegen, weil sie kürzlich als Whistleblowerin hinter Bombe durchgesickerten internen Dokumenten von Facebook in den Vordergrund gerückt ist, darunter interne Dateien, Präsentationsentwürfe, Recherchen und Mitarbeitermitteilungen, die sie während ihrer Tätigkeit als leitende Produktmanagerin für Facebooks Bürgergesellschaft erhalten hat Fehlinformations-Team.

Die Leaks, die jetzt als Facebook-Dateien bekannt sind, wurden veröffentlicht von Das Wall Street Journal und untersuchen Sie eine Vielzahl von Themen, darunter die Verwendung verschiedener Richtlinien zur Inhaltsmoderation für hochkarätige Benutzer, die Verbreitung von Fehlinformationen und die Auswirkungen von Instagram auf die psychische Gesundheit von Teenagern. Die Enthüllungen wurden sogar zu einem Katalysator für eine Untersuchung des Senats zu den Aktivitäten von Facebook.

In diesem Zusammenhang, so Haugen, müssten die Regierungen verstärkt und strenger regulieren. “Ich habe mich jetzt gemeldet, weil jetzt die Zeit zum Handeln gekommen ist”, sagte Haugen. “Die Ausfälle von Facebook erschweren das Handeln.”

Haugen argumentierte, dass der Social-Media-Gigant den Hass „zweifellos“ verschlimmert, insbesondere weil er einen auf Engagement basierenden Ranking-Algorithmus verwendet, der Inhalte, die wahrscheinlich mehr Engagement erzeugen, weiter an die Spitze der Zeitleisten der Benutzer schiebt.

Da extreme Inhalte tendenziell viraler sind, kann dies einen Echokammer-Effekt erzeugen, was bedeutet, dass Benutzer in ein Kaninchenloch gedrängt werden und am Ende Inhalte konsumieren, die zunehmend polarisieren und spalten.

Zum Beispiel könnte jemand, der nach gesunden Rezepten sucht, anfangen, Inhalte zu sehen, die sich auf Magersucht beziehen; und jemand, der rechte Inhalte liest, könnte zu rechtsextremen Beiträgen gedrängt werden. Das Problem ist nicht auf Facebook beschränkt: Ähnliche Vorwürfe wurden zuvor von dem ehemaligen Google-Softwareingenieur Guillaume Chaslot gegen den Empfehlungsalgorithmus von YouTube erhoben.

“Die Gefahr bei Facebook besteht nicht darin, dass Einzelpersonen schlechte Dinge sagen; es geht um die Verstärkungssysteme, die Menschen, die extreme und polarisierende Dinge sagen, überproportional das größte Megaphon im Raum geben”, sagte Haugen.

Das Thema dehnt sich laut Whistleblower auch auf bezahlte Werbung aus. Da spaltende Anzeigen eher zu Engagement führen, ist es viel billiger, “wütende” Werbekampagnen durchzuführen, was Haugen zu der Aussage veranlasste, dass das aktuelle System Hass auf Social-Media-Plattformen subventioniere.

Dies ist etwas, das Facebook widerlegt hat: In der Woche vor Haugens Auftritt im britischen Parlament veröffentlichte der Social-Media-Riese einen Bericht, in dem behauptet wird, dass die Prävalenz von Hassreden auf der Plattform in den letzten drei Quartalen um fast 50 % gesunken ist und jetzt nur noch ausmacht 0,05 % aller angesehenen Inhalte.

Ein Facebook-Sprecher sagte: „Im Gegensatz zu dem, was in der Anhörung besprochen wurde, hatten wir immer den kommerziellen Anreiz, schädliche Inhalte von unseren Websites zu entfernen. Die Leute möchten sie nicht sehen, wenn sie unsere Apps nutzen, und Werbetreibende wollen dies nicht ihre Anzeigen daneben. Aus diesem Grund haben wir 13 Milliarden US-Dollar investiert und 40.000 Mitarbeiter eingestellt, um eine Aufgabe zu erfüllen: die Sicherheit der Menschen in unseren Apps zu gewährleisten.”

Haugen argumentiert jedoch, dass Facebook sich nicht selbst regulieren wird, um seine Nutzer zu schützen, da niedrigere Engagement-Raten dem Geschäftsmodell des Unternehmens widersprechen. “Facebook war nicht bereit zu akzeptieren, dass auch nur kleine Profitschnipsel für die Sicherheit geopfert werden”, sagte sie und folgte damit ihren Behauptungen, dass das Unternehmen “moralisch korrupt” sei und sich entschieden habe, die Gewinne um jeden Preis zu steigern.

Staatliche Maßnahmen erforderlich

Um eine Eskalation der Ereignisse zu weiteren gewalttätigen Protesten zu vermeiden, sind daher Maßnahmen der Regierung erforderlich. Haugen lobte die Bemühungen Großbritanniens bei der Ausarbeitung des Online-Sicherheitsgesetzes, nannte die vorgeschlagenen Gesetze “weltweit führend” bei der Regulierung sozialer Plattformen und betonte insbesondere die Notwendigkeit, Unternehmen wie Facebook eine Sorgfaltspflicht aufzuerlegen, um die Benutzer zu schützen.

“Ich kann mir nicht vorstellen, dass Mark nicht darauf achtet, was Sie tun”, sagte Haugen auf die Frage, ob der Gesetzentwurf möglicherweise Facebook-Chef Mark Zuckerberg nachts wach hält.

Haugen empfahl, dass das Gesetz zur Online-Sicherheit obligatorische Risikobewertungen für auf Engagement basierende Ranking-Systeme beinhalten sollte, die von externen Regulierungsbehörden und nicht von Gremien innerhalb von Facebook beaufsichtigt würden; und dass Bedenken bezüglich bezahlter Werbung in die Rechnung aufgenommen werden.

Sie schlug auch vor, von Facebook zu verlangen, dass Daten Forschern außerhalb des Unternehmens zur Verfügung gestellt werden, um die Untersuchung potenzieller Probleme von außen zu ermöglichen, und empfahl die obligatorische Moderation von Facebook-Gruppen, wenn diese eine bestimmte Anzahl von Benutzern überschreiten.

Schließlich ging Haugen auf das Thema der Ende-zu-Ende-Verschlüsselung ein, das seit der Veröffentlichung des Gesetzentwurfs für Kontroversen sorgt. Gruppen der Meinungsfreiheit haben in der Tat Bedenken geäußert, dass der Gesetzentwurf die Abschaffung der Ende-zu-Ende-Verschlüsselung erfordert, damit Social-Media-Plattformen private Nachrichten scannen und nach schädlichen Inhalten suchen können – auf Kosten der Privatsphäre der Benutzer.

„Ich unterstütze den Zugriff auf Ende-zu-Ende-Verschlüsselung und verwende jeden Tag Open-Source-End-zu-Ende-Verschlüsselung“, sagte Haugen. “Mein soziales Support-Netzwerk verwendet derzeit einen Open-Source-End-to-End-Verschlüsselungsdienst.”

Die Pläne von Facebook für eine Ende-zu-Ende-Verschlüsselung seien problematisch, da das Produkt nicht Open Source sei, so dass es unmöglich sei, den effektiven Schutz der Benutzer zu überprüfen. Dies kann dazu führen, dass einige Benutzer sensible Informationen online teilen, während sie denken, dass ihre Daten verschlüsselt sind, obwohl sie in Wirklichkeit Gefahr laufen, von Dritten gelesen zu werden.

Facebook hat seinerseits den Versuch Großbritanniens begrüßt, Social-Media-Plattformen zu regulieren. „Wir haben zwar Regeln gegen schädliche Inhalte und veröffentlichen regelmäßige Transparenzberichte, aber wir sind uns einig, dass wir eine Regulierung für die gesamte Branche brauchen, damit Unternehmen wie unseres diese Entscheidungen nicht alleine treffen“, sagte ein Facebook-Sprecher. “Großbritannien ist eines der führenden Länder und wir freuen uns, dass das Gesetz zur Online-Sicherheit voranschreitet.”

Continue Reading

Copyright © 2021 Meta Mag Inc.