Erschreckend: So organisiert verbreitet sich Hass in sozialen Medien

Soziale Medien sind für die meisten von uns eine Quelle von Informationen und Unterhaltung sowie ein Weg, mit Freunden in Kontakt zu bleiben. Aber Facebook, Twitter, Instagram und Co sind auch eine Quelle von Missinformation und Hass. Letzterer wird in den sozialen Medien über ein komplexes und anpassungsfähiges Netzwerk verbreitet, wie US-Forscher herausfanden.

Organisierter Hass in sozialen Medien

Soziale Netze sind nach wie vor beliebt. US-Amerikaner verbringen etwa 22 Prozent ihrer Internetzeit mit Facebook. Zum Vergleich: Youtube und die Google-Suche bringen es zusammen auf 11 Prozent. Umso erschreckender, dass die sozialen Medien inzwischen auch wahre Brutstätten für extremistische Ansichten und Ideologien geworden sind. Die Plattformen versuchen dagegen anzugehen, aber bisher erwies sich das eher als ineffektiv. Ein Team um Neil Johnson von der George Washington University hat untersucht, wie sich Hass und extremistische Ansichten in den sozialen Medien verbreitet.

„ Hass zerstört Leben – nicht nur konkret, wie wir es in El Paso, Orlando und Christchurch gesehen haben-, sondern auch psychologisch durch Online-Mobbing und Hass-Rhetorik. Wir wollten daher wissen, warum dieser Hass so widerstandsfähig ist und wie man ihn besser bekämpfen kann„, erklärt Johnson.

Die Forscher untersuchten dafür exemplarisch rassistische und rechtsextreme Gruppen sowohl auf Facebook als auch auf dem mehrsprachigen Netzwerk VKontakte, das vor allem in Russland und Teilen Europas verbreitet ist. Das Team begann die Analyse mit einem Cluster von Hass-Inhalten und folgte den Verknüpfungen zu weiteren Hass-Clustern mit Hilfe eines Algorithmus.

Die Analyse ergab, dass der Hass in den sozialen Medien über diverse, miteinander verknüpfte Hass-Cluster verbreitet wird. Diese Netzwerke reichen über Sprachgrenzen, Länder und kulturelle Hintergründe hinweg und enthalten Cluster jeder Größe.

Hassautobahnen im Netz und plattformübergreifende Netzwerke

„Europa zeigt dabei eine besonders komplexe Hass-Ökologie. Sie reflektiert miteinander verwobene Hass-Ideologien, die über einzelne Botschaften und Regionen hinausgehen„, so die Forscher. Die daraus resultierende Vielfalt erleichtert die Rekrutierung weiterer Nutzer nicht nur aus anderen Ländern, sondern auch von anderen Plattformen.

Dem Team gelang es außerdem, Kontinent-überspannende „Hass-Autobahnen“ zu identifizieren, über die Inhalte schnell und effizient weitergegeben werden. Diese funktionieren auch plattformübergreifend. „ Zwischen VKontakte und Facebook gibt es diese Brücken in Europa, den USA und Südafrika, obwohl VKontakte als lokales Netzwerk in Mitteleuropa gilt„, erklären die Wissenschaftler.

Dieses plattformübergreifende Netzwerk hilft den Gruppen auch dabei, Gegenmaßnahmen seitens der Betreiber zu umgehen. Die Gruppierungen können flexibel auf andere Netzwerke ausweichen. Bisher gibt es noch keine koordinierten Maßnahmen seitens der Betreiber der Netzwerke, sodass Hass-Cluster immer wieder eine neue Heimat finden können. „ Teile weniger stark überwachter Netzwerke können dadurch zu ‚dunklen Pools‘ von Hass-Verknüpfungen werden„, so Johnson und sein Team.

Diese Organisationsformen richten sich effektiv gegen Gegenmaßnahmen. Die Forscher verglichen die Cluster mit Unkraut, das immer wieder zurück kommt. Johnson betont daher, dass es nicht ausreiche, einzelne Gruppen etwa auf Facebook zu verbieten. Es entstehen zu schnell Ersatzcluster, die dann die gleichen Inhalte verbreiten. „ Als die ukrainische Regierung VKontakte verbot, reinkarnierte das Klu-Klux-Klan-Ökosystem seine Cluster auf Facebook – aber mit ‚Klu-Klux-Klan‘ in kyrillisch geschrieben, was es den Facebook-Algorithmen erschwerte, sie zu erkennen„, beschreiben die Forscher ein Beispiel.

Forscher schlagen mögliche Gegenmaßnahmen vor

Doch auch gegen ein organisiertes Netzwerk gibt es mögliche Gegenmaßnahmen. Einige davon haben die Forscher identifiziert. So kann es etwa helfen, viele kleinere Cluster zu blockieren und so den größeren Clustern den Nachschub abzuschneiden. Außerdem können gezielte Nutzer-Blockierungen die Netzwerke als Ganzes schwächen.

Des weiteren können gezielte Anti-Hass-Gruppen und -Accounts eingesetzt werden, um Nutzer zu animieren, sich den Hass-Clustern entgegenzustellen.

Als letzten Ansatz schlagen die Forscher vor, die gegensätzlichen Ansichten der Cluster zu forcieren, um so die Netzwerke zu schwächen. So sind etwa einige der Cluster für ein „vereinigtes weißes Europa“, während andere Europa zerschlagen wollen.

Die Forscher hoffen, mit ihrer Analyse dazu beigetragen zu haben, Ansätze für den Kampf gegen den Hass im Netz zu entwickeln.

via George Washington University