Startseite/Gesellschaft/Digitalisierung
3 Februar 2020 / Lesezeit: 8 minuten

Hass im Netz

Was wir gegen die Online-Hetze der extremen Rechten tun können

Die Strategie der extremen Rechten ist es, durch das Triggern von Emotionen wie Wut und einer absoluten Definition von Identität so viele Menschen wie möglich online zu radikalisieren.

Die Journalisten Patrick Stegemann und Sören Musyal haben ein Buch über die digitalen Strategien der extremen Rechten in den USA und Deutschland geschrieben. Dafür nahmen sie falsche Identitäten von rechten Trollen an, um Zugang zu geheimen Telegrammgruppen und Plattformen wie Discord und 4chan zu erhalten. Über diese Foren haben sich sowohl der Christchurch-Attentäter als auch andere extreme Rechte radikalisiert. Auch der Attentäter von Hanau verbreitete vor seinem schrecklichen Verbrechen Hassvideos im Netz. Im Interview spricht Patrick Stegemann darüber, wie wir unsere digitale Öffentlichkeit regulieren müssen, um die extreme Rechte besser zu kontrollieren

Herr Stegemann, in ihrem Buch sprechen Sie öfters von der Gamification des Terrors. Viele Leute reagieren bei solchen Bezeichnungen mit einem Abwehrreflex: Man dürfe Rechtsradikale und Gamer nicht über einen Kamm scheren.

Den Abwehrreflex aus der liberalen Gamer-Szene kann ich nicht nachvollziehen. Unser Buch beginnt mit dem Gamergate von 2014: Damals wurden mehrere Computerspiel-Entwicklerinnen und eine feministische Journalistin, die deren progressive Spiele besprach, von Trollen angegriffen, die sich auf 4chan radikalisiert haben. Ihr Frauenhass und Ablehnung gegen eine progressivere Gegenkultur führte zu Todesdrohungen gegen die Frauen, die Spiele-Entwicklerin Zoe Quinn musste ihr Zuhause verlassen, nach dem Gamer ihre Wohnadresse im Internet veröffentlicht hatten.

Statt auf die chauvinistische Kultur, die natürlich nicht bei allen Gamern, aber in vielen Foren von Ihnen jeden Tag stattfindet, einzugehen und anstatt sich für Frauen und andere Opfer von Hass und Diskriminierung einzusetzen, tut man jeden Zusammenhang ab. Das finde ich falsch.

Wie genau sieht die Gamifizierung des Terrors aus?

Die Gamifizierung haben wir zuletzt bei den Anschlägen von Halle und Christchurch gesehen. Die Terrorakte folgten der Logik eines Computerspiels: Beide Attentäter haben Helmkameras benutzt, um die Tat in Spielästhetik für ihre Zuschauer erfahrbar zu machen. Das Ziel ist, Zielgruppen anzusprechen, die in Foren unterwegs sind wie 8chan und Twitch. Twitch ist die Spieleplattform schlecht hin: dort streamte der Attentäter von Halle seine Tat live. Damit wollte er Nachahmer produzieren, genau wie er selbst ein Nachahmer des Christchurch-Attentates ist. Akte des Spiels fließen in den Terrorakt mit ein, und die Kommunikation um den Akt selbst ist game-artig: Es gab ein „Attentäter-Quartett“ bei 8-Chan, bei dem man „Punkte“ für getötete Kinder, für Kopfschüsse und so weiter erhielt. Es ist wie bei einem Spiel, nur das dabei echte Menschen sterben.

Bei dem Charlie Hebdo Attentat geisterten über Twitter Bilder von Unterstützer*innen des islamistischen Terrors, die vermummte, hyper-maskuline Terroristen in Gamer-Pose vor einem brennenden Paris zeigten. Die Gamer-Ästhetik scheint sich auf alle Formen des Terrorismus zu übertragen.

Der rechte Terror hält zwar „die weiße Rasse“ und „die Nation“ hoch, ist aber heutzutage extrem internationalisiert. Die Attentate laufen alle über dieselben kulturellen Codes ab und alle imitieren sich dabei gegenseitig, es ist dabei tatsächlich eine interessante Beobachtung, dass es all diese Codes auch beim islamistischem Terrorismus gibt. Beide haben dasselbe Leitmotiv: Sie schreiben sich auf die Fahnen, dass sie mit den Mitteln der Moderne gegen die Moderne kämpfen. Gegen den Fortschritt. Dafür benutzen sie dieselbe Technik, auch in Paris wurden die Anschläge auf Telegram organisiert. Darüber hinaus benutzen sie dieselben kulturellen Sprachen, die manchmal absolut gar nichts mit ihrem Weltbild zu tun haben, zum Beispiel Hip Hop. Rechter Rap ist in der Szene sehr einflussreich, obwohl das eine afroamerikanische Erfindung ist.

Wie rechtfertigt die extreme Rechte diese Widersprüche vor ihren Anhängern? Wie blendet man aus, dass man selbst längst Teil der so verhassten „Multikulti“-Kultur ist?

Es gibt dafür zwei Strategien. Ersteinmal akzeptieren Rechtsextremisten andere Rechtsextremisten aus anderen Ländern, weil sie Teil der „weißen Rasse“ sind. Man gehöre also zum gleichen Club. Darüber hinaus haben sie das Weltbild: Wir sind ja für verschiedene Völker, aber die sollen bitte alle jeweils unter sich bleiben. Was den Rap betrifft, gibt es Aussagen von rechten Vereinen wie EinProzent, die auch rechte Rapper und rechte Onlinemagazine wie „Arcadi“ unterstützen die sagen: Uns wäre es auch lieber, wenn die Jugend Tannhäuser und brandenburgische Chöre hört, aber Rap ist nun mal, was die Jugend hört…Das macht deutlich, dass die neue Rechte Kultur als Waffe versteht. Rap ist die einflussreichste Jugendkultur unserer Zeit. Wenn es also dem großen Ziel dient, sich diese Kultur anzueignen, weil man damit sehr viele Menschen erreicht, dann nimmt man diesen Widerspruch in Kauf.

Die extreme Rechte ist online sehr erfolgreich. Der YouTube-Account des prominenten österreichischen Identitären Martin Sellner wurde zwar zwischenzeitlich deaktiviert, durfte aber nun wieder online gehen. Unterdessen wurde das linksextreme Forum Linksunten.Indymedia gerichtlich verboten. Wie kann es sein, dass nicht Dasselbe mit Sellners YouTube Account, dem extrem rechten Medium Arcadi und den Chan-Foren passiert?

Die Behörden, die in Deutschland eigentlich dafür zuständig sind, Radikalisierung aufzuhalten, haben lange nicht verstanden, was da eigentlich passiert in den sozialen Netzwerken. Außerdem liegt es auch an dem mangelnden demokratischen Einfluss auf diese Plattformen: Es ist viel einfacher, eine Website zu löschen, als auf YouTube und Facebook Einfluss zu nehmen, wenn es darum geht, welche Accounts sie sperren sollen. Ganz langsam ändert sich das.

Auch auf enorm: „Arbeit 4.0 braucht auch einen Sozialstaat 4.0“

Horst Seehofer hat gesagt, dass das Innenministerium gezielt Leute einstellen will, um rechte Radikalisierung online zu beobachten. Aber es wird noch lange nicht genug getan. Löschung ist außerdem nicht immer die Antwort. Bei Martin Sellner führte die Deaktivierung seines YouTube-Channels dazu, dass er unglaublich viel Aufmerksamkeit erhalten hat. Drei Tage später wurde der Account wieder hergestellt und dann ein weiteres Mal gelöscht, bevor er wieder online ging. Sellner war durch dieses Hin und Her überall, alle extremen rechten YouTuber wollten ihn interviewen, um Zensur zu beklagen. Dann stellt YouTube auch noch den Account wieder her und er steht als Sieger da. Schlimmer kann es nicht sein. Es war wie ein Werbespot.

Es sollte öfter darum gehen, durch die Kontrolle von Algorithmen Reichweite zu beschränken, statt Inhalte einfach nur zu löschen.
Patrick Stegemann, Journalsit

Deplatforming, also Accounts von Plattformen im Netz auszuschließen, ist also keine Lösung?

Doch, Deplatforming hilft, das sieht man in den USA. Alex Jones hatte mit seinem Kanal Infowars Millionen Follower auf YouTube. Jetzt, nach der endgültigen Sperrung dieses Kanals, hat er nur noch um die 8000 Leute auf Telegram, auch sein Twitter- und Facebook-Account wurden gesperrt. Reichweiten wurden also massiv eingeschränkt. Aber wenn man so etwas macht, dann muss es halt gerichtsfest und konsequent sein. Wir leben in einem Rechtsstaat und solche Entscheidungen können nicht den sozialen Netzwerken überlassen werden. Außerdem kann Löschung eben auch ein zweischneidiges Schwert sein. Diese Leute ziehen sich dann eben in geschlossene Netzwerke wie Telegram zurück, wo es dann viel krasser zugeht, und wo wir sie nicht mehr kontrollieren können. Es sollte also öfter darum gehen, durch die Kontrolle von Algorithmen Reichweite zu beschränken, statt einfach nur zu löschen.

Was sind konkrete Maßnahmen, um diese Reichweite zu beschränken?

Wir haben zwei Seiten, die extreme Rechte und diese Plattformen. Die sind eine unheilige Allianz eingegangen. Die Logik der sozialen Netzwerke spielt ihnen zu: Viralität ist Populismus. Öffentlichkeit ist so strukturiert, dass sie ideal für die radikale Rechte ausgerichtet ist, weil sie über Emotionen funktioniert. Wir müssen die Plattformen europaweit regulieren, wir müssen sie zwingen, ihre Algorithmen transparent zu machen, damit wir Reichweiten besser nachvollziehen und kontrollieren können. Wir müssen eine Governance für diese Plattformen entwickeln. Wir haben ja zum Beispiel in Deutschland auch Rundfunkräte, die eine Demokratisierung von Medien möglich machen sollen. Gremien, die öffentlich-rechtliche Medien überwachen. Diese müssen die Gesellschaft repräsentieren. Das hat in der jetzigen Ausführung natürlich große Mängel, ist aber grundsätzlich ein gutes demokratisches Prinzip. Das müsste man auf Social Media übertragen. Wenn es zum Beispiel um Wahlmanipulationen geht, darf man Facebook nicht einfach so machen lassen. Das ist aber immer noch der Fall.

In Ihrem Buch schreiben Sie, dass unsere Meinungsfreiheit per se nicht bedeutet, dass wir alles sagen können, sondern dass sie analog viel besser geregelt ist als online. Holocaust-Leugnung ist zum Beispiel eine Straftat. Wie übertragen wir dieses Denken auf die digitale Ebene?

Wir haben die Plattformen zu lange allein gelassen, sowohl wir als Journalisten als auch der Staat. Dadurch ist ein Vakuum entstanden, das die extreme Rechte zu nutzen weiß. Sie konnten so das Narrativ spinnen: Im Internet darf man doch eigentlich alles und auf einmal darf man das nicht mehr. Sie tun so als hätte Meinungsfreiheit nie Regeln gehabt. Dabei wollen wir online einfach nur in einen Zustand zurück, in dem es normal ist Hatespeech in der Öffentlichkeit zu regulieren.

Patrick Stegemann ist Kommunikationswissenschaftler und Soziologe und arbeitet als freier Journalist. Für den Film „Lösch Dich. So organisiert ist der Hass im Netz“ wurde er mehrfach ausgezeichnet, unter anderem mit dem Reporterpreis und dem Otto-Brenner-Preis. Bild: Patrick Stegemann

Die analoge Öffentlichkeit ist immer noch wichtig, um die digitale Öffentlichkeit zu regulieren. In Finnland zum Beispiel wird Kindern in der Grundschule erklärt, was sogenannte „Fake News“ und was seriöse Quellen sind.

Absolut. Es gibt auch in Deutschland erste Versuche, solche Kernkompetenzen zu vermitteln. Die Reporterfabrik geht in die Schulen, um zu vermitteln, was Journalismus eigentlich ist. Aber das reicht natürlich nicht. Es gibt Schulen, wo den Kindern das Handy verboten wird und die digitale Welt ausgeblendet wird, statt sie darauf vorzubereiten, was einem dort alles begegnet. Bildung ist der wichtigste Hebel, und zwar eben nicht nur für Schülerinnen und Schüler, sondern vor allem auch für Erwachsene. Im Rahmen unserer Recherchen haben wir auch mit vielen Opfern des Hasses gesprochen und die haben uns gruselige Geschichten erzählt: Die sind zur Polizei gegangen, weil sie im Netz bedroht worden sind. Dann wird Streamerinnen [Anm. d. Red.: Frauen, die Videogames live spielen] erzählt, dass sie mit dem Streamen aufhören sollen, wenn sie nicht angegriffen werden wollen. Die Polizei kann damit gar nicht umgehen. Wir brauchen solche Bildung also auch für alle Politiker und Strafverfolgungsbehörden. Wir dürfen die Menschen nicht alleine lassen. Das ist ja eine eigene Welt, die wir übersetzen müssen: Wie funktionieren diese Foren, was sind Incels [Anm. d. Red.: frauenfeindliche, häufig rechtsextreme Bewegung], das muss man alles vermitteln. Bildung ist aber auch eine ökonomische Frage.

Deutschland investiert also nicht genug in die Medienbildung?

Das Geld wäre ja da, aber in Deutschland wird generell nicht genug in Bildung investiert. Es ist auch eine ökonomische Frage, wenn es um die Aufrechterhaltung von Plattformen wie 4chan und Facebook geht. Die Betreiber machen das ja nicht, weil sie böse Menschen sind, sondern weil sie mit diesen Plattformen Geld verdienen. Es sind Werbeplattformen. Das ist bei 4chan genauso der Fall wie bei den klassischen sozialen Netzwerken. Gerhard Hensel hat zum Beispiel die Initiative „Keine Werbung für rechts“ gestartet, damit auf rechtsradikalen Foren nicht ganz normal Werbung vertrieben wird. Man muss Bewusstsein schaffen bei den Unternehmen, dass deren Werbung dort nicht landet, damit sie sich nicht finanzieren können.

Was müssen Journalist*innen tun, um gegen die extreme Rechte vorzugehen?

Wir müssen diese Kreise ernst nehmen. Bei den Öffentlich-Rechtlichen ändert sich das gerade erst so langsam, lange war es so: Entweder du machst Fernsehen, oder du machst YouTube. Eine der Schlüsselszenen der vergangenen Jahre waren für mich die Aufstände in Chemnitz, die wochenlang in den traditionellen Medien waren, es gab aber keine seriöse Berichterstattung auf YouTube. Dort dominierten die Videos der rechtsradikalen Netzwerke, was dazu führte, dass Verschwörungstheorien auf YouTube hunderttausende Klicks bekommen haben. Die Öffentlich-Rechtlichen waren nicht da auf einer Plattform, die von 78 Prozent der deutschen Bevölkerung benutzt wird. Eigentlich unfassbar. Die New York Times ist auf dieses Missverhältnis früher als die deutschen Medien aufmerksam geworden. Unsere Aufgabe als Journalisten ist es, das gesellschaftliche Gespräch zu ermöglichen, und das findet heute nun mal primär in den sozialen Netzwerken statt. Wir brauchen eine nachhaltige Medienlandschaft, die diesen Herausforderungen begegnet.

Wie sieht eine nachhaltige Medienlandschaft aus?

Soziale Netzwerke sind wie eine Kantine. Unsere Körper sind so gebaut, dass sie Fett und Zucker lieben, weil dann Serotonin wie verrückt in unser Gehirn schießt. Deshalb gibt es dafür Regeln, dass es in der Schulkantine nicht nur Süßigkeiten gibt, obwohl Kinder die ganze Zeit nur Süßigkeiten essen wollen. So sind Social-Media-Plattformen auch, sie geben uns die ganze Zeit nur Fett und Zucker in Form von schnell konsumierbaren Inhalten, die bei uns durch das Triggern von Wut und anderen Emotionen Dopamin ausschütten und das führt dazu, dass wir heute eine in Teilen kaputte digitale Öffentlichkeit haben. Diese müssen wir durch Regeln wieder dazu bringen, uns auch primär den gesunden Inhalt, die Äpfel und die Möhren, hinzuhalten. Nicht nur das, was uns emotional aufpeitscht.

Hilf enorm!

Unterstütze konstruktiven Journalismus

Die Coronakrise stellt auch uns bei enorm vor große wirtschaftliche Herausforderungen. Um möglichst viele Menschen zu erreichen, möchten wir die Inhalte auf enorm-magazin.de frei zugänglich halten und auf Bezahlschranken verzichten. Hilf uns mit deinem Beitrag dabei!

Hilf enorm!

Die Mitgestaltung dieser Plattformen ist übrigens auch der Klimafrage sehr ähnlich: Die Plattformen werden das nicht von alleine machen, weil sie durch die Verbreitung von populistischem Content Milliarden machen. Genauso wenig wie die Ölindustrie einfach aufhören wird, Öl zu fördern, und sagen wird, die Milliardengewinne sind uns egal, wir wollen jetzt das Klima retten, nein, dazu müssen wir sie als Gesellschaft zwingen. Millionen von Menschen tun das gerade in der Fridays-for-Future-Bewegung. Wir brauchen auch ein Fridays for Future für die sozialen Netzwerke.

Die rechte Mobilmachung. Wie radikale Netzaktivisten die Demokratie angreifen

Autoren Patrick Stegemann und Sören Musyal, erschienen 2020 bei Econ, 304 Seiten, 17,99€