Stop Hate Speech

Stop Hate Speech erforscht die Ausbreitung von Hassrede im Internet sowie mögliche Handlungsmöglichkeiten im Umgang mit Anfeindungen und Beleidigungen, welche eine Person oder eine Gruppe aufgrund ihrer Identität angreifen.

Hate Heat

ЖṄ80XS, 2022, © Rebecca Morganti-Pfaffhauser

Viele Studien deuten darauf hin, dass Hassrede ein zunehmend ernstes Problem für Online-Debatten darstellt – damit gemeint ist abwertende oder diskriminierende Sprache in Bezug auf Personen oder Gruppen aufgrund ihrer Identität, also zum Beispiel das Geschlecht, die ethnische Zugehörigkeit oder Religion. Die Zielscheibe von Online-Hassrede sind unverhältnismässig häufig Frauen und Angehörige ethnischer Minderheiten. Für sie sind die Offline-Folgen von Online-Hassreden oft schwerwiegend. Und obwohl Hassrede meist auf einzelne Personen abzielen, haben sie auch weitreichende Auswirkungen auf die betroffenen Gemeinschaften und die Gesellschaft als Ganzes.

Mit welchen Strategien lässt sich Hassrede am besten eindämmen? Darüber gehen die Forschungen und Meinungen auseinander. Die Moderation von Beiträgen und Kommentaren durch Social-Media-Plattformen, traditionelle Medien oder gesetzliche Vorgaben der Regierungen kann wirksam sein, aber gleichzeitig auch die Redefreiheit verletzen. Eine alternative Strategie ist die Gegenrede (counterspeech), mit der engagierte Menschen auf Hassrede reagieren, um sie zu stoppen, ohne die Redefreiheit zu beeinträchtigen.

Das Forschungsprojekt «Stop Hate Speech» nutzt randomisierte Feldexperimente, um die Wirksamkeit verschiedener Counterspeech-Strategien zur Bekämpfung von Hassreden im Internet zu untersuchen. Dafür entwickelte das Forschungsteam Methoden, die auf künstlicher Intelligenz basieren und mit deren Hilfe sich Hassrede automatisiert erkennen lässt. In einem zweiten Schritt wurden die Urheberinnen und Urheber von Hassrede jeweils mit einer der Counterspeech-Strategien konfrontiert. Eine der Strategien versucht, die Empathie für die Betroffenen der Hassrede zu wecken. Eine andere, deutlich zu machen, welche Konsequenzen das Online-Verhalten auch offline für die Senderinnen und Sender haben kann.

Die experimentelle Versuchsanordnung und zufällige Zuteilung der Gegenreden ermöglichte es, die Effektivität der verschiedenen Interventionen auf das zukünftige Verhalten der Urheberinnen und Urheber genau zu berechnen. Dazu gehört unter anderem, ob sich die Häufigkeit oder die Toxizität von Hassrede-Tweets verändert, ob Hassrede-Tweets gelöscht wurden und ob andere Nutzerinnen und Nutzer ebenfalls Gegenrede betrieben. Die Ergebnisse eines ersten Experiments zeigen, dass insbesondere die auf Empathie beruhenden Strategien ein wirksamer Ansatz gegen Hassrede sein können.

Digitale Plakate zu «Stop Hate Speech» – Anagram it!

Studierende aus dem BA Interaction Design der ZHdK haben das Sprachspiel der Anagramme genutzt, um digitale Plakate zum Thema «Stop Hate Speech» zu gestalten. Ziel war es, dass die Plakate im öffentlichen Raum mit den Betrachterinnen und Betrachtern interagieren.

THIS NEVER HAPPENED – EVEN THIS HAPPENED, 2022, Lukman Aščić & Audrey Lohmann

In Teams wurden Ideen zu «Stop Hate Speech» recherchiert, diskutiert und durch spielerische Entwurfs- und Gestaltungstechniken provoziert. Die Studierenden befassten sich mit Fragen der Reduktion, des Ausdrucks, der Prägnanz und der Plakativität. Einerseits selektierten sie Beispiele von Hassrede aus den sozialen Medien und verwandelten die ursprüngliche Absicht der Aggressorinnen und Aggressoren in Anagrammen jeweils in andere Bedeutungen. Andererseits haben sie themenrelevante Begriffe gewählt und diese den Anagrammen gegenübergestellt. HATE wird zu HEAT, GARCE zu GRÂCE, HURE zu RUHE.

GARCE – GRACE, 2022, Luis Praxmarer & Tanja Landolt

Die Forschungsarbeit der UHZ und ETH diente als Basis für die Exploration und Umsetzung der der interaktiven Plakate. Mit dem Spiel der Anagramme wurde versucht, Begriffe zum Thema in einen neuen Kontext zu bringen und die Imagination und die Realisation auf einer vorgegebener Gestaltungsfläche als ästhetische Formfindung in Einklang zu bringen und gleichzeitig mit der Betrachterin und dem Betrachter interagieren zu lassen. Nach dem analogen Entwurfsprozess wurden die interaktiven Poster in Javascript programmiert.

GO BACK TO WHERE YOU CAME FROM, 2022, Mo Bünzli & Carina Good, © ZHdK

«Go back to where you came from» (Geh dahin zurück, woher du gekommen bist) ist ein Begriff, der gegen Menschen mit Migrationshintergrund (oder Personen, die dafür gehalten werden) gerichtet wird. Hier wird der Begriff auf eine spielerische Weise ins Positive umgewandelt. Ebenfalls wird die rassistische Bildsprache des «Schäfchenplakats», einem SVP-Plakat zur Ausschaffungsinitiative, reinterpretiert. Die Schar von schwarzen und weissen Schafen symbolisiert die gemeinsame Heimat in der Schweiz.

HATE – HEAT, 2022, Lars Ziegler & Matthias Nägeli, © ZHdK

Hass und Hassgefühle, insbesondere gegenüber Gruppen und Völkern, entspringen oft einer sehr tief verwurzelten Angst vor dem Anderssein. Diese Angst, sich dem Anderen zu öffnen und gezielt über Unterschiede in Kultur, Interesse, ... miteinander zu sprechen und zu interagieren, führt zu immer tieferen Missverständnissen. Die Hitze eines Streits, die Hitze eines Feuers, die Hitze der Sonne – auch wenn sie unter Umständen sehr zerstörerisch ist – hat doch das Potenzial, uns auf eine neue Ebene des Verstehens oder des Zusammenlebens im ersten Sinne zu bringen. Und sie ist das, was uns im Sinne der beiden letzteren antreibt und wärmt.

IMMIGRANTS OUT – MIGRATION MUST, 2022, Sonja Cowley / Giovanna León, © ZHdK

Genau wie die Menschen haben auch Vögel viele Gründe, um zu migrieren: von Veränderungen der Tageslänge über niedrige Temperaturen und ein verändertes Nahrungsangebot bis hin zur genetischen Veranlagung.
In den letzten Jahren ist die Rhetorik rund um das Thema Migration von Angst durchdrungen worden. Mehrere Bewegungen kamen in der Schweiz auf, die die Migration als gefährliches und unkontrollierbares Ereignis darstellten.
Zur Verteidigung des Rechts auf Freizügigkeit (das unserer Meinung nach unabhängig von Grenzen und Nationen ein Menschenrecht sein sollte) wollten wir Migrantinnen und Migranten anerkennen, indem wir die Migration als das darstellen, was sie wirklich ist: ein natürliches Phänomen, das existiert, seit wir den Planeten Erde gemeinsam bewohnen.

HURE – RUHE, 2022, Loïc Hommel / Nanthatchaporn Janthasom, © ZHdK

Mit dem interaktiven Poster wird mithilfe von Anagrammen versucht, auf spielerische Art mit Hate-Speech Begriffen umzugehen und deren Negativität zu entkräften.
Im Fokus stehen die Begriffe Hure und Ruhe welche sich in der Interaktion zwischen Besucher und Grafik in einer abstrakten Darstellung von Punkten entkräften.
Die umgangssprachliche Beleidigung wird in diesem Sinn als Reappropriation behandelt.
In der bildlichen Konversation wird das, was einer Frau vorgeworfen wird, in etwas Positives umgewandelt.

STONEWALL – STOLEN LAW, 2022, Lyvia Muniz / Benjamin Eggstein, © ZHdK

STOLEN LAW
Die 1960er Jahre und die vorangegangenen Jahrzehnte waren für lesbische, schwule, bisexuelle und transsexuelle (LGBT) Amerikaner keine freundlichen Zeiten. Gleichgeschlechtliche Beziehungen waren in New York City illegal.

STONEWALL
Die Stonewall Riots begannen in den frühen Morgenstunden des 28. Juni 1969, als die Polizei von New York City eine Razzia im Stonewall Inn, einem Schwulenclub, durchführte, welche dann zu einem Aufstand führte. Die Stonewall-Riots in 1969, New York, dienten als Auslöser für die Schwulenrechtsbewegung in den Vereinigten Staaten und in der ganzen Welt, welche zu den heutigen Pride-Paraden führten.

YOU WERE ASKING FOR IT FAKE OWNERSHIP, 2022, Lea Bischoff / Elena Walther, © ZHdK

Hassrede betrifft Personen jeden Geschlechts. Auch Opfer von sexueller Nötigung sind davon nicht verschont. «Sie hat doch praktisch danach gefragt» ist leider ein Satz, der vor allem Frauen und Mädchen an den Kopf geworfen wird. Sie sollen also den Respekt ihrer Mitmenschen, sogar den Besitz über ihren eigenen Körper verlieren, wenn sie gewisse Kleidung tragen. Dieser verkorksten Wahrnehmung von Besitz über einen anderen Körper halten wir einen Spiegel hin!

Hate Speech Entwuerfe

Entwurfssammlung, 2022, Lyvia Muniz Gomes Wägli & Benjamin Eggstein, Lars Ziegler & Matthias Naegeli, Elena Walther & Lea Bischoff, Loïc Hommel & Nanthatchaporn Janthasom, Mo Bünzli & Carina Good, Lukman Aščić & Audrey-Meret Lohmann, Luis Praxmarer & Tanja Landolt, Sonja Cowley & Giovanna Yanireth León Briceno

Verwandte Forschungsarbeiten

Dominik Hangartner, Gloria Gennaro, Sary Alasiri, Nicholas Bahrich, Alexandra Bornhoft, Joseph Boucher, Buket Buse Demirci, Laurenz Derksen, Aldo Hall, Matthias Jochum, Maria Murias Munoz, Marc Richter, Franziska Vogel, Felix Wüthrich, Salomé Wittwer, Fabrizio Gilardi, und Karsten Donnay, «Empathy-based Counterspeech Can Reduce Racist Hate Speech in a Social Media Field Experiment», in: Proceedings of the National Academy of Sciences of the United States of America, 2021.

Beteiligte Stop Hate Speech

Team Wissenschaft:

Projektleitung: Prof. Dr. Karsten Donnay, Prof. Dr. Fabrizio Gilardi, Institut für Politikwissenschaft, UZH, Prof. Dr. Dominik Hangartner, Public Policy Group, ETH Zürich
Projektmanagement: Dr. Philip Grech, Selina Kurer, Public Policy Group, ETH Zürich
Postdoktorandinnen: Dr. Laura Bronner, Dr. Gloria Gennaro, Public Policy Group, ETH Zürich, Dr. Ana Kotarcic, Institut für Politikwissenschaft, UZH
Doktorand: Maël Kubli, Institut für Politikwissenschaft, UZH
Prädoktorand: Laurenz Derksen, Public Policy Group, ETH Zürich
Data scientist: Dr. Bruno Wüest, Forschungsstelle Sotomo
Hilfsassistenz: Osama Abdullah, Institut für Politikwissenschaft, UZH, Nick Bachmann, Forschungsstelle Sotomo, Maxime Bataillard, Florian Curvaia, Public Policy Group, ETH Zürich, Florian Eblenkamp, Marc Eggenberger, Stephanie Fierz, Institut für Politikwissenschaft, UZH, Rachel Kunstmann, Public Policy Group, ETH Zürich, Felicia Mändli, Fabio Melliger, Mattia Mettler, Paula Moser, Alexandra Nagel, Jonathan Progin, Jennifer Roberts, Institut für Politikwissenschaft, UZH
Praktikant: Cyril Bosshard, Forschungsstelle Sotomo

Team ZHdK:

Modulleitung Reactive Signs: Luke Franzke, Rebecca Morganti-Pfaffhauser, Interaction Design, ZHdK
Gestalterinnen und Gestalter der interaktiven Poster: Lukman Aščić & Audrey-Meret Lohmann, Mo Bünzli & Carina Good, Lars Ziegler & Matthias Naegeli, Sonja Cowley & Giovanna Yanireth León Briceno, Loïc Hommel & Nanthatchaporn Janthasom, Luis Praxmarer & Tanja Landolt, Elena Walther & Lea Bischoff, Lyvia Muniz Gomes Wägli & Benjamin Eggstein, Studierende Interaction Design, ZHdK

Team Zivilgesellschaft:

Projektleitung: Sophie Achermann, Kathrin Bertschy, alliance F
Projektmitarbeit: Morgane Bonvallat, Sasha Rosenstein, alliance F

Wir benutzen 
Cookies