Wie Wissenschaft und KI die Muster digitalen Hasses aufspüren

Wie können Daten gegen Hass und Desinformation im Netz helfen? Und warum ist es wichtig, die Kräfte zivilgesellschaftlicher Organisationen zu bündeln? Darüber haben wir mit Hanna Gleiß, Co-Geschäftsführerin von Das NETTZ und Maik Fielitz, Konfliktforscher und Co-Leiter der Forschungsstelle der Bundesarbeitsgemeinschaft (BAG) »Gegen Hass im Netz« gesprochen. 

Hass im Netz kommt häufig nicht von einzelnen, unabhängigen Akteur*innen, sondern ist gut koordiniert und organisiert. Die engagierte Zivilgesellschaft besteht dagegen überwiegend aus vielen, oft kleinen Organisationen. Hier setzt Das NETTZ an. Die Vernetzungsstelle gegen Hate Speech bringt seit fünf Jahren Akteur*innen, die sich gegen Hass im Netz engagieren, zusammen.

„Das Themenfeld ist recht unübersichtlich. Wir geben Orientierung, welche Organisationen sich mit welchen Ansätzen gegen Hass und für konstruktive, diskriminierungsfreie Debatten engagieren. Für uns sind Vernetzung, Wissenstransfer und Zusammenarbeit entscheidend, damit wir uns effektiv für demokratische Werte im Netz einsetzen können“, erklärt Hanna Gleiß, Co-Geschäftsführerin von Das NETTZ. 

Die von ihr mitgegründete Organisation will Ressourcen bündeln, den Erfahrungsaustausch verbessern, wissenschaftliche Forschung und Praxis gegen Hass im Netz zusammenbringen und so fundierte Empfehlungen an Entscheidungsträger*innen in Politik und IT-Wirtschaft weitergeben. Das macht Das NETTZ etwa durch eine Akteur*innen-Übersicht und in folgenden zwei Projekten: Das Kompetenznetzwerk gegen Hass im Netz hat einen zivilgesellschaftlichen Fokus und die Bundesarbeitsgemeinschaft (BAG) "Gegen Hass im Netz" verbindet Wissenschaft und Praxis.

Datenbasierte Muster von Hassdynamiken

Wie das wissenschaftliche Team der BAG »Gegen Hass im Netz« dabei vorgeht, erklärt Maik Fielitz, Konfliktforscher und Co-Leiter der Forschungsstelle: „Um die Dynamiken des digitalen Hasses im Netz zu erforschen, kombinieren wir Datenwissenschaft, Netzwerkanalyse und qualitative Sozialforschung. Zunächst untersuchen wir in Echtzeit, welche Trends sich in den Beziehungen von demokratiefeindlichen Akteuren nachzeichnen lassen. Langfristig lassen sich so Muster von Hassdynamiken erkennen.“ 

Es gehe um Forschung mit Weitblick, erklärt der Wissenschaftler. Das Monitoring und Aufspüren einzelner Hass-Postings oder die Überwachung einzelner Accounts spiele keine Rolle. „Uns interessieren größere Muster in der Kommunikation von Hassakteuren, die uns helfen, gesicherte Aussagen über Entwicklung und Trends zu bestimmen. Unser Monitoring von Telegram-Kanälen in den letzten Monaten etwa hat gezeigt, dass sich demokratiefeindliche Akteur*innen durch den Krieg in der Ukraine zunächst verunsichert zeigten, in der Energiekrise aber schnell ein neues Mobilisierungsthema fanden.“ 

Anhand der Daten konnten die Wissenschaftler sehen, wie rechtsextreme Akteur*innen die Angst vor einem Blackout schürten, um ihr Bedrohungsdenken in der Bevölkerung effektiv zu verbreiten. Es entwickelte sich ein Markt für Nahrungsersatzprodukte, Stromgeneratoren und Selbstschutzartikel. Zugleich wurde die Angstmache vor einem Blackout mit einer Vielzahl von Themen wie einer Ablehnung der Sanktionen gegen Russland, der Ablehnung der Energiewende und Verschwörungsmythen einer neuen Weltordnung verbunden. Interessant an der Analyse sei die Rolle der Medien, sagt der Wissenschaftler: „Eine Vielzahl der Akteur*innen, die wir beobachten, ist erst auf die Themen aufgesprungen, nachdem sie mediale Resonanz erfahren haben. Das spricht für einen sehr flexiblen Umgang mit Themen.“

Daten schürfen mit Hilfe von Deep-Learning

Die Instrumente für die Analyse liefert die Digitalisierung selbst: So greifen die BAG-Wissenschaftler*innen auch auf KI zurück. Deep-Learning, eine spezielle Methode aus dem Bereich des Maschinellen Lernens, hilft ihnen, große Textmengen zu durchforsten. Mit Hilfe von Algorithmen können sie Themen clustern und quasi in Echtzeit beobachten, wie sich demokratiefeindliche Akteur*innen im Netz austauschen. Diese Daten sind hilfreich für zielgerichtete Interventionen gegen Hass im Netz. Hierfür arbeitet die BAG mit zivilgesellschaftlichen Partner*innen, die das entstehende Wissen für Praxisprojekte nutzen.

Ein Beispiel, an dem das Team aktuell arbeitet, ist ein Klassifikator für Protestaufrufe. Wer mobilisiert wann und wo für Demonstrationen? „Hierzu verbinden wir die computerisierten Methoden, die eine breite Datenerfassung und Textklassifizierung zulassen, mit netzwerkanalytischen Werkzeugen. So entsteht ein Monitoringsystem, das Trends in den Netzwerken des Hasses direkt erkennbar macht“, beschreibt Maik Fielitz die Arbeitsweise. 

Direkte Rückschlüsse auf offline Proteste oder gar deren Vorhersage sei anhand der Daten nicht möglich. Klar sei aber: „Kaum ein Protest kommt heute ohne Online-Mobilisierung aus. Demonstrationen werden fast ausschließlich über Messenger und soziale Medien beworben. Viele Demonstrationen werden gestreamt und nicht wenige Menschen nehmen virtuell an Protesten teil. Eine klare Trennung zwischen online und offline gibt es nicht mehr“, sagt der Wissenschaftler. 

Trendreport: Machine Against the Rage

Die Ergebnisse des BAG-Monitorings sind öffentlich, kostenfrei verfügbar und unterstützen direkt die zivilgesellschaftliche Praxis. Mehrmals im Jahr erscheint der Trendreport der Bundesarbeitsgemeinschaft »Gegen Hass im Netz« unter dem programmatischen Titel Machine Against the Rage. Das Online-Magazin bietet Analysen sowie ein interaktives Dashboard. Damit lassen sich die Verbindungen von demokratiefeindlichen Ideologien im Netz anschaulich visualisieren. 

Die Daten der BAG unterstreichen die Aussage der aktuellen Telekom-Kampagne: Es gibt organisierte Communities, die online gezielt Hass verbreiten. Dabei handelt es sich aber nur um eine kleine Minderheit von Userinnen und Usern, die online überproportional sichtbar sind. „Darum ist es so wichtig, gemeinsam lauter zu sein und sich für demokratische Werte im Netz aktiv einzusetzen“, betont Hanna Gleiß.