Gemeinsam gegen schädliche Online-Kommunikation

Gemeinsam gegen schädliche Online-Kommunikation

Forschung, Fördermittel / Wettbewerbe

Forschende der HSMW veranstalten Wettbewerb im Rahmen der GermEval 2025

Schematische Darstellung eines Handys mit verschiedenen Sprechblasen und einer Lupe
Wettbewerb zur Detektion schädlicher Inhalte in Posts sozialer Medien

Neue Perspektiven entdecken
Die Forschungsgruppe „Communication Forensics“ unter der Leitung von Professor Dr. rer. nat. Michael Spranger richtet einen Wettbewerb (Shared Task) im Rahmen der deutschen Wettbewerbsserie GermEval 2025 (Link: https://konvens-2025.hs-hannover.de/program/) im Bereich Natural Language Processing (NLP) aus. Ziel ist es, fortschrittliche Methoden des NLP zu entwickeln und zu testen, welche die automatische Analyse und Klassifikation schädlicher und problematischer Aussagen in sozialen Medien ermöglichen. Dabei stehen gesellschaftlich sensible Themen im Vordergrund, wie Aufforderungen zu risikobehafteten Handlungen (Call-to-Action), Angriffe auf die freiheitlich-demokratische Grundordnung sowie problematische Haltungen gegenüber Gewalt.

Der Shared Task gliedert sich in drei Unteraufgaben, die verschiedene Aspekte abdecken:

1. Erkennung von Handlungsaufforderungen
Hierbei geht es darum, Posts und Kommentare sozialer Medien zu klassifizieren, die explizite Aufforderungen zu einer Handlung beinhalten, beispielsweise Demonstrationen oder sogar strafrechtlich relevante Handlungen. Die Herausforderung besteht darin, automatisch diese sogenannten Calls-to-Action zu identifizieren.

2. Klassifikation von Angriffen auf die freiheitlich-demokratische Grundordnung
Diese Aufgabe umfasst die Unterscheidung zwischen neutralen Aussagen, legitimer Kritik, Hetzinhalten und Aufrufen zum Umsturz der Regierung. Die Vielfalt der Klassen macht diese Unteraufgabe besonders herausfordernd und bietet Raum für innovative Modellierungsansätze.

3. Erkennung problematischer Haltungen gegenüber Gewalt
In dieser Aufgabe sollen Inhalte identifiziert werden, die Gewalt trivialisieren, gutheißen oder sogar verherrlichen. Die Aufgabe erfordert eine differenzierte Analyse, um problematische Inhalte von neutralen oder harmlosen Aussagen abzugrenzen.

Als Grundlage dient ein umfangreicher, durch Studierende und Mitarbeiter der Hochschule Mittweida erstellter, mehr als 11.500 deutsche Posts und Kommentare umfassender, Datensatz aus dem Umfeld einer extremistischen Bewegung.

Forschung trifft Praxis
Der Shared Task ermöglicht eine praxisnahe Anwendung aktueller NLP-Technologien und bietet Einblicke in moderne Klassifikationsverfahren für problematische Inhalte. Die gewonnenen Erkenntnisse sind sowohl für die wissenschaftliche Forschung als auch für die Praxis im Bereich der digitalen Moderation und Forensik von hoher Relevanz. Die automatische Identifikation problematischer Inhalte kann beispielsweise Moderationsprozesse in sozialen Medien unterstützen, Strafverfolgungsbehörden bei der Analyse von Massenkommunikationsdaten in sozialen Netzwerken helfen oder Bedenken hinsichtlich der öffentlichen Sicherheit ausräumen.

Weitere Informationen zum Shared Task, zur Datengrundlage und den Fristen für die Teilnahme finden sich unter folgendem Link: https://www.codabench.org/competitions/4963

Für Fragen kann Professor Michael Spranger auch gern per E-Mail kontaktiert werden.

Text und Bild: Forschungsgruppe „Communication Forensics“