Projekt „Detox“: Wissenschaftler entwickeln Software gegen „Hassrede“
Symbolbild: Social Media / Bild: pexels (CC0) (Bild zugeschnitten)
Wissenschaftler der Hochschule Darmstadt arbeiten an einer Software zur automatischen Erkennung und Verfolgung von „Hassrede“ im Internet. Eine Gefahr für die Meinungsfreiheit wollen sie darin aber nicht sehen.
Darmstadt. – Die Hochschule Darmstadt hat eine Software zur automatischen Erkennung von „Hassrede“ im Internet als Forschungsprojekt vorgestellt. „Die sozialen Medien wie Twitter, Facebook und auch die Kommentarspalten der Online-Präsenzen von Zeitungen und Radiosendern werden zunehmend von Menschen dominiert, die diffamieren, beleidigen und bedrohen“, erklärten die Wissenschaftler am Montag. Demnach handele sich dabei angeblich um automatisch generierte Nachrichten, um den Eindruck einer Mehrheit zu erwecken. „Daher besteht ein dringender Bedarf an Methoden zur automatischen Identifizierung verdächtiger Beiträge“, meinen die Forscher.
Für ihr „Detox – Detektion von Toxizität und Aggression in Postings und Kommentaren im Netz“ genannten Forschungsvorhaben arbeiten die Entwicklung mit der hessischen Meldestelle für sogenannte „Hasskriminalität“ „Hessen gegen Hetze“ und dem Darmstädter „Fraunhofer-Institut für Sichere Informationstechnologie“ zusammen. Das Programm soll „Hassrede“ dabei nicht nur erkennen, sondern auch an deren automatischer Überführung in mögliche Straftatbestände mitwirken. Zur Definition, was „Hassrede“ sei, wurde die Klassifizierung der Landesmeldestelle als Grundlage genommen, die demnach vor allem in Beiträgen, Kommentaren und Bildern, die Menschen aufgrund bestimmter Eigenschaften – wie zum Beispiel Hautfarbe, Geschlecht, Religionszugehörigkeit und Nationalität – angreifen, bestünde.
Während der Entwicklung seien die Forscher zu der Erkenntnis gelangt, dass sich „Hassrede“ durch viele Personalpronomen, Ausrufezeichen, Emojis und große Überschriften aus, unter denen dann nur wenig Text stünde, auszeichne. Eine Gefahr für die Meinungsfreiheit durch solche Software wollen die Forscher dabei laut einer Stellungnahme nicht erkennen.
