Echtzeiterkennung von Desinformationskampagnen in Online-Medien
Desinformation steht schon einige Zeit im Fokus der Forschung und der öffentlichen Diskussion. Vorfälle wie die Manipulationen von journalistischen Foren während des Ukraine-Konflikts, der mutmaßliche Einfluss von Desinformation beim Brexit-Referendum oder der Einsatz von automatisierter Kommunikation bei der US-Wahl 2016 haben Öffentlichkeit und Politik wachgerüttelt. Daraus leitet sich die zentrale Frage ab: Wie funktionieren die Desinformationskampagnen hinter all diesen Vorfällen?
Seit den erwähnten Geschehnissen hat sich die Forschung verstärkt mit automatisierter Kommunikation, Falschnachrichten und Hassrede sowie deren Erkennung beschäftigt. Viele Bürgerinnen und Bürger sehen sich täglich mit diesen Phänomenen konfrontiert. Die intensive Beschäftigung mit Desinformationsstrategien hat offengelegt, dass es neben automatisierter Kommunikation mitunter verdeckte Aspekte und Akteure gibt, die eine Desinformationskampagne erst zu einer kraftvollen Größe machen. Um die zuweilen konzertierten Desinformationskampagnen zu identifizieren, zu ergründen und zu bekämpfen, gilt es, auch menschliche Akteure, Inhalte und zeitliche Verläufe zu berücksichtigen.
Ziel des Verbundvorhabens „Echtzeiterkennung und Nachweis Hybrider Desinformationskampagnen in Online-Medien (HybriD)“ ist es, ein software-basiertes Analysewerkzeug zu entwickeln, das Expertinnen und Experten hilft, Desinformationskampagnen besser einzuschätzen. Die Forschenden kombinieren dabei die maschinelle Analyse mit menschlicher Expertise, um Desinformationskampagnen zu erkennen. Das Analysewerkzeug soll ermöglichen, große Datenmengen aus Onlinemedien und sozialen Netzwerken in Echtzeit auszuwerten und zeitliche Muster zu erfassen. Auf dieser Datenbasis können Expertinnen und Experten Desinformationskampagnen und ihre Auswirkungen umfassend beurteilen. Diese Erkenntnisse werden anschließend in das Werkzeug zurückgegeben und ermöglichen das Erlernen neuer Muster. Iterativ lassen sich so generelle Aussagen über Desinformationsmuster treffen und sogenannte „Archetypen“ von Desinformation identifizieren. Dies soll die einleitend gegebene Fragestellung nach dem Entstehen und dem Verbreiten von Desinformation sowie den Handlungsmöglichkeiten beantworten.
Das Projektteam nutzt moderne Analyseverfahren unter Einbindung von Expertenwissen, um in mehreren Entwicklungsschritten ein web-basiertes Analysewerkzeug zu realisieren. Das Werkzeug detektiert digitale Desinformation in Echtzeit und ermöglicht deren forensische Analyse. Dadurch lassen sich Desinformationskampagnen erkennen und die dahinterstehenden Strategien nachvollziehen. Das trägt dazu bei, Desinformationsmuster zu identifizieren und das große Bild zu erfassen, um effektive Gegenmaßnahmen ergreifen zu können. Bürgerinnen und Bürger sowie betroffene Stellen bekommen so beizeiten Hinweise zu Desinformationskampagnen und zu den Mechanismen, die diese Kampagnen tragen.