PropStop

Erkennung, Nachweis und Bekämpfung verdeckter Propaganda-Angriffe über neue Online-Medien

Frau mit Megaphon
Eine Aufgabe sogenannter Social Bots ist die gezielte Erzeugung bestimmter Meinungsbilder.© pixabay, creative commens CC0 / Christian Grimme

Motivation

Gesellschaftliche und politische Entwicklungen werden weltweit in sozialen Medien diskutiert und kommentiert. Zeitungen und Nachrichtenmagazine nutzen soziale Medien als zusätzliche und partizipative Verbreitungskanäle, um ihren Leserinnen und Lesern die Möglichkeit zur direkten Meinungsäußerung zu geben. Diese Dienste tragen in erheblichem Maße zur öffentlichen Meinung bei und stellen ein wichtiges Instrument der freien Meinungsäußerung dar. Gleichzeitig bietet die Möglichkeit, sich anonym sowie uneingeschränkt äußern zu können, auch Raum für gesteuerte Manipulationen im großen Stil. Oft als Propaganda-Bots oder Social-Bots bezeichnete halb- bis vollautomatische Systeme nutzen dabei den leichten Zugang zur technischen Infrastruktur sozialer Medien, um konkrete Meinungsbilder verdeckt zu verbreiten. Dazu werden täuschend  echte künstliche Diskutierende implementiert und darauf basierend Diskussionsbeiträge generiert. Das so entstehende verzerrte Meinungsbild einer Netz-Öffentlichkeit beeinflusst wiederum gesellschaftliche Debatten und teilweise auch Berichterstattungen. Daraus resultiert ein mitunter großer gesellschaftlicher Schaden.

Ziele und Vorgehen

Ziel des Projektes PropStop ist es, ein System zu entwickeln, mit dem so entstandene, verdeckte Propaganda erkannt werden kann. Dazu arbeitet ein interdisziplinäres Konsortium aus Kommunikationswissenschaftlern, IT-Sicherheitsforschern, Statistikern, Journalisten sowie Unternehmen der IT-Sicherheitsbranche zusammen. Die Projektpartner entwickeln ein echtzeitfähiges Analyse-verfahren und untersuchen dazu simulierte Szenarien automatisierter Propagandaerzeugung. Mittels des innovativen sogenannten Automated Red-Teaming-Ansatzes treten Wissenschaftler sowie Praktiker in Teams gegeneinander an, um die Mechanismen der Erzeugung und Identifikation von Propaganda besser zu verstehen. Neben einer wissenschaftlichen Untersuchung von Propagandamerkmalen im Netz werden große Mengen von öffentlichen Meinungsäußerungen mit ihren zugehörigen technischen Metadaten auf übergreifende und wiederkehrende Muster unter-sucht. Diese Muster ermöglichen schließlich die Identifikation und den Nachweis von automatisch und gezielt erzeugter, verdeckter Propaganda.

Innovationen und Perspektiven

Das Projekt PropStop trägt mit Hilfe eines zu entwickelnden Softwarewerkzeuges zu einer automatischen Propaganda-bezogenen Beurteilung von Inhalten der Online-Medien bei. Es unterstützt die Abwehr verdeckter Propagandaangriffe auf IT-basierte Dienste in der journalistischen Berichterstattung. Ein weiteres Einsatzfeld bieten Bewertungsportale von Dienstleistern oder Produktbewertungen im Online-Handel.