„Es geht um den Schutz unserer freiheitlich-demokratischen Ordnung“

Ein Interview mit Dr. Michael Kreutzer, Koordinator des Forschungsprojekts DORIAN, zu Fake News und Desinformationen im Internet.

Ob manipulierte Fotos zu den aktuellen Protesten in Frankreich, gezielt lancierte Falschinformationen zu Unternehmen oder politische Einflussnahme in Wahlkämpfen: Sogenannte Desinformationen sind im Internet – speziell in sozialen Medien – stark verbreitet und können Menschen in ihrer Meinungsbildung beeinflussen. Bürgerinnen und Bürger, die zuverlässig informiert sein möchten, sind aber auf unabhängige und richtige Informationen angewiesen. Eine Schlüsselfrage lautet deshalb: Wie kann unsere Gesellschaft der Verbreitung von Desinformationen über das Internet Einhalt gebieten? Das BMBF-geförderte Forschungsprojekt DORIAN sucht Antworten auf diese Frage.

Forschende des Projekts haben das Phänomen Desinformation eingehend analysiert und Handlungsempfehlungen für Bürgerinnen und Bürger, Medien, Politik und Forschung erarbeitet. Nachzulesen sind die Ergebnisse im Positionspapier  „Desinformationen aufdecken und bekämpfen“, das jüngst in der Policy-Paper-Reihe des Forschungsverbundes „Forum Privatheit“ erschienen ist. Dr. Michael Kreutzer koordiniert das interdisziplinäre Projekt DORIAN und gibt im Interview Empfehlungen, wie sich Desinformationen im Netz erkennen und stoppen lassen.

Im Interview: DORIAN-Projektkoordinator Dr. Michael Kreutzer.© Michael Kreutzer

Herr Dr. Kreutzer, was verstehen Sie unter Desinformationen?

Desinformationen sind Meldungen, die in irreführender oder manipulativer Absicht verbreitet werden und die einer Faktenüberprüfung nicht standhalten. Die nachweislich unredliche Absicht unterscheidet sie von Falschinformationen, die meist durch Recherchefehler oder durch Eile entstehen. Der Begriff Fake News wiederum hat ein großes Bedeutungsspektrum in den Medien. So gibt es manche Personen, die bestimmte Nachrichten als Fake News bezeichnen, aus einem einfachen Grund: Ihnen passen die Meldungen nicht. Falls diese Meldungen jedoch auf Fakten beruhen und nach journalistischen Standards dargeboten werden, sind sie keine Desinformation.

Wie entstehen Desinformationen?

Sie entstehen in Deutschland in sogenannten alternativen Medien im Internet, die mittels einer Mischung aus Meinungsbeiträgen, wahren und frei erfundenen Nachrichten operieren. Diese Aktivitäten erstrecken sich auch auf Online-Plattformen, Online-Foren und die Kommentarbereiche von Nachrichtenseiten. Beispielsweise wird ein noch unaufgeklärtes Verbrechen einer bestimmten Bevölkerungsgruppe zugeschrieben, um diese Gruppe zu diskreditieren.

Zu welchen Zwecken werden solche Informationen gestreut?

Im Wesentlichen gibt es zwei Interessensfelder, die Wirtschaft und die Politik. Beispielsweise wird versucht, Einfluss auf Aktienkurse oder Grundstückspreise zu nehmen und den Ruf von wirtschaftlichen Mitbewerbern zu zerstören. Die Verbreiter von Desinformation mit politischem Interesse haben zum Beispiel die Absicht, eine Politikerin beziehungsweise einen Politiker in der Öffentlichkeit zu verunglimpfen, politische Gegner zu diskreditieren und Stimmung für oder gegen bestimmte Gruppen zu machen. Das kann bis hin zum Ziel gehen, die Gesellschaft zu spalten, die demokratische Meinungsbildung zu stören, also im Extremfall unsere demokratischen Strukturen zu unterhöhlen.

Warum ist es so wichtig, dass Bürgerinnen und Bürger manipulierte Informationen als solche erkennen?

Es geht um nichts weniger als den Schutz einer Säule unserer freiheitlich-demokratischen Ordnung. Wenn wir Bürgerinnen und Bürger Desinformation – mit oder ohne Hilfestellung und Unterstützung – besser erkennen können, wird jede und jeder Einzelne in die Lage versetzt, unsere demokratischen Meinungsbildungsprozesse gegen Desinformationskampagnen zu verteidigen.

Welche konkreten Ratschläge können Sie geben, damit das gelingt?

Vorsicht ist etwa geboten, wenn Meldungen in der Überschrift besonders reißerisch dargestellt werden und wenn der nachfolgende Nachrichtentext davon abweicht, in sich unlogisch ist und keine oder nicht nachprüfbare Quellen für die präsentierten Sachverhalte nennt. Frau Professor Bader aus dem Projektkonsortium DORIAN bringt es auf den Punkt: Wir alle konsumieren digitale Nachrichten oft sehr flüchtig und lesen viele Texte nicht zu Ende. Man behält nur Schlagworte aus Überschriften im Kopf, denkt nicht logisch darüber nach und überprüft keine Quellen-Links in Texten. Dabei würde Fertiglesen in vielen Fällen schon helfen.

Desinformationen verbreiten sich besonders stark über Online- und Social-Media-Plattformen. Wie sollten Plattformbetreiber handeln, um das Problem in den Griff zu bekommen?

Die Online-Plattformen haben sich zu relevanten Foren der öffentlichen Kommunikation entwickelt. Sie sollten sich einer freiwilligen Selbstkontrolle unterwerfen, wie sie zum Beispiel mit Erfolg auch im Bereich des Jugendmedienschutzes etabliert ist. Wir schlagen die Einrichtung einer Selbstregulierungsstelle Desinformation für die großen Online-Plattformen vor: In regelmäßigen Berichten sollten sie über den Umgang mit Desinformation und die Lösch- und Sperrpraxis berichten und damit zeigen, dass sie sich in der gesellschaftlichen Verantwortung sehen und sich dieser stellen.

Sie haben auch Handlungsempfehlungen für Medien erarbeitet. Welchen Beitrag können Journalistinnen und Journalisten leisten?

Wir empfehlen die Einhaltung professioneller Standards und legen nahe, dass sich Sorgfalt vor Schnelligkeit und Sachlichkeit vor Leseanreiz mittel- bis langfristig bezüglich Reputation auszahlen werden. Ein echtes Unterscheidungsmerkmal zur Desinformation ist eine offene und klare Fehlerkultur. Diese gibt es bei keinem Desinformationsportal.

Und wie sollten Medien Desinformationen aufdecken?

Auch die Entlarvung von Desinformation ist eine Herausforderung – es gibt mehrere Regeln, die bei der Widerlegung zu beachten sind. Die wichtigste ist, ansprechende Geschichten zu finden, die dazu beitragen, dass das Interesse der Leserinnen und Leser geweckt und die korrekte Information mit höherer Wahrscheinlichkeit gelesen und weitergeleitet wird als die Desinformation.

Das Projekt DORIAN will es Menschen erleichtern, Desinformationen zu erkennen. © Fraunhofer SIT© Fraunhofer SIT

Welche Rolle spielen interdisziplinäre Forschungsverbünde wie DORIAN beim Kampf gegen Desinformation?

Das Phänomen Desinformation hat disziplinenübergreifende Aspekte, entsprechend ist seine Erforschung durch einen interdisziplinären Verbund zielführend. In DORIAN wirken die Sichten der Technik, der Journalistik, der Psychologie und des Rechts zusammen und können voneinander profitieren.

Auch technische Mechanismen spielen eine Rolle bei der Verbreitung von Desinformationen. Welche Aspekte beschäftigen die Forschung besonders?

Uns beschäftigen insbesondere Effekte, die durch den Einsatz von Technik eine neue Dimension erhalten, das sind vor allem Skaleneffekte, Microtargeting und Medienmanipulation. Mittels bösartiger Social Bots kann Desinformation vollautomatisch schnell an viele Empfängerinnen und Empfänger verbreitet werden – in der Breite wesentlich schneller als dies durch Menschen möglich wäre. Hier sehen wir Skaleneffekte. Mittels Microtargeting-Techniken, die die Vorlieben einzelner Personen erheben, auswerten und entsprechend Meldungen adressatenspezifisch anpassen können, kann Desinformation zudem maschinell auf Individuen zugeschnitten werden.

Und was meinen Sie mit Medienmanipulation?

Ein weiteres Feld der Technikforschung im Zusammenhang mit Desinformation sind Mediendaten wie Bild, Audio und Video. Hier geht es darum, ob erfasste Inhalte anschließend manipuliert wurden und ob Mediendaten in einen anderen Kontext gestellt wurden, also beispielsweise ein Foto aus einem früheren Nachrichtenkontext nun in einem völlig anderen Zusammenhang sozusagen als Beweis angeführt wird. Das nennen wir die manipulative Text-Bild-Schere.

Welche Chancen bieten neue Technologien wie künstliche Intelligenz?

Entsprechend unserer Ergebnisse sind Techniken des maschinellen Lernens in den folgenden vier Bereichen der Desinformationsforschung vielversprechend: Bei der Entscheidung, ob es sich bei detektierten Bots um bösartige Social Bots handelt, bei der Erkennung, ob Texte mit Desinformations-Anteile haben, bei der forensischen Analyse von Mediendaten bezüglich Manipulationen und bei der Autorschaftsattribution, also der Erkennung der tatsächlichen Autorschaft eines Textes. Die Frage der Autorschaft ist relevant sowohl bezüglich Microtargeting als auch bezüglich menschlicher Akteure, die unter falschen Identitäten Texte verbreiten.

Wer glauben Sie wird bei der Erkennung manipulierter Informationen künftig die größere Rolle spielen: Mensch oder Maschine?

Wir brauchen gleichermaßen Menschen und Maschinen. Maschinen erkennen mit Fehlerrate. Selbst wenn diese Rate klein ist, muss letztlich ein Mensch entscheiden, ob es sich um Desinformation handelt: Die Maschine könnte beispielsweise zynische, ironische oder satirische Texte wegen ihrer Ähnlichkeit zu angelernten Desinformationstexten fälschlicherweise als Desinformation erkennen und sie kann keine journalistische Faktenrecherche durchführen. Zugleich sind wir auf Maschinen angewiesen. Überall dort, wo Daten massenweise auf Eigenschaften analysiert werden müssen, ist die Maschine unschlagbar schnell. Die Vorsortierung einer schieren Menge von Meldungen, die im Verdacht stehen Desinformation zu enthalten, ist hier nur ein Beispiel von vielen.

Weitere Informationen