DORIAN

Desinformation im Internet aufdecken und bekämpfen

Das Projekt DORIAN erarbeitet u.a. technische Konzepte, um es Bürgerinnen und Bürgern zu erleichtern, Falschnachrichten zu erkennen.© Fraunhofer SIT

Motivation

Viele gesellschaftliche und politische Diskussionen und Prozesse werden derzeit mit Hilfe digitaler Medien geführt und vorangetrieben. Das bietet große Chancen, z. B. für mehr Partizipation, birgt aber auch Risiken gezielter Fehlinformation. Koordinierte Desinformationskampagnen und die gezielte Verbreitung sogenannter „Fake News“ haben durch die vorhandenen technischen Möglichkeiten eine neue Qualität erreicht. Die Initiatoren solcher Kampagnen im Internet zielen darauf, Bürgerinnen und Bürger bewusst in die Irre zu führen, die öffentliche Stimmung anzuheizen, die Spaltung der Gesellschaft voran zu treiben und die Legitimität bzw. das Vertrauen in Medien, Wissenschaft, Politik und die rechtsstaatliche Ordnung zu untergraben.

Ziele und Vorgehen

Ziel des interdisziplinären Projekts DORIAN ist es, im Spannungsfeld zwischen freier Meinungsäußerung, Privatheitsschutz und Zensur das Phänomen „Desinformation und Meinungsmanipulation im Internet“ zu erforschen. Außerdem werden mögliche Mechanismen aufgezeigt, mit deren Hilfe Desinformationen erkannt und bekämpft werden können. Die Wissenschaftlerinnen und Wissenschaftler arbeiten dazu charakteristische Merkmale von Online-Beiträgen heraus, die sich aus Grundhaltung, Inhalt, Quelle und Verbreitungswegen ergeben und die Möglichkeit bieten, automatisiert Desinformationen zu erkennen. Um eine hohe Erkennungsrate zu garantieren, werden eine große Menge an Beispieldaten, als auch journalistische und medienpsychologische Erfahrungen der Projektpartner herangezogen. Außerdem entwickelt das Forschungsteam effektive Konzepte zur Bekämpfung von Meinungsmanipulation und evaluiert diese mit Blick auf die gesellschaftlichen Auswirkungen. Die Erkenntnisse aus dem Projekt können dazu beitragen, „Fake News“ besser zu erkennen und die Verbreiter der Nachrichten auf Plattformen sperren oder deren Beiträge zensieren zu lassen. Natürlich werden dabei die Rahmenbedingungen der demokratischen und rechtsstaatlichen Ordnung, wie etwa das Recht auf freie Meinungsäußerung, die Pressefreiheit und das Rechts auf informationelle Selbstbestimmung bzw. Datenschutz, beachtet. Um der oft massiven Anzahl veröffentlichter Online-Beiträge Herr zu werden, werden automatisierte Suchalgorithmen entwickelt, die auf Ansätze des maschinellen Lernens zurückgreifen. So können potentielle Desinformationen effektiv in Online-Beiträge aufgedeckt werden.

Innovationen und Perspektiven

Im Projekt DORIAN wird ein Katalog möglicher technischer, politischer, rechtlicher und gesellschaftlicher sowie organisatorischer Empfehlungen zur wirksamen Bekämpfung von Desinformation im Internet erarbeitet. Mit den Empfehlungen auf politischer und rechtlicher Ebene werden regulierende Gremien und die Bundesregierung in die Lage versetzt, gezielt gegen kampagnenartige Desinformation im Internet vorzugehen. Neben den Empfehlungen werden auch technische Hilfsmittel bereitgestellt, die es Bürgerinnen und Bürgern, Plattformbetreibern, Redakteuren aber auch Journalisten erleichtern, Meinungsmanipulation zu erkennen.