Dr. Michael Kreutzer, Projektkoordinator des BMBF-Forschungsprojekts DORIAN, war heute zu Gast im Schloss Bellevue. Unter dem Motto „Fakt oder Fake? Über einen bedeutenden Unterschied für die Demokratie“ fand dort eine Diskussion über die aktuelle Informations- und Debattenkultur statt.
Im „Forum Bellevue zur Zukunft der Demokratie“ diskutiert der Bundespräsident regelmäßig über aktuelle Herausforderungen für die Demokratie mit deutschen und internationalen Gesprächspartnern aus Wissenschaft, Politik, Kultur, Wirtschaft und Zivilgesellschaft. Im heutigen Gespräch beleuchteten die Gäste das Verhältnis von Wahrheit und Lüge im politischen und gesellschaftlichen Diskurs – gerade im Hinblick auf die schnelle Verbreitung von Desinformation über digitale Medien. Das vom Bundesforschungsministerium geförderte interdisziplinäre Forschungsprojekt „DORIAN“ setzt sich mit ebendieser Thematik auseinander. Das Ziel: Desinformation aufzudecken und umfassend zu bekämpfen.
Anlässlich der Veranstaltung sprachen wir mit Dr. Michael Kreutzer vom Fraunhofer SIT, der zu den Gästen des Bundespräsidenten gehörte.
Herr Dr. Kreutzer, weshalb ist es so wichtig, falsche Informationen als solche zu erkennen?
Desinformations-Kampagnen im Internet heizen die öffentliche Stimmung an und polarisieren die Gesellschaft. Dem gilt es entschieden entgegenzutreten.
Wie verbreiten sich falsche Informationen im Netz?
Hierfür lancieren viele Täterinnen und Täter sogenannte „malicious social bots“, also Software, die menschliche Kommentatorinnen und Kommentatoren simuliert, um gezielt manipulative Botschaften massenhaft zu verbreiten und zu teilen. Dies hat beispielsweise zur Folge, dass Kommentarfunktionen auf Nachrichtenseiten abgeschaltet werden, nachdem dort voll- oder halbautomatisch volksverhetzende Inhalte veröffentlicht wurden. Zu Ende gedacht führt dies zum Ausschluss gemäßigter Stimmen aus dem öffentlichen Meinungsbildungsprozess.
Welche wesentliche Herausforderung ergibt sich daraus für Ihr Projekt?
Das DORIAN-Konsortium sieht in „malicious social bots“ eine Bedrohung für eine schlüssige und faktenorientierte Berichterstattung. Die zentrale Herausforderung für DORIAN besteht deshalb darin, vollautomatische Desinformationskampagnen im Internet zu erkennen und ihnen entgegenzutreten.
Welche Lösungsansätze entwickelt ihr Projekt hierfür?
Um der gesellschaftlichen Dringlichkeit des Phänomens Desinformation gerecht zu werden, entwickeln wir zum einen Empfehlungen, die sich auf die Weiterentwicklung der Rechtsordnung, der Mediendidaktik und den journalistischen Recherechemöglichkeiten beziehen. Zum anderen arbeiten wir stark an möglichen Konzepten für technische Lösungen zur Erkennung und Bekämpfung von Desinformation und Meinungsmanipulation im Internet.
Und wie genau machen Sie das?
Es geht darum „malicious social bots“ und die von ihnen erzeugten „Inhalte“ technisch zu überführen. Mit maschinellem Lernen finden wir die Eigenschaften von „malicious social bots“, mit derselben Methode kategorisieren wir Webinhalte vollautomatisch. Das geht so weit, dass wir die ursprüngliche Autorschaft eines leicht modifizierten Textfragments finden. Oder das erste Vorkommen eines Bildes, das in anderem, falschen Kontext erscheint. Wir zielen darauf, die „Simulation von Journalismus“ technisch aufzudecken sowie sozialen Netzen aufzuzeigen, wie sie radikalisierende, volksverhetzende und beleidigende Kommentare schneller finden können.