Effiziente Faktenchecks durch Künstliche Intelligenz und Crowdsourcing
Die Verbreitung von Desinformation über das Internet hat anhaltende, unerwünschte gesellschaftspolitische Konsequenzen. Manipulative Informationskampagnen haben beispielsweise das Potenzial, die demokratische Grundordnung mit seiner unabhängigen Presse zu beeinträchtigen. Im journalistischen Umfeld werden zwar entsprechende Faktenchecks durchgeführt, diese können aber nicht auf die gesamte Informationsflut angewandt werden, da dies zu aufwendig wäre. Forschungsfortschritte in der Künstlichen Intelligenz nähren die Hoffnung nach automatisierter Erkennung und Verdrängung von Desinformation. Die bisherigen Möglichkeiten sind allerdings noch zu ungenau. Erfolgsversprechend ist daher eine Kombination aus Automatisierung und journalistischer Expertise über eine Plattform für Faktenchecks, die die Mitarbeit eines möglichst großen Kreises an Nutzerinnen und Nutzern ermöglicht.
Ziel des Projekts „KI-unterstütztes Assistenzsystem für die Crowdsourcing-basierte Erkennung von über digitale Plattformen verbreiteter Desinformation (noFake)“ ist die Entwicklung eines Assistenzsystems zur Unterstützung von Crowdworkern, um Desinformation schnell zu erkennen. Das Assistenzsystem automatisiert die Sichtung großer Datenmengen: Verdächtiges Text- und Bildmaterial wird vorsortiert, mit ähnlichem Material in Verbindung gebracht und die Verbreitungswege des untersuchten Materials werden aufgezeigt. Das Wissenschaftsteam erforscht die Anpassungsmöglichkeiten existierender Methoden der Text- und Bildanalyse, um Desinformation zuverlässig zu erkennen. Die Forschungsergebnisse gepaart mit der journalistischen Expertise des Anwendungspartners fließen dann in die Entwicklung eines Assistenzsystems ein. Da der Erfolg des zu entwickelnden Systems nicht nur von dessen Funktionen, sondern auch vom richtigen Umgang der Crowdworker mit diesem System abhängt, werden entsprechende Schulungsunterlagen und Lerncurricula entwickelt. Diese sollen die Crowdworker, die in der Regel nicht über eine journalistische Ausbildung verfügen, dazu befähigen, sichere Einschätzungen des Informationsmaterials vorzunehmen. Um das System in eine Nachrichtenplattform einbinden zu können, müssen außerdem noch rechtliche Fragen in Bezug auf Meinungs- und Pressefreiheit geklärt werden.
Die unkontrollierte Verbreitung von Desinformation untergräbt das Vertrauen in den Staat und die demokratische Gesellschaft. Nutzungskompetenz und technischen Maßnahmen müssen verbessert werden – insbesondere, da rechtliche Interventionen oft nicht möglich sind. Der im Vorhaben entwickelte Ansatz trägt dazu bei, dass Bürgerinnen und Bürger Desinformation leichter erkennen und somit auch einen gesellschaftlichen Beitrag dazu leisten können, diese nicht weiter zu streuen. Dazu werden sie in wissenschaftlichen und ethischen Arbeitsmethoden für fundierte Faktenchecks geschult. Da Desinformation eine globale Herausforderung darstellt, werden weitere Organisationen, national wie international, an den Ergebnissen des Projekts interessiert sein.