KI-basierte Erkennung von Fake News

Die Verbreitung falscher und irreführender Informationen – insbesondere über soziale Medien wie TikTok, Twitter, Facebook und Co. – wird in sicherheitsrelevanten Situationen zu einer wachsenden Herausforderung. Dabei können sowohl absichtliche als auch unabsichtlich irreführende Informationen eine Gefahr darstellen. Durch gezielte Desinformation soll die öffentliche Meinung beeinflusst und die Glaubwürdigkeit seriöser Akteure untergraben werden. Gerade im aktuellen Kontext des Ukrainekriegs spielen derartige Plattformen eine besondere Rolle: Gefälschte Videos oder Inhalte mit falscher zeitlicher Einordnung verbreiten sich in kürzester Zeit viral und können große Zielgruppen verunsichern sowie Meinungen manipulieren. Auch die COVID-19-Pandemie hat gezeigt, dass viele Nutzende sozialer Medien zu einem souveränen Umgang mit der Informationsflut erst befähigt werden müssen.

Im Fokus der Projektausrichtung von NEBULA steht die Unterstützung vulnerabler Personen, die unter anderem aufgrund ihres Alters, ihres Bildungshintergrunds oder ihrer Sprachkenntnisse potenziell besonders anfällig für die Manipulation durch Falschinformationen sind. Wissenschaftliche Studien zeigen, dass irreführende Informationen beispielsweise für Nicht-Muttersprachler*innen mit besonderen Herausforderungen einhergehen. Weiter stellen videobasierte Inhalte gerade in sicherheitsrelevanten Situationen für viele Personen eine neuartige Form von Desinformation dar. Dies betrifft insbesondere ältere Menschen.

Nutzer*innenzentrierte und KI-basierte Erkennung von Fake News

Ziel des interdisziplinären Verbundvorhabens NEBULA ist die transparente, KI-basierte Erkennung von Fake News und Fehlinformationen in sicherheitsrelevanten Situationen sowie die zielgruppengerechte Darstellung der Detektionsergebnisse zur Förderung der Medienkompetenz. Die nutzer*innenzentrierten Ansätze unterstützen dabei zum einen Behörden und Organisationen mit Sicherheitsaufgaben (BOS) bei der akkuraten Lagebilderstellung und Krisenkommunikation. Zum anderen binden sie vulnerable Personen bei der Entwicklung von technischen Unterstützungswerkzeugen ein. Die geplanten Ansätze zur Informationsüberprüfung werden zielgruppengerecht und partizipativ ausgerichtet, um die Effektivität und Akzeptanz bei verschiedenen sozialen Gruppen zu verbessern und das eigene Reflektieren zu fördern.

Innerhalb des Projekts entstehen Demonstratoren in Form von Smartphone-Apps, Browser-Plugins und Webanwendungen. Diese sollen Einzelpersonen und Behörden dazu zu befähigen, Fake News und Fehlinformationen selbst zu erkennen. Eine automatisierte Erkennung und nutzerzentrierte Unterstützung für die Bewertung von Inhalten wird auf Basis von kontinuierlich aktualisierten Wissensgraphen und für die AnwenderInnen transparenten Indikatoren ermöglicht.

Koordination am Lehrstuhl PEASEC

Dem Verbundprojekt NEBULA gehören fünf Verbundpartner sowie acht assoziierte Partner an: Koordiniert wird der Verbund aus Forschungs-, Entwicklungs- und Anwendungspartnern durch Professor Dr. Christian Reuter vom Lehrstuhl Wissenschaft und Technik für Frieden und Sicherheit (PEASEC) am Fachbereich Informatik der Technischen Universität Darmstadt. Weiter sind der Lehrstuhl für Wirtschaftsinformatik und Neue Medien (WiNeMe) der Universität Siegen (Prof. Dr. Volker Wulf), die Professur für Kommunikationswissenschaft mit Schwerpunkt politische Kommunikation der Hochschule Bonn-Rhein-Sieg (Prof. Dr. Hektor Haarkötter), der Lehrstuhl Data Science (DICE) der Universität Paderborn (Prof. Dr. Axel-Cyrille Ngonga Ngomo) sowie die NanoGiants GmbH (Lukas Czarnecki) als Verbundpartner am Projekt beteiligt. Als assoziierte Partner wirken das Hessische Ministerium des Innern und für Sport (Landespolizeipräsidium), die Stadt Siegen, die Stadt Darmstadt, die Digitalstadt Darmstadt GmbH, die Stadt Hilchenbach, die Initiative Nachrichtenaufklärung (INA) e.V., der Computerclub Raum vor Ort sowie die Computerclubs des Come_IN e.V. mit. Das Verbundprojekt ist in der Fördermaßnahme „Künstliche Intelligenz in der zivilen Sicherheitsforschung II“ im Rahmen des Programms „Forschung für die zivile Sicherheit 2018 – 2023“ der Bundesregierung angesiedelt.