Forschende der H-BRS gehen mit künstlicher Intelligenz gegen Fake News vor

Kundgebung Smartphone Fake News COLOURBOX54207259

Irreführende Falschmeldungen – heute gerne als Fake News bezeichnet – sind in der digitalen Welt allgegenwärtig. Die Unterscheidung zwischen seriösen Informationen und Falschmeldungen ist insbesondere dann von hoher Relevanz, wenn es um die Sicherheit von Menschen geht. In einem gemeinsamen Forschungsprojekt wollen mehrere Hochschulen neuartige Verfahren entwickeln, um Fake News mit Hilfe künstlicher Intelligenz automatisiert zu erkennen. Die Hochschule Bonn-Rhein-Sieg (H-BRS) steuert ihre Expertise in der Erforschung der Onlinekommunikation bei. Die Technik soll Behörden und Organisationen mit Sicherheitsaufgaben ebenso dienen wie Bürgerinnen und Bürgern.

Auf die Wassermassen folgte eine zweite Flut: Eine Fülle von Falschmeldungen und Desinformationen verunsicherte zahlreiche Menschen, nachdem im Juli 2021 die Hochwasser-Katastrophe Teile Deutschlands heimgesucht hatte. So kursierten in den sozialen Netzwerken vorgebliche Warnungen, dass der Damm der Steinbachtalsperre gebrochen sei. Die Folge: Menschen in der Region flüchteten in Panik aus ihren Häusern. Falschmeldungen oder Fake News sind nichts grundsätzlich Neues. Neu sind die Geschwindigkeit und die Reichweite, mit der sie in den digitalen Medien verbreitet werden. Nicht immer werden Fake News absichtlich in die Welt gesetzt. Aber auch die unbeabsichtigten Fehlinformationen sind problematisch.

Im Forschungsprojekt „Nutzerzentrierte KI-basierte Erkennung von Fake News und Fehlinformationen“ (NEBULA) arbeitet die Hochschule Bonn-Rhein-Sieg zusammen mit drei weiteren Hochschulen und einer Software-Firma an einer Technik, die Fake News und Fehlinformationen in sicherheitsrelevanten Situationen automatisiert erkennen soll. Unterstützt wird das Projekt durch weitere Partner, darunter das Landespolizeipräsidium Hessen.

Vor allem in Katastrophenlagen werden Fake News verbreitet und können zur Verunsicherung der Betroffenen führen. Foto: Colourbox

Behörden wie das Landespolizeipräsidium und andere Organisationen mit Sicherheitsaufgaben stehen immer wieder vor der Herausforderung, sich ein Bild von den kursierenden Fake News zu machen. Dies ist für sie von entscheidender Wichtigkeit, um in besonderen Situationen schnell und zielgruppengerecht die potenziell gefährlichen Falschinformationen richtigstellen zu können. Für Mediennutzerinnen und -nutzer auf der anderen Seite kann es schwierig sein, sich in unübersichtlichen Katastrophensituationen zutreffende Informationen zu beschaffen, wie das Beispiel des Juli-Hochwassers zeigt.

„Die Transparenz der Identifikation von Fake News soll auch dazu beitragen, die User zu befähigen, selbst zuverlässige Quellen von unzuverlässigen unterscheiden zu können“, erklärt Professor Hektor Haarkötter, der an der H-BRS Kommunikationswissenschaft mit Schwerpunkt Politische Kommunikation lehrt. „Wir beschäftigen uns hier schon lange mit den gesellschaftlichen Auswirkungen von Nachrichtenauswahl und Nachrichtenzuverlässigkeit. Fake News tragen stark zur Desorientierung der Bevölkerung bei und sind darum auch demokratiefeindlich“.

Die neue Technik soll Fake News nicht nur mit Hilfe künstlicher Intelligenz besonders akkurat identifizieren, sondern auch erklären, warum eine Nachricht als irreführend oder falsch gekennzeichnet wird. Die Transparenz der Entscheidungsfindung hat in dem Projekt eine Schlüsselrolle. Die Verbundpartner wollen auf diese Weise möglichen Widerständen gegen eine automatische Bewertung vorbeugen, das eigene Mitdenken fördern sowie Vertrauen in die künstliche Intelligenz schaffen.

Hektor Haarkötter u. Hanns-Josef Ortheil

Forscht zu Fake News in den Sozialen Medien: Professor Hektor Haarkötter. Foto: Werner Siess

Indem die geplante Technik die treffgenaue automatisierte Fake-News-Erkennung mit Erklärungen zur Entscheidungsfindung kombiniert, stellt sie eine neuartige Lösung dar. Ein besonderes Merkmal des Forschungsprojekts ist darüber hinaus, dass es Nutzergruppen in den Blick nimmt, die als potenziell anfälliger für Falschinformationen und Meinungsmanipulationen gelten. Dazu gehören Menschen höheren Alters, Jugendliche sowie Nicht-Muttersprachlerinnen und -sprachler. Das Ziel ist die Entwicklung einer mobilen App und eines Browser-Plugins.

Ein weiteres Ziel ist die Bereitstellung einer anwenderfreundlichen Internet-Plattform, die dieselben Methoden zur Erkennung von Fake News und Falschinformationen nutzt. Sie soll Behörden und Organisationen mit Sicherheitsaufgaben dazu dienen, sich ein aktuelles Lagebild zu verschaffen, welche Art von irreführenden Informationen vor allem in den sozialen Medien im Umlauf sind.

Die erarbeiteten technischen Innovationen sollen als Open-Source-Lizenz der breiten Öffentlichkeit zur Verfügung gestellt werden. Das Landespolizeipräsidium Hessen will als erster Anwender die neue Technik aus dem NEBULA-Projekt für seine Arbeit bei der Erkennung von Falschinformationen nutzen. Nach Projektende sollen auch andere Sicherheitsbehörden die neuen technischen Lösungen erhalten können. Auch für Medienunternehmen und Redaktionen ist die Technik interessant.

Die Hochschule Bonn-Rhein-Sieg bringt in das NEBULA-Projekt vor allem ihre Expertise in der Erforschung der Formen von Desinformation in der Onlinekommunikation ein. Am Lehrstuhl von Professor Hektor Haarkötter werden Methoden der (Online-)Recherche und Verifikation entwickelt und in Workshops in Medienhäusern und Journalistenschulen vermittelt.

Künstliche Intelligenz: Immer bessere Ergebnisse durch autarkes Lernen

Gerade in algorithmisierten Umgebungen wie Social Media werden neue technisch basierte Prüf-Anwendungen zunehmend gebraucht, da auf diesen Plattformen nachrichtliche Inhalte neben werblichen Inhalten und meinungsbetonten Darstellungsformen platziert werden und so oft völlig kontextlos erscheinen. Innerhalb des Forschungsprojekts NEBULA soll eine Erkennungsanwendung programmiert werden, die auf kontinuierlich aktualisierten Wissensgraphen basiert.

Als empirische Grundlage für die Erstellung dieser Wissensgraphen ist eine fundierte und verlässliche Datengrundlage maßgebend. Hierfür wird durch die Forschenden an der Hochschule Bonn-Rhein-Sieg die kommunikations- und sozialwissenschaftliche Aufbereitung von Fake News und Fehlinformationen sowie die Entwicklung von Desinformationskategorien und Fake-News-Typen und die Analyse dieser unterschiedlichen Typen nach Medienkanälen und Nutzergruppen bereitgestellt. Dadurch ist es der künstlichen Intelligenz in Form jener Wissensgraphen möglich, auf der Grundlage verlässlicher Daten autark zu lernen und sich so im Laufe der Nutzung selbst zu verbessern.