Alles nur Fake News? Künstliche Intelligenz im Kampf gegen verzerrte Medienberichterstattung

Die Zunahmen von verzerrter und polarisierender Medienberichterstattung und gezielten Desinformationskampagnen haben das Potenzial, demokratische Prozesse und politische Entscheidungen nachhaltig zu beeinflussen. In der medialen Berichterstattung, der öffentlichen Wahrnehmung und nicht zuletzt der wissenschaftlichen Forschung sind sie daher in den vergangenen Jahren zunehmend in den Fokus gerückt. Die US-Präsidentschaftswahlen 2016 und 2020, das Brexit-Referendum und die COVID-19-Pandemie haben gezeigt, wie schnell sich falsche oder verzerrt dargestellte Tatsachen über die klassischen Medien, aber auch über das Internet und soziale Medien ausbreiten und damit die öffentliche Meinung und letztlich auch politische Entscheidungen beeinflussen.

Vor allem der Kampf gegen Online-Desinformationskampagnen hat entscheidend dazu beigetragen, bestehende wissenschaftliche Forschung aus verschiedenen Disziplinen – von der Informatik, zu den Kommunikations- und Verhaltenswissenschaften, zur Politikwissenschaft – zu vereinen. Diese Entwicklung hat unser Verständnis der zu Grunde liegenden Prozesse in neuen Onlinemedien grundlegend verbessert. Der endgültige, wissenschaftliche Nachweis ob bzw. in welchem Umfang Online-Desinformationskampagnen tatsächlich politische Entscheidungen beeinflussen, steht allerdings noch aus. Hingegen mehren sich die Stimmen in der Wissenschaft, welche die weit häufiger vorkommende verzerrte Darstellung von Tatsachen in den Medien als die viel grundlegendere Gefahr für unsere demokratischen Prozesse sehen.^[1]Duncan Watts und Kollegen vertreten z.B. diesen Standpunkt in einem kürzlich in der renommierten amerikanischen Fachzeitung Proceedings of the National Academy of Sciences erschienen Artikel: … Continue reading

Medien liefern immer seltener neutrale, rein faktische Berichte. Stattdessen ist die Art der Berichterstattung zunehmend durch gesellschaftliche, wirtschaftliche oder politische Interessen gefärbt. Dies ist kein neuer Befund, denn auch klassische Printmedien haben schon immer verschiedene Standpunkte in ihrer Berichterstattung bezogen. Allerdings hat der Umbruch im Zeitungswesen durch den Übergang auf online Formate die bestehenden Tendenzen verstärkt und den Druck auf Medienhäuser erhöht, ihre Kernklientel zu bedienen und Werbeträger sowie Investoren und Investorinnen zufriedenzustellen. Hinzukommt eine allgemeine Zunahme der politischen und gesellschaftlichen Polarisierung, die sich nachweislich auch in der Medienberichterstattung widerspiegelt.

Im Zeitalter digitaler Medien und sozialer Netzwerke kommen neue Mechanismen hinzu, welche die potenzielle Wirkung von unausgewogener Berichterstattung sowie echter Falschinformation verstärken. Medienbeiträge werden über soziale Netzwerke, in Messenger-Diensten oder Foren geteilt, kommentiert und zitiert. Aktuelle Forschung, zum Beispiel von PEW Research in den USA, zeigt, dass diese Onlinekanäle für immer mehr Menschen die wichtigste Quelle politischer Information sind. Damit bilden sie auch eine der bedeutendsten Grundlagen für politischen Diskurs. Desinformationskampagnen versuchen, diesen Prozess ge- zielt zu manipulieren. Jedoch auch ohne ihren Einfluss ist unsere „Informationsdiät“ bei weitem nicht ausgewogen.

Weil wir Bürger und Bürgerinnen uns über aktuelle Geschehnisse immer mehr im Internet – vor allem auch auf sozialen Medien – informieren, spielen diese neuen Verbreitungsmechanismen und die Eigenheiten der sozialen Netzwerke eine immer entscheidendere Rolle. In der COVID-19-Pandemie wurden beispielsweise Falschinformationen oder auch Verschwörungstheorien vor allem über Kanäle wie Facebook verbreitet. Subtile Falschinformation oder die verzerrte Darstellung von Fakten ist nicht immer einfach zu erkennen und effektiv zu bekämpfen. Dennoch sind vor allem Plattformen wie Facebook zuletzt zu Recht in die Kritik geraten, weil sie gegen Verschwörungstheorien im Zusammenhang mit COVID-19 viel zu langsam und zögerlich vorgingen.

Die Sozial-, Verhaltens- und Kommunikationswissenschaften beschäftigen sich schon seit den 1950er Jahren mit dem Einfluss von absichtlicher Verzerrung medialer Berichterstattung auf politisches Verhalten und Entscheidungen. Aktuelle Studien zeigen klar auf, dass absichtliche Falschinformation empirisch gesehen nur einen kleinen Teil der Berichterstattung ausmacht. Dagegen zeigt die sehr gut etablierte Forschung zu verzerrter Medienberichterstattung, dass die Darstellung in den Medien – mit sehr wenigen Ausnahmen – mit ansteigender Tendenz durch soziale, gesellschaftliche, wirtschaftliche oder politische Interessen beeinflusst wird.

Zum Beispiel ist es wohlbekannt, dass die Zeitschriften des Medienimperiums von Robert Murdoch explizit und mit großem Aufwand die „Leave“ Kampagnen während des Brexit-Referendums unterstützten. Der ebenfalls von Murdoch kontrollierte Sender Fox News hat ebenso offen Donald Trump in seinen Präsidentschaftskampagnen 2016 und 2020 unterstützt. Zum Beispiel legt eine Untersuchung des Berkman Klein Centers an der Harvard University nahe, dass die enge Zusammenarbeit von Fox News und Donald Trump die Verbreitung von Desinformation über gefälschte Briefwahlunterlagen deutlich stärker beeinflusste als die Kampagnen russischer Internet-Trolle und anderer Akteure auf sozialen Medien.^[2]Berkman Klein Center. (2020). Mail-In Voter Fraud: Anatomy of a Disinformation Campaign. Working Paper. Cambridge, MA: Harvard University.

Sind damit alle Nachrichten nur Fake News? Die Parteinahme des Medienimpe- riums von Robert Murdoch ist sicher ein Extremfall und auch hier handelt es sich häufig um einseitige, stark verzerrte und seltener um tatsächlich faktisch falsche Berichterstattung. Allerdings haben Kanäle wie Fox News durchaus auch faktisch unhaltbare Vorwürfe verbreitet, wie zum Beispiel in der Berichterstattung zu angeblichem Wahlbetrug während des letzten US-Präsidentschaftswahlkampfes. Neben faktisch falscher Berichterstattung, also was berichtet wird, hat vor allem die selektive und zunehmend einseitige Art, wie über etwas berichtet wird, einen starken Einfluss auf die Wahrnehmung aktueller Themen.

Es ist sehr wichtig einzuordnen, dass der Begriff Fake News – oder im Deutschen auch der Begriff Lügenpresse – in diesem Zusammenhang gezielt verwendet wird, um damit die Glaubwürdigkeit etablierter Medien anzugreifen. Der öffentliche und mediale Fokus auf Fake News ist damit eher ein Ausdruck der zunehmenden Polarisierung der Gesellschaft als ein Indikator für die tatsächliche Zunahme von Falschinformationen. Nachrichten, die nicht den eigenen politischen Ansichten entsprechen, werden als Fake News gebrandmarkt, anstatt einen differenzierten Diskurs über kontroverse und komplexe Sachverhalte zu führen.

Auch wenn wir demnach sicher nicht täglich Falschinformationen aufsitzen, ist der Einfluss einseitiger und verzerrter Berichterstattung dennoch nicht zu unterschätzen. Aktuelle Forschung zeigt zum Beispiel, dass allein die Tonalität der Berichterstattung, also negativer statt neutraler Wortwahl, Ereignisse als bedrohlicher erscheinen lässt. Dieser Effekt besteht, obwohl sich die Zeitungsleser durchaus bewusst sind, dass die Berichterstattung unausgewogen ist.^[3]Eine aktuelle Studie unter unserer Beteiligung zeigt dies mit Hilfe eines conjoint Umfrageexperiments im Zusammenhang mit der Berichterstattung über terroristische Angriffe: Lukas Feick, Karsten … Continue reading Hier zeigt sich das Kerndilemma, dem sowohl Menschen in der Wissenschaft als auch die politischen und gesellschaftlichen Entscheidungstragenden gegenüberstehen: Wie kann verhindert werden, dass sich die Zunahme polarisierender und verzerrter Berichterstattung nachhaltig negativ auf politische Entscheidungsfindungsprozesse auswirkt und damit, schlussendlich, unseren demokratischen Prozessen schadet?

Erste vielversprechende Ansätze, um dieser Wirkung entgegenzutreten, wurden bislang insbesondere in den Kommunikations- und Politikwissenschaften entwickelt. Ein wichtiger Ansatz ist es zum Beispiel, die allgemeine „Digital Literacy“ der Bevölkerung zu stärken, vor allem, wenn es um die Erkennung von irreführender oder falscher Berichterstattung geht. Erste Studien zeigen, dass diese Interventionen effektiv die Weiterverbreitung solcher Berichte hemmen könnten.^[4]Ein hervorragendes Beispiel dafür ist eine kürzlich erschiene Studie von Kollegen in den USA: Andrew Guess et al. (2020). A Digital Media Literacy Intervention Increases Discernment Between … Continue reading Ein zweiter vielversprechender Ansatz ist es, unterschiedlich polarisieren- de und verzerrte Berichterstattung einander gegenüberzustellen. Dieser Ansatz wird zum Beispiel vom amerikanischen Portal AllSides.com verfolgt, einer Nachrichtenaggregationsplattform auf der Nutzende Artikel entlang des politischen links-rechts Spektrums einordnen.

Das gemeinsame Ziel beider Ansätze ist es, uns Bürgern und Bürgerinnen den Umgang mit Onlinemedien zu erleichtern und uns zu befähigen, verzerrte Berichterstattung besser zu erkennen und aus der Kakophonie von Online-Informationen ausgewogenere Perspektiven auf aktuelle gesellschaftliche Fragen und Entwicklungen herauszufiltern. Es ist dabei entscheidend, dass es nicht um die eine „wahre“ Berichterstattung geht, sondern vielmehr, dass verschiedenen Perspektiven zu denselben Themen einfacher verfügbar werden und die verzerrte Darstellung innerhalb und über Artikel hinweg sichtbar gemacht werden kann. Letztendlich ist es allerdings nicht klar, inwiefern bestehende Ansätze wirklich skalierbar sind, d.h., ob sie wirklich eingesetzt werden können, um uns im täglichen Nachrichtenkonsum zu unterstützen.

In unserem von der Heidelberger Akademie der Wissenschaften im Rahmen des WIN-Kollegs finanzierten Projekt verfolgen wir daher einen Ansatz, der neueste Methoden der künstlichen Intelligenz (KI) bzw. des maschinellen Lernens einsetzt, um die Erkennung von verzerrter Medienberichterstattung zu automatisieren. Gleichzeitig testen wir mit Hilfe einer Plattform, die visuell dem oben erwähnten Allsides.com ähnelt, systematisch, wie man erkannte Verzerrungen am besten an News-Konsumenten vermittelt und ob es diesen tatsächlich hilft, unausgewogene Berichterstattung zu erkennen. Unsere Plattform ist bereits im Testbetrieb und erste vielversprechende Ergebnisse zeigen, dass unsere automatisierte Einordnung mindestens genauso effektiv funktioniert wie die manuell erstellte Einordnung von AllSides.com.

Die entscheidende Stärke unseres Projekts liegt in unserem sehr interdisziplinären Team, das sich aus Informatikern und Sozialwissenschaftlern zusammensetzt. In Konstanz leitet der Informatik-Doktorand Felix Hamborg ein Team von studentischen Mitarbeitenden aus der Informatik sowie den Politik- und Datenwissenschaften, um die Erforschung der interdisziplinären Methodologie voranzutreiben. Die technische Entwicklung unserer Plattform begleiten Prof. Bela Gipp und sein Team von Informatikern in Wuppertal. In Zürich unterstützt Prof. Karsten Donnay mit seinem politikwissenschaftlichen Team die sozialwissenschaftlichen Aspekte.

Das Projekt verbindet eine reiche Forschungstradition zu verzerrter Medienberichterstattung in den Sozialwissenschaften mit zeitgemäßen Techniken aus der Informatik. Dabei setzt es insbesondere auf die neuesten Techniken und Erkenntnisse aus der KI-Forschung und dem Natural Language Processing (NLP). Für die systematische Evaluation, inwiefern unsere Plattform die automatisch identifizierten Instanzen verzerrter Darstellung offenlegen kann, verwenden wir zudem aktuellste Techniken zur kausalen Inferenz mittels Umfrageexperimenten aus den quantitativen Sozialwissenschaften.

Subtile Unterschiede in der Darstellung von Ereignissen zu erkennen, ist technisch sehr anspruchsvoll. Erst die Fortschritte der letzten Jahre im Bereich des maschinellen Lernens – vor allem sogenannte Transformer-Modelle – haben automatisierte Klassifikationsansätze verlässlich genug gemacht, um sie hier guten Gewissens einsetzen zu können. Grundlage dafür sind neue, umfangreiche Goldstandard Datensätze, die im Rahmen unseres Projekts annotiert wurden und uns die verlässliche Erkennung von verzerrter Darstellung in Zeitungsartikeln ermöglichen.

Nur durch das Zusammenspiel von guten Daten und verlässlichen Algorithmen lassen sich Fehlklassifikationen minimieren und somit ein verlässliches System entwickeln. Beispiele von rassistischen oder sexistischen KI-Algorithmen für die Gesichtserkennung oder Empfehlungsgenerierung zeigen klar die potenziellen Gefahren solcher Systeme auf. In unserem Projekt legen wir daher großen Wert auf die sorgfältige Validierung unserer Daten und die unabhängige Überprüfung unserer algorithmischen Klassifikationen. Letztendlich ist aber die wichtigste Komponente die unabhängige wissenschaftliche Überprüfung unserer Methodik durch Peer-Review und die Veröffentlichung aller Details unserer Plattform.^[5]Wir haben die Grundlagen der “Newsalyze” Plattform bereits in der folgenden peer-reviewed Publikation vorgestellt: Felix Hamborg, Kim Heinser, Anastasia Zhukova, Karsten Donnay, and Bela Gipp. … Continue reading

Unser Vorgehen steht damit im klaren Gegensatz zu kommerziellen Plattformen, bei denen es in der Regel völlig intransparent bleibt, wie Algorithmen funktionieren, auf welchen Daten sie trainiert wurden und wie sie validiert und überprüft werden. Zudem setzen wir KI nicht ein, um Nutzende zu bevormunden oder ihnen Kontrolle zu nehmen. Im Gegenteil, unsere automatisierte Annotation – und damit Kontextualisierung von Artikeln – stärkt im Idealfall die Fähigkeiten der Nutzenden zur Navigation in der komplexen Online-Informationslandschaft.

Dieser Blog Post basiert auf einen Artikel der im Athene Magazin der Heidelberger Akademie der Wissenschaften, Ausgabe 01/2021 erschienen ist. Dieser Beitrag spiegelt ausschließlich die Sichtweisen der Autoren wider und in keiner Weise die Sichtweise der Institutionen mit denen sie affiliiert sind.

Notes[+]

Notes
↑1	Duncan Watts und Kollegen vertreten z.B. diesen Standpunkt in einem kürzlich in der renommierten amerikanischen Fachzeitung Proceedings of the National Academy of Sciences erschienen Artikel: Duncan J. Watts, David M. Rothschild, Markus Mobius. (2021). Measuring the News and its Impact on Democracy. Proceedings of the National Academy of Sciences 118(15): e1912443118
↑2	Berkman Klein Center. (2020). Mail-In Voter Fraud: Anatomy of a Disinformation Campaign. Working Paper. Cambridge, MA: Harvard University.
↑3	Eine aktuelle Studie unter unserer Beteiligung zeigt dies mit Hilfe eines conjoint Umfrageexperiments im Zusammenhang mit der Berichterstattung über terroristische Angriffe: Lukas Feick, Karsten Donnay and Katherine T. McCabe. (2021). The Subconscious Effect of Subtle Media Bias on Perceptions of Terrorism. American Politics Research 49(3): 313-318.
↑4	Ein hervorragendes Beispiel dafür ist eine kürzlich erschiene Studie von Kollegen in den USA: Andrew Guess et al. (2020). A Digital Media Literacy Intervention Increases Discernment Between Mainstream and False News in the United States and India. Proceedings of the National Academy of Sciences. 117(27): 15536-15545.
↑5	Wir haben die Grundlagen der “Newsalyze” Plattform bereits in der folgenden peer-reviewed Publikation vorgestellt: Felix Hamborg, Kim Heinser, Anastasia Zhukova, Karsten Donnay, and Bela Gipp. (2021). Newsalyze: Effective Communication of Person-Targeting Biases in News Articles.” Proceedings of the ACM/IEEE Joint Conference on Digital Libraries (JCDL), 2021.