Vielfach ist es damit zunehmend schwierig KI-generierte Inhalte überhaupt noch verlässlich zu erkennen. Schon seit einiger Zeit warnen daher vor allem Vertreter der Zivilgesellschaft aber auch der Wissenschaft vor möglichen Gefahren durch die zunehmende Verwendung von KI, insbesondere im Kontext der Politik. Dabei wird vor allem das Risiko einer KI-basierten politischen Einflussnahme diskutiert. Doch wie real ist diese Gefahr? Um dies einordnen zu können, muss man zwischen mehreren verschiedenen grundsätzlichen Risiken unterscheiden.

KI-Dienste liefern nicht immer verlässliche Informationen zum Tagesgeschehen

Zum einen gibt es das Risiko, dass KI-Dienste keine verlässlichen Informationen zu aktuellen politischen Geschehnissen liefern. Damit könnte die politische Meinungsbildung, vor allem im Kontext von Wahlen, beeinflusst werden. Eine Untersuchung der Organisationen AlgorithmWatch und AI Forensics im Kontext der eidgenössischen Wahlen im vergangenen Oktober und der Landtagswahlen in Bayern und Hessen konnte dies zum Beispiel für Microsoft Bing-Chat nachweisen. Dabei gab der KI-Dienst nicht nur irreführende Antworten, sondern zu wichtigen Fragen auch komplett falsche Informationen.

Um zu verstehen, warum sich die KI in einem solchen Fall so stark “irren” kann, muss man hinter die Kulissen der Technologie schauen. Eine grundsätzliche Ursache liegt in den Daten, die den verwendeten KI-Sprachmodellen zu Grunde liegen. Geben diese Daten Tatsachen oder Zusammenhänge verzerrt wieder, dann trägt auch der KI-Dienst diese Verzerrungen mit sich. Die Art und Weise wie die KI lernt, kann diese Verzerrungen allerdings darüber hinaus sogar noch verstärken. Zukünftige Generationen der Dienste werden auf immer grösseren Datenmengen basieren, aber es ist nach heutigem Wissensstand nicht zu erwarten, dass dies das Problem der sogenannten “Halluzinationen” vollständig lösen kann.

KI-generierte Falschinformationen sind auf dem Vormarsch

Ein zweites Risiko ist die bewusste Verwendung von KI-generierter Falschinformation, die in manipulativer Weise eingesetzt wird. Die Verfügbarkeit von KI-Diensten, die schnell und unkompliziert beliebige Texte, Bilder, Audio- und Videoclips erzeuge können, senkt die Kosten für die Produktion von Falschinformationen massiv. Gleichzeitig steigt ihre Qualität, so dass die KI-generierten Falschinformationen von realen Inhalten oft nur schwer oder gar nicht unterscheidbar sind. Im Kontext der US-Wahlen wird aktuell zum Beispiel wieder verstärkt die Gefahr von “Deep Fakes” diskutiert, also durch KI manipulierte Bilder, Videos oder Audioaufnahmen. Diese werden eingesetzt um politische Gegner gezielt zu diffamieren oder die Wähler mit Aussagen, die in der Form nicht gemacht wurden, in die Irre zu führen.

Aber bedeutet mehr und realistischere Falschinformation auch automatisch mehr politische Einflussnahme? Die Wissenschaft ist sich in dieser Frage noch uneins. Ein grösseres Angebot an Falschinformation führt nicht zwingend zu mehr Nachfrage bzw. Konsum von manipulierten Inhalten. Qualitätsmedien verbreiten bisher nur sehr selten Informationen aus manipulierter Berichterstattung und, gerade in der Schweiz, informiert sich die Mehrheit der Bevölkerung im Kontext von Wahlen noch hauptsächlich über die Abstimmungsbüchlein, die etablierte Medien bzw. Radio und Fernsehen. Allerdings ist dies z.B. in Ländern wie den USA nicht im gleichen Masse der Fall, denn Internetmedien haben dort schon jetzt einen deutlich höheren Stellenwert. Entsprechend darf man den potenziellen Einfluss einer Flut von falschen oder manipulierten Inhalten nicht unterschätzen.

Falschinformation können nachhaltig das Vertrauen in die Medien schwächen

Ein drittes Risiko ist mit dem starken Anstieg KI-generierter, oftmals verzerrter oder manipulierter Inhalte, eng verbunden. Denn klärt man über die Problematik von Falschinformationen auf, kann das im Gegenzug grundsätzlich das Vertrauen in Medien schwächen, insbesondere auch in eigentlich vertrauenswürdige Quellen. Und ist das Vertrauen in die Medien einmal erschüttert öffnet dies Tür und Tor für die manipulative Verwendung von realistischer Falschinformation. Eine allgemeine Tendenz zu einem Vertrauensverlust der etablierten Medien ist schon länger zu beobachten und hat sich tendenziell in den letzten Jahren noch verstärkt.

Hinzu kommt, dass vor allem jüngere Menschen oft gar nicht mehr direkt auf Nachrichtenseiten zugreifen, sondern von sozialen Medien direkt auf Artikel geleitet werden. Und unter diesen sind viele, die aus nicht-vertrauenswürdigen Quellen stammen aber von der Aufarbeitung und Präsentation her sich kaum mehr von Qualitätsmedien unterscheiden lassen. Der Einfluss der KI beschränkt sich in dem Fall nicht allein auf die Erstellung der Inhalte. Grosse Onlineplattformen wie X/Twitter, Facebook, Instagram oder auch TikTok verwenden alle KI-basierte Systeme, um zu steuern welche Inhalte Nutzerinnen und Nutzer zu Gesicht bekommen. Und diese Empfehlungs-Algorithmen tragen dazu bei, dass sich eben auch Falschinformationen oft schnell verbreiten.

Man muss schon heute die Risiken durch KI-generierte Falschinformationen erstnehmen

Ergibt sich aus diesen Risiken schon heute eine reale Gefahr politischer Einflussnahme oder wird der Einfluss der KI überschätzt? Nach aktuellem Wissensstand tragen KI-generierte Inhalte sicher schon jetzt dazu bei, dass mehr und gefährlichere Falschinformationen zirkulieren und vor allem auch strategisch eingesetzt werden. Sie erreichen auch schon jetzt ein immer grösseres Publikum, vor allem über alternative Internetmedien oder die sozialen Netzwerke. Wie stark sie sich dann real auf Wahlkämpfe oder den öffentlichen Diskurs auswirken, hängt aber wohl noch stark davon ab welchen Stellenwert traditionelle Medien in den entsprechenden Ländern haben.

Falschinformationen sind dabei häufig Teil von konzertierten Operationen ausländischer Staaten, die bewusst in den öffentlichen, politischen Diskurs einzugreifen versuchen. Diese Art von Eingriffen ist in den USA, England aber auch in viele EU-Staaten schon länger ein Problem. Aber es ist davon auszugehen, dass sie auch die Schweiz betreffen. Im Kontext der eidgenössischen Wahlen 2023 warnte z.B. der Nachrichtendienst des Bundes (NDB) explizit vor einer solchen Gefahr. In dem konkreten Fall, wurden keine durch KI erzeugten oder manipulierten Inhalte verwendet sondern ein Video gezielt durch automatisierte Accounts auf sozialen Medien, sogenannten Bots, gestreut.

Aktuelle Regulierungsansätze werden der Problematik vermutlich noch nicht gerecht

Wie reagiert die Politik auf diese Gefahren? In der EU formiert sich seit einiger Zeit eine Bewegung zur stärkeren Regulierung von Onlineplattformen, insbesondere auch mit Blick auf die Verbreitung von Falschinformationen bzw. manipulativen Inhalten. Der im letzten Jahr in Kraft getretene Digital Service Act (DSA) der EU sieht allerdings vor allem Massnehmen zur Steigerung der Transparenz der Verbreitung von Falschinformationen auf Onlineplattformen vor und verlangt bessere Mechanismen um diese zu melden. Ohne die aktive Mitarbeit der Plattformen gehen diese Massnahmen allerdings vermutlich nicht weit genug um die Flut von Falschinformationen einzudämmen.

In der Schweiz wird aktuell eine eigene Gesetzgebung für grosse Onlinepattformen auf den Weg gebracht. Nach den Wünschen des Bundesrats wird diese aber wohl weniger weit gehen als die entsprechenden Regelungen der EU. Die Vernehmlassung eines Gesetzes zur Regulierung von Kommunikationsplattformen wird vermutlich im Frühjahr oder Sommer 2024 erfolgen. Der Einfluss von Falschinformationen wird dabei in der entsprechenden Medienmitteilung mit keinem Wort erwähnt. Aber eine effektive Regulierung des Einflusses von KI kann und sollte auch nicht über die Regulierung von Online-Plattformen erfolgen.

Eine kritische gesellschaftliche Auseinandersetzung mit der KI ist unumgänglich

Der Einfluss von KI wird in den kommenden Jahren vermutlich stark steigen und könnte die Gesellschaft, Wirtschaft und Politik nachhaltig verändern. Wie diese Veränderungen genau ablaufen hängt auch davon ab wie wir als Gesellschaft diesen Prozess aktiv mitgestalten. Bisher sind es vor allem die Narrative der grossen Technologiekonzerne, die im aktuellen öffentlichen Diskurs überwiegen. Doch vor allem auch dank der Zivilgesellschaft werden immer mehr alternative Stimmen laut.

Verlässliche gesetztliche Rahmenbedingungen für KI zu schaffen bedeutet dabei nicht zwingend das Potential dieser neuen Technologien zu schmälern. Ganz im Gegenteil, Innovation lebt auch von sicheren Rahmenbedingungen um sich effektiv entfalten zu können. Und wenn man den Risiken von KI-basierter politischer Einflussnahme effektiv begegnen möchte, wird kein Weg daran vorbei führen die Rolle von KI kritisch zu hinterfragen und ggf. zu regulieren.

Dieser Blog Post basiert auf einem Artikel, der im April 2024 unter dem Titel “KI-basierte politische Einflussnahme – Hype oder reale Gefahr?” in SKP Info, dem Magazin der Schweizerischen Kriminalprävention (Ausgabe 01/2024) erschienen ist. Dieser Beitrag spiegelt ausschließlich die Sichtweisen des Autors wider und in keiner Weise die Sichtweise der Institutionen mit denen er affiliiert ist.

Das Online Magazin Inside-it.ch hat die Fraktionsparteien im Bundeshaus im Vorfeld der Wahlen zu zahlreichen digitalen Themen befragt. Als Teil der Reihe “Wahl-Report 2023” wurden seit Ende August wöchentlich Antworten der 6 Fraktionsparteien veröffentlicht, mit dem Ziel Wählerinnen und Wählern einen besseren Überblick über die Digitalkompetenz der Parteien sowie deren Standpunkte zu geben. Ich habe die Antworten der Parteien in meinem Beitrag eingeordnet. Sie zeugen von einer insgesamt guten Digitalkompetenz der Parteien und es fällt auf, dass ihre Standpunkte bei einigen wichtigen Themen, wie zum Beispiel der E-ID, nicht sehr weit auseinanderliegen.

Nachholbedarf bei der Digitalisierung der Verwaltung

Die Parteien sind sich einig in der Einschätzung, dass die Schweiz bei der Digitalisierung der Verwaltung noch viel Nachholbedarf hat. Den dringlichsten Handlungsbedarf sehen sie bei der Digitalisierung von Verwaltungsprozessen und dem Ausbau von digitalen Dienstleistungen. Insgesamt kritisch sehen die Parteien die Umsetzung von (grossen) Digitalisierungsprojekten innerhalb der Verwaltung, wobei das revidierte Bundesgesetz über das öffentliche Beschaffungswesen als ein Schritt in die richtige Richtung wahrgenommen wird. Einige Parteien kritisieren den Föderalismus und die zum Teil fehlenden Digitalisierungskompetenzen innerhalb der Verwaltung als Kostentreiber und als Gründe für den schleppenden Fortschritt.

Die Einführung einer staatlichen E-ID wird von allen Parteien grundsätzlich begrüsst und als eine Grundvoraussetzung für einen funktionierenden digitalen Service Public gesehen. Dabei werden Datensicherheit und ein gleichberechtigter Zugang beziehungsweise die Beibehaltung analoger Dienst betont. Dies deckt sich mit den Einsichten des Digitalisierungsmonitors 2023, dass Politikerinnen und Politiker aller Parteien den Übergang zu einem Digital-Only-Prinzip mehrheitlich ablehnen. Deutlich kontroverser ist die Einführung von E-Voting: die SVP lehnt dies wegen Manipulationsgefahr ab. Andere Parteien begrüssen digitale Wahlen und Abstimmungen zwar, aber vor allem als Mittel, um die politische Anteilnahme von bestimmten Gruppen wie Auslandsschweizern oder Menschen mit Beeinträchtigungen zu stärken. Auch das elektronische Patientendossier (EPD) wird von den Parteien im Grundsatz zwar unterstützt, aber die Sicherheit und der Datenschutz werden als wichtige Herausforderungen in der praktischen Umsetzung genannt.

Unterschiedliche Meinungen zur Cybersicherheit

Das Thema Cybersicherheit wird die Schweizer Politik in den nächsten Jahren verstärkt beschäftigen. Die Gefahren im Cyberraum steigen und auch die Wahrnehmung in der Bevölkerung wächst, nicht zuletzt durch prominente Vorfälle in der Schweiz unter anderem mit Angriffen auf NZZ oder Xplain, aber auch auf Schweizer Hochschulen.
Die Parteien stehen dem neuen Bundesamt für Cybersicherheit (NCSC) insgesamt positiv gegenüber, ebenfalls der Meldepflicht für Angriffe auf kritische Infrastrukturen. Weniger einig sind sich die Parteien darüber, ob diese Meldepflicht auch auf Unternehmen ausgeweitet werden sollte. Die Parteien, die eine solche Pflicht befürworten, wünschen sich ein schnelles Reporting mit möglichst geringem Aufwand.

Die Zuordnung des NCSC als ziviles Bundesamt innerhalb der Zuständigkeit des Departements für Verteidigung, Bevölkerungsschutz und Sport (VBS) wird zum Teil kritisch gesehen. Parteien wie die GLP und SP sehen insbesondere einen möglichen Interessenskonflikt zwischen den zivilen und militärischen sowie nachrichtendienstlichen Interessen, vor allem bei der Schliessung von kritischen Sicherheitslücken. Die SVP hingegen kritisiert die Umsetzung der Meldepflicht. Insbesondere sollten Angriffe und Schwachstellen erst dann gemeldet werden müssen, wenn sie abgewehrt respektive geschlossen wurden. In Zusammenarbeit mit der Digital Society Initiative der Universität Zürich hat sich inside-it.ch in einer dreiteiligen Reihe intensiv mit der neuen Schweizer Cyberstrategie beschäftigt.

KI-Regulierung als Streitpunkt

Wie soll die Schweiz sich im Bereich Künstliche Intelligenz (KI) bzw. ihrer Regulierung positionieren? Bei diesem Thema besteht insgesamt wenig Einigkeit zwischen den Parteien. Die FDP vertritt den Standpunkt, ohne praktische Beispiele und relevant Gerichtsentscheide sei es noch zu früh, um einen Gesetzgebungsprozess anzustossen. Sie sieht die Verantwortung eher bei den betroffenen Branchen und setzt auf Selbstregulierung. Die GLP lehnt restriktive Regulierungen ab, fordert dafür aber Transparenz über den Einsatz von KI und sieht die Möglichkeit, den Umgang mit Daten gegebenenfalls zu regulieren. Die SVP lehnt Regulierungen als Innovations­bremse grundsätzlich ab, bis auf Ausnahmen wie zum Beispiel bei Haftungsfragen im Bereich Gesundheit.

Im Gegensatz dazu sehen die Grünen KI als eine Chance für die Schweiz, um gute regulatorische Rahmenbedingungen und Rechtssicherheit zu schaffen und damit einen Standortvorteil zu erlangen. Sie sehen das Risiko, dass der gesellschaftliche Widerstand gegenüber der Technologie ohne Regulierung zu stark sein könnte. Die SP sieht die Notwendigkeit für eine Regulierung vor allem auch angesichts der Gesetzgebung auf EU-Ebene und plädiert dafür, diese Regelungen zu übernehmen oder anzupassen. Mitte und SP weisen zudem auf Risiken für das politische System der Schweiz hin, wie durch KI-generierte Falschinformation. Nichtsdestotrotz sehen alle Parteien die aktuellen Entwicklungen in Bereich KI als eine Chance, die die Schweiz nicht verpassen sollte.

Uneinigkeit bei der Cloud

Der Nutzung von Cloud-Dienstleistungen durch die Verwaltung stehen die Parteien insgesamt positiv gegenüber, aber nur solange die Daten in der Schweiz verbleiben oder ihre Verwendung und Speicherung nach Schweizer Standards garantiert werden kann. Die möglichen Effizienzsteigerungen durch Cloud-Lösungen sind dabei für Parteien wie FDP, SVP oder GLP besonders zentral.

Weniger Einigkeit herrscht hingegen bei der Umsetzung. Für hochsensible Daten setzen Grüne, Mitte, aber auch die SVP auf eine bundeseigene Infrastruktur, die SP begrüsst allgemein eine eigene Infrastruktur als Aufgabe des Service Public. Die GLP kritisiert hingegen, dass die Daten zu unterschiedlich seien, um alles in einem System zu realisieren, und auch die SVP sieht eine Swiss-Cloud-Lösung als technisch und kommerziell kaum umsetzbar.

Diskussionen zu den Post-Zukäufen

Die Strategie der Post mit einer Ausweitung ihrer Aktivitäten auf den digitalen Sektor wird von den Grünen und der Mitte durchaus als legitime Erweiterung ihres Grundauftrags gesehen. Dagegen sehen die anderen vier Parteien dieses Engagement eher kritisch, insbesondere wegen einer möglichen Schwächung des Wettbewerbs. Interessant ist, dass keine der Parteien die Einführung einer ersten Schweizer E-ID – die bereits 2017 lancierte SwissID – durch die Post als Bundesbetrieb thematisiert. Für Bürgerinnen und Bürger ist nicht immer sofort klar ersichtlich, dass es sich hierbei nicht um eine staatliche E-ID handelt.

Wie geht es weiter?

Die Realisierung einer sicheren, vertrauenswürdigen, staatlichen E-ID scheint quer über die Parteigrenzen hinweg eine hohe Priorität zu haben und, wie oben betont, herrscht bei dem Thema überwiegend Einigkeit. Ebenso wichtig wird in der kommenden Zeit die schrittweise Einführung des elektronischen Patientendossiers (EPD) sein, wobei die Parteien sich bei diesem Thema deutlich weniger einig sind. Neu angestossen hat der Bundesrat die Regulierung von grossen Kommunikationsplattformen, nicht zuletzt als Reaktion auf die neuen Regelungen der EU. Konkretere Schritte zur regulatorischen Umsetzung wird es aber wohl erst 2024 geben.

Die Schweizer Bevölkerung steht nach Erkenntnissen von Digivox, der nationalen Schweizer Digitalisierungsumfrage, dem Thema Digitalisierung durchaus positiv gegenüber. Und es ist davon auszugehen, dass sich die digitale Transformation in Zukunft wohl eher noch beschleunigen wird. Entsprechend ist es an den Parteien, die Digitalpolitik aktiv zu gestalten und ihr vor allem auch den nötigen Stellenwert einzuräumen.

Der “Wahl-Report 2023” zeigt aber auch, dass die Parteien dafür durchaus die nötigen Digitalkompetenzen mitbringen. Das liegt nicht zuletzt an Tech-affinen Politikerinnen und Politikern, die es laut einer Untersuchung von CH++ zumindest in allen grossen Parteien gibt. Auch wenn die Digitalpolitik im aktuellen Wahlkampf bisher wieder keine grosse Rolle gespielt hat, ergibt sich daraus insgesamt doch eine durchaus positive Zukunftsperspektive für die digitale Transformation der Schweiz.

Dieser Blog Post basiert auf einem Artikel, der am 18.10.2023 unter dem Titel “Wahl-Report: Die Antworten der Parteien im Vergleich” im Online Magazin Inside IT erschienen ist. Dieser Beitrag spiegelt ausschließlich die Sichtweisen des Autors wider und in keiner Weise die Sichtweise der Institutionen mit denen er affiliiert ist.

Die digitale Transformation ist in vollem Gange und wird langfristig und nachhaltig verändern, wie wir als Einzelne leben, aber auch wie die Wirtschaft, Politik und die Gesellschaft als Ganzes funktionieren. Im internationalen Vergleich steht die Schweiz in puncto digitale Wettbewerbsfähigkeit recht gut da. Aber was bedeutet die fortschreitende Digitalisierung für uns als Einzelne und wie ist die Sicht der Bevölkerung auf diese Veränderungen? Wer profitiert von der digitalen Transformation der Gesellschaft und wer steht ihr eher skeptisch gegenüber oder wird durch sie gar benachteiligt? Und wie verändern sich die Einstellungen und das Verhalten der Bevölkerung über die Zeit?

Der Beitrag der Forschung zum Verständnis der digitalen Transformation

Die Beantwortung solcher Fragen erfordert Umfragen, die systematisch und über längere Zeit die Einstellungen der Bevölkerung zur Digitalisierung messen. Aktuell gibt es in der Schweiz schon interessante Initiativen in diesem Bereich, zum Beispiel das jährliche DigitalBarometer der Stiftung Risiko-Dialog in Zusammenarbeit mit der Mobiliar Versicherung. Diese Art von Umfragen können relevante Tendenzen und deren Veränderungen über die Zeit aufzeigen. Allerdings werden dort jedes Jahr andere Personen befragt, so dass es schwierig ist, Aussagen über die Veränderung der Einstellung und des Verhaltens von Einzelnen über die Zeit zu treffen. Dies ist nur mit echten Langzeit- bzw. Panelstudien möglich, in denen dieselben Personen in regelmässigen Abständen befragt werden. Die Antworten sind dadurch über die Zeit direkt vergleichbar.

Die Digitalisierungsinitiative der Zürcher Hochschulen (DIZH), die Digital Society Initiative (DSI) und die Universität Zürich finanzieren seit 2021 den Aufbau einer Forschungsinfrastruktur, welche genau dieses Ziel verfolgt: DigiVox ist ein nationales Umfragepanel, das sich speziell der Untersuchung der sozialen, wirtschaftlichen, kulturellen, politischen und regulatorischen Auswirkungen der Digitalisierung und deren Wechselwirkungen mit den technologischen Entwicklungen in der Schweiz widmet. Das Projekt ist interdisziplinär angelegt, um relevante Expertise aus verschiedenen wissenschaftlichen Bereichen effektiv zusammenzubringen. Es wird von vier Professorinnen und Professoren der Universität Zürich gemeinsam verantwortet: Eszter Hargittai vom Institut für Kommunikationswissenschaft und Medienforschung, Abraham Bernstein vom Institut für Informatik und Lucas Leemann sowie Karsten Donnay – beide vom Institut für Politikwissenschaft.

Nachhaltige Umfrageinfrastruktur durch ein kooperatives Beteiligungsmodell

Um das Panel aufzubauen, konnte das DigiVox-Team unter anderem auf umfangreiche Adressdaten zurückgreifen, die im Rahmen einer Stichprobe vom Bundesamt für Statistik zur Verfügung gestellt wurden. Insgesamt nahmen knapp 8000 der angeschriebenen Einwohnerinnen und Einwohner der Schweiz an der ersten Erhebung bis März 2023 teil. Die Antworten aus dieser Befragung werden derzeit ausgewertet, die zweite Erhebung ist für Herbst 2023 geplant.

In der ersten Umfrage lag der Fokus darauf, einen Überblick über wichtige Aspekte der Digitalisierung zu erhalten. Insbesondere ging es neben der persönlichen Kenntnis und Nutzung digitaler Kanäle und Tools zum Beispiel auch um deren Wahrnehmung als Informationsquelle, die Nutzung von e-Government-Dienstleistungen oder auch um die allgemeine Wahrnehmung der Chancen und Risiken der Digitalisierung für die Schweizer Gesellschaft. In den kommenden Befragungen werden diese eher grundsätzlicheren Fragen vertieft und ergänzt.

Ziel von DigiVox ist es, wichtige grundsätzliche Tendenzen im Umgang mit und zur Wahrnehmung der Digitalisierung regelmässig zu erheben, aber gleichzeitig auch flexibel den Fokus auf aktuelle Themen zu legen. Insbesondere werden, zusätzlich zu einem wiederkehrenden Satz von Fragen, Wissenschaftlerinnen und Wissenschaftler die Möglichkeit haben, in einem Wettbewerbsverfahren Platz auf dem Umfragepanel zu kaufen, um ihre eigenen Fragen zu stellen. Dieses kooperative Beteiligungsmodell trägt dazu bei, DigiVox über die Anlauffinanzierung hinweg nachhaltig zu erhalten und diverse aktuelle Fragestellungen zur digitalen Transformation abzudecken.

Wir wissen am wenigsten über Bürger mit keinem oder wenig digitalem Zugang

Nicht alle Bürgerinnen und Bürger stehen der Digitalisierung positiv gegenüber. Leider wissen wir jedoch gerade über diese für die Politik wichtige Gruppe sehr wenig. Ein Kernproblem ist, dass gerade diejenigen, die der digitalen Transformation skeptisch gegenüberstehen, in den Umfragen zu diesem Thema häufig nicht ausreichend repräsentiert sind. Insbesondere Umfragen, die nur über digitale Kanäle stattfinden, erreichen keine Personen ohne Internetzugang oder die nötigen Kenntnisse.

Die Teilnehmer für DigiVox wurden daher bewusst brieflich angeschrieben und die Teilnahme wurde auch auf Papier ermöglicht. Aus den Antworten und Rückfragen zu unserer ersten Erhebung wissen wir, dass dies insbesondere für viele ältere Menschen entscheidend ist, um überhaupt an der Umfrage teilnehmen zu können. Nichtsdestotrotz gab es aber immer noch einige Fälle, in denen vor allem ältere Menschen beziehungsweise solche mit keinem oder wenig digitalem Zugang nicht an der Erhebung teilnehmen wollten.

Auch wenn wir damit weiterhin weniger genau wissen, wie gerade diese Gruppe über die digitale Transformation denkt, lassen sich aus der DigiVox Panelumfrage in den kommenden Jahren wichtige Einsicht dazu ableiten, wie wir in der Schweiz über die Digitalisierung denken. Und vor allem, wie sich die Wahrnehmung und der Umgang mit der Digitalisierung im Laufe der Zeit entwickeln.

Dieser Blog Post basiert auf einen “DSI Insights” Kolumne, die am 28.04.2023 im Online Magazin Inside IT erschienen ist. Dieser Beitrag spiegelt ausschließlich die Sichtweisen des Autors wider und in keiner Weise die Sichtweise der Institutionen mit denen er affiliiert ist.

Since the 1950s, researchers in the social and behavioral sciences have investigated intentional and sustained media bias, i.e., systematic tendencies of deliberately slanted or opinionated news coverage. Like most researchers, we usually abstain from referring to the phenomenon as “fake news” as this term inadequately describes the larger problem of biased media coverage and increasingly carries a derogative connotation. Donald Trump and his supporters, in particular, have frequently used it to delegitimize accurate news coverage, with which they disagreed.

Instances of fake news coverage, i.e., deliberately false reporting are quite rare. However, news are virtually never unbiased with tendential coverage arising from a host of factors, including news producers’ political, ideological, and economic interests. For example, investigations of the Brexit referendum show that British newspapers belonging to the media conglomerate owned by Rupert Murdoch expressed explicit and sustained support for the campaign to leave the EU. In the US, six corporations control 90% of the media. Rupert Murdoch’s media group is among them and, besides many other outlets, owns Fox News which emphatically supported the presidential election campaigns of Donald Trump in 2016 and 2020. Recent, large-scale investigations of mass media reporting during these two election campaigns find conclusive evidence that the symbiotic relationship of Donald Trump’s campaign and the Fox News corporation was far more influential than the disinformation campaigns of Russian Internet trolls and other social media actors. It is not the first time that Fox News has been proven to exert a sizable influence on public opinion. A 2003 survey showed that Fox News viewers were most misinformed about the Iraq war. Over 40% of the viewers believed that weapons of mass destruction had been found in Iraq, i.e., believed in the US government’s justification for the war, even after the US troops had failed to find any such weapons.

News outlets are predominantly commercial enterprises, hence not immune to economic incentives. For decades, media outlets have been found to align news stories with the interests of their business partners such as advertising clients, e.g., by not reporting on events and information that reflect negatively on these partners. Favorable reporting on tobacco consumption is a well-documented historical example of such bias. Another economically driven source of potential bias is the increasing pressure to reduce reporting costs due to the steady decline of revenues from paid journalism. Investigative journalism is more expensive than copyediting prepared press releases—a now very common practice among most news outlets.

Fig. 1: Motives for and forms of media bias introduced in the news production process.

Tailoring stories to target audiences is another source of bias and research has uncovered its influence on the reporting across a wide variety of news outlets, including some of the most prominent and reputable organizations. Readers may, of course, switch to other news outlets if the current outlet’s reporting contradicts their beliefs and views. The tendency to search, interpret, recall, and favor information that supports prior beliefs is a well-known psychological bias that tends to further solidify existing polarization in news outlets and their readerships. At the same time, individual journalists can also introduce bias in a story, e.g., to advance their careers. In Germany, the case of Claas Relotius, who exaggerated or invented information to make his stories more sensational, is a recent example of such bias.

Bias arises throughout the stages of the new production process shown in Figure 1. In the first stage, gathering, journalists need to select the events and the facts about the events they report. Naturally, not all events can be covered, and some are more relevant to the target audience than others. Often, sensational stories yield more sales. Next, journalists need to select sources, e.g., press releases, other news articles, or studies, to be used when writing an article. Ultimately, journalists must decide on the information from a source to be included and excluded from the article. This step is called commission or omission and likewise affects which perspective is taken on the event. In the next phase, writing, journalists may use word choice and labeling to bias news. An example of different word choices is whether the article refers to “coalition forces” or “invading forces”. Similarly, an event, action, or attribute can be labeled positively, e.g., as a “simple but genius method”, or negatively, e.g., as an “unsophisticated approach”. In the last stage, editing, presentation choices, such as the placement of the item, the size allocation, and picture selection, influence an event’s perception. A large cover story receives more attention than a brief comment on page three. An emotional article picture and the chosen caption can significantly alter the perception of an event.

Scientific evidence suggests modern information and communication technology and particularly social media have amplified the effects of biased news coverage but did not change its root causes and principle workings substantially. Despite the rise of social media, news articles published by established media outlets remain the primary source of information on current events. However, today these traditional news items tend to be re-shared much more frequently within news consumers’ social networks. Despite the immense availability of news sources on the Web, most news consumers only consult a small subset of available news outlets. The reasons include information overload, language barriers, the consumers’ specific interests or habits, or simply because others share articles from certain outlets within the consumers’ social network. The notion that novel actors, such as agents paid for lobbying in favor of a specific view or pop-up online media outlets independent of established mass media, drive the noticeable surge in disinformation is not supported by contemporary research. While these novel actors exist, the influence of established media outlets still outweighs theirs by far. For political topics, researchers for example have observed a stronger tendency of social media users to reinforce their existing biases by only surrounding themselves with news and opinions close to their own, thereby isolating themselves into “echo chambers”. The automated filtering methods of social media platforms, which ought to customize the content shown to the user according to the user’s assumed interests, tend to further strengthen these effects. The algorithms analyze users’ engagement with content and seek to expose them to similar content and topics, thereby creating “filter bubbles”.

These phenomena are well-researched; therefore, more recently attention has turned increasingly to how biased, one-sided news coverage and its negative effects can be countered. Researchers from the social and behavioral sciences have studied media bias extensively for decades. Their work has produced suitable models to describe media bias and comprehensive methodologies, such as content analysis and frame analysis, to identify it. However, this research has traditionally relied on in-depth qualitative work or quantitative analyses featuring manual annotations. These approaches can be applied to analyze and document media bias in hindsight but offer little help for identifying it in real-time for current news, which would require automating the analysis. The website AllSides pursues an alternative strategy by collecting readers’ ratings on the political leaning of news outlets which it aggregates into a media bias rating from left-wing over center to right-wing publishers. The website presents articles on the same topic published by outlets from the left, center, and right categories of their rating to counter the effects of one-sided reporting. Researchers proposed a few approaches and systems to partially automate media bias identification, but none are still available today. In many cases, the underlying models of media bias were too simplistic, causing their results not to provide additional insights compared to models and results of research in the social sciences.

Fig. 2: Experimental visualization of media bias. Note the different focus and tone of each article.

With our interdisciplinary team consisting of computer science and social science researchers from the Universities of Wuppertal, Zurich, and Konstanz we seek to improve this situation. We tackle the automated identification of media bias by incorporating the extensive expertise established in the social sciences into state-of-the-art artificial intelligence (AI) approaches. The goal is to create a website that collects and aggregates news articles from the Web, employs AI methods to identify media bias, and visualizes the bias-induced differences in news articles for the readers. Figure 2 shows one of several possible bias visualization for the envisioned system the team tested in a pre-study.

Realizing a system to automate media bias identification is a tough problem as the AI methods need to learn two major capabilities challenging even for humans. First, they need to recognize commonalities and differences in content to identify potential bias by omission or commission of information or the selective use of sources. Second, and even more complicated, they need to recognize subtle differences in language that can point to bias by word choice and labeling and generally framing, i.e., which aspects an article highlights when reporting on a topic. Along the way, the AI methods need to master several sub-tasks, such as reliably recognizing coreferences, i.e., different mentions of the same entities within and across articles. An example is recognizing that “caravan of illegal immigrants”—“a marching group of immigrants”—“people seeking opportunities in the US” refers to the same group of people in different articles. The team developed an approach that analyses a multitude of linguistic properties, syntactic relations, and contextual clues in a multi-step process to enable AI models to recognize such complex references.

One of the first steps towards enabling AI methods to recognize bias by word choice and labeling is creating ground-truth datasets required for the two tasks mentioned previously. While current AI models achieve reliable natural language comprehension, their training requires large amounts of high-quality training data. For this purpose, the team created a data set that will be used to train an AI-based method for coreference resolution and is currently compiling a second data set to train a method for the identification of topic-independent frame types. The team will annotate frames such as economy, morality, and fairness, both on the article and sentence level. Using these data sets, the AI models can then learn to recognize the characteristics of difficult-to-detect coreferences (see the previous examples) and subtly biased word choice as well as the framing resulting thereof. Once this step is completed successfully, the team will investigate applying the approach to languages other than English.

With a functional prototype in place, we are currently pivoting within the project to testing how to then best communicate the biases we recognize to news consumers. This is, ultimately, as important as reliably detecting them and we are currently running a broad, systematic evaluation of different concrete vizualization approaches for how biases are perceived by readers.

This blog post has been adapted from an article originally published in BUWOutput Issue 02/2021, the Research Bulletin of Bergische Universität Wuppertal. It expresses the authors’ views only and not the institutions they are affiliated with.

In 2015, the world has witnessed a crisis of displaced persons larger than anytime since World War II. The refugee crisis that has now left over 60 million people displaced by conflict worldwide has drawn considerable international attention. At the same time, the attacks of Daesh and its ideological followers are threatening our relationships with Muslim refugees and strengthening the political far-right in Europe and the U.S. Some countries have already tightened borders, built walls, heightened screening, and toughened criteria for the reunification of refugee families.

As an international community we must now urgently decide: Will we hide behind our borders desperately defending our way of life, or will we act upon our humanity and help those in need? The forcibly displaced need our aid. More importantly, they need our governments’ vocal support to sway public opinion from fear toward acceptance.

“The time is always right to do what is right.” Dr. Martin Luther King, Jr., Oberlin College, October 22, 1964

A Global Crisis

While the Syrian crisis is unique by proportions, there are 65 other major displacement crises occurring worldwide. The numbers from Syria are staggering. As of late December 2015, 4,390,439 refugees from Syria had registered with UNHCR.

The surge in refugees arriving in Europe in the second half of 2015 propelled the refugee issue to the forefront of the global debate. Yet Western countries have not been hosting the vast majority of Syrian refugees since the outbreak of the civil war four years ago. Turkey and much poorer countries in the Middle East and North Africa host approximately four times the number of refugees than the West. From Syria alone, there are 2.1 million in Egypt, Iraq, Jordan, and Lebanon, and 1.9 million in Turkey. Turkey became the country with the most registered refugees in the world in 2015.

The forcibly displaced – those who do not formally qualify as refugees – in these countries do not have rights under the UN Convention on the Status of Refugees. They end up trapped with no right to work and no right to move. “Warehousing,” according to experts like Christine Mahoney, leaves the forcibly displaced without a future, vulnerable to drug addiction, sexual exploitation, recruitment by militia, and dependent on aid. Regardless of the dangers on the road ahead, warehousing drives refugees to continue moving, with the promise of a better, safer life somewhere else.

While they no longer face life-threatening conflict, the status of refugees in Turkey does not allow them a real future or give the possibility of integration into society. Many then risk their lives on the treacherous journey across the Mediterranean. Refugees are also subject to violence or human rights abuses along their journey, both in the Middle East and North Africa, but also in Eastern and Southern Europe.

Stricter and sometimes violent border security, off-shore processing of refugees, and migrant deterrence strategies by Western countries, only make matters worse. Short-term solutions to keep refugees out will only create a longer-term problem: a vicious cycle of more refugees, more resentment, and more violence.

“The ultimate measure of a man is not where he stands in moments of comfort and convenience, but where he stands at times of challenge and controversy.” Dr. Martin Luther King, Jr., Strength to Love Sermons, 1963

Shifting Public Opinion in Europe

Public opinion on the refugee problem has already begun to shift in Europe. Public support has moved toward right-wing political parties, like the Alternative for Germany (AFD), Poland’s Law and Justice party, Greece’s Golden Dawn, Hungary’s Fidesz party, and France’s National Front. Europe’s largest democracy, Germany, has experienced the largest inflow of refugees and worrisome changes in its political climate.

The influential Spiegel columnist Jakob Augstein recently warned of a new völkische revolution, a term referring to the nationalistic, anti-Semitic movement in the late 19th and early 20th century that swept across Austria and Germany and brought the Nazis to power. Today’s right wing parties may refrain from anti-Semitic statements, but as Augstein notes, ethnic categories are becoming salient again, and one in two Germans now fears the impact of immigration.

Augstein’s stern warning rings terrifyingly true: in the end we may find that fascism is not a problem of the past. Already, the composition of political party support in Germany is changing. Chancellor Angela Merkel and the Christian Democratic Union initially saw a significant loss of public support because of refugee-friendly policies. CDU has now only recovered slightly in opinion polls. Even within her own party, Chancellor Merkel is facing increased resistance to her policies along with new, significant challenges from the right. One weekly poll of German citizens showed the AFD, a far-right party that is only two years old, reaching 10% popularity in the last 3 months.

A rising tide of politically motivated crime against refugees is sweeping across the region. This is the most visible and troublesome shift in Europe’s political climate. In Germany, multiple attempts of arson in refugee shelters, crowd violence and mass protests have accompanied the immigration surge. Arson attacks have increased ten-fold in the past year. Right wing grassroots movements hardly more than a year old, for example the Patriotic Europeans Against the Islamisation of the Occident (PEGIDA), are radicalizing with calls for more restrictive immigration rules—and they are targeting Muslims.

While we have a much smaller number of refugees in the U.S., similar incidents are on the rise. We’ve witnessed arson at mosques and threats against the Council on American-Islamic Relations, which temporarily had to cease operations.

“Injustice anywhere is a threat to justice everywhere.” Dr. Martin Luther King, Jr., Letters from a Birmingham Jail, April 16, 1963

A Beacon of Hope: Civil Society

The main effort to deal with the refugee crisis has and continues to be shouldered by the scores of volunteers who help refugees to register and settle in, provide medical assistance, and offer other aid. Community-level, citizen-driven initiatives by and for refugees often fulfill the duties of states that lack local capacity. An abundance of creative, innovative policy solutions for employment and integration have also emerged. In Germany these include apps like Waslchiraa, a service that links donations to refugees, the Workeer job portal designed for refugees, and other online services that provide refugees access to higher education without formal documentation. German universities are even trying to find new ways to admit refugees as students without bureaucratic hurdles.

Western societies are in danger of polarizing, with humanitarian initiatives to accommodate refugees on the community-level on one side, and a rise of ethnocentric nationalism on the other. Citizen initiatives create pathways to improving refugees’ lives, and this is part of the answer. But for these efforts to be sustainable, governments must support these actions and in doing so, they must address the concerns of their citizens. Excluded and marginalized in the decision process, they could otherwise turn to those who offer simple answers like exclusion. Incidents such as those in Cologne, Germany, on New Year’s Eve only further escalate existing tensions, especially if we are judging all refugees by the despicable actions of a few.

In 2016 we face a crisis of historic dimensions in which we will be presented with a choice. Chancellor Merkel of Germany equated it with defining moments of recent world history, like the fall of the Berlin wall. This remarkable comparison is as daring as it is fitting: how we face this challenge will shape all of our futures in the years to come. We are at a critical juncture in which public opinion in the West could swing either way with fundamentally different outcomes in the years to come: isolationism or pluralism. Accepting refugees will change host nations and new identities will have to be forged. But change as such is not the problem as long as we all – refugees, citizens and the state – are able to shape that change together.

“We must learn to live together as brothers or perish together as fools.” Dr. Martin Luther King, Jr., Saint Louis, March 22, 1964

There is a serious danger that the foundations of political discourse on confronting this crisis are becoming unsound, and rhetoric has turned in a perilous direction: whether or not we help those in need should never be a question, it is our most basic humanitarian responsibility. It is certainly legitimate though to openly discuss the process, to challenge existing practices, and find a way forward that is acceptable for all.

It remains our responsibility as individual citizens to actively decide for humanity and against fear. In the words of Dr. Martin Luther King, Jr., the time is always ripe to do right.

This blog post was originally published at http://www.erincmcgrath.com/blog/what-would-martin-luther-king-do-act-with-humanity-for-refugees. It expresses the authors’ views only and not the institutions they are affiliated with.