Vielfach ist es damit zunehmend schwierig KI-generierte Inhalte überhaupt noch verlässlich zu erkennen. Schon seit einiger Zeit warnen daher vor allem Vertreter der Zivilgesellschaft aber auch der Wissenschaft vor möglichen Gefahren durch die zunehmende Verwendung von KI, insbesondere im Kontext der Politik. Dabei wird vor allem das Risiko einer KI-basierten politischen Einflussnahme diskutiert. Doch wie real ist diese Gefahr? Um dies einordnen zu können, muss man zwischen mehreren verschiedenen grundsätzlichen Risiken unterscheiden.

KI-Dienste liefern nicht immer verlässliche Informationen zum Tagesgeschehen

Zum einen gibt es das Risiko, dass KI-Dienste keine verlässlichen Informationen zu aktuellen politischen Geschehnissen liefern. Damit könnte die politische Meinungsbildung, vor allem im Kontext von Wahlen, beeinflusst werden. Eine Untersuchung der Organisationen AlgorithmWatch und AI Forensics im Kontext der eidgenössischen Wahlen im vergangenen Oktober und der Landtagswahlen in Bayern und Hessen konnte dies zum Beispiel für Microsoft Bing-Chat nachweisen. Dabei gab der KI-Dienst nicht nur irreführende Antworten, sondern zu wichtigen Fragen auch komplett falsche Informationen.

Um zu verstehen, warum sich die KI in einem solchen Fall so stark “irren” kann, muss man hinter die Kulissen der Technologie schauen. Eine grundsätzliche Ursache liegt in den Daten, die den verwendeten KI-Sprachmodellen zu Grunde liegen. Geben diese Daten Tatsachen oder Zusammenhänge verzerrt wieder, dann trägt auch der KI-Dienst diese Verzerrungen mit sich. Die Art und Weise wie die KI lernt, kann diese Verzerrungen allerdings darüber hinaus sogar noch verstärken. Zukünftige Generationen der Dienste werden auf immer grösseren Datenmengen basieren, aber es ist nach heutigem Wissensstand nicht zu erwarten, dass dies das Problem der sogenannten “Halluzinationen” vollständig lösen kann.

KI-generierte Falschinformationen sind auf dem Vormarsch

Ein zweites Risiko ist die bewusste Verwendung von KI-generierter Falschinformation, die in manipulativer Weise eingesetzt wird. Die Verfügbarkeit von KI-Diensten, die schnell und unkompliziert beliebige Texte, Bilder, Audio- und Videoclips erzeuge können, senkt die Kosten für die Produktion von Falschinformationen massiv. Gleichzeitig steigt ihre Qualität, so dass die KI-generierten Falschinformationen von realen Inhalten oft nur schwer oder gar nicht unterscheidbar sind. Im Kontext der US-Wahlen wird aktuell zum Beispiel wieder verstärkt die Gefahr von “Deep Fakes” diskutiert, also durch KI manipulierte Bilder, Videos oder Audioaufnahmen. Diese werden eingesetzt um politische Gegner gezielt zu diffamieren oder die Wähler mit Aussagen, die in der Form nicht gemacht wurden, in die Irre zu führen.

Aber bedeutet mehr und realistischere Falschinformation auch automatisch mehr politische Einflussnahme? Die Wissenschaft ist sich in dieser Frage noch uneins. Ein grösseres Angebot an Falschinformation führt nicht zwingend zu mehr Nachfrage bzw. Konsum von manipulierten Inhalten. Qualitätsmedien verbreiten bisher nur sehr selten Informationen aus manipulierter Berichterstattung und, gerade in der Schweiz, informiert sich die Mehrheit der Bevölkerung im Kontext von Wahlen noch hauptsächlich über die Abstimmungsbüchlein, die etablierte Medien bzw. Radio und Fernsehen. Allerdings ist dies z.B. in Ländern wie den USA nicht im gleichen Masse der Fall, denn Internetmedien haben dort schon jetzt einen deutlich höheren Stellenwert. Entsprechend darf man den potenziellen Einfluss einer Flut von falschen oder manipulierten Inhalten nicht unterschätzen.

Falschinformation können nachhaltig das Vertrauen in die Medien schwächen

Ein drittes Risiko ist mit dem starken Anstieg KI-generierter, oftmals verzerrter oder manipulierter Inhalte, eng verbunden. Denn klärt man über die Problematik von Falschinformationen auf, kann das im Gegenzug grundsätzlich das Vertrauen in Medien schwächen, insbesondere auch in eigentlich vertrauenswürdige Quellen. Und ist das Vertrauen in die Medien einmal erschüttert öffnet dies Tür und Tor für die manipulative Verwendung von realistischer Falschinformation. Eine allgemeine Tendenz zu einem Vertrauensverlust der etablierten Medien ist schon länger zu beobachten und hat sich tendenziell in den letzten Jahren noch verstärkt.

Hinzu kommt, dass vor allem jüngere Menschen oft gar nicht mehr direkt auf Nachrichtenseiten zugreifen, sondern von sozialen Medien direkt auf Artikel geleitet werden. Und unter diesen sind viele, die aus nicht-vertrauenswürdigen Quellen stammen aber von der Aufarbeitung und Präsentation her sich kaum mehr von Qualitätsmedien unterscheiden lassen. Der Einfluss der KI beschränkt sich in dem Fall nicht allein auf die Erstellung der Inhalte. Grosse Onlineplattformen wie X/Twitter, Facebook, Instagram oder auch TikTok verwenden alle KI-basierte Systeme, um zu steuern welche Inhalte Nutzerinnen und Nutzer zu Gesicht bekommen. Und diese Empfehlungs-Algorithmen tragen dazu bei, dass sich eben auch Falschinformationen oft schnell verbreiten.

Man muss schon heute die Risiken durch KI-generierte Falschinformationen erstnehmen

Ergibt sich aus diesen Risiken schon heute eine reale Gefahr politischer Einflussnahme oder wird der Einfluss der KI überschätzt? Nach aktuellem Wissensstand tragen KI-generierte Inhalte sicher schon jetzt dazu bei, dass mehr und gefährlichere Falschinformationen zirkulieren und vor allem auch strategisch eingesetzt werden. Sie erreichen auch schon jetzt ein immer grösseres Publikum, vor allem über alternative Internetmedien oder die sozialen Netzwerke. Wie stark sie sich dann real auf Wahlkämpfe oder den öffentlichen Diskurs auswirken, hängt aber wohl noch stark davon ab welchen Stellenwert traditionelle Medien in den entsprechenden Ländern haben.

Falschinformationen sind dabei häufig Teil von konzertierten Operationen ausländischer Staaten, die bewusst in den öffentlichen, politischen Diskurs einzugreifen versuchen. Diese Art von Eingriffen ist in den USA, England aber auch in viele EU-Staaten schon länger ein Problem. Aber es ist davon auszugehen, dass sie auch die Schweiz betreffen. Im Kontext der eidgenössischen Wahlen 2023 warnte z.B. der Nachrichtendienst des Bundes (NDB) explizit vor einer solchen Gefahr. In dem konkreten Fall, wurden keine durch KI erzeugten oder manipulierten Inhalte verwendet sondern ein Video gezielt durch automatisierte Accounts auf sozialen Medien, sogenannten Bots, gestreut.

Aktuelle Regulierungsansätze werden der Problematik vermutlich noch nicht gerecht

Wie reagiert die Politik auf diese Gefahren? In der EU formiert sich seit einiger Zeit eine Bewegung zur stärkeren Regulierung von Onlineplattformen, insbesondere auch mit Blick auf die Verbreitung von Falschinformationen bzw. manipulativen Inhalten. Der im letzten Jahr in Kraft getretene Digital Service Act (DSA) der EU sieht allerdings vor allem Massnehmen zur Steigerung der Transparenz der Verbreitung von Falschinformationen auf Onlineplattformen vor und verlangt bessere Mechanismen um diese zu melden. Ohne die aktive Mitarbeit der Plattformen gehen diese Massnahmen allerdings vermutlich nicht weit genug um die Flut von Falschinformationen einzudämmen.

In der Schweiz wird aktuell eine eigene Gesetzgebung für grosse Onlinepattformen auf den Weg gebracht. Nach den Wünschen des Bundesrats wird diese aber wohl weniger weit gehen als die entsprechenden Regelungen der EU. Die Vernehmlassung eines Gesetzes zur Regulierung von Kommunikationsplattformen wird vermutlich im Frühjahr oder Sommer 2024 erfolgen. Der Einfluss von Falschinformationen wird dabei in der entsprechenden Medienmitteilung mit keinem Wort erwähnt. Aber eine effektive Regulierung des Einflusses von KI kann und sollte auch nicht über die Regulierung von Online-Plattformen erfolgen.

Eine kritische gesellschaftliche Auseinandersetzung mit der KI ist unumgänglich

Der Einfluss von KI wird in den kommenden Jahren vermutlich stark steigen und könnte die Gesellschaft, Wirtschaft und Politik nachhaltig verändern. Wie diese Veränderungen genau ablaufen hängt auch davon ab wie wir als Gesellschaft diesen Prozess aktiv mitgestalten. Bisher sind es vor allem die Narrative der grossen Technologiekonzerne, die im aktuellen öffentlichen Diskurs überwiegen. Doch vor allem auch dank der Zivilgesellschaft werden immer mehr alternative Stimmen laut.

Verlässliche gesetztliche Rahmenbedingungen für KI zu schaffen bedeutet dabei nicht zwingend das Potential dieser neuen Technologien zu schmälern. Ganz im Gegenteil, Innovation lebt auch von sicheren Rahmenbedingungen um sich effektiv entfalten zu können. Und wenn man den Risiken von KI-basierter politischer Einflussnahme effektiv begegnen möchte, wird kein Weg daran vorbei führen die Rolle von KI kritisch zu hinterfragen und ggf. zu regulieren.

Dieser Blog Post basiert auf einem Artikel, der im April 2024 unter dem Titel “KI-basierte politische Einflussnahme – Hype oder reale Gefahr?” in SKP Info, dem Magazin der Schweizerischen Kriminalprävention (Ausgabe 01/2024) erschienen ist. Dieser Beitrag spiegelt ausschließlich die Sichtweisen des Autors wider und in keiner Weise die Sichtweise der Institutionen mit denen er affiliiert ist.

Das Online Magazin Inside-it.ch hat die Fraktionsparteien im Bundeshaus im Vorfeld der Wahlen zu zahlreichen digitalen Themen befragt. Als Teil der Reihe “Wahl-Report 2023” wurden seit Ende August wöchentlich Antworten der 6 Fraktionsparteien veröffentlicht, mit dem Ziel Wählerinnen und Wählern einen besseren Überblick über die Digitalkompetenz der Parteien sowie deren Standpunkte zu geben. Ich habe die Antworten der Parteien in meinem Beitrag eingeordnet. Sie zeugen von einer insgesamt guten Digitalkompetenz der Parteien und es fällt auf, dass ihre Standpunkte bei einigen wichtigen Themen, wie zum Beispiel der E-ID, nicht sehr weit auseinanderliegen.

Nachholbedarf bei der Digitalisierung der Verwaltung

Die Parteien sind sich einig in der Einschätzung, dass die Schweiz bei der Digitalisierung der Verwaltung noch viel Nachholbedarf hat. Den dringlichsten Handlungsbedarf sehen sie bei der Digitalisierung von Verwaltungsprozessen und dem Ausbau von digitalen Dienstleistungen. Insgesamt kritisch sehen die Parteien die Umsetzung von (grossen) Digitalisierungsprojekten innerhalb der Verwaltung, wobei das revidierte Bundesgesetz über das öffentliche Beschaffungswesen als ein Schritt in die richtige Richtung wahrgenommen wird. Einige Parteien kritisieren den Föderalismus und die zum Teil fehlenden Digitalisierungskompetenzen innerhalb der Verwaltung als Kostentreiber und als Gründe für den schleppenden Fortschritt.

Die Einführung einer staatlichen E-ID wird von allen Parteien grundsätzlich begrüsst und als eine Grundvoraussetzung für einen funktionierenden digitalen Service Public gesehen. Dabei werden Datensicherheit und ein gleichberechtigter Zugang beziehungsweise die Beibehaltung analoger Dienst betont. Dies deckt sich mit den Einsichten des Digitalisierungsmonitors 2023, dass Politikerinnen und Politiker aller Parteien den Übergang zu einem Digital-Only-Prinzip mehrheitlich ablehnen. Deutlich kontroverser ist die Einführung von E-Voting: die SVP lehnt dies wegen Manipulationsgefahr ab. Andere Parteien begrüssen digitale Wahlen und Abstimmungen zwar, aber vor allem als Mittel, um die politische Anteilnahme von bestimmten Gruppen wie Auslandsschweizern oder Menschen mit Beeinträchtigungen zu stärken. Auch das elektronische Patientendossier (EPD) wird von den Parteien im Grundsatz zwar unterstützt, aber die Sicherheit und der Datenschutz werden als wichtige Herausforderungen in der praktischen Umsetzung genannt.

Unterschiedliche Meinungen zur Cybersicherheit

Das Thema Cybersicherheit wird die Schweizer Politik in den nächsten Jahren verstärkt beschäftigen. Die Gefahren im Cyberraum steigen und auch die Wahrnehmung in der Bevölkerung wächst, nicht zuletzt durch prominente Vorfälle in der Schweiz unter anderem mit Angriffen auf NZZ oder Xplain, aber auch auf Schweizer Hochschulen.
Die Parteien stehen dem neuen Bundesamt für Cybersicherheit (NCSC) insgesamt positiv gegenüber, ebenfalls der Meldepflicht für Angriffe auf kritische Infrastrukturen. Weniger einig sind sich die Parteien darüber, ob diese Meldepflicht auch auf Unternehmen ausgeweitet werden sollte. Die Parteien, die eine solche Pflicht befürworten, wünschen sich ein schnelles Reporting mit möglichst geringem Aufwand.

Die Zuordnung des NCSC als ziviles Bundesamt innerhalb der Zuständigkeit des Departements für Verteidigung, Bevölkerungsschutz und Sport (VBS) wird zum Teil kritisch gesehen. Parteien wie die GLP und SP sehen insbesondere einen möglichen Interessenskonflikt zwischen den zivilen und militärischen sowie nachrichtendienstlichen Interessen, vor allem bei der Schliessung von kritischen Sicherheitslücken. Die SVP hingegen kritisiert die Umsetzung der Meldepflicht. Insbesondere sollten Angriffe und Schwachstellen erst dann gemeldet werden müssen, wenn sie abgewehrt respektive geschlossen wurden. In Zusammenarbeit mit der Digital Society Initiative der Universität Zürich hat sich inside-it.ch in einer dreiteiligen Reihe intensiv mit der neuen Schweizer Cyberstrategie beschäftigt.

KI-Regulierung als Streitpunkt

Wie soll die Schweiz sich im Bereich Künstliche Intelligenz (KI) bzw. ihrer Regulierung positionieren? Bei diesem Thema besteht insgesamt wenig Einigkeit zwischen den Parteien. Die FDP vertritt den Standpunkt, ohne praktische Beispiele und relevant Gerichtsentscheide sei es noch zu früh, um einen Gesetzgebungsprozess anzustossen. Sie sieht die Verantwortung eher bei den betroffenen Branchen und setzt auf Selbstregulierung. Die GLP lehnt restriktive Regulierungen ab, fordert dafür aber Transparenz über den Einsatz von KI und sieht die Möglichkeit, den Umgang mit Daten gegebenenfalls zu regulieren. Die SVP lehnt Regulierungen als Innovations­bremse grundsätzlich ab, bis auf Ausnahmen wie zum Beispiel bei Haftungsfragen im Bereich Gesundheit.

Im Gegensatz dazu sehen die Grünen KI als eine Chance für die Schweiz, um gute regulatorische Rahmenbedingungen und Rechtssicherheit zu schaffen und damit einen Standortvorteil zu erlangen. Sie sehen das Risiko, dass der gesellschaftliche Widerstand gegenüber der Technologie ohne Regulierung zu stark sein könnte. Die SP sieht die Notwendigkeit für eine Regulierung vor allem auch angesichts der Gesetzgebung auf EU-Ebene und plädiert dafür, diese Regelungen zu übernehmen oder anzupassen. Mitte und SP weisen zudem auf Risiken für das politische System der Schweiz hin, wie durch KI-generierte Falschinformation. Nichtsdestotrotz sehen alle Parteien die aktuellen Entwicklungen in Bereich KI als eine Chance, die die Schweiz nicht verpassen sollte.

Uneinigkeit bei der Cloud

Der Nutzung von Cloud-Dienstleistungen durch die Verwaltung stehen die Parteien insgesamt positiv gegenüber, aber nur solange die Daten in der Schweiz verbleiben oder ihre Verwendung und Speicherung nach Schweizer Standards garantiert werden kann. Die möglichen Effizienzsteigerungen durch Cloud-Lösungen sind dabei für Parteien wie FDP, SVP oder GLP besonders zentral.

Weniger Einigkeit herrscht hingegen bei der Umsetzung. Für hochsensible Daten setzen Grüne, Mitte, aber auch die SVP auf eine bundeseigene Infrastruktur, die SP begrüsst allgemein eine eigene Infrastruktur als Aufgabe des Service Public. Die GLP kritisiert hingegen, dass die Daten zu unterschiedlich seien, um alles in einem System zu realisieren, und auch die SVP sieht eine Swiss-Cloud-Lösung als technisch und kommerziell kaum umsetzbar.

Diskussionen zu den Post-Zukäufen

Die Strategie der Post mit einer Ausweitung ihrer Aktivitäten auf den digitalen Sektor wird von den Grünen und der Mitte durchaus als legitime Erweiterung ihres Grundauftrags gesehen. Dagegen sehen die anderen vier Parteien dieses Engagement eher kritisch, insbesondere wegen einer möglichen Schwächung des Wettbewerbs. Interessant ist, dass keine der Parteien die Einführung einer ersten Schweizer E-ID – die bereits 2017 lancierte SwissID – durch die Post als Bundesbetrieb thematisiert. Für Bürgerinnen und Bürger ist nicht immer sofort klar ersichtlich, dass es sich hierbei nicht um eine staatliche E-ID handelt.

Wie geht es weiter?

Die Realisierung einer sicheren, vertrauenswürdigen, staatlichen E-ID scheint quer über die Parteigrenzen hinweg eine hohe Priorität zu haben und, wie oben betont, herrscht bei dem Thema überwiegend Einigkeit. Ebenso wichtig wird in der kommenden Zeit die schrittweise Einführung des elektronischen Patientendossiers (EPD) sein, wobei die Parteien sich bei diesem Thema deutlich weniger einig sind. Neu angestossen hat der Bundesrat die Regulierung von grossen Kommunikationsplattformen, nicht zuletzt als Reaktion auf die neuen Regelungen der EU. Konkretere Schritte zur regulatorischen Umsetzung wird es aber wohl erst 2024 geben.

Die Schweizer Bevölkerung steht nach Erkenntnissen von Digivox, der nationalen Schweizer Digitalisierungsumfrage, dem Thema Digitalisierung durchaus positiv gegenüber. Und es ist davon auszugehen, dass sich die digitale Transformation in Zukunft wohl eher noch beschleunigen wird. Entsprechend ist es an den Parteien, die Digitalpolitik aktiv zu gestalten und ihr vor allem auch den nötigen Stellenwert einzuräumen.

Der “Wahl-Report 2023” zeigt aber auch, dass die Parteien dafür durchaus die nötigen Digitalkompetenzen mitbringen. Das liegt nicht zuletzt an Tech-affinen Politikerinnen und Politikern, die es laut einer Untersuchung von CH++ zumindest in allen grossen Parteien gibt. Auch wenn die Digitalpolitik im aktuellen Wahlkampf bisher wieder keine grosse Rolle gespielt hat, ergibt sich daraus insgesamt doch eine durchaus positive Zukunftsperspektive für die digitale Transformation der Schweiz.

Dieser Blog Post basiert auf einem Artikel, der am 18.10.2023 unter dem Titel “Wahl-Report: Die Antworten der Parteien im Vergleich” im Online Magazin Inside IT erschienen ist. Dieser Beitrag spiegelt ausschließlich die Sichtweisen des Autors wider und in keiner Weise die Sichtweise der Institutionen mit denen er affiliiert ist.