KI-basierte politische Einflussnahme – Hype oder reale Gefahr?

Der Ende November 2022 von OpenAI lancierte Dienst ChatGPT hat die neueste Generation von künstlicher Intelligenz (KI) einer breiten Öffentlichkeit bekannt und zugänglich gemacht. Inzwischen gibt es eine Vielzahl von ähnlichen kommerziellen und auch nicht-kommerziellen Diensten. Sie akzeptieren neben Text auch gesprochene Sprache oder Bilder als Eingabe und können, je nach Dienst, Text, Sprache, Bildern oder sogar Videos generieren. Und der Realismus dieser Ausgaben steigt mit jeder Weiterentwicklung an.

Vielfach ist es damit zunehmend schwierig KI-generierte Inhalte überhaupt noch verlässlich zu erkennen. Schon seit einiger Zeit warnen daher vor allem Vertreter der Zivilgesellschaft aber auch der Wissenschaft vor möglichen Gefahren durch die zunehmende Verwendung von KI, insbesondere im Kontext der Politik. Dabei wird vor allem das Risiko einer KI-basierten politischen Einflussnahme diskutiert. Doch wie real ist diese Gefahr? Um dies einordnen zu können, muss man zwischen mehreren verschiedenen grundsätzlichen Risiken unterscheiden.

KI-Dienste liefern nicht immer verlässliche Informationen zum Tagesgeschehen

Zum einen gibt es das Risiko, dass KI-Dienste keine verlässlichen Informationen zu aktuellen politischen Geschehnissen liefern. Damit könnte die politische Meinungsbildung, vor allem im Kontext von Wahlen, beeinflusst werden. Eine Untersuchung der Organisationen AlgorithmWatch und AI Forensics im Kontext der eidgenössischen Wahlen im vergangenen Oktober und der Landtagswahlen in Bayern und Hessen konnte dies zum Beispiel für Microsoft Bing-Chat nachweisen. Dabei gab der KI-Dienst nicht nur irreführende Antworten, sondern zu wichtigen Fragen auch komplett falsche Informationen.

Um zu verstehen, warum sich die KI in einem solchen Fall so stark “irren” kann, muss man hinter die Kulissen der Technologie schauen. Eine grundsätzliche Ursache liegt in den Daten, die den verwendeten KI-Sprachmodellen zu Grunde liegen. Geben diese Daten Tatsachen oder Zusammenhänge verzerrt wieder, dann trägt auch der KI-Dienst diese Verzerrungen mit sich. Die Art und Weise wie die KI lernt, kann diese Verzerrungen allerdings darüber hinaus sogar noch verstärken. Zukünftige Generationen der Dienste werden auf immer grösseren Datenmengen basieren, aber es ist nach heutigem Wissensstand nicht zu erwarten, dass dies das Problem der sogenannten “Halluzinationen” vollständig lösen kann.

KI-generierte Falschinformationen sind auf dem Vormarsch

Ein zweites Risiko ist die bewusste Verwendung von KI-generierter Falschinformation, die in manipulativer Weise eingesetzt wird. Die Verfügbarkeit von KI-Diensten, die schnell und unkompliziert beliebige Texte, Bilder, Audio- und Videoclips erzeuge können, senkt die Kosten für die Produktion von Falschinformationen massiv. Gleichzeitig steigt ihre Qualität, so dass die KI-generierten Falschinformationen von realen Inhalten oft nur schwer oder gar nicht unterscheidbar sind. Im Kontext der US-Wahlen wird aktuell zum Beispiel wieder verstärkt die Gefahr von “Deep Fakes” diskutiert, also durch KI manipulierte Bilder, Videos oder Audioaufnahmen. Diese werden eingesetzt um politische Gegner gezielt zu diffamieren oder die Wähler mit Aussagen, die in der Form nicht gemacht wurden, in die Irre zu führen.

Aber bedeutet mehr und realistischere Falschinformation auch automatisch mehr politische Einflussnahme? Die Wissenschaft ist sich in dieser Frage noch uneins. Ein grösseres Angebot an Falschinformation führt nicht zwingend zu mehr Nachfrage bzw. Konsum von manipulierten Inhalten. Qualitätsmedien verbreiten bisher nur sehr selten Informationen aus manipulierter Berichterstattung und, gerade in der Schweiz, informiert sich die Mehrheit der Bevölkerung im Kontext von Wahlen noch hauptsächlich über die Abstimmungsbüchlein, die etablierte Medien bzw. Radio und Fernsehen. Allerdings ist dies z.B. in Ländern wie den USA nicht im gleichen Masse der Fall, denn Internetmedien haben dort schon jetzt einen deutlich höheren Stellenwert. Entsprechend darf man den potenziellen Einfluss einer Flut von falschen oder manipulierten Inhalten nicht unterschätzen.

Falschinformation können nachhaltig das Vertrauen in die Medien schwächen

Ein drittes Risiko ist mit dem starken Anstieg KI-generierter, oftmals verzerrter oder manipulierter Inhalte, eng verbunden. Denn klärt man über die Problematik von Falschinformationen auf, kann das im Gegenzug grundsätzlich das Vertrauen in Medien schwächen, insbesondere auch in eigentlich vertrauenswürdige Quellen. Und ist das Vertrauen in die Medien einmal erschüttert öffnet dies Tür und Tor für die manipulative Verwendung von realistischer Falschinformation. Eine allgemeine Tendenz zu einem Vertrauensverlust der etablierten Medien ist schon länger zu beobachten und hat sich tendenziell in den letzten Jahren noch verstärkt.

Hinzu kommt, dass vor allem jüngere Menschen oft gar nicht mehr direkt auf Nachrichtenseiten zugreifen, sondern von sozialen Medien direkt auf Artikel geleitet werden. Und unter diesen sind viele, die aus nicht-vertrauenswürdigen Quellen stammen aber von der Aufarbeitung und Präsentation her sich kaum mehr von Qualitätsmedien unterscheiden lassen. Der Einfluss der KI beschränkt sich in dem Fall nicht allein auf die Erstellung der Inhalte. Grosse Onlineplattformen wie X/Twitter, Facebook, Instagram oder auch TikTok verwenden alle KI-basierte Systeme, um zu steuern welche Inhalte Nutzerinnen und Nutzer zu Gesicht bekommen. Und diese Empfehlungs-Algorithmen tragen dazu bei, dass sich eben auch Falschinformationen oft schnell verbreiten.

Man muss schon heute die Risiken durch KI-generierte Falschinformationen erstnehmen

Ergibt sich aus diesen Risiken schon heute eine reale Gefahr politischer Einflussnahme oder wird der Einfluss der KI überschätzt? Nach aktuellem Wissensstand tragen KI-generierte Inhalte sicher schon jetzt dazu bei, dass mehr und gefährlichere Falschinformationen zirkulieren und vor allem auch strategisch eingesetzt werden. Sie erreichen auch schon jetzt ein immer grösseres Publikum, vor allem über alternative Internetmedien oder die sozialen Netzwerke. Wie stark sie sich dann real auf Wahlkämpfe oder den öffentlichen Diskurs auswirken, hängt aber wohl noch stark davon ab welchen Stellenwert traditionelle Medien in den entsprechenden Ländern haben.

Falschinformationen sind dabei häufig Teil von konzertierten Operationen ausländischer Staaten, die bewusst in den öffentlichen, politischen Diskurs einzugreifen versuchen. Diese Art von Eingriffen ist in den USA, England aber auch in viele EU-Staaten schon länger ein Problem. Aber es ist davon auszugehen, dass sie auch die Schweiz betreffen. Im Kontext der eidgenössischen Wahlen 2023 warnte z.B. der Nachrichtendienst des Bundes (NDB) explizit vor einer solchen Gefahr. In dem konkreten Fall, wurden keine durch KI erzeugten oder manipulierten Inhalte verwendet sondern ein Video gezielt durch automatisierte Accounts auf sozialen Medien, sogenannten Bots, gestreut.

Aktuelle Regulierungsansätze werden der Problematik vermutlich noch nicht gerecht

Wie reagiert die Politik auf diese Gefahren? In der EU formiert sich seit einiger Zeit eine Bewegung zur stärkeren Regulierung von Onlineplattformen, insbesondere auch mit Blick auf die Verbreitung von Falschinformationen bzw. manipulativen Inhalten. Der im letzten Jahr in Kraft getretene Digital Service Act (DSA) der EU sieht allerdings vor allem Massnehmen zur Steigerung der Transparenz der Verbreitung von Falschinformationen auf Onlineplattformen vor und verlangt bessere Mechanismen um diese zu melden. Ohne die aktive Mitarbeit der Plattformen gehen diese Massnahmen allerdings vermutlich nicht weit genug um die Flut von Falschinformationen einzudämmen.

In der Schweiz wird aktuell eine eigene Gesetzgebung für grosse Onlinepattformen auf den Weg gebracht. Nach den Wünschen des Bundesrats wird diese aber wohl weniger weit gehen als die entsprechenden Regelungen der EU. Die Vernehmlassung eines Gesetzes zur Regulierung von Kommunikationsplattformen wird vermutlich im Frühjahr oder Sommer 2024 erfolgen. Der Einfluss von Falschinformationen wird dabei in der entsprechenden Medienmitteilung mit keinem Wort erwähnt. Aber eine effektive Regulierung des Einflusses von KI kann und sollte auch nicht über die Regulierung von Online-Plattformen erfolgen.

Eine kritische gesellschaftliche Auseinandersetzung mit der KI ist unumgänglich

Der Einfluss von KI wird in den kommenden Jahren vermutlich stark steigen und könnte die Gesellschaft, Wirtschaft und Politik nachhaltig verändern. Wie diese Veränderungen genau ablaufen hängt auch davon ab wie wir als Gesellschaft diesen Prozess aktiv mitgestalten. Bisher sind es vor allem die Narrative der grossen Technologiekonzerne, die im aktuellen öffentlichen Diskurs überwiegen. Doch vor allem auch dank der Zivilgesellschaft werden immer mehr alternative Stimmen laut.

Verlässliche gesetztliche Rahmenbedingungen für KI zu schaffen bedeutet dabei nicht zwingend das Potential dieser neuen Technologien zu schmälern. Ganz im Gegenteil, Innovation lebt auch von sicheren Rahmenbedingungen um sich effektiv entfalten zu können. Und wenn man den Risiken von KI-basierter politischer Einflussnahme effektiv begegnen möchte, wird kein Weg daran vorbei führen die Rolle von KI kritisch zu hinterfragen und ggf. zu regulieren.

Dieser Blog Post basiert auf einem Artikel, der im April 2024 unter dem Titel “KI-basierte politische Einflussnahme – Hype oder reale Gefahr?” in SKP Info, dem Magazin der Schweizerischen Kriminalprävention (Ausgabe 01/2024) erschienen ist. Dieser Beitrag spiegelt ausschließlich die Sichtweisen des Autors wider und in keiner Weise die Sichtweise der Institutionen mit denen er affiliiert ist.