Vielfach ist es damit zunehmend schwierig KI-generierte Inhalte überhaupt noch verlässlich zu erkennen. Schon seit einiger Zeit warnen daher vor allem Vertreter der Zivilgesellschaft aber auch der Wissenschaft vor möglichen Gefahren durch die zunehmende Verwendung von KI, insbesondere im Kontext der Politik. Dabei wird vor allem das Risiko einer KI-basierten politischen Einflussnahme diskutiert. Doch wie real ist diese Gefahr? Um dies einordnen zu können, muss man zwischen mehreren verschiedenen grundsätzlichen Risiken unterscheiden.

KI-Dienste liefern nicht immer verlässliche Informationen zum Tagesgeschehen

Zum einen gibt es das Risiko, dass KI-Dienste keine verlässlichen Informationen zu aktuellen politischen Geschehnissen liefern. Damit könnte die politische Meinungsbildung, vor allem im Kontext von Wahlen, beeinflusst werden. Eine Untersuchung der Organisationen AlgorithmWatch und AI Forensics im Kontext der eidgenössischen Wahlen im vergangenen Oktober und der Landtagswahlen in Bayern und Hessen konnte dies zum Beispiel für Microsoft Bing-Chat nachweisen. Dabei gab der KI-Dienst nicht nur irreführende Antworten, sondern zu wichtigen Fragen auch komplett falsche Informationen.

Um zu verstehen, warum sich die KI in einem solchen Fall so stark “irren” kann, muss man hinter die Kulissen der Technologie schauen. Eine grundsätzliche Ursache liegt in den Daten, die den verwendeten KI-Sprachmodellen zu Grunde liegen. Geben diese Daten Tatsachen oder Zusammenhänge verzerrt wieder, dann trägt auch der KI-Dienst diese Verzerrungen mit sich. Die Art und Weise wie die KI lernt, kann diese Verzerrungen allerdings darüber hinaus sogar noch verstärken. Zukünftige Generationen der Dienste werden auf immer grösseren Datenmengen basieren, aber es ist nach heutigem Wissensstand nicht zu erwarten, dass dies das Problem der sogenannten “Halluzinationen” vollständig lösen kann.

KI-generierte Falschinformationen sind auf dem Vormarsch

Ein zweites Risiko ist die bewusste Verwendung von KI-generierter Falschinformation, die in manipulativer Weise eingesetzt wird. Die Verfügbarkeit von KI-Diensten, die schnell und unkompliziert beliebige Texte, Bilder, Audio- und Videoclips erzeuge können, senkt die Kosten für die Produktion von Falschinformationen massiv. Gleichzeitig steigt ihre Qualität, so dass die KI-generierten Falschinformationen von realen Inhalten oft nur schwer oder gar nicht unterscheidbar sind. Im Kontext der US-Wahlen wird aktuell zum Beispiel wieder verstärkt die Gefahr von “Deep Fakes” diskutiert, also durch KI manipulierte Bilder, Videos oder Audioaufnahmen. Diese werden eingesetzt um politische Gegner gezielt zu diffamieren oder die Wähler mit Aussagen, die in der Form nicht gemacht wurden, in die Irre zu führen.

Aber bedeutet mehr und realistischere Falschinformation auch automatisch mehr politische Einflussnahme? Die Wissenschaft ist sich in dieser Frage noch uneins. Ein grösseres Angebot an Falschinformation führt nicht zwingend zu mehr Nachfrage bzw. Konsum von manipulierten Inhalten. Qualitätsmedien verbreiten bisher nur sehr selten Informationen aus manipulierter Berichterstattung und, gerade in der Schweiz, informiert sich die Mehrheit der Bevölkerung im Kontext von Wahlen noch hauptsächlich über die Abstimmungsbüchlein, die etablierte Medien bzw. Radio und Fernsehen. Allerdings ist dies z.B. in Ländern wie den USA nicht im gleichen Masse der Fall, denn Internetmedien haben dort schon jetzt einen deutlich höheren Stellenwert. Entsprechend darf man den potenziellen Einfluss einer Flut von falschen oder manipulierten Inhalten nicht unterschätzen.

Falschinformation können nachhaltig das Vertrauen in die Medien schwächen

Ein drittes Risiko ist mit dem starken Anstieg KI-generierter, oftmals verzerrter oder manipulierter Inhalte, eng verbunden. Denn klärt man über die Problematik von Falschinformationen auf, kann das im Gegenzug grundsätzlich das Vertrauen in Medien schwächen, insbesondere auch in eigentlich vertrauenswürdige Quellen. Und ist das Vertrauen in die Medien einmal erschüttert öffnet dies Tür und Tor für die manipulative Verwendung von realistischer Falschinformation. Eine allgemeine Tendenz zu einem Vertrauensverlust der etablierten Medien ist schon länger zu beobachten und hat sich tendenziell in den letzten Jahren noch verstärkt.

Hinzu kommt, dass vor allem jüngere Menschen oft gar nicht mehr direkt auf Nachrichtenseiten zugreifen, sondern von sozialen Medien direkt auf Artikel geleitet werden. Und unter diesen sind viele, die aus nicht-vertrauenswürdigen Quellen stammen aber von der Aufarbeitung und Präsentation her sich kaum mehr von Qualitätsmedien unterscheiden lassen. Der Einfluss der KI beschränkt sich in dem Fall nicht allein auf die Erstellung der Inhalte. Grosse Onlineplattformen wie X/Twitter, Facebook, Instagram oder auch TikTok verwenden alle KI-basierte Systeme, um zu steuern welche Inhalte Nutzerinnen und Nutzer zu Gesicht bekommen. Und diese Empfehlungs-Algorithmen tragen dazu bei, dass sich eben auch Falschinformationen oft schnell verbreiten.

Man muss schon heute die Risiken durch KI-generierte Falschinformationen erstnehmen

Ergibt sich aus diesen Risiken schon heute eine reale Gefahr politischer Einflussnahme oder wird der Einfluss der KI überschätzt? Nach aktuellem Wissensstand tragen KI-generierte Inhalte sicher schon jetzt dazu bei, dass mehr und gefährlichere Falschinformationen zirkulieren und vor allem auch strategisch eingesetzt werden. Sie erreichen auch schon jetzt ein immer grösseres Publikum, vor allem über alternative Internetmedien oder die sozialen Netzwerke. Wie stark sie sich dann real auf Wahlkämpfe oder den öffentlichen Diskurs auswirken, hängt aber wohl noch stark davon ab welchen Stellenwert traditionelle Medien in den entsprechenden Ländern haben.

Falschinformationen sind dabei häufig Teil von konzertierten Operationen ausländischer Staaten, die bewusst in den öffentlichen, politischen Diskurs einzugreifen versuchen. Diese Art von Eingriffen ist in den USA, England aber auch in viele EU-Staaten schon länger ein Problem. Aber es ist davon auszugehen, dass sie auch die Schweiz betreffen. Im Kontext der eidgenössischen Wahlen 2023 warnte z.B. der Nachrichtendienst des Bundes (NDB) explizit vor einer solchen Gefahr. In dem konkreten Fall, wurden keine durch KI erzeugten oder manipulierten Inhalte verwendet sondern ein Video gezielt durch automatisierte Accounts auf sozialen Medien, sogenannten Bots, gestreut.

Aktuelle Regulierungsansätze werden der Problematik vermutlich noch nicht gerecht

Wie reagiert die Politik auf diese Gefahren? In der EU formiert sich seit einiger Zeit eine Bewegung zur stärkeren Regulierung von Onlineplattformen, insbesondere auch mit Blick auf die Verbreitung von Falschinformationen bzw. manipulativen Inhalten. Der im letzten Jahr in Kraft getretene Digital Service Act (DSA) der EU sieht allerdings vor allem Massnehmen zur Steigerung der Transparenz der Verbreitung von Falschinformationen auf Onlineplattformen vor und verlangt bessere Mechanismen um diese zu melden. Ohne die aktive Mitarbeit der Plattformen gehen diese Massnahmen allerdings vermutlich nicht weit genug um die Flut von Falschinformationen einzudämmen.

In der Schweiz wird aktuell eine eigene Gesetzgebung für grosse Onlinepattformen auf den Weg gebracht. Nach den Wünschen des Bundesrats wird diese aber wohl weniger weit gehen als die entsprechenden Regelungen der EU. Die Vernehmlassung eines Gesetzes zur Regulierung von Kommunikationsplattformen wird vermutlich im Frühjahr oder Sommer 2024 erfolgen. Der Einfluss von Falschinformationen wird dabei in der entsprechenden Medienmitteilung mit keinem Wort erwähnt. Aber eine effektive Regulierung des Einflusses von KI kann und sollte auch nicht über die Regulierung von Online-Plattformen erfolgen.

Eine kritische gesellschaftliche Auseinandersetzung mit der KI ist unumgänglich

Der Einfluss von KI wird in den kommenden Jahren vermutlich stark steigen und könnte die Gesellschaft, Wirtschaft und Politik nachhaltig verändern. Wie diese Veränderungen genau ablaufen hängt auch davon ab wie wir als Gesellschaft diesen Prozess aktiv mitgestalten. Bisher sind es vor allem die Narrative der grossen Technologiekonzerne, die im aktuellen öffentlichen Diskurs überwiegen. Doch vor allem auch dank der Zivilgesellschaft werden immer mehr alternative Stimmen laut.

Verlässliche gesetztliche Rahmenbedingungen für KI zu schaffen bedeutet dabei nicht zwingend das Potential dieser neuen Technologien zu schmälern. Ganz im Gegenteil, Innovation lebt auch von sicheren Rahmenbedingungen um sich effektiv entfalten zu können. Und wenn man den Risiken von KI-basierter politischer Einflussnahme effektiv begegnen möchte, wird kein Weg daran vorbei führen die Rolle von KI kritisch zu hinterfragen und ggf. zu regulieren.

Dieser Blog Post basiert auf einem Artikel, der im April 2024 unter dem Titel “KI-basierte politische Einflussnahme – Hype oder reale Gefahr?” in SKP Info, dem Magazin der Schweizerischen Kriminalprävention (Ausgabe 01/2024) erschienen ist. Dieser Beitrag spiegelt ausschließlich die Sichtweisen des Autors wider und in keiner Weise die Sichtweise der Institutionen mit denen er affiliiert ist.

In 2015, the world has witnessed a crisis of displaced persons larger than anytime since World War II. The refugee crisis that has now left over 60 million people displaced by conflict worldwide has drawn considerable international attention. At the same time, the attacks of Daesh and its ideological followers are threatening our relationships with Muslim refugees and strengthening the political far-right in Europe and the U.S. Some countries have already tightened borders, built walls, heightened screening, and toughened criteria for the reunification of refugee families.

As an international community we must now urgently decide: Will we hide behind our borders desperately defending our way of life, or will we act upon our humanity and help those in need? The forcibly displaced need our aid. More importantly, they need our governments’ vocal support to sway public opinion from fear toward acceptance.

“The time is always right to do what is right.” Dr. Martin Luther King, Jr., Oberlin College, October 22, 1964

A Global Crisis

While the Syrian crisis is unique by proportions, there are 65 other major displacement crises occurring worldwide. The numbers from Syria are staggering. As of late December 2015, 4,390,439 refugees from Syria had registered with UNHCR.

The surge in refugees arriving in Europe in the second half of 2015 propelled the refugee issue to the forefront of the global debate. Yet Western countries have not been hosting the vast majority of Syrian refugees since the outbreak of the civil war four years ago. Turkey and much poorer countries in the Middle East and North Africa host approximately four times the number of refugees than the West. From Syria alone, there are 2.1 million in Egypt, Iraq, Jordan, and Lebanon, and 1.9 million in Turkey. Turkey became the country with the most registered refugees in the world in 2015.

The forcibly displaced – those who do not formally qualify as refugees – in these countries do not have rights under the UN Convention on the Status of Refugees. They end up trapped with no right to work and no right to move. “Warehousing,” according to experts like Christine Mahoney, leaves the forcibly displaced without a future, vulnerable to drug addiction, sexual exploitation, recruitment by militia, and dependent on aid. Regardless of the dangers on the road ahead, warehousing drives refugees to continue moving, with the promise of a better, safer life somewhere else.

While they no longer face life-threatening conflict, the status of refugees in Turkey does not allow them a real future or give the possibility of integration into society. Many then risk their lives on the treacherous journey across the Mediterranean. Refugees are also subject to violence or human rights abuses along their journey, both in the Middle East and North Africa, but also in Eastern and Southern Europe.

Stricter and sometimes violent border security, off-shore processing of refugees, and migrant deterrence strategies by Western countries, only make matters worse. Short-term solutions to keep refugees out will only create a longer-term problem: a vicious cycle of more refugees, more resentment, and more violence.

“The ultimate measure of a man is not where he stands in moments of comfort and convenience, but where he stands at times of challenge and controversy.” Dr. Martin Luther King, Jr., Strength to Love Sermons, 1963

Shifting Public Opinion in Europe

Public opinion on the refugee problem has already begun to shift in Europe. Public support has moved toward right-wing political parties, like the Alternative for Germany (AFD), Poland’s Law and Justice party, Greece’s Golden Dawn, Hungary’s Fidesz party, and France’s National Front. Europe’s largest democracy, Germany, has experienced the largest inflow of refugees and worrisome changes in its political climate.

The influential Spiegel columnist Jakob Augstein recently warned of a new völkische revolution, a term referring to the nationalistic, anti-Semitic movement in the late 19th and early 20th century that swept across Austria and Germany and brought the Nazis to power. Today’s right wing parties may refrain from anti-Semitic statements, but as Augstein notes, ethnic categories are becoming salient again, and one in two Germans now fears the impact of immigration.

Augstein’s stern warning rings terrifyingly true: in the end we may find that fascism is not a problem of the past. Already, the composition of political party support in Germany is changing. Chancellor Angela Merkel and the Christian Democratic Union initially saw a significant loss of public support because of refugee-friendly policies. CDU has now only recovered slightly in opinion polls. Even within her own party, Chancellor Merkel is facing increased resistance to her policies along with new, significant challenges from the right. One weekly poll of German citizens showed the AFD, a far-right party that is only two years old, reaching 10% popularity in the last 3 months.

A rising tide of politically motivated crime against refugees is sweeping across the region. This is the most visible and troublesome shift in Europe’s political climate. In Germany, multiple attempts of arson in refugee shelters, crowd violence and mass protests have accompanied the immigration surge. Arson attacks have increased ten-fold in the past year. Right wing grassroots movements hardly more than a year old, for example the Patriotic Europeans Against the Islamisation of the Occident (PEGIDA), are radicalizing with calls for more restrictive immigration rules—and they are targeting Muslims.

While we have a much smaller number of refugees in the U.S., similar incidents are on the rise. We’ve witnessed arson at mosques and threats against the Council on American-Islamic Relations, which temporarily had to cease operations.

“Injustice anywhere is a threat to justice everywhere.” Dr. Martin Luther King, Jr., Letters from a Birmingham Jail, April 16, 1963

A Beacon of Hope: Civil Society

The main effort to deal with the refugee crisis has and continues to be shouldered by the scores of volunteers who help refugees to register and settle in, provide medical assistance, and offer other aid. Community-level, citizen-driven initiatives by and for refugees often fulfill the duties of states that lack local capacity. An abundance of creative, innovative policy solutions for employment and integration have also emerged. In Germany these include apps like Waslchiraa, a service that links donations to refugees, the Workeer job portal designed for refugees, and other online services that provide refugees access to higher education without formal documentation. German universities are even trying to find new ways to admit refugees as students without bureaucratic hurdles.

Western societies are in danger of polarizing, with humanitarian initiatives to accommodate refugees on the community-level on one side, and a rise of ethnocentric nationalism on the other. Citizen initiatives create pathways to improving refugees’ lives, and this is part of the answer. But for these efforts to be sustainable, governments must support these actions and in doing so, they must address the concerns of their citizens. Excluded and marginalized in the decision process, they could otherwise turn to those who offer simple answers like exclusion. Incidents such as those in Cologne, Germany, on New Year’s Eve only further escalate existing tensions, especially if we are judging all refugees by the despicable actions of a few.

In 2016 we face a crisis of historic dimensions in which we will be presented with a choice. Chancellor Merkel of Germany equated it with defining moments of recent world history, like the fall of the Berlin wall. This remarkable comparison is as daring as it is fitting: how we face this challenge will shape all of our futures in the years to come. We are at a critical juncture in which public opinion in the West could swing either way with fundamentally different outcomes in the years to come: isolationism or pluralism. Accepting refugees will change host nations and new identities will have to be forged. But change as such is not the problem as long as we all – refugees, citizens and the state – are able to shape that change together.

“We must learn to live together as brothers or perish together as fools.” Dr. Martin Luther King, Jr., Saint Louis, March 22, 1964

There is a serious danger that the foundations of political discourse on confronting this crisis are becoming unsound, and rhetoric has turned in a perilous direction: whether or not we help those in need should never be a question, it is our most basic humanitarian responsibility. It is certainly legitimate though to openly discuss the process, to challenge existing practices, and find a way forward that is acceptable for all.

It remains our responsibility as individual citizens to actively decide for humanity and against fear. In the words of Dr. Martin Luther King, Jr., the time is always ripe to do right.

This blog post was originally published at http://www.erincmcgrath.com/blog/what-would-martin-luther-king-do-act-with-humanity-for-refugees. It expresses the authors’ views only and not the institutions they are affiliated with.