Ganze Identitäten lassen sich heute mit KI erstellen – und das beeinträchtigt die Meinungsbildung. Foto: Adobe Stock Gesichter, Stimmen, ganze Identitäten – mit wenigen Klicks lassen sie sich austauschen oder neu erschaffen. Sogenannte Deepfakes sind längst kein Randphänomen mehr, wie auch der Fall um Collien Fernandes und ihren Ex-Mann Christian Ulmen in jüngster Vergangenheit zeigte. Die technischen Möglichkeiten entwickeln sich rasant – und mit ihnen wächst die Herausforderung.
Rund 90 Prozent der Online-Inhalte sind nach Einschätzungen von Europol schon jetzt künstlich generiert – auch in Zukunft werden solche Inhalte den digitalen Raum zunehmend prägen. „Wir dürfen unsere eigene Fähigkeit, KI-generierte Inhalte zu erkennen, nicht überschätzen“, sagt Melissa Bernhardt von der Landeszentrale für politische Bildung in Freiburg. Vor ein paar Jahren habe man Fälschungen noch an Details wie unnatürlicher Mimik oder falscher Fingeranzahl erkennen können, so Bernhardt, doch die Zeit sei nun vorbei.
Heute lassen sich Gesichter austauschen, Stimmen imitieren und sogar Mimik und Sprachmelodie anpassen. Mit geringem Aufwand entstehen neue Identitäten. Frauen und Mädchen sind dabei oft besonders betroffen, so Bernhardt: Schätzungen zufolge machen nicht-einvernehmliche pornografische Deepfakes rund 95 Prozent der Fälle aus. Dabei werden Gesichter auf pornografische Inhalte montiert oder vollständig künstliche intime Darstellungen erzeugt – ohne Zustimmung der Betroffenen, wie es zuletzt auch im Fall Collien Fernandez bekannt geworden war. Fernandez hatte im März Anzeige gegen ihren Ex-Mann Christian Ulmen erstattet und ihm unter anderem Identitätsdiebstahl vorgeworfen.
„Der Fall Collien Fernandes zeigt, dass es längst überfällig ist, den Umgang mit Deepfakes und digitaler Gewalt auf die politische Agenda zu setzen“, so Bernhardt. Auffällig sei, dass überwiegend Frauen und Mädchen von dieser Form der Gewalt betroffen sind. „Die Gesellschaft muss Betroffenen zuhören und sie schützen“, so Bernhardt. Außerdem müsse sich die Gesellschaft Gedanken darüber machen, welche Rolle Geschlechterbilder dabei spielen.
Doch Deepfakes beeinflussen auch politische Prozesse: Neben kostengünstiger Wahlwerbung – eher unspektakulär und nicht per se illegal – würden laut Bernhardt auch diskriminierende Darstellungen genutzt. Die Krux: „Was polarisiert, funktioniert in den sozialen Medien besonders gut“, so Bernhardt. Hinzu kommt das Phänomen der Filterblasen. Wer sich über Plattformen wie Facebook oder Instagram informiert, sieht vor allem Inhalte, die die eigene Sichtweise bestätigen. „Es liegt in der menschlichen Natur, gern recht zu haben. Aber wenn wir kaum noch mit anderen Argumenten konfrontiert werden, verengt sich unser Blick.“
„Menschen sind grundsätzlich nicht skeptisch genug. Wir müssen lernen, genauer hinzuschauen – und auch andere Perspektiven zuzulassen.“
Melissa Bernhardt,
Lpb Freiburg
Gleichzeitig sei es unrealistisch, zu glauben, man könne Deepfakes allein am Material erkennen. „Wir müssen davon wegkommen, zu denken: Ich sehe das schon“, sagt sie. Stattdessen müsse man sich fragen: Wer hat den Inhalt veröffentlicht? Mit welchem Interesse? Gibt es eine seriöse Quelle? Wird das Thema von etablierten Medien eingeordnet?
Die Landeszentrale für politische Bildung in Freiburg ist mit Workshops und Aktionstagen auch an Schulen unterwegs. Dort gehe es vor allem um grundlegende Kompetenzen im Umgang mit KI. Sie fordert klarere politische Regeln und konsequentere Regulierung auf nationaler und europäischer Ebene. „Wir brauchen mehr Schutzmechanismen und mehr Transparenz“, sagt sie. Gleichzeitig sei Bildung der entscheidende Schlüssel: „Menschen sind grundsätzlich nicht skeptisch genug. Wir müssen lernen, genauer hinzuschauen – und auch andere Perspektiven zuzulassen.“
Trotz aller Risiken warnt Bernhardt vor Alarmismus. Künstliche Intelligenz sei ein technologischer Umbruch, der einer historischen Zäsur gleichen könne.
Wer selbst ausprobiert, wie KI-Inhalte entstehen, entwickle ein besseres Verständnis für ihre Wirkung, sagt Bernhardt. Deepfakes und KI böten auch Chancen – etwa für kreative Formate oder niedrigschwellige politische Kommunikation. Entscheidend sei jedoch, wem wir unsere Aufmerksamkeit schenken.
