#KI und Desinformation: Die Auslöschung der Wahrheit

Am 15. März kapituliert der ­ukrainische Präsident Wolodymyr Selenskyj. „Es gibt kein Morgen mehr, zumindest für mich nicht. Jetzt treffe ich nur noch eine wichtige Entscheidung: mich von euch zu verabschieden“, sagt er in die Kamera des TV-Senders Ukraine 24. Dann fordert er seine Landsleute auf, die Waffen niederzulegen. Wenige Minuten später ist das Video als Deepfake enttarnt. Über die sozialen Medien wird eine Reaktion des „echten“ Selenskyj verbreitet. Die schlechte Qualität der Fälschung, die Hacker auf die Seite des Senders geschleust hatten, tat ihr Übriges. Die Stimme hat den falschen Akzent, das Zwinkern wirkt unnatürlich, der Körper zu steif.

Die Aufnahme von 2022 gilt als der erste nennenswerte Versuch, mit einem gefälschten Video einen Krieg zu beeinflussen. Knapp ein Jahr später verbreitet sich über Twitter die vermeintliche Meldung einer Nachrichtenagentur mit dem Bild von schwarzen Rauchwolken über dem Pentagon. Auch die Explosion wird schnell als Deepfake enttarnt, also als ein von Künstlicher Intelligenz (KI) gefälschtes Foto. Die Börse sackt dennoch kurz ab. Die Bilder, die Videos, die Tonaufnahmen, sie sind immer weniger vom Original zu unterscheiden. Wer soll seinen Augen und Ohren noch trauen? Man muss schon ganz genau hinschauen, um zu erkennen, dass da nur eine halbe Kette um die Daunenjacke des Papstes hängt, der Kniefall von Wladimir Putin vor dem chinesischen Präsidenten Xi Jinping „unrund“ wirkt und die Beleidigungen von Ex-Präsident Barack Obama gegen seinen Nachfolger Donald Trump nicht hundertprozentig zu den Lippenbewegungen passen.

Die Fälschungen werden immer besser. Generative Künstliche Intelligenzen wie ChatGPT, Midjourney oder DALL-E 2 machen es möglich. Sie haben Deepfakes und Desinformation zum Instrument für jedermann gemacht. Ein, zwei Prompts – so heißen die kurzen Anweisungen an die KI im Fachjargon – genügen, und wenige Sekunden später putzt Trump im Gefängnisanzug Toiletten. Alles, was die KI für ihr Training benötigt, ist Zugriff auf ausreichende Datenmengen, und das ist gerade bei bekannten Personen selten ein Problem.

All das sind mal mehr, manchmal auch weniger gelungene Spielereien – wie die mit Midjourney erzeugten Bilder des Megaerdbebens inklusive Tsunami an der amerikanischen Westküste, das es 2001 eben nicht gab. Aber die Deepfakes der Selenskyj-Rede und der Explosion im Pentagon zeigen, vor welchen Herausforderungen die Welt steht. Vor allem gefälschte Videos sind anspruchsvoll für das kognitive System. Sehen ist Glauben. Und wenn Desinformation derart leicht zu produzieren und zu verbreiten ist, wie können die Menschen dann noch glauben, wie können demokratische Staaten, wie kann die EU sicherstellen, dass „die Wahrheit siegt“?

Das in San Francisco ansässige Center for AI Safety warnte vor einigen Wochen in einer bemerkenswerten Stellungnahme, dem Risiko der Auslöschung durch KI müsse weltweit dieselbe Priorität zugestanden werden wie Pandemien oder dem Nuklearkrieg. Das Risiko, dass von KI erzeugte Desinformation die kollektive Entscheidungsfindung untergraben, Einzelne radikalisieren oder den gesellschaftlichen Fortschritt aufhalten könne, wird in der Stellungnahme explizit genannt. Unterzeichnet haben namhafte KI-Fachleute, allen voran Sam Altman, der Chef von Open AI, das hinter dem Programm ChatGPT steht.