: Warum das Papst-Foto nicht nur witzig ist

von Julia Klaus
27.03.2023 | 14:48 Uhr
Nein, Papst Franziskus hat nicht diese hippe Daunenjacke mit dem päpstlichen Kruzifix getragen. Das Foto hat eine Künstliche Intelligenz erstellt. Warum das nicht nur witzig ist.
Fake-Foto vom Papst: Dieses Bild wurde mit Künstlicher Intelligenz erstellt.Quelle: Screenshot Reddit
Der Papst in einer glänzend-weißen Daunenjacke mit seinem päpstlichen Kruzifix - dieses Foto ist Fake. Es kursiert in sozialen Medien - und ist nicht das erste Bild von Prominenten, das in den vergangenen Wochen mit Künstlicher Intelligenz erstellt wurde und dann viral ging.
Auch ein Foto, auf dem Russlands Präsident Wladimir Putin angeblich vor Chinas Präsidenten Xi Jinping auf die Knie fällt, wurde schnell verbreitet - doch auch dieses wurde künstlich erzeugt:
FAKE - Von einer KI erstelltes Bild zeigt vermeintlichen Kniefall von Putin vor Xi.Quelle: ZDF

Künstliche Intelligenz: Ohren und Hände oft als Artefakte

Der Papst als hipper Influencer - das Foto mag lustig sein, doch einige Nutzer*innen hielten es für echt. Nur bei genauerem Hinsehen wird klar: Die Hände passen nicht zum Alter von Franziskus. Expert*innen sprechen in solchen Fällen von "Artefakten" - also Teilen eines künstlich erzeugten Bildes, die nicht echt aussehen. Oft sind es auch Ohren oder Münder, die KI-Fotos als solche enttarnen können.
KI-Bildsynthesedienste sind oft einfach zu handhaben: Man gibt einen Text ein und eine Software generiert daraus ein künstliches Foto. So funktioniert etwa der Dienst "V5" der US-Firma "Midjourney" - damit wurde auch ein Foto von Donald Trumps angeblicher Verhaftung erstellt:
FAKE - Von einer KI erstelltes Bild zeigt vermeintliche Verhaftung von Donald Trump.Quelle: ZDF

Franziska Giffey und der "falsche Klitschko"

Neben Fake-Fotos lassen sich auch täuschend echte, aber künstlich erzeugte Videos oder Tonaufnahmen erstellen. Das ist grundsätzlich nicht neu, aber zum einen muten die falschen Inhalte immer realistischer an. Zum anderen reicht heute oft eine App auf dem Smartphone, wo früher noch Hochleistungsrechner benötigt wurden.
Mit einer vermutlich einfach zu handhabenden KI-Technologie ist etwa Berlins Regierende Bürgermeisterin Franziska Giffey (SPD) hinters Licht geführt worden. Im Juni vergangenen Jahres dachte sie, eine Videokonferenz mit Vitali Klitschko zu führen - in Wahrheit handelte es sich aber um einen Betrüger.

Wahlkämpfe und angebliche Leaks - die Gefahr von Fake-Videos

Was wahr ist und was nicht, das lässt sich mit solchen KI-Technologien künftig schwerer trennen. Besonders relevant ist diese Frage in Wahlkämpfen. Der Digital-Experte Sascha Lobo warnte deshalb in der ZDF-Sendung "Markus Lanz":
Es ist erahnbar, dass wir in den nächsten Wahlkämpfen - in den Vereinigen Staaten ganz besonders, aber auch in der Weltpolitik - eine Form von Propaganda und Fake News bekommen, die wirklich besorgniserregend ist, weil wir uns als Öffentlichkeit bisher damit nicht auskennen.
Sascha Lobo, Netz-Experte und Publizist
Neben der politischen Komponente gibt es auch die Möglichkeit, dass im Privatbereich Fake-Videos erstellt werden. Bei "Revenge Porn"-Bildern etwa werden die Köpfe von Ex-Partner*innen in Porno-Filme hineinmontiert - oft aus Rache über eine Trennung. Opfer sind meist Frauen.
Doch es gibt auch digitale Gegenmaßnahmen. Auf der Webseite "Hugging Phase" lassen sich Fotos daraufhin überprüfen, ob sie künstlich erstellt wurden. Im Falle der KI-Fake-Bilder von Trump versahen einige Twitter-Nutzer sie mithilfe der Faktencheck-Funktion mit dem Hinweis, dass sie künstlich erstellt wurden. Auch auf Instagram und Facebook wurden die Fake-Fotos teils so gekennzeichnet.
Insgesamt gilt: KI bietet ungeahnte Möglichkeiten - doch der sensible Umgang mit künstlich erstellten Inhalten ist für Plattformen wie auch für Nutzerinnen und Nutzer eine große Herausforderung.

Themen

Mehr zum Thema