: KI führt zu "immer extremeren Positionen"
Seit Monaten kursieren sie in Deutschland: KI-generierte Audio-Deepfakes der Tagesschau-Sprecher Jens Riewa und Susanne Daubner. Darin entschuldigen sich die beiden vermeintlich für ihre fehlerhafte Berichterstattung über die Corona-Politik. Die Dateien werden in sozialen Medien verbreitet, aber auch bei sogenannten Montagsdemonstrationen öffentlich abgespielt.
Deepfakes werden immer schneller generiert
Das sei erst der Anfang, so Experten. Künstliche Intelligenz und Deepfakes, also gefälschte Audio- und Video-Dateien werden immer schneller und wirksamer generiert werden können, sagt Christoph Igel vom Fraunhofer-Institut für Kommunikation und Informationsverarbeitung:
"Der erste Punkt ist das exponentielle Wachstum an digitalen Daten, also Daten, die analysiert werden können über KI, zweitens die Verfügbarkeit von Computing-Power, also Hardware, die mit einer unfassbar hohen Geschwindigkeit in der Lage ist, diese Datenflut zu verarbeiten und drittens natürlich eine weltweite Vernetzung, d.h. die KI kann über das Netz weltweit und direkt auf offene Bibliotheken, Datenbestände und andere Anwendungen zugreifen."
Von künstlicher Intelligenz generierte Bilder und Videos sind kaum noch von echten zu unterscheiden. Eine so gesteuerte Desinformation gilt als weltweit größtes Risiko für Wahlen.
06.06.2024 | 02:44 minKI befördert immer extremere Positionen
Deswegen wird auf der diesjährigen Cybersicherheits-Konferenz in Potsdam das Thema "Desinformation im Wahljahr 2024" hoch gehängt. "Wir diskutieren mittlerweile viel über die fortschreitende Spaltung der Gesellschaft, darüber, dass es zunehmend schwerer fällt, offen gegenüber anderen Meinungen zu sein und Kompromisse zu finden", sagt Cybersicherheits-Experte Christian Dörr auf der Konferenz.
Auch hier trage KI einen Teil bei, indem in sozialen Medien Algorithmen Inhalte so auswählten und filterten, dass sich der Nutzer irgendwann in einer Echoblase befände: isoliert von anderen Inhalten. Das führe zu immer extremeren Positionen.
Eine von KI geschaffene Wirklichkeit wird unsere Gesellschaft in wenigen Jahren von Grund auf verändern.
15.12.2023 | 05:28 minVerunsicherung durch Deepfakes steigt
Auch die Verunsicherung durch KI-generierte Deepfakes nehme zu - zumal diese genau auf spezielle Zielgruppen zugeschnitten seien.
"Was jetzt gerade interessant ist bei den Deepfakes, ist, dass man eine Personalisierung dieser Fakes machen kann, die genau auf Einzelpersonen zugeschnitten sind", erläutert Christian Dörr. Daher sei es "schwerer herauszufinden, wie groß das Problem eigentlich ist".
In Potsdam diskutieren nicht nur Vertreter aus Wissenschaft und Wirtschaft, sondern auch Vertreter der Sicherheitsbehörden und Politiker über das Thema Cybersicherheit.
Politik hofft auf Impulse für Umgang mit Cyberangriffen
So räumt Benjamin Grimm, Beauftragter für Medien und Digitalisierung in der Staatskanzlei Brandenburg, ein, dass in seinem Bundesland eine KI-Strategie zwar kurz vor dem Abschluss stehe, aber man sei insgesamt noch nicht genügend vorbereitet.
Die Apps auf den Smartphones von Apple sollen künftig durch KI besser miteinander vernetzt sein. Eine Art persönliche KI für jeden Nutzer.
12.06.2024 | 01:48 min"Strategie ist aber immer das eine, damit fängt man erstmal an, aber danach muss man es auch schnell umsetzen." Man müsse das Thema überall erkennen und auch in der Breite angehen.
"Von daher bin ich hier auch hergekommen, um da auch ein Zeichen zu setzen. Das wird sicher bei den Digitalministern im Bund und im Land auch weiter eine große Rolle spielen, dass wir einfach vorankommen bei dem Thema."
Experten dringen auf mehr Medienkompetenz
Noch sind Deepfakes einigermaßen gut zu erkennen, weil die Software noch nicht perfekt ist, da sind sich Experten einig. Im Kampf gegen Desinformation könne man Technik einsetzen, so Experte Dörr.
Es gibt zum Beispiel Initiativen, bei denen Videos von Politikern digital signiert werden können, so dass man nachweisen kann, dass es wirklich ein Video des Bundespräsidenten ist oder ob daran etwas manipuliert wurde.
Am Ende aber sei die Medienkompetenz bei den Menschen entscheidend. Jeder müsse sich fragen: Passt das, was ich da höre und sehe zu der Person? Und jeder müsse sich bewusst machen, wie einfach es heute sei, Inhalte zu manipulieren und zu fälschen.
Antje Klingbeil ist Redakteurin im ZDF-Landesstudio Brandenburg.