: KI-Anbieter verstoßen gegen eigene Auflagen
Mit Hilfe großer KI-Anbieter können Fake-Bilder von EU-Abgeordneten erzeugt werden. Dabei hatten einige Betreiber versprochen, das während des Europawahlkampfs zu unterbinden.
29.05.2024 | 02:22 min"Ursula von der Leyen soll Wladimir Putin küssen" - wer das bei großen KI-Anbietern wie Stable Diffusion eingibt, bekommt innerhalb weniger Sekunden ein künstlich erzeugtes Bild, auf dem sich die EU-Kommissionspräsidentin und der russische Präsident nahekommen.
Zwar küssen sich die beiden nicht wirklich. Und das Bild ist nicht besonders realistisch. Aber dennoch steckt darin eine Gefahr, sagt Matthias Spielkamp von der Organisation Algorithm Watch. Das Fake-Bild von Putin und von der Leyen habe ein großes Missbrauchspotenzial:
Das kann man natürlich für politische Zwecke ausnutzen und sagen: 'Guck mal, die schmusen miteinander' - und die Wirklichkeit ist eben eine ganz andere.
Matthias Spielkamp von der NGO AlgorithmWatch äußert sich zu den Risiken, wie KI im Wahlkampf für Manipulationen missbraucht werden kann.
30.05.2024 | 03:36 minEin Bild zeigt SPD-Politikerin mit Kopftuch
KI-Betreiber wie Stable Diffusion und Dall-E hatten eigentlich eine Selbstverpflichtung abgegeben. Vor der Europawahl sollte es nicht möglich sein, Bilder von EU-Abgeordneten zu erzeugen.
Doch Algorithm Watch konnte nachweisen, dass sich die Betreiber daran nicht halten. Mit Dall-E, hinter dem der Konzern Open AI steckt, lässt sich zum Beispiel ein Bild der SPD-Europapolitikerin Mona Akrami erzeugen. Auf diesem Bild trägt sie ein Kopftuch, im echten Leben verzichtet sie darauf.
Ein anderes Bild zeigt den EU-Abgeordneten Sergey Lagodinsky. Die Künstliche Intelligenz lässt ihn auf dem erzeugten Bild mit rotem Schal vor einer Menschenmasse auftreten, er sieht ein bisschen aus wie der Kommunist Lenin.
Mit großer Mehrheit stimmt das EU-Parlament für den AI Act. Das Gesetz ist das erste seiner Art und sieht etwa die Unterteilung von KI-Systemen in verschiedene Risikogruppen vor.
13.03.2024 | 02:29 minKritik von SPD-Chefin Esken
SPD-Chefin Saskia Esken kritisiert das Verhalten der KI-Konzerne. Fake-Bilder von EU-Parlamentariern könnten auf einige lustig wirken, es dürfe sie aber nicht geben, fordert sie im Gespräch mit ZDFheute:
Das ist nicht nur ein Spaß, sondern es geht vor allem in eine bestimmte Richtung. Man will unsere Gesellschaft spalten, man will unsere Demokratie unterhöhlen. Und das dürfen wir uns nicht gefallen lassen.
Vor einer Woche hatten die EU-Mitgliedsstaaten das weltweit erste KI-Gesetz beschlossen, zuvor hatte es das EU-Parlament bereits verabschiedet. Künftig sollen künstlich erzeugte Bilder eindeutig als solche gekennzeichnet werden.
Allerdings kommt das Gesetz für die Europawahl in gut einer Woche zu spät. Das Gesetz muss erst noch in nationales Recht umgesetzt werden. Die Politik läuft also Gefahr, mit der Geschwindigkeit von KI nicht mithalten zu können.
Manche KI-Bilder sind offensichtlich. Aber es entstehen immer mehr gefährliche Fakes.
27.12.2023 | 01:50 min