: Wird KI uns zerstören? Ein Für und Wider
Künstliche Intelligenz ist eine Gefahr für die Menschheit, sagen einige der Macher selbst. Die Politik will KI regulieren - nur wie?
04.06.2023 | 04:08 min... deren inneres Funktionieren wir überhaupt nicht verstehen. Und wenn man etwas nicht versteht, dann kann man es natürlich auch nicht verlässlich kontrollieren.
Ist die Warnung nur ein PR-Stunt?
Digitalminister Volker Wissing (FDP) spricht sich im ZDF dafür aus, Künstliche Intelligenz beherrschbar zu machen und sie zu regulieren - mit einer Einschränkung.
04.06.2023 | 00:35 minWie kann KI reguliert werden?
Die Politik versucht, mit den ständigen Erneuerungen der KI-Technologien Schritt zu halten. Auch Digitalminister Volker Wissing fordert mehr Transparenz und zeitnahe Regulierungen.
02.06.2023 | 01:19 minWarum "Stecker ziehen" nicht so einfach geht
EU will KI durch Selbstkontrolle regulieren
Welche Maßnahmen sieht der AI Act der EU vor?
- eine durchgehende Risikoanalyse die bekannten und vorhersehbaren Risiken dokumentiert
- Qualitätskriterien bei Trainingsdaten eingehalten werden
- eine Aufzeichnung von KI-Vorgängen während des Betriebs stattfindet
- eine Beaufsichtigung durch Menschen gewährleistet wird
Zu "Hochrisiko-KI-Systemen" gehören solche, die zum Beispiel in den Bereichen der biometrischen Identifizierung (z.B. Gesichtserkennung), der kritischen Infrastruktur wie Straßenverkehr, Wasser-, Gas-, Wärme- und Stromversorgung oder in der Strafverfolgung verwendet werden.
Für KI-Systeme, die ein "geringes" oder "minimales Risiko" aufweisen, will die EU Transparenzpflichten verankern, wenn Anwendungen mit Menschen interagieren, eingesetzt werden, um Emotionen zu erkennen oder Inhalte erzeugen oder manipulieren ("Deepfakes"). In diesen Fällen muss gewährleistet werden, dass Nutzer über den KI-Einsatz oder -Ursprung Bescheid wissen - davon ausgenommen sollen unter bestimmten Bedingungen jeweils KI-Systeme werden, die "gesetzlich zur Aufdeckung, Verhütung, Ermittlung und Verfolgung von Straftaten zugelassen" sind.
Quelle: Europäische Kommission
Wasserzeichen für maschinelle Bilder?
Man könnte die Anbieter verpflichten, dass bei jedem Bild, das von so einem System erzeugt wird, eben ein gewisses Muster in das Bild hinein codiert wird, das das menschliche Auge nicht sieht, das aber von wiederum einem anderen Computer erkannt werden kann.