: Was tun, damit KI nicht zur Gefahr wird?
Forscher diskutieren über KI-Regeln
Der UN-Sicherheitsrat hat sich erstmals mit den Chancen und Risiken Künstlicher Intelligenz befasst. UN-Generalsekretär Guterres warnte vor den Gefahren der Technologie.
19.07.2023 | 00:15 minWas Experten für KI-Regelungen fordern
Gefordert wird auch Transparenz bei den Entscheidungen. Diese müssten genau nachvollzogen werden. Nur so könne man herausfinden, wo eine falsche Entscheidung aufgrund falscher Daten oder aufgrund einer falschen Gewichtung im neuronalen Netz getroffen wurde.
Generell müsse laut Experten ebenfalls reguliert werden, dass die jeweilige Wissensbasis, auf deren Grundlage ein KI-System Lösungen entwickelt, also Entscheidungen trifft, geprüfte Daten enthält. Hier dürfen nur verifizierte Daten gespeichert sein. Dies sei bislang häufig nicht der Fall.
Riskante Software als Geschäftsgeheimnis
Künstliche Intelligenz birgt neben Chancen auch zahlreiche Risiken. Das Europäische Parlament hat heute einen Gesetzesentwurf zur Regulation von KI vorgelegt.
14.06.2023 | 01:38 minWie KI-Fehler identifiziert werden
Zum einen prüfen KI-Entwickler, mit welchen Daten die KI-Software sich für die Verwechslung entschieden hat. So kann dann erkannt werden, dass die gelieferten Sensordaten falsch erfasst wurden, im Fall der himmelblauen Lackierung die von einer Kamera gelieferten Bilder.
Waren die Eingabedaten jedoch in Ordnung, müssen die Entwickler weitersuchen. Dann müssen sie die KI-Software insgesamt analysieren. Das fällt bei komplexen neuronalen Netzen mit Millionen von Neuronen und mehreren tausend Entscheidungspunkten nicht leicht.
Mustererkennung ist anfällig
Scoring mit KI-Unterstützung: Verbreitet und riskant
Ähnlich entscheiden KI-Scoring-Systeme über Kreditvergaben. Das Verfahren für diese Berechnung ist dabei intransparent. Dies kann für den einzelnen Bankkunden negative Folgen haben - etwa, dass er keinen Kredit bekommt.
Für eine Volkswirtschaft kann es kritisch werden, wenn solche KI-Systeme an der Börse mit Wertpapieren handeln. Mitunter wetten bestimmte Handels-Algorithmen auch auf abstürzende Wertpapiere. Das hat in der Vergangenheit bereits zu Unruhen an den Börsen geführt.
- UN-Studie: Künstliche Intelligenz ist kein Jobkiller