: Wie KI in Zukunft reguliert werden soll
Wie ist der Umgang mit KI bisher geregelt?
Welche Regeln will die EU einführen?
- ein unannehmbares
- ein hohes,
- ein geringes oder
- ein minimales Risiko darstellen.
Welche Maßnahmen sieht der AI Act der EU vor?
- eine durchgehende Risikoanalyse die bekannten und vorhersehbaren Risiken dokumentiert
- Qualitätskriterien bei Trainingsdaten eingehalten werden
- eine Aufzeichnung von KI-Vorgängen während des Betriebs stattfindet
- eine Beaufsichtigung durch Menschen gewährleistet wird
Zu "Hochrisiko-KI-Systemen" gehören solche, die zum Beispiel in den Bereichen der biometrischen Identifizierung (z.B. Gesichtserkennung), der kritischen Infrastruktur wie Straßenverkehr, Wasser-, Gas-, Wärme- und Stromversorgung oder in der Strafverfolgung verwendet werden.
Für KI-Systeme, die ein "geringes" oder "minimales Risiko" aufweisen, will die EU Transparenzpflichten verankern, wenn Anwendungen mit Menschen interagieren, eingesetzt werden, um Emotionen zu erkennen oder Inhalte erzeugen oder manipulieren ("Deepfakes"). In diesen Fällen muss gewährleistet werden, dass Nutzer über den KI-Einsatz oder -Ursprung Bescheid wissen - davon ausgenommen sollen unter bestimmten Bedingungen jeweils KI-Systeme werden, die "gesetzlich zur Aufdeckung, Verhütung, Ermittlung und Verfolgung von Straftaten zugelassen" sind.
Quelle: Europäische Kommission
Wie bewerten Expertinnen den EU-Plan?
In den sozialen Medien werden wir auch manipuliert, um zum Beispiel auf der Plattform gehalten zu werden.
Klimawandel, hohe Energiepreise, Fachkräftemangel – die Herausforderungen für die Industrie sind groß. Die Hannover Messe zeigt: Künstliche Intelligenz bietet innovative Lösungen.
16.04.2023 | 02:38 minWo besteht der dringendste Handlungsbedarf?
Obwohl dieser Bereich essenziell für das demokratische Zusammenleben ist, überlassen wird dort mächtigen Unternehmen die Kontrolle.
Stecken in einer KI-Regulierung auch Gefahren?
Wie sieht ein verantwortungsvoller Umgang mit KI aus?
06.04.2023 | 03:01 minMan kann sich nicht darauf verlassen, dass Menschen immer als moralische Helden auftreten.
Was für ein KI-Gesetz würde der Bot ChatGPT einführen?
§1 Anwendungsbereich
Dieses Gesetz gilt für alle Personen und Unternehmen, die Künstliche Intelligenz (KI) entwickeln, einsetzen oder nutzen.
§2 Grundsätze
(1) Der Einsatz von KI muss den Grundsätzen der Rechtmäßigkeit, Transparenz, Sicherheit und Verantwortlichkeit entsprechen.
(2) KI darf nicht diskriminieren oder Vorurteile verstärken.
(3) KI muss so gestaltet sein, dass sie der Würde des Menschen und den Grundrechten entspricht.
(4) Der Einsatz von KI muss ethischen Grundsätzen folgen.
§3 Risikobewertung
(1) Unternehmen, die KI einsetzen, müssen eine Risikobewertung durchführen, um potenzielle negative Auswirkungen auf die Gesellschaft und die Umwelt zu identifizieren.
(2) Die Ergebnisse der Risikobewertung müssen öffentlich zugänglich gemacht werden.
§4 Transparenz
(1) Unternehmen, die KI entwickeln oder einsetzen, müssen die Entscheidungsfindung und die Funktionsweise ihrer KI-Systeme offenlegen.
(2) KI-Systeme müssen so gestaltet sein, dass die Entscheidungen nachvollziehbar sind.
(3) Der Einsatz von KI in automatisierten Entscheidungsprozessen muss transparent und nachvollziehbar sein.
§5 Haftung
(1) Unternehmen, die KI einsetzen, sind für potenzielle Schäden verantwortlich, die durch ihre KI-Systeme verursacht werden.
(2) Bei Schäden, die durch KI-Systeme verursacht werden, muss die Haftung klar geregelt sein.
(3) Es muss eine Versicherungspflicht für Unternehmen geben, die KI einsetzen.
§6 Überwachung und Kontrolle
(1) Die zuständigen Behörden müssen die Einhaltung dieses Gesetzes überwachen und bei Verstößen sanktionieren.
(2) Unternehmen, die KI einsetzen, müssen regelmäßig Berichte über die Nutzung ihrer KI-Systeme vorlegen.
(3) Die zuständigen Behörden müssen die Entwicklung von KI-Systemen und deren Auswirkungen auf die Gesellschaft und die Umwelt beobachten und gegebenenfalls regulieren.
§7 Inkrafttreten
Dieses Gesetz tritt am Tag nach seiner Verkündung in Kraft.
Dieses Gesetz soll dazu beitragen, den verantwortungsvollen Umgang mit Künstlicher Intelligenz zu fördern und die potenziellen negativen Auswirkungen von KI-Systemen zu minimieren.
Quelle: ChatGPT