: Wie man KI das Halluzinieren abgewöhnen kann

20.03.2024 | 08:36 Uhr
Was tun, wenn KI zu kreativ wird und wilde Dinge von sich gibt - also halluziniert, wie Experten das nennen? Der Chef eines Halbleiter-Herstellers beruhigt.
Nvidia-Chef Jensen Huang bei der Entwicklungskonferenz seines Unternehmens.Quelle: AFP
Halluzinationen - ein zentrales Problem der Verlässlichkeit von KI-Software - ließen sich nach Einschätzung von Nvidia-Chef Jensen Huang durchaus beheben. Ein Weg sei, die Software die Informationen überprüfen zu lassen. "Halluzinationen sind sehr lösbar", sagte Huang am Rande der Nvidia-Entwicklerkonferenz GTC. Als KI-Halluzinationen werden Fälle bezeichnet, in denen Software Dinge einfach erfindet.

Wenn sich ChatGPT verschätzt

Das Problem entsteht, weil Programme wie der Chatbot ChatGPT beim Formulieren von Texten Wort für Wort schätzen, wie ein Satz weitergehen könnte. Deswegen können sie manchmal völlig falsche Antworten geben, selbst wenn sie nur mit korrekten Informationen trainiert wurden.
Der Halbleiter-Spezialist Nvidia spielt mit seinen Chip-Systemen eine Schlüsselrolle im aktuellen Boom bei Künstlicher Intelligenz. Bei der GTC stellte Huang die nächste Generation der Computer-Plattform mit dem Namen Blackwell vor, auf der KI-Anwendungen effizienter laufen sollen.

Das EU-Parlament hat ein Gesetz zur Regulierung von KI beschlossen. Anwendungen werden künftig in vier Risiko-Kategorien eingeteilt: minimal, begrenzt, hoch, inakzeptabel.

13.03.2024 | 01:51 min

Huang: KI übernimmt das Programmieren

Huang zeigte sich überzeugt, dass Künstliche Intelligenz den Menschen das Schreiben von Software-Codes weitgehend abnehmen werde. Eine Zeit lang habe es geheißen, dass jeder und jede Programmieren lernen sollten.
"Ich denke, das ist falsch", sagte der Nvidia-Chef. Es sei nicht die Aufgabe der Menschen gewesen, eine Programmiersprache zu lernen. Stattdessen sollten Computer nützlich sein, auch wenn man keine Programmiersprache beherrsche.

Die Entwickler von ChatGPT haben einen Filmgenerator veröffentlicht. Er heißt Sora und kann aus kurzen Text-Vorgaben realistische Videos erzeugen.

16.02.2024 | 01:31 min

KI: Auf die Anfragen kommt es an

Man werde allerdings lernen müssen, von KI-Software mithilfe richtig formulierter Anfragen - sogenannter "Prompts" - das gewünschte Ergebnis zu bekommen. Das sei aber grundsätzlich vergleichbar mit Fähigkeiten der Menschen im Umgang untereinander:
Wenn meine Frau mit mir spricht, ist das auch Prompt-Gestaltung - und das funktioniert perfekt.
Nvidia-Chef Jensen Huang
Huang hält es für möglich, dass Künstliche Intelligenz in wenigen Jahren in verschiedenen Bereichen die Fähigkeiten von Menschen übertreffen werde - zum Beispiel bei Mathematik- und Anwalts-Prüfungen oder beim Verständnis von Texten.
Daran orientiere er sich auch in der aktuellen Debatte darüber, ob Software die Stufe der sogenannten allgemeinen Künstlichen Intelligenz erreichen werde - womit meist gemeint ist, dass sie verallgemeinern könne und den Menschen überlegen sei. Allerdings - so Huang - gebe es keine Definition dafür, über die sich alle einig seien.
Quelle: dpa

Themen

Mehr zum Thema