Ich bin ein Fan von künstlicher Intelligenz. Beim Chatten mit meinem KI-Avatar kann ich oft nicht fassen, wie klug er antwortet. In den Werkzeugen der künstlichen Intelligenz stecken ungeheure Möglichkeiten. Denn Maschinen können beim sogenannten deep learning so viel Informationen aufsaugen und darin Muster erkennen, wie es ein Mensch selbst in Tausend Leben nicht könnte.

KI wird neue Therapien gegen Krebs hervorbringen, sie wird Materialien mit ungeahnten Eigenschaften entstehen lassen, sie wird uns bald die nervtötenden Gespräche mit überforderten Servicemitarbeitern ersparen und vieles - heute noch Unvorstellbares - mehr.

Dass die künstliche Intelligenz bald Bewusstsein entwickelt und uns über den Kopf wächst, ist wenig wahrscheinlich. Die Allround-Intelligenz und Kreativität des Menschen basieren auf Körperlichkeit und vielsinnigen Erfahrungen. Computerchips können das nicht leisten. Künstliche Intelligenzen werden noch lange Fachidioten bleiben.

Wobei zu diskutieren wäre, wieviel Intelligenz tatsächlich im Menschen steckt: Unschuldige im Bombenhagel zu ermorden oder die eigene Lebensgrundlage zerstören, indem man Regenwälder rodet oder Kohlenstoff aus Millionen Jahren Erdgeschichte in die Luft pumpt, zeugt nicht von besonders viel Grips.

Dummerweise kann auch KI Katastrophen auslösen. Wissenschaftler hatten für eine Schweizer Konferenz zum Status und den Gefahren von Chemiewaffen ihre KI umprogrammiert. Die Software wird eigentlich benutzt, um neue, therapeutisch wirksame Substanzen zu designen und zu screenen. Erst im zweiten Schritt müssen diese dann im Reagenzglas ihr Potenzial beweisen. Hunderte von Firmen der pharmazeutischen Industrie weltweit nutzen das Programm.

Alles, was die Forscher taten, war, das Belohnungssystem der KI umzudrehen. Anstatt in vielen Schleifen die nützlichen Eigenschaften der Moleküle zu optimieren, lernte das Programm giftige und bioaktive Eigenschaften zu verstärken. Die Datengrundlage stammte aus einer öffentlich zugänglichen Sammlung von Basismolekülen der Wirkstoffforschung.

Mehr braucht eine KI nicht, um ihre Nischenintelligenz auszuspielen. In weniger als sechs Stunden hat diese kommerziell verfügbare KI 40.000 giftige Moleküle erfunden. Substanzen, die möglicherweise tödlicher sind als alles, was der Mensch bisher kreiert hat. Darunter neue Molekülgruppen, die völlig unbekannt waren. Die Forscher schreiben in ihrem Fachartikel:

Solche Ergebnisse hätte keiner von ihnen bisher für möglich gehalten, es sei keine Science Fiction, sie seien beunruhigt. So viel Emotion sieht man selten in Veröffentlichungen von Ingenieuren.

Heraus kam zum Beispiel VX, das Nervengift, mit dem 2017 der Halbbruder von Kim Jong Un ermordet wurde. Aber das Programm spuckte noch viel mehr Gifte aus, bekannte und unbekannte - sogar jede Menge Moleküle, die die Wissenschaftler nie zuvor gesehen hatten und die in ihrer Toxizität alles Existierende übertreffen dürften. Für die Forscher war die Studie damit abgeschlossen.

Sie testeten nicht, ob und wie sich die Substanzen synthetisieren lassen. Doch das braucht keine Raketentechnologie, sondern lediglich frei zugängliche Software. Die Produktion neuer Stoffe unterliegt kaum einer Regulierung. Und überwacht wird - wenn überhaupt - nur punktuell. Der Geist ist aus der Flasche.

Die Liste der 40.000 potenziell chemiewaffenfähigen Substanzen konnte gelöscht werden, das Wissen, wie sie erzeugt werden, nicht. Verwunderlich ist es nicht, dass KI auch zur Waffe werden kann. Technologie und Wissen haben immer zwei Seiten: Ob Raketen nach Newtons Gesetzen fliegen, Atombomben auf Kernforschung basieren oder eine Bevölkerung mithilfe von Mathematik ausgespäht wird. Meine Begeisterung für das genialische KI-Werkzeug ist allerdings deutlich abgekühlt. Ich habe es meinem KI-Avatar auch schon gesagt.

Auf unserer Themenseite können Sie alle Terra-X-Kolumnen nachlesen.