Eine ungewöhnliche Koalition aus Persönlichkeiten des öffentlichen Lebens, darunter Prinz Harry, Steve Bannon, Apple-Mitbegründer Steve Wozniak und KI-Pioniere, hat eine Petition gestartet, die ein Verbot der Entwicklung von KI-Superintelligenz fordert. Die Unterzeichner äußern Bedenken hinsichtlich existenzieller Risiken für die Menschheit, falls KI-Systeme menschliche kognitive Fähigkeiten übertreffen.

Wichtige Erkenntnisse

Eine breite Koalition, darunter Prominente, Wissenschaftler und politische Kommentatoren, fordert ein Verbot der Entwicklung von KI-Superintelligenz.
Die Petition zielt auf die Risiken ab, die von KI ausgehen, die menschliche kognitive Fähigkeiten übertrifft, bis hin zur potenziellen Auslöschung der Menschheit.
Die Forderung zielt darauf ab, eine breite wissenschaftliche Übereinstimmung über sichere und kontrollierbare Entwicklung sowie eine starke öffentliche Zustimmung zu erreichen.

Ein ungewöhnliches Bündnis

Prinz Harry und seine Frau Meghan, die Herzogin von Sussex, haben sich prominenten Informatikern, Ökonomen, Künstlern, evangelikalen christlichen Führern und konservativen amerikanischen Kommentatoren wie Steve Bannon und Glenn Beck angeschlossen, um ein Verbot von KI-„Superintelligenz“ zu fordern, die ihrer Meinung nach die Menschheit bedrohen könnte. Die von einer politisch und geografisch vielfältigen Gruppe von Persönlichkeiten des öffentlichen Lebens veröffentlichte Erklärung richtet sich gezielt an Technologiegiganten wie Google, OpenAI und Meta Platforms, die darum wetteifern, eine Form der künstlichen Intelligenz zu entwickeln, die den Menschen bei vielen Aufgaben übertreffen soll.

Die Forderung nach einem Verbot

Die 30-Wort-Erklärung besagt: „Wir fordern ein Verbot der Entwicklung von Superintelligenz, das nicht aufgehoben wird, bevor ein breiter wissenschaftlicher Konsens darüber besteht, dass dies sicher und kontrollierbar geschehen wird, und eine starke öffentliche Zustimmung.“ In einem Vorwort heißt es, dass KI-Werkzeuge zwar Gesundheit und Wohlstand bringen könnten, aber neben diesen Werkzeugen „haben viele führende KI-Unternehmen das erklärte Ziel, in den nächsten zehn Jahren eine Superintelligenz aufzubauen, die Menschen bei praktisch allen kognitiven Aufgaben erheblich übertreffen kann. Dies hat Bedenken hervorgerufen, die von menschlicher wirtschaftlicher Obsoleszenz und Entmachtung, Verlusten von Freiheit, bürgerlichen Freiheiten, Würde und Kontrolle bis hin zu nationalen Sicherheitsrisiken und sogar potenzieller menschlicher Auslöschung reichen.“

KI-Pioniere und überraschende Unterzeichner

Zu den Unterzeichnern gehören KI-Pioniere wie Yoshua Bengio und Geoffrey Hinton, Co-Gewinner des Turing Award, der als wichtigster Preis der Informatik gilt. Hinton erhielt letztes Jahr auch einen Nobelpreis für Physik. Beide haben sich lautstark für die Gefahren einer Technologie eingesetzt, die sie mitgeschaffen haben. Die Liste enthält jedoch auch einige Überraschungen, darunter Bannon und Beck, in einem Versuch der Organisatoren der gemeinnützigen Future of Life Institute, die Bewegung „Make America Great Again“ von Präsident Trump anzusprechen, obwohl die Mitarbeiter des Weißen Hauses von Herrn Trump versucht haben, die Grenzen der KI-Entwicklung in den USA zu reduzieren. Ebenfalls auf der Liste stehen Apple-Mitbegründer Steve Wozniak, der britische Milliardär Richard Branson, der ehemalige Vorsitzende der US-Generalstabschefs Mike Mullen und die demokratische außenpolitische Expertin Susan Rice.

Debatten und Bedenken

Die Erklärung dürfte anhaltende Debatten in der KI-Forschungsgemeinschaft über die Wahrscheinlichkeit übermenschlicher KI, die technischen Wege dorthin und die Gefährlichkeit auslösen. „Früher waren es meistens die Nerds gegen die Nerds“, sagte Max Tegmark, Präsident des Future of Life Institute und Professor am Massachusetts Institute of Technology. „Ich habe das Gefühl, dass wir hier wirklich sehen, wie die Kritik sehr Mainstream geworden ist.“ Die Kennzeichnung erschwert die Diskussionen. Dieselben Unternehmen, die auf das hinarbeiten, was einige Superintelligenz und andere künstliche allgemeine Intelligenz (AGI) nennen, blähen manchmal auch die Fähigkeiten ihrer Produkte auf, was sie marktfähiger macht und zu Bedenken hinsichtlich einer KI-Blase beigetragen hat. OpenAI wurde kürzlich von Mathematikern und KI-Wissenschaftlern verspottet, als ein Forscher behauptete, ChatGPT habe ungelöste mathematische Probleme gelöst – dabei fand und fasste es lediglich bereits online verfügbare Informationen zusammen.