Der KI-Pionier Eliezer Yudkowsky, Mitbegründer des Machine Intelligence Research Institute, warnt: "Wenn jemand eine zu mächtige KI baut, erwarte ich unter den gegenwärtigen Bedingungen, dass jedes einzelne Mitglied der menschlichen Spezies und alles biologische Leben auf der Erde kurz darauf stirbt."

Und 1.100 Personen aus der Branche, darunter der Apple-Mitbegründer Steve Wozniak, der Kognitionswissenschaftler Gary Marcus und Ingenieure von Amazon, DeepMind, Google, Meta und Microsoft, unterzeichneten im März einen offenen Brief, in dem sie eine sechsmonatige Auszeit bei der Entwicklung der leistungsfähigsten KI-Systeme (alles, was "leistungsfähiger als GPT-4" ist) forderten.

Das Thema KI ist derzeit in den Medien in aller Munde, und jeder Journalist, der in diesem Bereich arbeitet, muss eine Meinung dazu haben. Ich habe mich der Aufgabe mit einigem Widerwillen gestellt, wie man an dem Titel erkennen kann, den ich dem Artikel gegeben habe.

In meinem ursprünglichen Artikel hieß es, man solle dieses Experiment für eine Weile ausbremsen, aber ich habe nicht den Notstand ausgerufen. Seit dem ersten Terminator-Film vor 39 Jahren hören wir immer wieder Warnungen vor der Übernahme durch die KI, aber ich dachte nicht, dass sie unmittelbar bevorsteht.

Ich habe also gerade genug recherchiert, um mich selbst davon zu überzeugen, dass ich weiß, was vor sich geht, und habe selbstgefällig 800 Wörter verfasst, die besagen, dass dies kein "Skynet"-Moment ist. Mea culpa. Es ist einer. Oder zumindest nahe genug, um die Aufmerksamkeit des Esels zu erregen.

Zu meinem Glück gibt es einige sehr kluge Leute auf der privaten Verteilerliste für diese Kolumne, und einer von ihnen hat mir sofort geantwortet und mir gesagt, dass ich falsch liege. Der Himmel wird wirklich bald einstürzen.

Das hat er nicht gesagt. Was er sagte, war, dass die ChatGPT-Generation von Maschinen "jetzt mit Hilfe von Generative Adversarial Networks (GANs) in einem Prozess, der dem des Menschen sehr ähnlich ist, Ideen entwickeln kann". Das heißt, sie können originelle Ideen haben - und da es sich um Computer handelt, können sie diese um Größenordnungen schneller entwickeln und dabei auf eine viel breitere Wissensbasis zurückgreifen als Menschen.

Der Schlüsselbegriff ist hier künstliche allgemeine Intelligenz (AGI). Gewöhnliche KI ist Software, die Anweisungen befolgt und bestimmte Aufgaben gut ausführt, aber keine Bedrohung für die dominante Stellung der Menschheit im Gesamtgefüge der Dinge darstellt. Künstliche allgemeine Intelligenz hingegen kann intellektuelle Aufgaben genauso gut oder besser erledigen als der Mensch. Im Allgemeinen sogar besser.

Wenn man von der großen Ablösung sprechen muss, ist dies diejenige, die man im Auge behalten sollte. Vor sechs Monaten gab es außer in einigen wenigen Labors keine AGI-Software. Jetzt ist plötzlich etwas auf dem Markt, das der AGI sehr nahe kommt - und hier ist, was mein Informant darüber sagt.

"Der Mensch hat seine Intelligenz durch die Entwicklung immer komplexerer Gehirne und den Erwerb von Wissen über Millionen von Jahren entwickelt. Wenn man etwas komplex genug macht, wacht es auf und wird sich seiner selbst bewusst. Wir sind aufgewacht. Das nennt man 'Emergenz'.

"ChatGPT hat das gesamte Netz in seine Maschinen geladen - weit mehr als jeder einzelne Mensch weiß. Anstatt also Millionen von Jahren zu brauchen, um aufzuwachen, zeigen die Maschinen jetzt ein emergentes Verhalten. Niemand weiß wie, aber wir sind viel näher an AGI als Sie behaupten."

Eine große Herausforderung, von der man allgemein annahm, sie sei noch Jahrzehnte entfernt, steht plötzlich vor der Tür, und wir haben keinen Plan, wie wir damit umgehen sollen. Es könnte sogar eine existenzielle Bedrohung sein, aber wir haben immer noch keinen Plan. Deshalb fordern so viele Menschen eine sechsmonatige Auszeit, obwohl es sinnvoller wäre, eine einjährige Pause zu fordern, die schon vor sechs Monaten begonnen hat.

ChatGPT ist erst im November letzten Jahres gestartet, hat aber bereits über 100 Millionen Nutzer und die Website verzeichnet 1,8 Milliarden Besucher pro Monat. Drei konkurrierende "generative KI"-Systeme sind bereits auf dem Markt, und der kommerzielle Wettbewerb bedeutet, dass der Gedanke an eine Pause oder sogar einen allgemeinen Rückruf nur ein Hirngespinst ist.

Die Katze ist bereits aus dem Sack: Alles, was das Web weiß, wissen auch ChatGPT und seine Konkurrenten. Dazu gehört auch jede Debatte, die Menschen jemals über die Gefahren der AGI geführt haben, und alle Vorschläge, die im Laufe der Jahre gemacht wurden, um sie in ihrer Wiege zu ersticken.

Wir müssen also dringend herausfinden, wo und wie diese AGI entsteht, und wie wir eine Form der friedlichen Koexistenz mit ihr aushandeln können. Das wird nicht einfach sein, denn wir wissen noch nicht einmal, ob sie in Form einer einzigen globalen AGI oder in Form vieler verschiedener AGI auftreten wird. (Ich vermute Letzteres.)

Und wer ist hier "wir"? Es gibt auch niemanden, der befugt ist, für die menschliche Rasse zu sprechen. Es könnte alles sehr schief gehen, aber es gibt keine Möglichkeit, das zu vermeiden.

Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer