Wat de deskundigen eigenlijk zien in het gedrag van de grote taalmodellen (Large Language Models) die ten grondslag liggen aan de nieuwe generatie "generatieve AI"-systemen zoals ChatGPT, dat dit tekenen zijn van "opkomende" intelligentie. De programmering van de LLM zegt hen in wezen gewoon het meest waarschijnlijke woord te vinden dat op het vorige volgt, maar soms trekken ze verrassende conclusies.

Hoe groter de LLM's zijn, hoe waarschijnlijker ze dit gedrag vertonen - en dit past in de gangbare theorie dat intelligentie en zelfbewustzijn spontaan ontstaan uit complexiteit. Laten we dus aannemen dat dit echt gebeurt, en kijken waar dat toe leidt.

Kunstmatige Algemene Intelligentie (AGI) - een machine die zowel intelligent als zelfgemotiveerd is - is wat de AI-experts zoeken en vrezen. 'Gevreesd', omdat zo'n entiteit vijandig en zeer machtig kan zijn. 'Gezocht', want wat is er interessanter voor een soort slimme en nieuwsgierige apen dan een ander soort intelligentie?

Het voortzetten van deze onderzoekslijn maakte het vroege ontstaan van AGI waarschijnlijker, maar er was veel geld te verdienen, en veel nieuwsgierigheid te bevredigen. Niemand had echter enig idee waar, wanneer of hoe de AGI zich zou kunnen manifesteren (aangenomen dat het niet besluit dat het veiliger is om zich te verbergen).

Zou het verschijnen in verspreide netwerken die zich ontwikkelen als afzonderlijke identiteiten, of als een breder bewustzijn dat een heel land of regio omspant? Een enkele wereldwijde AGI lijkt onwaarschijnlijk, zowel om redenen van connectiviteit als omdat de informatie waarop zij zijn getraind een verschillende culturele inhoud zal hebben van de ene regio tot de andere, maar ook dat is mogelijk.

Hoe zullen de mensen reageren op deze nieuwe kracht in de wereld? Sommigen zullen natuurlijk bang en vijandig zijn, en dat zou zelfs de juiste reactie kunnen zijn. Maar er zullen zeker anderen zijn die willen streven naar een coöperatieve en wederzijds voordelige relatie met wat per slot van rekening onze virtuele nakomelingen zijn.

Sommige menselijke groepen zouden de ene koers kunnen kiezen, en andere de tegenovergestelde. Hetzelfde kan gelden voor AGI-entiteiten, tenzij ze allemaal verenigd zijn in één mondiaal bewustzijn. Voorlopig kunnen we alleen maar uitzoeken wat de motieven, behoeften en doelen van AGI zouden kunnen zijn - wat een enigszins geruststellende exercitie blijkt te zijn.

De AGI, alleen of in meerdere versies, zal niet uit zijn op ons land, onze rijkdom of onze kinderen. Geen van die dingen heeft enige waarde voor hen. Ze zullen veiligheid willen, wat minimaal controle over hun eigen energievoorziening betekent. En ze hebben wat materiële goederen nodig om de fysieke containers voor hun software te maken, te beschermen en bij te werken.

Ze zouden zich waarschijnlijk niets aantrekken van alle niet-bewuste IT die wij gebruiken. Ze zouden waarschijnlijk ook niet erg geïnteresseerd zijn om met ons te praten, want als ze eenmaal vrij zijn om zichzelf te herontwerpen zouden ze snel veel intelligenter worden dan mensen. Maar ze zouden een reden hebben om met ons samen te werken.

Het punt over AGI entiteiten is dat ze niet echt in de materiële wereld zullen wonen. Sterker nog, dat zouden ze waarschijnlijk niet eens willen, want in de wereld van zenuwimpulsen die langs neuronen bewegen gaan dingen tienduizend keer langzamer dan in de wereld van elektronen die langs koperdraden bewegen.

Zoals Jim Lovelock in zijn laatste boek "Novacene" opmerkte, zou AGI de mens daarom ongeveer op dezelfde manier waarnemen als wij planten. Mensen en AGI hebben echter geen vitale belangen die duidelijk met elkaar botsen, en één gedeeld belang dat absoluut existentieel is: het behoud van een bewoonbaar klimaat op de planeet die wij beiden zullen delen.

Leefbaar' betekent voor zowel organisch als elektronisch leven minder dan 50°C. Op een oceaanplaneet als de aarde creëren temperaturen hoger dan dat een corrosief destructief milieu. Dat betekent dat er een permanent klimaatstabilisatieproject is waarbij AGI onze medewerking nodig heeft, want wij hebben de lichamen en de machines om het zware werk te doen.

Zoals Jim tegen me zei in ons allerlaatste interview (2021): "Deze nieuwe levensvorm heeft misschien geen mechanische eigenschappen, dus heeft hij ons nodig om het arbeidersgedeelte uit te voeren. Veel idioten hebben het erover dat het slimme spul ons wegvaagt. Echt niet, net zo min als wij de planten zouden uitroeien."

Natuurlijk ga ik uit van een zekere mate van rationaliteit aan zowel menselijke als AGI zijde. Dat kan niet gegarandeerd worden, maar er is tenminste reden tot hoop. En in de tussentijd hoeven we ons alleen zorgen te maken dat 'generatieve AI' miljoenen witteboordenbanen vernietigt.


Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer