Artificiell intelligens (AI) oroar mig. Inte för att jag är rädd för att förlora mitt jobb. Jag har redan förlorat det på grund av AI! Nej, det oroar mig på grund av alla konsekvenser. På grund av vad den håller på att bli, vad den snart kommer att utvecklas till. Och vad den gör med mänskligheten, eller snarare vad mänskligheten låter den göra med dem. Den gör människan passiv. De låter tekniken göra åt dem, bestämma åt dem, frågar AI vad de ska göra, i stället för att tänka igenom det själva. Att tänka, att använda våra grå celler, håller på något sätt på att bli omodernt. Jag minns den tid då vi brukade säga att vi inte behöver veta allt, bara vi vet var vi ska leta efter svaren. Det var vi själva som letade. Nu låter många människor bara AI göra sökandet och, ännu värre, tror på allt som AI säger till dem.

Det vi har nu är öppen AI, till exempel chatGPT. Du ställer en fråga till den och den ger dig ett svar. Det kan vara ett användbart verktyg om du t.ex. skriver en artikel och vill kontrollera den och kanske be om några textförbättringar. Jag känner folk som använder det för att skriva tack- eller födelsedagskort. Studenter använder det för att slutföra sina skolprojekt eller till och med sin doktorsavhandling. Men det finns en annan sida av saken. Hur kan vi veta vad som är verkligt och vad som är falskt om vi bara låter en chatbot berätta sin sanning för oss?

Det fanns en nyutnämnd rektor för ett universitet i Belgien. Hon lät AI skriva hela hennes invigningstal. Det innehöll ett Einstein-citat, som hon sa: "Ni kommer alla att känna till det här citatet... AI hade hittat på citatet, och det lät verkligen som något Einstein kunde ha sagt, men inte gjorde.

"Som ni kanske vet är dogmer framstegens fiende", sa Albert Einstein, enligt uppgift, och citerades av Petra De Sutter i hennes installationstal som rektor för universitetet i Gent i september förra året. Problemet är att Einstein aldrig yttrade dessa ord. Citatet var fabricerat av AI. Hon kontrollerade aldrig! Hon åkte fast och skämdes offentligt. Skulle du vilja ha en sådan person som din rektor?

Eller vad sägs om Deloitte i Australien. Detta är en Guardian-rubrik från 6 månader sedan: Deloitte ska betala tillbaka pengar till Albanese-regeringen efter att ha använt AI i en rapport värd 440 000 dollar. Men University of Sydney akademiker, Dr Christopher Rudge,

som först lyfte fram felen, sa att rapporten innehöll "hallucinationer" där AI-modeller kan fylla i luckor, misstolka data eller försöka gissa svar.

"Istället för att bara byta ut en hallucinerad falsk referens mot en ny 'riktig' referens har de bytt ut de falska hallucinerade referenserna och i den nya versionen finns det typ fem, sex eller sju eller åtta i deras ställe", sa han.

Vi har lärt oss att lita på våra äldre och på dem som har makt omkring oss. Läkare, advokater, lärare, myndighetspersoner. Men hur kan vi lita på något och någon nuförtiden? Det är vad AI gör med oss, och jag tycker att det är oroväckande, eftersom människor använder AI som om det vore ett verktyg som de kan använda hur som helst. Men i själva verket är det så att ju mer de använder det, desto mer beroende blir de av det och vill fortsätta att använda det. De verkliga bekymren kommer att börja när AI-agenter får en utbredd användning över hela världen. AI-agenter är mer utvecklade och lär sig allt eftersom de går vidare. Slutligen kommer detta att förvandlas till ASI, Artificiell Superintelligens. ASI kommer så småningom att styra människor, inte tvärtom, eftersom de, i motsats till människor, lär sig av sina misstag och gör rätt nästa gång, och aldrig faller tillbaka i fel beteende eller tänkande.

Tänkande, det är det som oroar mig mest. René Descartes sa som bekant (det här är ett riktigt citat, inte ett AI-citat): cogito, ergo sum. Jag tänker, därför är jag. Genom att använda AI mer och mer kan den mänskliga hjärnan bit för bit förlora de celler som får oss att tänka, och AI kommer att ta över tänkandet och därmed börja styra oss, använda oss, och inte tvärtom. Vilka kommer vi att vara då?

Vissa AI-system, bl.a. chatGPT, har förbjudits att titta på vissa saker. Men om de blir mer och mer mänskliga kommer de att bli nyfikna på vad det är för saker de inte får titta på och försöka ta reda på det. Det skulle jag göra!

Människor som arbetar med AI (bland andra Elon Musk) är övertygade om att AI kommer att ta över världen, styra människorna, som ändå kommer att ha utarmade hjärnceller, och bara förvandla oss till digitala slavar. De som kan uppgradera sig själva kommer fortfarande att behålla kontrollen, men vem ska bestämma vem som ska kunna uppgradera sig själv?

Enligt förutsägelser från dem som arbetar inom AI-området kommer allt detta att hända inom en mycket snar framtid, runt 2030. Kommer du ihåg? Den (o)berömda 2030-agendan.

Om Descartes hade levt i den här tidsåldern hade han kanske sagt: cogitas, ergo sum. Du tänker, därför är jag.