Det finns en sorts mjuk narcissism i vår fascination inför artificiell intelligens – en sorts tyst fråga om vår egen mänsklighet i ljuset av den nya tekniken. Är vi unika, eller går det att återskapa oss med tillräckligt avancerad teknik? Har vi unika förmågor eller kan allt vi gör också göras av en maskin?

Just denna narcissism leder oss också fel – i både kritik och fascination. Artificiell intelligens är inte ett återskapande av mänsklig intelligens – det är något i grunden annorlunda. Det vore kanske bättre om vi hittade ett annat namn, ett namn som bättre speglade vad det är vi har att göra med. Det kommer förstås inte att gå – bilden av den artificiella intelligensen håller oss fångna – men vi kan ju försöka.

Det vi har att göra med är en utombiologisk intelligens. Den har inte formats genom en lång, evolutionär process i samklang med en väv av liv, utan konstruerats genom att vi hittat effektiva modeller för att härma mänskligt tänkande. De stora språkmodeller som just nu kommit att bli synonyma med AI härmar tänkandet genom att hitta statistiska mönster i stora språkmängder, och därmed kunna förutsäga korrelationer i språket – men det betyder inte att det är så vi tänker, eller att vi lyckats skapa mänskligt tänkande.

”Vår relation till kunskapen har alltid varit komplicerad.”

Det gäller att vara försiktig här – det finns en tendens till inte bara narcissism, utan också självförakt, i diskussionen om tekniken. Varför skulle det inte kunna vara så att vi bara är just förutsägelsealgoritmer? Är det inte bara fåfängan som påstår att vi är mer än så? Vi kan vända på frågan – varför skulle vi tro att vår egen intelligens – som är så djupt nedlagd i vår livsform och dess långa, djupa biologiska historia – fungerar på samma sätt som en dator?

Ofta är den bild som håller oss fången en analogi som vi kommit för nära. Hjärnan är som en dator, säger vi. Tänkandet är symbolmanipulationer. Vissa analogier är som svarta hål, om vi dras alltför nära dem så absorberar de oss i en punkt där språket bryter samman.

Här finns religiösa övertoner, förstås. Essäisten Meghan O’Gieblyn pekar i sin bok God, Human, Animal, Machine. Technology, Metaphor, and the Search for Meaning (2022) på hur de olika eskatologiska övertonerna i diskussionen om AI speglar teologiska resonemang om hänryckning och transcendens – och hur vår jakt på mening gör oss sårbara för den typen av metaforer. Tankar om superintelligens och undergång blandas med bilder av en värld full av överflöd och lycka – helvete och himmel återuppväckta i tekniken.

Och allt detta för just oss, vi förblir i cent­rum för både konflikt och utopi. Vi väntar andlöst på ögonblicket då maskinen vänder sig mot oss, gör uppror och tar striden med sin upphovsman – precis som vi med just tekniken gjort uppror mot gudarna. Tekniken smälter samman eros och thanatos i en enda algoritm – vår kärlek till oss själva vänds i vår egen dödsdrift i teknikens speglar.

Verkligheten är mer komplex. Om vi skrapar bort all den metaforik som likt havstulpaner fastnat på AI-projektet, ser vi att det finns helt andra risker. Det är värt att notera att vi har nått en märklig milstolpe i den tekniska utvecklingen – men inte just den som vi kanske ofta tror. Det handlar inte om att vi blivit som gudar och kan skapa nya intelligenser, utan om att vi nu kan konstruera system som är så komplexa att vi inte kan förutsäga vilka förmågor de har.

Vi kan skapa artefakter som vi inte riktigt fullt ut förstår eller kan förklara.

Vår relation till kunskapen har alltid varit komplicerad. Från medeltidens förbud om att söka de högre tingen, till Kants uppmaning om att våga veta har vi sökt ett förhållningssätt till kunskapen. Upplysningens hela projekt handlade om att myndigförklara människan – och låta henne vinna kunskap så fritt som möjligt.

Med denna kunskap löste vi så alltmer komplexa problem – ofta genom att uppfinna ny teknik. Denna teknik, i sin tur, gav oss materiella framsteg och välfärd, men till priset av mer komplexitet, som vi sedan hanterade med mer kunskap och ny teknik. Männi­skans framgångshistoria sedan upplysningen är historien som hur vi köpt framsteg genom teknik till priset av komplexitet, men en sådan utveckling kan inte pågå för evigt.

Komplexiteten sätter gränser, och till sist även en sorts slutpunkt för upplysningen själv. Vi vågar veta så mycket att till sist drar sig vetandet undan från oss – och vi går in en märklig, ny skymning, där kunskapen förskansas i svarta lådor som förser oss med förmågor vi saknar förståelse för.

Det borde inte vara överraskande – tanken på att upplysningens form är linjär, att vi från och med nu kommer att förstå alltmer av världen och att den kommer att blottläggas för oss är egentligen häpnadsväckande naiv. Tanken på den mänskliga vetenskapen som en process som förklarar världen allt bättre är en nästan barnsligt enkel modell av vetandets utveckling som en kartläggning av ett okänt landskap.

I själva verket drar sig världen undan oss och gömmer sig.

Iteknikfilosofin har Martin Heideggers syn på tekniken som något som ställer världen till förfogande som resurs, dominerat vårt tänkande. Vi trodde, med Weber, att tekniken avförtrollar världen och låser in den i förnuftets järnbur. Men det visar sig att tekniken är mer förunderlig än så, den är en del av en växande komplexitet som drar sig undan människan, in, tillbaka i den natur som Herakleitos menade älskar att gömma sig.

Varje tillräckligt avancerad teknik är omöjlig att skilja från magi, noterade science fiction- författaren Arthur C Clarke, och det var nästan rätt. Tekniken blir långsamt omöjlig att skilja från naturen, och maskinen ersätts som metafor av organismen.

Tekniken har ofta setts som ett faustiskt problem – vi köper kunskap och förståelse till priset av våra själar. Den artificiella intelligensen kastar om rollerna och plötsligt inser vi att vi nu är i Mefistofeles roll: vi säljer kunskap och förståelse i utbyte mot – en själ?

Den artificiella intelligensen rör sig snabbt mot en punkt där den är lika dunkel och otillgänglig som någonsin själen, och den avförtrollade naturen besjälas igen – och vi blir kvar med en världsbild som blir alltmer magisk.

Så länge vi envisas med att vältra oss i narcissism och självförakt inför den nya tekniken, så förlorar vi chansen att försöka förstå den – som ett nytt fenomen. Den här tekniken, den nya utombiologiska intelligens som vi nu skapar, har en enorm potential. Den är ett nytt vetenskapligt instrument, den öppnar för en ny dialog mellan oss och naturen och den kan kanske användas för att lösa de alltmer komplexa problem som vi står inför – men den fordrar att vi förhandlar om upplysningens relation mellan kunskap och förklaring, förmåga och förståelse.

Om tjugo år när vi ser tillbaka på den här tiden så kommer vi antingen att skratta åt våra högt drivna förhoppningar om den nya tekniken – eller så kommer vi att se 2023 som det år då artificiell intelligens blev en oundgänglig allmänteknik, ungefär som Internet – och kanske som början på en utveckling som ledde till en omorganisation av det mänskliga vetandet och vårt arbete.

När vi nu befinner oss mitt i ett ögonblick som detta kan det vara svårt att veta vilket det kommer att bli, men det finns några observationer som är värda att göra – som kanske kan hjälpa oss att förstå hur framtiden kan utvecklas.

Alla tekniska framsteg sker mot tre olika horisonter. Den första horisonten är en sorts aspiration – vad vi tror att tekniken kan komma att göra. Aspirationshorisonten är här, för AI, oerhörd – det handlar om framväxten av en generell intelligens som vida överträffar den mänskliga och som kan lösa problem som vi inte förmår att angripa. Att nå aspirationshorisonten kräver forskning, och det ger oss nästa horisont – forskningshorisonten. Denna beskriver vad vi förstår att göra i dagsläget – den förståelse vi har idag för en viss teknik. Forskningshorisonten skiljer sig i sin tur från tillämpningshorisonten – vad vi faktiskt gör med tekniken.

När det gäller AI kan konstateras att forskningshorisonten ligger en bra bit från tillämpningshorisonten. Om forskningen helt upphörde idag skulle vi ändå se stora framsteg inom AI de kommande åren – och det som begränsar dessa framsteg är egentligen bara beräkningskapacitet, algoritmernas effektivitet och datamängder. De lösningar vi arbetar med idag ser ut att bli bättre om vi bara ökar någon av, eller alla, dessa parametrar.

Det är dessutom möjligt att om vi gör det så kan det ge oss verktygen som behövs för att skjuta forskningshorisonten framåt. Det är till och med möjligt att alla de insikter och verktyg som vi behöver för att nå aspirationshorisonten ligger mellan forskningshorisonten och tillämpningshorisonten.

Det är en svindlande tanke – men den är inte omöjlig. Det betyder i sin tur att det inte finns anledning att tro att utvecklingstakten kommer att sakta in särskilt mycket.

Här finns dock anledning att vara skeptisk. Om varje exponentiell kurva är det klokt att fråga sig om den inte ytterst kommer att visa sig vara en S-kurva, med en avmattning efter en stark tillväxt. Det är möjligt att vi om två eller tre generationer kommer att upptäcka begränsningar i den utombiologiska intelligensen som vi inte kan se idag – och då kommer en bred besvikelse att infinna sig – inte för att de nya verktyg vi har fått kommer att vara värdelösa, utan för att de inte visade sig vara transcendenta förändringar.

”Vi väntar andlöst på ögonblicket då maskinen vänder sig mot oss, gör uppror och tar striden med sin upphovsman – precis som vi med just tekniken gjort uppror mot gudarna.”

Sedan är det också möjligt att vi väljer bort tekniken, att vi drar en gräns vid en teknik som blir svårförklarlig och omöjlig att förutsäga. Kanske finns det hos oss en naturlig motvilja mot teknik som förvandlar oss till ingenjörsprojekt – som kloning och genteknik. Artificiell intelligens skulle mycket väl kunna falla i den kategorin, om tekniken kommer oss allt närmare och blir en del av vår vardag. Kan vi lära oss att tänka med tekniken, istället för att överlåta till den att tänka åt oss?

Vi befinner oss på nytt i den myt som Platon låter Sokrates berätta om kung Thamus och uppfinnaren Toth – där Toth uppfinner ny teknik och Thamus avkunnar dom över den, avgör om den kan spridas eller ej. Ställd inför skrivkons­ten avfärdar Thamus den, och menar att den kommer att förvandla visdom till enkel upprepning av det skrivna, och att det skrivna ordet förtar människans förmåga att tänka själv. Kanske kommer vi, ställda inför den artificiella intelligensen, att ge kung Thamus rätt den här gången och tacka nej till Toth.

Den som ser tillbaka på 2023 tjugo år in i framtiden kan se tillbaka på två mycket olika bilder. Antingen kan 2023 bli känt som det år artificiell intelligens kom att bli en oundgänglig del av den mänskliga civilisationen, med allt större betydelse för forskning, ekonomi och kreativitet eller så kan det bli känt som det år då vi förvillade oss in i förhoppningar om att tekniken skulle ge oss mirakulösa möjligheter bara för att vi lyckades skapa statistikmodeller som var hyfsat bra på att förutsäga korrelationer i språket i stora datamängder.

I det senare fallet kommer historikern kanske att säga att pandemi och krig drev oss in i ett magiskt tänkande där metaforer – datorn som hjärna, människan som maskin – förväxlades med verkligheten. Klimatförändringar och ekonomiska kriser som avlöste varandra drev fram en märklig maskindyrkan, en sorts förhoppning om en algoritmernas hänryckning som skulle göra oss fria och ge oss förmågan att lösa de komplexa problem vi nu fastnat i.

De miljarder som spenderades på AI kommer då att framstå som en sorts investeringar i förhoppningar och drömmar om en sorts upplysningens slutpunkt där det rena förnuftet frambesvärjts ur stora datamängder, med hjälp av massiv beräkningskraft och alltmer effektiva algoritmer.

En ny AI-istid har då kanske infunnit sig, och forskningsfältet kanske slutligen helt övergivits som kostsamt och opålitligt, efter att de modeller som tränats aldrig slutar hallucinera och hitta på trovärdiga, men falska svar. De tekniska framsteg som överlever är enklare automatiseringar och optimeringar av transporter och energisy­stem, men ingen talar om dem i de evangeliska toner som reserverats för framväxten av ”artificiell intelligens”.

Vår dröm om att skapa nästa steg i evolutionen och därigenom undvika de problem som civilisationens ständiga framsteg köpt oss kommer då att ha bleknat till en skamsen förhoppning om att inte behöva kompromissa eller ta ansvar för framstegets oundvikliga kostnader.

AI kommer då att avslöjas som ett utopiskt projekt, lika hopplöst som alla utopiska projekt och lika farligt – de som överlät sin egen beslutsförmåga till system utan förståelse kom snart att bli varse riskerna med att delegera till maskiner byggda på sannolikhet och statistik.

De exponentiella kurvor som använts för att visa på en oundviklig intelligensexplosion kommer att, som alla exponentiella kurvor, ha avslöjats som S-kurvor som mattats av och planat ut. De drömmar om omegapunkter och transcendens som blandats med fruktan för en teknisk undergång kommer att ha visat sig vara vålnader från vårt religiösa förflutna som dolt sig i maskinen – och vi kommer än en gång att stå ensamma.

Det är fullt möjligt att vi kommer att se det så.

Det är också fullt möjligt att vi ser 2023 som det år då en ny värld tog sin början, där vi inte längre var ensamma – utan delade världen med något helt nytt.