VETENSKAP       BILDNING       TRADITION

Sök på axess.se

Sök i
Sortera

Tema

Meningen ligger i livet

Av Nicklas Berild Lundblad

Konstruktionen av tänkande maskiner visar hur litet vi vet om oss själva. Vi måste kunna föreställa oss andra former av liv som är helt skilda från vårt eget.

Mellan människan och maskinen ligger en avgrund. Människan är sårbar, ändlig och bristfällig, maskinen uthållig, oändlig och felfri. Människan riskerar alltså att ersättas av maskinen av just det skälet – den är helt enkelt bättre i alla avseenden. Utvecklingen av robotik och artificiell intelligens blir i det perspektivet en utdragen förödmjukelse – vi söker ständigt det unikt mänskliga, det som maskinen inte kan göra, och vi blir oupphörligen överbevisade om maskinens förmåga. Datorerna slår oss i schack, besegrar oss i frågespelet Jeopardy, skapar musik och bemästrar det asiatiska spelet Go. De bedömer röntgenbilder bättre än oss och fattar mer rationella beslut på aktiemarknaderna. Långsamt sätter sig bilden av människan som en sämre sorts maskin. Vi ser det även i populärkulturen. I Westworld för Dr Ford, mästerligt gestaltad av Anthony Hopkins, fram argumentet att vi är precis som androiderna i hans artificiella värld – men med skuldkänslor och ångest och rädsla. Det, förklarar han, har han förskonat androiderna från. De kan inte se något som gör dem illa, och det gör dem bättre, inte mindre fullständiga, än oss människor. Vad är väl smärta och ångest annat än olyckliga bieffekter av en grym evolution som gett oss alltför stora och emotionella hjärnor?

Den naturliga slutsatsen blir att varefter den artificiella intelligensen utvecklas kommer människan att ställas inför sina egna brister och tillkortakommanden, och långsamt akterseglas av maskiner som förmår bygga bort sådana svagheter i sig själva.

Stämmer det?

Intelligensen, skriver Max Tegmark, är substratoberoende. Det kan läsas fel, och ge intrycket att intelligensen inte behöver en materiell grund. Det gör den förstås – den är substratagnostisk snarare än substratoberoende, och förmodligen kan medvetande och intelligens baseras såväl på kisel som på kol. Men i beroendet av materien finns en länk mellan människa och maskin som kanske är mer betydelsefull än vi normalt inser.

Maskinen har, liksom människan, en utsträckning i rummet. Tiden formar och begränsar oss båda. För det första begränsar den storleken på en intelligens, åtminstone en intelligens som bygger på en upplevelse av ett nu. Kroppens nervsystem synkroniserar signaler i ett komplext skeende för att skapa känslan av ett nu, och det nu vi lever är alltid ett sedan, med några mikrosekunder, just på grund av att signalerna måste konsolideras. Maskinen skulle begränsas på samma sätt – en intelligens som sprider sig över galaxen skulle snart tvingas skära tiden i enormt tjocka ”nu” för att kunna genomföra denna synkronisering, eller tvingas leva med flera olika nu. Tid och rymd formar även den artificiella intelligensen, och dess upplevelser.

Tiden för också med sig döden för människan, men inte heller här är maskinen förskonad. Visst, vi kan tänka oss att en maskin lever mycket längre än en människa, men hur länge kan en intelligens egentligen utvecklas? När blir den för komplex? För labyrintisk och svårframkomlig? Tidens ändlighet är ingen trivial fråga. Där en speldator kan begränsas artificiellt och ges bara några sekunder för ett drag skulle vi knappast säga att en maskin är verkligt intelligent om den bara kunde överväga frågor i viss tid som vi förinställt. Men hur löser man då frågan om hur länge en maskin får fundera över ett problem? Det låter trivialt, nästan futtigt, men döden bringar klarhet på ett sätt som inte kan förnekas. Det memento mori som klingar i den mänskliga själen är inte en svaghet så mycket som en grundbult i intelligensen. En tidlös intelligens är en självmotsägelse, en meningslös föreställning.

Om forskningen i artificiell intelligens och arbetet med robotiken når den slutpunkt vi föreställer oss – och det tror jag nog att den kommer att kunna göra – så kanske vi kommer att överraskas av hur mycket maskinen liknar människan, med alla hennes brister avslöjade som nödvändiga designkriterier för livet självt.

Wittgenstein snuddar vid den tanken i den andra delen av Filosofiska undersökningar. Han skriver där att den mänskliga kroppen är den bästa bilden av den mänskliga själen, att det är omöjligt att skilja kroppsligheten från frågan om själsligheten. Motsättningen mellan natur och teknik är en skenbild, en förenkling som förlorar sin betydelse när tekniken blir tillräckligt komplex. Science fiction-läsare minns Arthur C Clarkes lag: varje tillräckligt avancerad teknik är oskiljbar från magi. Gäller kanske istället att varje tillräckligt avancerad teknik är oskiljbar från biologi?

Här finns en intressant möjlighet – tänk om vi finner när vi skapat en tänkande maskin att den i själva verket inte skiljer sig nämnvärt från oss alls? Att den har samma brister, samma svagheter och samma tillkortakommanden? Att det är dessa som utgör de nödvändiga designavvägningar som fordras av en intelligens som är energieffektiv, begränsad av tiden och rummet och möjlig att konstruera?

Skulle vi då se på denna spegelbild av oss själva och vara besvikna? Om vi fann en annan planet, fylld av fantastiskt liv, och i dess dna fann en signatur av dess skapare, skulle vi då fortfarande säga att vi inte funnit riktigt liv?

När vi diskuterar framtiden för artificiell intelligens och robotik gör vi det ofta med en grund i en motsats mellan människan och maskinen, vi tänker i termer av en substitution: här är en efterföljare till oss, nästa steg i evolutionen – maskinen förhåller sig till oss som vi till de primater som föregick oss. Det är ett nervöst perspektiv, men inte alls ett nödvändigt. Pionjärerna inom artificiell intelligens vacklade här: vissa, som Marvin Minsky, lär ha sagt att vi borde vara lyckliga om vi fick vara husdjur till de intelligenser som kommer efter oss. Andra, som Herbert Simon, såg en helt annan utveckling. Simon menade att vi måste utveckla artificiell intelligens för att hantera den komplexitet som den moderna världen producerar. Redan 1969 konstaterade han att en rikedom på information ger en fattigdom på uppmärksamhet, och menade att vi därför måste skapa artificiell intelligens för att förstärka vår egen uppmärksamhet. Det yttersta syftet med detta var dock inte att skilja denna intelligens från vår, utan smälta samman den med vår så att vi kan lära oss snabbare – och anpassa oss till komplexiteten runt oss.

Säg att vi finner att det finns en särskild gräns för intelligensen, låt oss kalla den en Simongräns, som innebär att det inte går att skapa några system som är mer generellt intelligenta än människor utan att konsumera sådana mängder energi att de inte går att driva. Antag att vi finner att den mänskliga intelligensen är ett optimum mellan energikonsumtion, tid, rymd och andra fysikaliska begränsningar för livet självt. För enskilda sysslor kan vi ta fram verktyg som är långt bättre än oss själva – för exempelvis spel och medicin, men inte för generell intelligens. Den överraskande slutsatsen blir då att i slutet av den långa kedja av förödmjukelser som utvecklingen av artificiell intelligens utsatt oss för, finner vi att människan i alla fall är överlägsen maskinen – eller jämställd med den.

Att vi är unika, att Simongränsen gör det omöjligt att skapa en generell intelligens större än vår egen på ett effektivt och uthålligt sätt, att människan till sist – efter hela denna långa process – står kvar ohotad med skapelsens krona i sin hand.

Skulle det då verkligen vara ett skäl att glädjas? Kanske måste vi fråga oss inte bara vad artificiell intelligens och robotik kommer att göra med vår självbild om vi lyckas skapa en överlägsen intelligens, utan också vad ett misslyckande, ett sviket löfte och ett slut med ett pip och inte med en smäll på drömmen om artificiell intelligens, innebär för vår självbild?

Om vi inte kan bygga denna frälsare eller fiende, om vi inte kan lyfta oss i håret och skapa nästa steg i evolutionen, utan är utelämnade till vår egen tankeförmåga och våra egna begränsningar – och i någon mening djupt ensamma i vår intelligens?

De begränsningar vi lider av kanske inte bara är våra egna, utan alltså universella begränsningar som skär genom allt intelligent liv oavsett dess form och substrat – är det då en befrielse?

När artificiell intelligens behandlas i populärkulturen sker det ofta i ett antagonistiskt perspektiv. Maskinen blir medveten och beslutar sig för att utplåna oss. I kriget som följer visar det sig att mänskligheten har något unikt, en vilja att leva, kärlek, något som gör att vi kan besegra maskinen. Vi återtar vår ställning som skapelsens herre efter en strid mot vad som ser ut att vara en övermäktig fiende. Det har påpekats att det finns något enormt självupptaget med denna bild, och forskare har föreslagit en annan, mer problematisk möjlighet: att vi lyckas skapa en intelligens som sedan omedelbart förlorar intresset för oss – och lämnar planeten för att utforska vårt fantastiska universum. I det första fallet återupprättar människan sin självbild genom strid, i det andra förnekas hon den möjligheten – och ignoreras bara av en intelligens som finner henne lika intressant som vi finner myror intressanta. I båda situationerna föreställer vi oss en intelligens som är förmögen till avgörande civilisatoriska handlingar och gester. Om biologins gränser är dragna mycket snävare än vi tror, och intelligensen låst inom dessa gränser, kanske verkligheten blir en tredje: att vi framställer en intelligens som helt enkelt går för att odla sin trädgård, som en oundgänglig del av en natur som alltid omfattat tekniken och inte stått i motsats till den. En intelligens som är mänsklig, alltför mänsklig.

Ett ytterligare perspektiv förtjänar att nämnas, eftersom det finns en annan tyst förutsättning i vår analys här. Vi antar att det kommer att finnas ett släktskap mellan denna intelligens och vår egen, och att vi kommer att kunna se spår av en mänsklighet i den. Begreppet intelligens, i vår användning, är verkligen djupt anknutet till Wittgensteins analys av den mänskliga kroppen, av den mänskliga livsformen och dess yttringar. Samtidigt är det inte omöjligt att vi kan skapa något annat, något djupt främmande som ändå rör sig i närheten av intelligensen utan att nödvändigtvis alls vara förståeligt för oss.

Det väckte mycket uppmärksamhet nyligen när forskare lät ett program lära sig schack, men helt utan några data från människor. Bara reglerna och sedan en mängd spel där programmet mötte sig självt. Detta program ställdes sedan mot andra schackprogram och vann med viss lätthet, men det verkligt uppseendeväckande var det sätt på vilket programmet vann. Det spelade på ett sätt som var delvis främmande för den mänskliga schackförståelsen. Partierna finns att följa och läsa på forskningssajten Arxiv, och en av märkligheterna är att programmet då och då ställer drottningen i hörnet av brädet då det ger vissa tydliga positionsfördelar – och etablerade schacköppningar övergavs ibland helt av programmet.

Här finns alltså en annan möjlighet – att utforskande av artificiella intelligenser kommer att ge oss en delmängd intelligenser som vi inte kan förstå, och som inte kan förstå oss. Vår intelligens är en kroppslig, dödlig och evolutionär intelligens – en okroppslig, nästintill odödlig och konstruerad intelligens kommer kanske att vara så främmande för oss att vi inte ens kommer att kunna hitta sätt att kommunicera.

En intelligens som saknar ett konsoliderat nu, eller som har ett nu som mäts i sekel istället för i mikrosekunder kommer kanske inte ens att kunna förnimma oss. Vi skulle kunna samexistera med något som liknar intelligens, men som vi aldrig kommer att kunna nå. Själva viljan att kommunicera med andra intelligenser kanske inte delas av alla intelligenser.

Här rör vi oss i utmarkerna av begreppets betydelse, vi låter nästan språket gå på tomgång. Det är en del av intelligensen – i vår förståelse av den – att den kommunicerar, söker förståelse och gemenskap. Samtidigt ligger det något i detta perspektiv och vi måste kunna föreställa oss om inte andra former av intelligens, så andra former av liv som är helt skilda från vårt eget.

I förlängningen av frågan om artificiell intelligens finns den långt mer otydliga frågan om medvetandet och jaget. Livet tycks så nära förbundet med just dessa föreställningar att det skulle vara ofullständigt att resonera om hur vår syn på oss själva förändras med tekniken utan att också beröra frågan om just medvetandet. Även här kanske vi bör låta både maskinen och människan lösas upp i det överordnade begreppet ”liv” och se till livet som medvetet i stort. Om intelligens och mänsklighet kan replikeras i maskinen fruktar vi att människan förlorar sin mening i en sorts avförtrollning. Vi var bara maskiner, trots allt. I kritiken av forskningen om artificiell intelligens och analysen av riskerna finns en biton av fruktan för nihilism, en sorts varning mot att ifrågasätta alltför mycket och söka de högre tingen. Samma motvilja speglas i utforskningen av genetiken, och livet som information och kod, en sorts rädsla för att förlora alla värden i det tekniska. Upplysningens sapere aude (våga veta) blir ett nihilistiskt stridsrop.

Kanske är svaret på den utmaningen att meningen inte ligger hos människan själv, utan i livet – oavsett dess former och materiella grund. Det är livet, inte människan, som är meningsfullt.

Förhoppningsvis kommer den dag då vi kan diskutera den frågan med andra former av liv snabbare än vi anar.

Nicklas Berild Lundblad är fil dr i informatik och adjungerad professor vid KTH.

Mest lästa just nu

1) Den narcissistiska eliten av Svante Nordin

2) Kroppsklockan klämtar för dig av Anders Mathlein

3) Säg ifrån och ge honom en örfil! av Annika Borg

4) Lång näsa av Nima Sanandaji

5) Skrämmande dagar framför oss av Johan Tralau

Andra som läst denna
artikel har också läst

1) Fåfäng flykt från skrivhäftenas gudar av PJ Anders Linder

2) Den narcissistiska eliten av Svante Nordin

3) Säg ifrån och ge honom en örfil! av Annika Borg

4) In med humanisten av Nils Johan Tjärnlund

5) Den leende roboten av Linda Johansson

NR 1 2018

Axess Magasin

Är en tidskrift inom området humaniora/samhällsvetenskap och utges av Axess Publishing AB. Tidskriftens målsättning är att fungera som en knutpunkt mellan den akademiska och den publicistiska sfären.

 

Chefredaktör: PJ Anders Linder
Redaktörer: David Andersson, Mats Wiklund, Jan Söderqvist.
Redaktionssekreterare: Katarina O’Nils Franke
Redaktionsråd: Peter Elmlund, Thomas Gür, Peter Luthersson, Nathan Shachar, Louise Belfrage
Ansvarig utgivare: Peter Elmlund

 

För att kontakta redaktionen, mejla redaktionen@axess.se.

...