VETENSKAP       BILDNING       TRADITION

Sök på axess.se

Sök i
Sortera

Intervju

Tro inte på spöken

Av Håkan Lindgren

Vi måste förhålla oss skeptiska till artificiell intelligens, säger Ulf Danielsson, professor i teoretisk fysik. Det finns inga som helst belägg för att datorer skulle ha ett medvetande.

Ulf Danielsson konstaterar: ”När jag räknar sitter jag oftast med papper och penna.” Det är en replik som inte låter särskilt förvånande – om man bortser från att den sägs av en professor i teoretisk fysik år 2019. Danielsson befinner sig vid den vetenskapliga spekulationens frontlinje, där man utvecklar nya idéer om mörk energi, universums ursprung och de grundläggande naturlagarna, som det sedan krävs avancerade experiment för att vederlägga eller bekräfta. Jag besöker honom i hans rum på Ångströmlaboratoriet utanför Uppsala för att intervjua honom om artificiell intelligens (AI), ett koncept som han är starkt skeptisk till. Min första fråga är hur stor nytta han själv har AI i sitt arbete. Om jag hade tittat mig lite bättre omkring när jag kom in i rummet hade jag genast märkt att ena väggen täcks av en fullskriven grön tavla med svamp och kritor.

Ulf Danielsson (UD): Det är klart att det är väldigt mycket knepig matematik som jag håller på med, men den fundamentala, riktigt teoretiska delen av fysiken har nog förändrats mindre genom historiens gång beroende på tekniken än andra delar av naturvetenskapen. Det vill säga, det är fortfarande en svart tavla, och det är fortfarande några personer som står och viftar med armarna och försöker övertyga varandra. I och för sig har jag en dator med skrivbar skärm, men den använder jag bara som ett elektroniskt ritblock, där jag fortfarande skriver för hand. Det finns en intressant fara inom mitt område, och det är någonting jag ser hos mina doktorander. Många av dem är mycket duktiga på att använda de här symbolhanteringsprogrammen, som Mathematica, och det är en otrolig hjälp, men samtidigt ser jag att man kan utveckla ett beroende av programmen. Man kan brottas med ett dataprogram som levererar svar på ens frågor, men man kommer ingen vart förrän man glömmer bort det där, sätter sig ner och verkligen försöker förstå. Grejen är att man måste göra det själv, man sätter sig med penna och papper, och då förstår man plötsligt vad allting handlar om!

Håkan Lindgren (HL): Säger du det här till dina doktorander?

UD: Javisst. Som teoretisk fysiker finns det risk att man fördummas av tillgången till elektroniken. Det är tråkigt att behöva säga det som naturvetare och teknikoptimist, men ändå måste jag säga att man inte får ha en övertro på tekniken. Många gånger är det inte resultatet för en viss beräkning som är det viktiga, det viktiga är att man faktiskt förstår. Det är klart att tekniken ger öppningar, men där finns också faran att man inte längre behöver tänka de här kreativa tankarna själv. Man tar bara all den här informationen, stoppar in den i en dator som levererar någon form av resultat, och så räcker det. Man behöver inte försöka hitta de sammanhang som faktiskt betyder någonting, som gör att det som kommer ut inte bara blir information som man har att förhålla sig till, utan där man också förstår ett resonemang som gör att man själv kan växa, och inte bara blir en passiv mottagare av den här informationen.

HL: Du tvivlar på att datorer kan bli medvetna, hur snabba och kraftfulla de än blir. Varför då?

UD: Jag är övertygad om att medvetandet är ett naturalistiskt fenomen, men de naturlagar jag känner till ger inte någon som helst indikation på att ett medvetande skulle kunna existera. Eftersom det trots allt existerar, innebär det att min förståelse av de grundläggande naturlagarna inte är fullständig, vilket inte är särskilt överraskande. Om vi nu tittar på en dator istället, då är situationen helt annorlunda. Den fysik som behövs för att kunna förklara hur en dator fungerar in i minsta detalj, det är fysik som vi helt och hållet har kontroll över. Det finns inga gåtor där, det är ingenting mystiskt med hur en dator fungerar. Av det skälet litar jag på den fysik som jag känner fullt ut när jag ska beskriva vad datorn gör, och där ser jag ingen som helst roll för det här medvetandet. Att dra slutsatsen att det skulle kunna finnas något slags medvetande, någon subjektiv närvaro inuti datorn, det är lika dumt som att tro på spöken.

HL: Något jag skulle vilja ta upp är att information och informationsteknologi har blivit vår tids viktigaste metafor. De har blivit den idé genom vilken vi förstår allting. Tidigare kunde man säga att universum var ett urverk, för att det var den mest avancerade teknologi man kände till. Nu säger man att universum är information; dit hör Max Tegmark med flera. Ännu tydligare blir det inom biologin, där datatekniken har blivit den modell genom vilken man förstår levande celler. Det viktigaste i varje system är informationen, i det här fallet generna, och resten är bara dum hårdvara. Är information en bra metafor? Vilka mentala korridorer öppnar den och vilka stänger den?

UD: Alla metaforer är begränsade. Metaforer är många gånger användbara, de kan fånga någonting i ett visst givet sammanhang, men när man upphöjer dem till någonting mer än en metafor, när de blir något slags dogm, då är det klart att man kan begå stora misstag. Man borde kunna lära sig av tidigare generationers misstag, och göra bruk av metaforerna, men man ska vara medveten om att det kommer en dag då vi kommer förbi dem och vi kommer att se någonting nytt, så har det alltid varit. Jag gjorde ett TED Talk i Lund för några månader sedan, om att det inte finns några naturlagar; i den meningen är jag konsekvent materialist. Lagar, det är någonting som vi konstruerar för att beskriva världen. Världen följer inte lagarna, det är våra lagar som försöker fånga världen.

HL: Wittgenstein har sagt: Om ett lejon kunde tala skulle vi inte förstå det. Man borde fråga sig om samma sak också gäller en medveten maskin. Föreställ dig att du ställs inför en maskin som aldrig har sovit, ätit, ramlat och slagit sig, som aldrig har varit barn, som aldrig har lärt sig någonting om världen på det sätt som en människokropp lär sig om världen, genom att gripa saker, genom att röra sig i världen som en människa rör sig. Ett medvetande som inte har några sådana erfarenheter skulle kunna vara mycket främmande för oss. Skulle vi alls kunna kommunicera med det?

UD: Jag skulle vilja gå mycket längre. Först kan man försöka göra en jämförelse med de andra medvetna varelserna som finns på den här planeten, och det är andra djur. Där kan vi nog vara rätt övertygade om att de är medvetna, eftersom det finns ett kontinuum, vi har samma ursprung. Och där har vi ju Thomas Nagel, filosofen som ställer frågan hur det är att vara en fladdermus. En fråga som förmodligen är helt omöjlig att besvara, eftersom det enda sättet att förstå svaret är just att vara en fladdermus.

HL: Fast frågan är spännande. Den uppmanar mig att tänja min inlevelse lite längre än det går. Det kan vara nyttigt att göra den ansträngningen.

UD: Ja, man kan göra ett försök. När man upptäcker svårigheten att besvara den här frågan har man kommit en lång bit på väg. Men det du säger om hur vårt medvetande formas av vår fysiska närvaro – det är det som är det centrala, och min misstanke är att det är just det som krävs för att vi överhuvudtaget ska kunna ha ett medvetande.

HL: Att vi har en kropp, menar du?

UD: Att vi är en kropp. Min grundläggande inställning är naturalistisk, jag tror inte alls på någon form av dualism. Den cartesianska dualismen med den här själen som passivt observerar världen från en upphöjd position, och som kan förstå världen utan att själv vara en del utav den – det är precis den bilden som har övertagits av många av dem som hyllar artificiell intelligens, och som tror att medvetandet kan uppkomma i en dator. Man underskattar den biologiska kroppens avgörande betydelse för medvetandet. Då kommer också den här absurda slutsatsen att vårt medvetande skulle kunna laddas upp i en dator. Man tror sig ha gjort sig av med en religiös ryggsäck, men vad det i grund och botten handlar om är att man hittar tillbaka till den här dualismen igen, från ett annat håll. Man har den här torftiga, dödliga människokroppen som vi är fångade i, och som vi vill bli fria från. Vi vill bli de här själarna som flyger upp i himlen och får evigt liv, och nu kan vi skapa det själva med hjälp av tekniken och datorkraften.

HL: När vi har kommit så här långt skulle jag vilja sabotera hela resonemanget. Ju mer jag läser och skriver om AI, desto mer tror jag att hela frågan om intelligenta och medvetna maskiner är en återvändsgränd eller ett villospår. För det första behöver maskiner inte vara medvetna för att vara överlägsna människan. Redan en miniräknare är snabbare och säkrare än jag, och ingen skulle påstå att den är medveten. Man kan utan problem föreställa sig ännu mer avancerade maskiner som är överlägsna, användbara och möjligen farliga, och som inte behöver vara ett dugg mer medvetna än en brödrost. Vi förmänskligar våra maskiner och det är inte säkert att varken de eller vi vinner något på det. En dator behöver intelligens eller medvetande lika lite som ett ånglok behöver två ben att springa med. För det andra ligger det djupt i människans sociala natur att vi kan läsa in ett medvetande i allt som omger oss. Vår inlevelseförmåga är så stor att det är fullständigt normalt för oss att ge liv åt döda ting. Vi kan tycka att en bil eller ett hus har personlighet. Om vi redan kan göra det med en bil, varför skulle vi inte göra det med en dator?

UD: Ja, det är vår tendens att tillskriva medvetande som kommer att påverka hur världen kommer att utvecklas framöver. ”Medvetande eller inte?” är en fråga som är intressant för filosofer, det kan till och med vara intressant för fundamentala fysiker som jag, men rent praktiskt för samhällsutvecklingen är frågan egentligen sekundär.

HL: När man diskuterar det här hamnar man till sist i det söndertjatade Turingtestet. Turing löser inte frågan om maskiner kan ha ett medvetande, hans resonemang är ett elegant alexanderhugg, där han förklarar att frågan om maskinens medvetande är irrelevant. Allt som betyder något är input och output. Kan maskinen simulera ett mänskligt medvetande måste vi börja betrakta den som om den hade ett medvetande. Många missar vad som händer med den andra parten i testet, människan. Om en maskin kan härma våra reaktioner perfekt förvandlas vi i praktiken till en maskin av samma sort. Vårt inre liv upphör att existera. Turingtestet börjar med en människa och en maskin, och slutar med två likadana maskiner – och med en försöksperson som inte längre kan avgöra vem som är levande och vem som är död. De långsiktiga konsekvenserna av det borde vi fundera över, etiskt och juridiskt. Kanske blir vi tvungna att ge maskinerna medborgerliga rättigheter, men det kan lika gärna leda till att det är okej att behandla människor som maskiner. De är ju inget annat, det har Turing förklarat för oss.

UD: Det är de riskerna jag ser kopplade till artificiell intelligens. Det är egentligen vad det gör med oss – och synen på oss – som är den stora faran. Jag skulle vilja att man i en lagtext formulerade att det här är maskiner, de har inget medvetande, de har inga rättigheter. Det är oerhört viktigt att man inpräntar det här. Det borde till och med vara förbjudet att bygga robotar som ser ut som människor. De skulle se ut som miniräknare. Man borde med alla till buds stående medel se till att känslomässiga relationer inte uppstår.

HL: Ska man bygga in fel eller konstigheter så att maskinerna påminner oss om att de är maskiner?

UD: Ja, kanske det! Någonting som hela tiden gör att det blir en distans i alla fall. Men risken är ju att det kommer att gå åt precis rakt motsatt håll i utvecklingen, för här finns naturligtvis en möjlighet att tjäna pengar, och spara pengar. Och är man itutad att allting bara handlar om yta, att vad som verkligen är på riktigt inte spelar någon roll, då tycker man att det här är okej, då ser man inte skillnaden. För mig är skillnaden väsentlig, därför att jag är övertygad om att det här är just bara robotar. Det är någonting genuint, någonting som är på riktigt, med att vara närvarande i den organiska, verkliga världen. Även om man lever ett ändligt, dödligt liv så är det på riktigt.

HL: Nick Bostrom, som leder Future of Humanity Institute i Oxford, hamnade en gång på samma konferens som Geoffrey Hinton, en av Googles ledande experter på självlärande system. Hinton varnade för att om AI blev verklighet skulle de första kunderna vara organisationer som NSA, FBI och CIA. I pausen undrade Bostrom varför Hinton i så fall jobbade så hårt för att AI skulle bli verklighet. ”I could give you the usual arguments”, svarade Hinton. ”But the truth is that the prospect of discovery is too sweet.” Det är ett svar som jag ofta funderar över. Vilka är de emotionella drivkrafterna hos dem som utvecklar AI, tror du?

UD: Jag tror att det där var ett ärligt svar. Det handlar om den här nyfikenheten, utmaningen att lösa de här problemen, att se: Går det här? Det handlar inte om att man vill åstadkomma någonting för mänsklighetens bästa, sådant tror jag ofta är en konstruktion. Det handlar om att vara den som verkligen lyckas genomföra det här.

HL: Är det samma drivkraft som finns i din egen verksamhet?

UD: Ja, absolut. Jag är övertygad om att det jag gör är meningsfullt på lång sikt, därför att det bidrar till att förstå vår plats i universum, rent existentiellt. Det är många som är nyfikna på det, och jag kan hjälpa till att tillfredsställa den nyfikenheten, det är någon form av kulturell gärning. Och jag kan hitta alla de här skälen till varför det jag gör är meningsfullt och rimligt, men samtidigt är det egentliga skälet på sätt och vis djupt egoistiskt, att tillfredsställa en nyfikenhet och en upptäckarglädje. Mitt område är just nu en ganska oskyldig sysselsättning, men hade jag istället varit verksam för låt oss säga 70 eller 80 år sedan, mitt i utvecklingen av kärnfysiken, då hade jag hamnat i en betydligt knepigare situation. Och då är frågan om man i det läget har civilkurage nog att se faran i det man gör, och sedan ta ansvar för det.

HL: Om man tror att idéerna om AI är farliga, hur ska man argumentera mot dem?

UD: Du menar förutom att göra det vi gör nu? Föra det här samtalet och hoppas att någon läser det, och inser att det ligger någonting fundamentalt fel i de tankar som styr den här utvecklingen.

HL: Det går aldrig att stoppa människor från att göra något genom ett förbud. Vill man få människor att släppa något, måste man erbjuda något nytt som lockar dem ännu starkare.

UD: Finns det något som är mer lockande än löftet om evigt liv? Det är ju det som den här tekniken lockar med.

HL: Vi borde utveckla en konkurrerande framtidsvision. Eller flera. Det som stör mig är att vi uppmanas att tro att framtiden redan är avgjord. AI är på väg vare sig vi gillar det eller inte, och det enda vi kan göra är att vara duktiga konsumenter och anpassa oss i förväg, trots att det vi anpassar oss till inte har blivit verklighet och kanske aldrig blir det. Man talar om AI som om det redan fanns, som om det väntade i framtiden och längtade efter att ta sig in i vår tid. Kort sagt: vi uppmanas att tänka på AI som ett foster som vi inte har rätt att abortera.

UD: Det här handlar om science fiction-drömmar, dystopier i grund och botten, som går tillbaka till ren och skär dödsångest, till ett elitistiskt sätt att se på tillvaron och världen, som jag tycker är helt avskyvärt. Det verkar ju vara så att grundlösa illusioner om evigt liv, det slår liksom allting om man tittar i den mänskliga historien. Det som jag personligen sätter upp som motvikt till det här, det är nog känslan av att vara del av ett universum som jag faktiskt inte förstår mig på.

HL: Har fysiker som du själv en uppgift i så fall? Ni skulle kunna visa på den här sortens förundran.

UD: Ja, istället för att se oss som världens herrar på något sätt, att sträva efter att bli övermänniskor, för det är vad allt det här handlar om. En föreställning om att vi är på väg upp mot en tron där vi ska härska över universum, om inte i våra biologiska skepnader så i det som kommer efter oss, när vi laddas upp och blir en del av den här tekniken. Istället ser jag det som att vi befinner oss i ett alldeles vansinnigt gåtfullt och underbart universum, som vi är en del av, i och med den här organiska materien som bär med sig så många gåtor om vad den egentligen är för någonting. Man ska vila i gåtfullheten. Inte ställa sig utanför världen, utan faktiskt uppleva att man befinner sig mitt i universum. Att ha en genuin känsla av att vara en del av kosmos, så att man får någon sorts existentiell upplevelse och kick av det. Och när det gäller frågan om evigt liv så kanske det handlar om att värdesätta det som inte är evigt och perfekt, utan det som är sårbart och ändligt istället.

Mest lästa just nu

1) Akademisk frihet på riktigt av PJ Anders Linder

2) Inte att lita på av Axel Odelberg

3) Om läget i vår demokrati av Tommy Möller

4) Sårbar okunskap av Annika Borg

5) Tro inte på spöken av Håkan Lindgren

Andra som läst denna
artikel har också läst

1) Bildsättarnas epok av Adam Cwejman

2) Om läget i vår demokrati av Tommy Möller

3) Akademisk frihet på riktigt av PJ Anders Linder

4) Till liberalismens försvar av Susanne Birgersson

5) Utan mål och mening av Lennart Berntson

NR 5 2019

Axess Magasin

Är en tidskrift inom området humaniora/samhällsvetenskap och utges av Axess Publishing AB. Tidskriftens målsättning är att fungera som en knutpunkt mellan den akademiska och den publicistiska sfären.

 

Chefredaktör: PJ Anders Linder
Redaktörer: David Andersson, Mats Wiklund, Jan Söderqvist.
Redaktionssekreterare: Katarina O’Nils Franke
Redaktionsråd: Peter Elmlund, Thomas Gür, Peter Luthersson, Nathan Shachar, Louise Belfrage
Ansvarig utgivare: Peter Elmlund

 

För att kontakta redaktionen, mejla redaktionen@axess.se.

...