VETENSKAP       BILDNING       TRADITION

Sök på axess.se

Sök i
Sortera

Tema

Tekniken är vårt öde

Av Mats Wiklund

Den blixtrande utvecklingen inom AI och robotteknik inger både hopp och farhågor. Litteraturvetaren och författaren Svante Lovén är ambivalent inför en utveckling som inte låter sig hejdas.

Science fiction sågs under lång tid av många som enkla pojkboksäventyr om utomjordingar och strålpistoler. Men ju längre 1900-talet led, desto mer etablerade sig science fiction-litteraturen som ett kvalificerat forum för diskussion av den vetenskapliga och tekniska utvecklingen, genom pionjärer som Isaac Asimov Arthur C Clarke och Philip K Dick. På universiteten drivs sedan länge forskning kring science fiction, och i kulturdebatter och kulturjournalistik är referenser till ikoniska filmer som Blade Runner, Alien och The Matrix alldeles självklara.

Från 1980-talet och framåt kom science fiction att få en särskild relevans genom informationsteknikens framväxt, och det är en utveckling som noga följts av Svante Lovén, docent i litteraturvetenskap. Han skrev om begrepp som cybernetik och artificial intelligence på svenska kultursidor för över tjugo år sedan, och har också forskat i sådana frågor. Hans bok Also Make the Heavens. Virtual Realities in Science Fiction kom 2010 och recenserades för övrigt i Axess.

En central fråga i vårt samtal om robotar och AI är dess etiska och moraliska konsekvenser: en tilltagande upplösning av gränsdragningen mellan människa och maskin. Hur påverkar det oss som individer? Vår självuppfattning och etik? Frågeställningarna, visar det sig, är långtifrån nya utan har upptagit författare och tänkare i århundraden. Men aldrig har de väl angått så många människor som nu.

Mats Wiklund (MW): Länge var ju science fiction per definition likställd med populärkultur. Men nu tas den på allvar. Kan man förklara det med en teknikutveckling som mer eller mindre hunnit ikapp verkligheten?

Svante Lovén (SL): Teknikutvecklingen exploderade på 1990-talet, framförallt genom datorerna och internet, men också sådant som bioteknik, implantat och protesteknik som gradvis blir mer synligt och närvarande i människors liv. Det här har drivit på ett skifte i kulturdebatten, där science fiction alltmer kommit att erkännas som en relevant och viktig kulturyttring. Man kan säga att verkligheten börjar anta vissa drag som skulle kunna vara signerade av exempel Philip K Dick som nu är en del av en amerikansk litterär kanon. Grovt uttryckt handlar det om en upplevelse av upplösta gränser, som varit centrala för den klassiska humanismens världsbild – mellan människa och maskin, original och kopia, verklighet och simulering. Postmodernistiska kulturteoretiker har uppmärksammat det här skiftet: hur en äldre form av humanism och essentialism sönderfaller.

MW: Och då kommer man osökt in på begreppet virtual reality, som du skrivit om och som är närbesläktat med AI.

SL: Den simulerade verkligheten och det simulerade medvetandet har båda sina rötter i cybernetiken, som kom fram som ett eget forskningsfält strax efter andra världskriget. Väldigt enkelt uttryckt är cybernetik en tolkningsmodell där man inte gör någon skillnad mellan organiska-biologiska och tekniska-elektroniska system. Allt ses som informationsprocesser, möjliga att koda och kopiera. Om man betraktar livet och tänkandet och den fysiska verkligheten som informationsflöden blir skillnaden mellan naturliga och konstgjorda fenomen oväsentlig, brus på ytan. Den här tanken kom att bli helt avgörande för många science fiction-författare redan på 1950-talet, och kom att tas upp i Hollywood några decennier senare, med filmer som Blade Runner, The Matrix och Ex Machina.

MW: Det i sin tur får förstås problematiska etiska och moraliska konsekvenser som är centrala i debatten om AI.

SL: Ja, det är mycket vad det handlar om – var går gränserna för det mänskliga, och vilket ansvar har vi inför våra egna skapelser om dessa en dag blir medvetna? Hittills har ju mest filosofer och författare engagerat sig i vad som händer när gränsen mellan människa och maskin, i alla fall på ett teoretiskt och konceptuellt plan, upplöses. AI-forskarna själva, däremot, ser utmaningarna på ett mer konkret och ”ingenjörsmässigt” plan: inlärning, problemlösning, mönsterigenkänning och så vidare.

MW: Klart är väl ändå att den etiska gränsdragningsproblematiken människa och maskin, människa och robot, har blivit mycket tydligare med den snabba utvecklingen av AI?

SL: Den fördjupas hela tiden. Man har gått från teori och spekulation till ingenjörsprojekt.

MW: Och det är förstås därför som science fiction idag betraktas som seriös litteratur. Den har fått en helt annan djupverkan. Samtidigt har genren en förhistoria med teman och frågeställningar om det konstgjorda livet och tänkandet som fortfarande är aktuella. Frankenstein är given men det finns exempel att hämta från Iliaden och renässansdramatiken. Den judiska legenden Golem är ett annat. Och på 1800-talet kan Edgar Allan Poe och E T A Hoffmann nämnas. Karel Capek skrev en pjäs på 1920-talet som handlar om konstgjorda robotar som gör uppror.

SL: Vi kan se den här problematiken och tematiken i vår tids ambivalens inför robotar och datorprogram som blir allt mer lika oss själva, som simulerar livet utan att vara levande. Men det kanske mest intressanta i allt det här, i alla fall för en humanist, är den kulturella ambivalens vi känner inför robotar och datorprogram som blir allt mer lika oss själva, som simulerar livet utan att vara levande. På ett plan bryter de mot ett djupt liggande psykologiskt tabu, genom att överskrida gränsen mellan levande och död materia.

Samtidigt kan man ju känna en stark entusiasm, en sorts berusning nästan, inför den ingenjörsmässiga bedriften. Man kan se det som människans triumf, att vi besitter krafter som tidigare bara tillkommit vad vi kallar Gud. I det ligger något utopiskt.

MW: Lika gärna kan du vända på resonemanget och säga att vi spelar Gud.

SL: Är man lojal med eller är präglad av kristen etik och en kristen syn på människans roll i skapelsen så säger man istället att det här ska vi inte göra. Vi har drabbats av hybris och på ett eller annat sätt kommer straffet.

MW: Det finns ligger något faustiskt i detta.

SL: Frankenstein, till exempel, är ett uttryck för en faustisk strävan. Faust hämtas av djävulen och Victor Frankensteins skapelse ödelägger hans liv. Vi gör kopior av oss själva, men de lyder inte våra instruktioner, och i slutänden förgör de oss. Det är nemesis i klassisk mening. Babels torn, vad du vill.

MW: I litteratur och film är det i stort sett alltid så att robotarna står för någonting hotfullt. På det hela taget handlar det om att vi människor drar igång något som vi aldrig borde ha gjort. Vi har förlorat kontrollen.

SL: Temat om teknologin som löper amok kommer som ett brev på posten i många robotberättelser. Men det är faktiskt inte lika vanligt längre. Under den postmoderna vändningen under 1990-talet ifrågasattes det där scenariot. En tänkande maskin, en cyborg eller en robot som når en medvetandegrad så att den utvecklar ett etiskt och moraliskt sinne innebär att en samexistens utvecklas.

MW: Farhågorna om gränsupplösningen mellan människa och maskin som vi så länge läst om och sett på film håller alltså på att släppa?

SL: De är inte alls lika entydiga. I flera filmer om AI och konstgjorda människor lyser Frankensteinproblematiken helt med sin frånvaro. Robotarna lider också. Har man väl fått ett jagmedvetande lider man av samma existentiella anfäktelser som människor gör. Man ser inte roboten som ”den andre” utan den är en av oss. Häri ligger just Philip K Dicks storhet. Han ser att vi sitter i samma båt. Det är synd om androiderna i Blade Runner. De vill bara överleva.

MW: Tanken svindlar när man ska betänka att robotar i någon mening också är människor. Men då är det vi som gjort dem sådana.

SL: Det avgörande är om de blir medvetna om sig själva som ett jag. Att de inte bara är en uppsättning avancerade algoritmer och rutiner utan själ. Då är det inte längre en simulering av en människa som kan få oss att utropa ”Gud, vad lik en riktig människa!” samtidigt som vi vet att det inte är en människa och en medveten varelse. Men, och det är trots allt viktigt att understryka, den självmedvetna datorn är inte ett problem inom den egentliga AI-forskningen utan tillhör fiktionens värld.

Ändå är det vad som fascinerar oss: just därför att roboten ser så levande ut undrar man om den kanske ändå inte måste vara det. Experiment visar att vi känner sympati med robotar som ”torteras”. På ett förlogiskt, irrationellt plan låter vi oss väldigt lätt luras att reagera emotionellt bara därför att robotarna är så lika oss. De ser ut som om de vore levande, alltså reagerar vi som om de vore levande. Det råder här en konflikt mellan hjärta och hjärna av ett alldeles särskilt slag. Den mest avancerade teknologi som tänkas kan slår an de allra mest grundläggande känslosträngar. AI-projektet blir på något vis som en ouroboros, ormen som biter sig själv i svansen.

MW: Vänskapen mellan människa och robotar är ju numera ett välkänt tema i film, till exempel i Terminator 2 där roboten som spelas av Arnold Schwarzenegger är the good guy.

SL: Och den kom ut för över 25 år sedan. En nyare film, Her från 2013, handlar om hur en man blir förälskad i ett jätteavancerat operativsystem och hur hon – för det har en kvinnlig röst – gör slut med honom och tillsammans med några andra operativsystem flyttar in i en ny sorts datorskapad dimension som inte har med människor att göra. Hans sorg och övergivenhet är äkta. Våra skapelser växer förbi oss, överger oss.

MW: Jag är helt övertygad om att väldigt många människor tar det här på fullaste allvar och förstår att en person kan bli förälskad i ett operativsystem. Inte så att någon skulle vara det nu, men att det faktiskt kan ske i någon mer eller mindre avlägsen framtid. Den där oartikulerade känslan av att det kan bli så här är ju också en helt central beståndsdel i science fiction. På 1950- och 60-talet gavs det ut en sf-tidskrift som hette Häpna! och det är ju fortfarande vad det går ut på: insikten eller föreställningen om att det häpnadsväckande ändå inte är helt och hållet omöjligt.

SL: När vi konstaterar att robotar inte kan få ett självmedvetande är det likväl något som vi inte kan vara helt och hållet säkra på av den enkla anledningen att vi inte vet vad ett medvetande är. Vi vet så lite om hur vår egen hjärna fungerar. Hade vi vetat hur jagupplevelsen uppstår och varifrån den kommer hade vi kunnat koda den och därmed skapa genuint självmedvetna datorer. Men det vet vi inte!

MW: En viktig aspekt på hur konstgjort liv och robotar under lång tid skildrats i litteratur och film, ända sedan Frankenstein, är insikten att utvecklingen inte går att hejda. På samma sätt är det väl med hur många ser på AI och robotar?

SL: Men den oron bottnar sällan i något filosofiskt eller moraliskt ställningstagande utan är framförallt nyttoinriktad. Robotarna tar jobben ifrån oss. Sedan kan det väl gå in i vartannat genom att den där förlogiska, irrationella rädslan över maskinen som rör sig och pratar som en människa späds på av vetskapen om att en konstgjord varelse tar mitt jobb. Det uppstår en ömsesidig förstärkning av rädslor.

MW: Det som skrämmer är väl också en teknikutveckling som gör oss till ett slags biologiska datorer. Vi blir hyperintelligenta men känslolösa.

SL: När vi skapar våra datorer och skriver våra program så skriver vi in oss själva. En viss sorts logik kodas in i datorn. Kurt Vonnegut skrev redan 1952 om hur anpassningen till maskinens arbetstakt och arbetssätt påverkar även de krav som man ställer på människor. Arbetare mäts alltså enligt normer som egentligen utgår från maskinens kapacitet. På ett mer abstrakt plan kan man se att en viss sorts logik, en viss sorts rätlinjig maskinlogik premieras framför ett mer sidledsarbetande, associativt och kreativt tänkande. Maskinen blir normen.

MW: Frågan blir: Vad gör det oss till för sorts människa?

SL: Vi ser ju hur man tvingas anpassa sig på arbetsplatser med sina stora arbetsplattformar. Jag märker det själv på universitet där jag är tvungen att lära mig ett program som inte alls är anpassat efter mitt sätt att arbeta och tänka utan efter några IT-programmerare och följer ett helt annat tänkande. Det är den stora utmaningen: att anpassa tekniken efter de motsägelsefulla och ologiska varelser som vi också är.

MW: Finns den problematiken beskriven i film och litteratur?

SL: Ett av de första och kanske fortfarande bästa exemplen är ju Chaplins Moderna tider. En arbetare som tvingas göra ett och samma moment hela dagen. Det är ju också ett återkommande tema i dystopiska framtidsskildringar, där medborgare är reducerade till nummer, kuggar i maskineriet och ingenting mer. Inte sällan med en superdator som envåldshärskare.

MW: Jag undrar fortfarande över hur den här anpassningen till programmen och datorerna påverkar oss. Du säger att vi tänker associativt och sidledes. Menar du att det sättet att tänka riskerar att försvinna?

SL: Jag kommer ihåg att den där frågan var på tapeten när Microsoft var på väg att erövra världen med Windows 95 och alla skulle ha samma operativsystem. Det fanns de som ondgjorde sig över att i förlängningen var det Bill Gates som bestämde över hur vi skulle tänka eftersom vi var så beroende av och exponerade under så stor del av våra vakna tid inför Windows logik. Vårt sätt att tolka verkligheten skulle påverkas.

MW: Den där känslan och reaktionen – oviljan mot att låta sig styras av maskinen – känner vi igen från litteraturen. Blake med sina ”dark satanic mills” och Rydbergs Den nya Grottesången.

SL: Ja, det är en del av romantikens reaktion mot delar av upplysningsfilosofins hyperrationalistiska anspråk där man gick till motoffensiv och hävdade fantasins och känslans primat. En intressant figur i det sammanhanget och som föregriper cybernetiken är La Mettrie som på 1760-talet skrev LHomme Machine (sv. Maskinen människan och doktor La Mettrie) där han i provokativt syfte lanserar idén att människan inte är någonting annat än en avancerad maskin.

MW: Vad vi uppehållit oss vid är en väldigt manlig värld. I och för sig inte så konstigt med tanke på att det är män som gjort de här maskinerna. Det är de som är och varit ingenjörerna.

SL: Kvinnor är kraftigt underrepresenterade i Silicon Valley. Och här är det verkligen relevant att notera hur vi skapar maskinerna i vår egen avbild och skriver programmen i vår egen avbild. Man jobbar efter något som verkar logiskt och meningsfullt för en själv. Men detta ”man” är bokstavligen en man. Datoriseringen, automatiseringen, robotiseringen och AI blir väldigt manligt kodat. Jag har sett tecken på en reaktion mot det.

MW: Det märks ju inom populärkulturen och bland leksaker att robotar är extremt manligt karikerade fysionomier med sina breda axlar och smala höfter.

SL: En annan variant av den här kodningen är att man kan ana en manlig längtan efter den ideala kvinnan. En konstgjord kvinna skapas, vars motsvarighet inte finns i verkligheten, som ska uppfylla alla ens drömmar. Naturligtvis som en sorts oerhört avancerade uppblåsbara Barbaras – ”Pleasure models” som det heter i Blade Runner – men också med en djupare, sorgligare innebörd. Hela AI-projektet kan i vissa vinklar te sig väldigt ensamt. Filmen Her som jag pratade om utgår från det: operativsystemet är en verklig drömkvinna som kompenserar för allt det som huvudpersonen inte kan finna hos riktiga kvinnor. Och i Blade Runner 2049 är det också en väldigt ensam man, eller snarare android, vars flickvän är ett hologram som lyder hans minsta vink.

MW: Det är en ensamhet som beror på att man inte får någon motreaktion. Hologrammet bara stärker känslan. Man är bara ett skal i sig själv.

SL: Det är en bild av vår egen värld där vi umgås via sociala medier och alltmer isolerar oss genom tekniken och samtidigt använder tekniken för att bryta den här isoleringen. Tekniken blir både fångvaktare och frigörare på samma gång. Det är vårt informationsteknologiska öde. Ironin är bottenlös.

Mats Wiklund är redaktör i Axess.

Mest lästa just nu

1) Den narcissistiska eliten av Svante Nordin

2) Kroppsklockan klämtar för dig av Anders Mathlein

3) Säg ifrån och ge honom en örfil! av Annika Borg

4) Lång näsa av Nima Sanandaji

5) Skrämmande dagar framför oss av Johan Tralau

Andra som läst denna
artikel har också läst

1) Fåfäng flykt från skrivhäftenas gudar av PJ Anders Linder

2) Meningen ligger i livet av Nicklas Berild Lundblad

3) In med humanisten av Nils Johan Tjärnlund

4) Vännen som vet allt av Stefan Fölster

5) Den leende roboten av Linda Johansson

NR 1 2018

Axess Magasin

Är en tidskrift inom området humaniora/samhällsvetenskap och utges av Axess Publishing AB. Tidskriftens målsättning är att fungera som en knutpunkt mellan den akademiska och den publicistiska sfären.

 

Chefredaktör: PJ Anders Linder
Redaktörer: David Andersson, Mats Wiklund, Jan Söderqvist.
Redaktionssekreterare: Katarina O’Nils Franke
Redaktionsråd: Peter Elmlund, Thomas Gür, Peter Luthersson, Nathan Shachar, Louise Belfrage
Ansvarig utgivare: Peter Elmlund

 

För att kontakta redaktionen, mejla redaktionen@axess.se.

...