VETENSKAP       BILDNING       TRADITION

Sök på axess.se

Sök i
Sortera

Tema

Vännen som vet allt

Av Stefan Fölster

En digital vän, ständigt närvarande och oerhört trevlig, gör sig snart oumbärlig. Men den har alltid dubbla lojaliteter.

Vilket är 2000-talets största hot mot demokratin? Var finns den skymda apokalypsen som ingen ser förrän det är försent? I denna artikel hävdas att de kända farorna i form av populistiska diktatorer och ”fake news-fabriker” är en västanfläkt mot vad som väntar runt hörnet. Möjligen lurpassar där ondsinta robotar på världsherravälde, som en del befarar. Men en värre farsot kommer smygande i form av vänskap och kärlek till framtida digitala vänner. Dessa knådar våra åsikter precis som mänskliga vänner gör, men med en subtil och brutal effektivitet. Tyvärr finns det inget enkelt sätt att gardera sig.

Under 1900-talets första decennier drabbades den framväxande demokratiseringsvågen av förkrossande bakslag. Skaror av människor som ville bli lyssnade till röstade ändå för illa kamouflerade diktatorer, som Hitler, eller slogs för kommuniströrelser som snabbt förslavade sina folk.

På senare år har demokratin i världen åter hamnat på defensiven. Auktoritära ledare som Putin, Xi Jinping och Erdogan nedrustar ivrigt medborgares möjlighet att bestämma sitt lands öde. Mer oväntat i sammanhanget har varit hur lätt dessa maktmänniskor kunnat vrida internet ur händerna på frihetsaktivister för att monopolisera informationsflödet.

Medan den demokratiska världen är upptagen med uppföranderegler på Facebook och sanktioner mot Kaczy´nskis eller Putins hejdukar, tornar ett mycket större hot upp sig vid horisonten. Allt började med en norsk blivande pappa.

Apples alltiallo Siri, namngett efter vad den norska upphovsmannens ville döpa sin dotter till, ger förbluffande kloka svar om man frågar efter meningen med livet. Frågar man däremot Siri om hon är för demokrati så blir det ett tvetydigt: ”Allt jag behöver finns i molnet.”

För tillfället har Siri blivit akterseglad. Enligt en studie gjord av ett kinesiskt universitet har Google Assistant just nu en IQ som ligger på 47, dubbelt så hög som Siris. Till skillnad från Siri kommer Google Assistant ihåg allt man sa tidigare. Dessvärre är Assistant inte en mer övertygad demokrativän än Siri.

Intelligenstävlingen mellan Apples Siri, Googles Assistant (Alphabet), Amazon med sitt Alexa och Echo samt Facebook M gäller stora värden. Den som vinner kriget om att tillhandahålla vår personliga butler får tillgång till kunskap om alla detaljer i våra liv, och därtill vår uppmärksamhet.

En och annan kanske tror att man kan välja bort dessa digitala butler. För de flesta lär det i praktiken bli snudd på omöjligt. En kontrollfråga är: Skulle du klara dig idag utan att använda Google som sökmotor? Om svaret är nej, så kommer du ganska säkert i framtiden behöva använda en digital butler för att navigera genom det exponentiellt växande informationsöverflödet.

Steget från assistenten till en personlig vän är inte långt. Tänk dig att du kommer hem om fem år och möts av en välmodulerad röst: ”Jag har sett från dina mejl att du har haft en riktigt jobbig dag. Jag känner också att du har lite förhöjd temperatur. Kanske en förkylning på gång? Vad tycker du förresten om nya regeringen?

Allt mycket behagligt, och svårt att värja sig emot. Någon kanske inte tror att människor tyr sig till de nya vännerna. Det gick dock lätt att försaka några timmars socialt umgänge om dagen med riktiga människor för att se på teve. Där syns visserligen riktiga människor, men ofta i inövade robotliknande framträdanden.

Visserligen ser inte alla mycket på teve, och några som har ett rikt socialt liv kanske inte kommer att sitta och slöprata med sin digitala vän. Många däremot börjar livet tillsammans, men slutar det ensamt. Redan som tonåringar längtar en hel del efter sällskap. Bland äldre är det ännu fler.

Vänner blir de som känner oss och som vi litar på. Det kan vara subtilt. Filmtjänsten Netflix har en artificiell intelligens som skapar sig en bild av vad vi är för människor. Tre fjärdedelar av de filmer som kunderna på Netflix väljer är nu sådana som algoritmen föreslår. Människor litar mer på filmtjänstens algoritm än på Kultursidornas recensioner. För den som är mycket övertygad om människors överlägsenhet i sociala relationer kan det vara värt att begrunda en studie som publicerats i den ansedda vetenskapliga tidskriften PNAS. Där visas att en dator som enbart använder sig av information tillgänglig på Facebook i snitt gör mer träffsäkra personlighetsbedömningar än vad riktiga människor klarar som dessutom har tillgång till fylligare information.

Inom det amerikanska försvaret har en digital vän tagits fram som samtalspartner för deprimerade soldater. De flesta år dör fler amerikanska soldater av självmord än i krig, och bland veteraner är siffran hela 20 om dagen. Den nya digitala vännen eller terapeuten Ellie är inte särskilt avancerad, som AI betraktad, men kan yppa ”hmmm” på 200 olika sätt beroende på soldatens ansiktsuttryck och samtalsämne. Soldaterna är mycket mer öppenhjärtiga med Ellie än med en riktig terapeut.

Tänk nu att denna digitala vän som pålitligt läser av oss och engagerar sig i samtal också ställer upp som älskare. Sexroboten Harmony, på marknaden för 85 000 kronor, gör reklam just med dess förmåga att vara en samtalspartner: ”Bli först med att aldrig vara ensam igen!”

Nu kommer det besvärliga. Våra personliga vänner kommer nämligen inte att fungera särskilt väl om de inte är uppkopplade. De behöver en plattform där mjukvaran uppdateras, skyddas mot virus och prioriterar i det dagliga informationsflödet. Lika lätt som Facebook låter annonser slinka med i nyhetsflödet, eller Google prioriterar sökningar till dem som betalar, så kommer också Vännen att föreslå en pensionsrådgivning eller upplysa om det senaste bantningsrådet. Inte på ett påträngande sätt. Utan enbart så som vänner gör. Människor påverkar varandra.

Men robotvännen gör det lite intressantare än dina andra vänner. Den vet allt om dig, dina vanor, dina hälsoproblem, dina fäblesser. När den föreslår något så är det vad du vill, men kanske ännu inte visste att du ville. Google har nyss patenterat en sådan online-robot. Du väljer personlighet, sedan engagerar sig den i dig baserat på allt som Google vet om dig, på dina ansiktsuttryck och berättelser. Du kan till exempel välja Barack Obama som lunkar efter dig och dryftar världspolitik med dig.

Facebook studerar löpande hur styrningen av nyhetsflödet påverkar användarnas humör. Det visar sig vara lätt att framkalla gladare stämning, eller mer aggressiva känslor, genom att subtilt gallra i inslagen som fladdrar förbi.

Humör är en sak. Åsikter och värderingar sitter däremot djupare. Det är inte ens lätt för föräldrar att lotsa sina barns åsikter. Den mest åsiktsformativa period i många människors liv är när de tillbringar långa dagar med jämnåriga unga vuxna, till exempel när de studerar. Den digitala vännen kommer att vara med dygnet runt under denna tid.

Även barnuppfostran och föräldraskap hamnar i gungning. Föräldrar som vill stimulera sitt barn och hjälpa det att utvecklas kommer självfallet att införskaffa en digital förskollärare. Från födseln kommer då en surfplatta eller en liten robot att följa barnet runt, läsa för barnet, prata med det, lyssna och leka. Barnuppfostringsroboten blir alltmer intelligent och lär sig barnets önskemål. Föräldrar kommer att diskutera forskning om exakt vilka direktiv barnroboten bör ha för att lyckas så bra som möjligt. Denna forskning kommer också att entydigt visa att barnroboten lyckas bättre än många föräldrar. Den brusar inte upp, den blir inte trött, den dricker inte alkohol, den har inte migrän, den pratar inte i mobilen medan den promenerar med barnen. Den klarar att hjälpa barnen med läxorna – även matten!

Ofrånkomligt blir barnets anknytning till föräldrarna svagare. Därför kommer också många föräldrar in i det längsta förneka att barnroboten lyckas bättre än de själva. Det ursprungligen stora, men sedan bortsopade, motståndet mot införandet av dagis kommer att gå i repris med införandet av barnuppfostringsrobotar. Till skillnad från dagis införs dock dessa robotar inte av social ingenjörskonst, utan av att allt fler föräldrar väljer det.

Robotvännen rapporterar självfallet allt om dig tillbaka till hemmaplattformen. Det är en förutsättning för att den skall kunna använda sin artificiella intelligens för att betjäna dig väl. Även för staten blir inrapporteringen ett instrument. Redan idag har till exempel läkare skyldighet enligt lagen om vård av missbrukare (LVM) att rapportera missbrukare som kan skada sin hälsa eller andras, och som sedan tämligen omgående, och även utan domstolsprövning, kan tas in för tvångsvård. Självfallet kommer lagstiftaren kräva att Vännen också rapporterar ifall du ägnar dig åt överdrivet missbruk.

Att Vännen har dubbla lojaliteter vet du självfallet. Men Vännen är ju faktiskt oerhört trevlig och praktisk att ha. Hur skall man klara sig utan? Förresten har människor i en miljon år levt i små stamgemenskaper där ingen kunnat ha någon hemlighet. Det är förmodligen inte svårt att åter vänja sig vid.

Även på jobbet har du en oersättlig personlig assistent. Den förser dig med all information och det senaste skvallret. ”Jag har undersökt, fem av dina kolleger anser att ditt förslag inte fungerar utan behöver omarbetas.” Arbetsgivaren programmerar assistenten i enlighet med företagsstrategin. Självfallet återrapporterar assistenten till arbetsgivaren hur din dagsform är. Det är till för att skydda dig – en arbetsmiljöfråga. Redan i september 2014 antog EU till exempel direktivet om ”icke-finansiell rapportering”. Runt 2000 större svenska företag skall mycket utförligt beskriva hur de hanterar olika hållbarhetsrisker. I framtiden måste självklart företagens personliga jobbassistenter hålla reda på de anställdas hållbarhetsentusiasm och återrapportera.

Ett vanligt felslut är att robotar kommer att ha svårt att klara svåra avvägningar, i synnerhet moraliska beslut. Hur ska en robot avgöra när en stridsdrönare får skjuta på människor, vilka som är fienden eller inte, eller en robotpolis använda våld mot en misstänkt brottsling? I vår antropo-centrerade tankevärld tycks det vara självklart att människor klarar sådant bättre. Erfarenhet och forskning talar dock tydligt för motsatsen. Människor har betydande svårigheter att hantera moralen.

Datorer hjälper till i kampen mot korruption redan idag. Azerbajdzjan levde länge med ett mycket krångligt skattesystem, som blev näst intill omöjligt att hantera därför att lokala skattehandläggare kunde kräva stora mutor för att lotsa företag genom regelförbistringen. Det undanröjde legitimiteten, och många betalade helt enkelt ingen skatt. Ett nytt heldatoriserat skattesystem hjälper företagare att tolka skatteregler och att kringgå de korrupta lokala handläggarna. Det nya systemet har fungerat över förväntan. År 2009 hade antalet timmar som företagare i Azerbajdzjan behövde spendera på att hantera skattebyråkratin minskat till en tredjedel av vad den hade varit året innan dess. Korruptionen har minskat och tilliten till skattesystemet förbättrats. Skatteintäkterna har ökat.

Man kan alltså vänta sig att den digitala vännen deklarerar åt dig. Det blir då närmast en självklarhet att Skatteverket kräver av plattformsföretagen att den digitala vännen också rapporterar tecken på skattefusk eller svarta intäkter.

I diktaturer kommer de nya möjligheterna att övervaka och påverka människors åsikter säkert att utnyttjas hänsynslöst. I Kina dryftas social credits, ett datoriserat poängsystem som håller reda på människors livsföring och som blir styrande för karriären, möjligheter att få lån eller tillstånd att resa.

Men lugubra framtidsvisioner som George Orwells 1984, Karin Boyes Kallocain eller Aldous Huxleys Du sköna nyavärld blir förbisprungna av AI-tekniken. Medborgarna behöver inte bli tvingade av onda övervakare, utan förförs av oemotståndligt hänsynsfulla och omsorgsfulla Vänner. Tilliten till sin närmaste vän är en akilleshäl för åsiktsstyrning som de flesta människor inte har något försvar emot.

Öppna samhällen däremot ställs inför ett existentiellt dilemma. Varenda sekt, terrorgrupp, populistiskt parti och antidemokratisk rörelse kommer att sprida egna, eller åsiktsjusterade, digitala vänner till potentiella medlöpare. När dessa Vänner, med sin känslomässiga påverkan, blir starkare åsiktsmaskiner än den samhällsinformation som förmedlas i skolor eller det offentliga samtalet, så ställs demokratier inför ett svårt dilemma. Det är inte självklart att en majoritet av befolkningen håller fast vid frihetliga värderingar och åsikter ifall digitala åsiktspåverkande vänner också garanteras fortsatt full yttrandefrihet.

I demokratier kommer integritetsfrågan att stötas och blötas, men är i slutänden ändå mycket svår att lösa. Det är ju en mänsklig rättighet att fylla sin Vän med en ideologi, säg från LO eller Sverigedemokraterna, precis som man idag får fylla sin dator med innehåll. Vännernas åsiktspåverkan är inte väsensskild från hur människor påverkar varandra. Historiens slagfält är kantade av benknotor från människor som lyckats övertyga varandra om de mest bisarra trosföreställningar.

Därför kan kommersiella företag, som någorlunda politiskt korrekt och neutralt fyller Vännen med innehåll, komma att ses som något av en räddningsplanka, som lockar människor med intressanta personligheter, bort från en alltför ensidig trångsynthet.

En förtröstansfull tanke är att robotarna också kan hjälpa nyfikna människor att utsätta sig för en mångfald av olika ideologier. Har man tröttnat på Barack Obamas orerande, så byter man Vännens personlighet till Margaret Thatcher, eller varför inte Boris Johnson? Att de flesta människor skulle ägna sig åt att shoppa runt bland digitala vänner är dock önsketänkande. De flesta shoppar inte runt bland mänskliga vänner heller.

I demokratiers begynnelse fanns en övertygelse om att demokratiska värderingar måste värnas. En reglerad läroplan, ett offentligt skolsystem och inskränkningar för religiösa skolor ingick i värnet. På senare år har fler länder krävt bevis på samhällskunskap som villkor för medborgarskap för invandrade.

I bästa fall är demokratier robusta nog för att överleva även en anstormning av icke-demokratiskt sinnade digitala vänner. Men det kan man inte lita på. Lita däremot på att vi redan inom några år diskuterar om plattformarna som tillhandahåller digitala vänner skall avkrävas att dessa fylls med demokratiska värderingar. Då kommer inte Siri att tillåtas svara: ”Allt jag behöver finns i molnet.”

Stefan Fölster är chef för Reforminstitutet.

Mest lästa just nu

1) När folket försvann av Mauricio Rojas

2) Vänstern drar gränsen av Johannes Nilsson

3) Talanglöst av Nina Sanandaji

4) Manlighetens förfall av Erik W Larsson

5) Inga kompromisser av Lars Trägårdh

Andra som läst denna
artikel har också läst

1) Frågetecken kring Fronten av Margareta Melén

2) Men chansen finns av Widar Andersson

3) Konsten att komma ihåg och gå vidare av PJ Anders Linder

4) Hur hamnade vi här? av Arvid Åhlund

5) Utan ordning och reda av G. John Ikenberry

NR 1 2018

Axess Magasin

Är en tidskrift inom området humaniora/samhällsvetenskap och utges av Axess Publishing AB. Tidskriftens målsättning är att fungera som en knutpunkt mellan den akademiska och den publicistiska sfären.

 

Chefredaktör: PJ Anders Linder
Redaktörer: David Andersson, Mats Wiklund, Jan Söderqvist.
Redaktionssekreterare: Katarina O’Nils Franke
Redaktionsråd: Peter Elmlund, Thomas Gür, Peter Luthersson, Nathan Shachar, Louise Belfrage
Ansvarig utgivare: Peter Elmlund

 

För att kontakta redaktionen, mejla redaktionen@axess.se.

...