Bjørn Stærk: Teknologi til å bli glad av

Det store spillet: Hvordan overleve i algoritmenes tidsalder av Bår Stenvik. Cappelen Damm, 2020

Dette er en uventet god bok om utfordringene vi står foran som digitalt samfunn. Jeg sier uventet, fordi generelle tekster om dette av ikke-teknologer sjelden gjør mer enn å rispe i overflaten: Skjermer er avhengighetsdannende, teknologigigantene spiser verden, algoritmer kan ha skjulte problemer, og så videre. Det som sies om dette kan være riktig nok, langt på vei, men så kommer man uunngåelig til punktet i teksten hvor skribenten ikke henger med i detaljene lenger og går glipp av interessante nyanser og motforestillinger.

Mens jeg leste Det store spillet satt jeg og ventet på at Stenvik skulle komme til det punktet. Det kom ikke. Det vil si, kanskje er det min uvitenhet som setter begrensningen her. Jeg er ingen spesialist på temaer som kunstig intelligens. Presisjonsnivået er uansett mer enn høyt nok til å være en generell sakprosabok.

Stenvik skriver om relasjonen mellom den nye teknologibransjen, systemene de bygger og oss andre. Han er innom temaer som dårlige arbeidsforhold for de usynlige arbeiderne teknologien er avhengig av, etiske utfordringer i avanserte algoritmer og styrkene og svakhetene i kunstig intelligens. Gjennom boka prøver han ut ulike metaforer for hvordan vi vi bør tenke på teknologien vår. Den røde tråden er at mye av det som har gått galt med teknologien vår henger sammen med dårlige metaforer og fortellinger. “Skyen”, for eksempel, som gir inntrykk av at systemene lever i en slags platonisk idéverden, mens de i virkeligheten kjører i datasentre på jordas overflate, med elektronikk satt sammen av mennesker, og ofte er avhengig av en usynlig hær av løsarbeidere som fyller hullene i algoritmene. Vi trenger metaforer som fanger hvordan dette egentlig henger sammen.

Én slik metafor er den digitale tvillingen, som er bildet sosiale medier danner seg av deg som bruker. Alt du gjør på nettet etterlater seg spor som inngår i dette bildet, og jo mer komplett det bildet blir, jo mer vil man kunne forutse hva slags innhold som vil få deg til å bruke mest mulig på tjenesten. Dette er typisk innhold som appellerer til “system 1”-delen av hjernen din, det som har med intuisjon og sterke følelser og behov å gjøre, i motsetning til “system 2”, hvor du tenker langsommere og mer rasjonelt.

Hvis du bruker Twitter, har jeg funnet en god måte å teste denne effekten på. I toppen av siden (ikonet over “tweet” i desktop-visning), kan du endre fra å se “top tweets” til “latest tweets”. Top tweets betyr at Twitter velger hvilket innhold du skal få se. Da får du opp det som engasjerer deg mest, gjerne i form av sinne eller frykt. Hvis du endrer til latest tweets, blir opplevelsen med ett merkbart kjedeligere. Det er fristende å skru tilbake til top tweets med en gang, men jeg anbefaler å beholde latest tweets en stund og utforske følelsen dette gir deg. Kanskje er det en god form for kjedsomhet som motiverer til en sunnere bruk av Twitter? Jeg har iallfall ikke gått tilbake. Jeg får den samme følelsen på Mastodon. Det er egentlig ganske ålreit. Det som skjer er altså at Twitter mister evnen til å manipulere strømmen din slik at den appellerer ekstra mye til system 1.

Du kan i teorien gjøre det samme med Facebook ved å velge View more -> Most recent i desktop-visningen, men du rekker ikke å utforske denne modusen, for Facebook endrer den automatisk tilbake etter kort tid. Det er mye mer lønnsomt for Facebook at du får opp innhold som “engasjerer” deg, det vil si som appellerer til system 1-tenkning. Hva du selv ønsker, har ingenting å si.

Den digitale tvillingen inngår i et tvillingpublikum, altså en tenkt gruppe man antar at du tilhører. Hvis du ligner en del på en bestemt type menneske, og man vet at den typen mennesker gjerne også liker andre ting, som konspirasjonsteorier om vaksiner, gir det mening for Facebook og YouTube å anbefale deg denne typen innhold. Det er en god sjanse for at du vil like det også, og dermed bli enda mer lik ditt tvillingpublikum. At dette er skadelig for deg og samfunnet er uinteressant. Algoritmen optimiserer for “engasjement”, det vil si tidsbruk og reaksjoner, som igjen betyr at det samles mer data om deg og at man får flere anledninger til å vise deg reklame.

Stenvik tenkte tidligere på nettet som en slags hage han vandret fritt rundt i og hvor han kunne studere og plukke fine blomster. En bedre metafor, mener han nå, er at det finnes en usynlig gartner i hagen som løper rundt og endrer den for å få deg til å bruke mest mulig tid der.

En annen metafor han mener vi bør ta i bruk er “demoner”, slik kristne tenkte på dem tidligere. Demonene overveldet oss gjennom å appellere til svakhetene våre, som sinne, grådighet og lyst. Når kirken snakket om demoner, var dette ikke kun en overtroisk faktapåstand men også ment som et hjelpemiddel til å styrke de gode sidene i oss. Fortellingen om demoner satte navn på hva som skjer når vi stadig vekk gjør noe vi vet vi vil angre på senere. Algoritmene i sosiale medier gjør det samme. Det ligger ingen ond vilje bak på samme måte, men det tradisjonelle bildet av demonene som vil ha deg til å gjøre noe dumt stemmer overraskende godt på anbefalingsalgoritmene i sosiale medier som prøver og feiler seg fram til stadig nye måter å appellere til følelsene dine på.

Stenvik unngår fella hvor man legger skylden for dette på bestemte aktører. Hvis problemet er at Facebook har gjort noe galt, løser vi det ved å boikotte, regulere eller straffe Facebook. Han identifiserer i stedet problemet som et produkt av teknologibransjens form for kapitalisme og fortellingene vi har med oss fra kulturen bransjen vokste fram i: En verden som består av mannlige nerder med dårlige sosiale ferdigheter som henter impulser fra science fiction, californiske hippietenkere og liberalisme. Resultatet er en bransje styrt av smarte men ensporete menn med store huller i forståelsen sin. Han påpeker paradokset i at Elon Musk og andre visjonære ledere frykter en framtid hvor kunstig intelligens løper løpsk, samtidig som det monomane vekstbehovet som ligger til grunn for et slikt scenarie minner mest av alt om deres egen måte å drive selskapene sine på.

Første skritt mot løsningen, mener han, er å legge bort fortellingen om den smarte visjonære gründeren i det private næringslivet som egenhending skaper en revolusjonerende teknologi som fører samfunnet inn i framtiden. Disse fortellingene er ofte mangelfulle eller direkte løgn. Mange av teknologiene som har endret samfunnet de siste tiårene er en kommersialisering av grunnforskning som enten er gjennomført eller støttet av det offentlige. Det er en myte at staten ikke spiller noen rolle i innovasjon, og det er dessverre en myte mange i staten selv tror på.

Stenvik ser for seg at det offentlige kan spille en større rolle i å sette premissene for det digitale samfunnet. I tillegg til å støtte forskning, bør staten innføre noe som tilsvarer Mattilsynet, som med sine 1300 ansatte sørger for at maten vi spiser er trygg. I stedet har vi bare Datatilsynet, som med sine 50 ansatte knapt er i stand til å utføre oppgavene de har i dag. Et mer omfattende datatilsyn burde kunne kreve innsyn i viktige algoritmer på samme måte som Mattilsynet får innsyn i hvordan en gård produserer mat.

Et annet forbilde for digital politikk finner Stenvik i norsk oljehistorie og de ti oljebudene som sikret oss kontroll over vår egen oljeindustri. Det er litt flåsete å si at “data er den nye oljen”, men data er iallfall en viktig råvare som vi i dag ganske ukritisk lar store utenlandske selskaper hente ut fra Norge. Forretningsmodellen til mye av teknologibransjen i dag er at du betaler for tjenestene deres med data om deg selv, og at disse dataene er mer verdifulle enn tjenesten du får igjen. Dataene er verdiløse enkeltvis, men kan ha stor verdi når de knyttes sammen og analyseres. Problemet er at de brukes til skadelige formål utenfor demokratisk kontroll.

Her ligger det et enormt potensiale, mener Stenvik, men på samme måte som med olja, går potensialet tapt hvis vi ikke selv tar kontroll over det som skjer. Stenviks ti “databud” sier derfor blant annet at datahøsting fra norske borgere skal komme oss selv til gode, at vi bør ha innsyn i algoritmer som berører norske data, at vi bør ha norske datasentre og sette opp en statlig skyløsning.

Jeg tar ikke stilling til om slike forslag er gode og gjennomførbare, men jeg tror han ser etter løsninger på riktig sted: I at det offentlige tar en mer aktiv rolle i utformingen av det digitale samfunnet. For tjue år siden ville jeg ansett dette som en autoritær idé, hvor den mektige staten tråkker på små aktører i den private sfæren. Jeg tenker fremdeles at nettet langt på vei bør være et økosystem av små og mellomstore aktører i form av enkeltpersoner, organisasjoner og firmaer - akkurat som i det ikke-digitale samfunnet. Men i dag ser jeg at det er gigantene som er den største trusselen mot et slikt økosystem, ikke den norske staten, eller for den saks skyld EU. Slike aktører kan selvfølgelig også spille en destruktiv rolle, men slik er det med alle politiske spørsmål. Vi trenger deres hjelp og aktive innsats for å gjøre det mulig for de små aktørene å overleve.

Det store spillet er et forsøk på å finne metaforer og fortellinger som kan hjelpe oss med å finne løsninger av denne typen. Hvis du skal lese noen av bøkene jeg har snakket om i denne bloggen i høst, ville jeg begynt med denne, ikke minst fordi den knytter seg til en norsk og europeisk kontekst. Det er i lengden meningsløst å terpe på alle de slemme og dumme tingene Facebook og Google gjør. Løsningen ligger i å involvere demokratiske krefter der vi bor, og da er ideene i denne boka et godt sted å starte.

(For mer detaljer, se også notatene mine fra boka.)