Problemet med The Social Dilemma
Jeg så den nye Netflix-dokumentaren The Social Dilemma, som handler om hvordan teknologigigantene overvåker og manipulerer brukerne. Den er verdt å se, og den er spesielt god på å vise måten apper designes for å tiltrekke seg oppmerksomheten din og få deg til å bruke mest mulig tid på dem.
Det er likevel verdt å se den med skeptiske øyne. Du bør se dokumentaren som én bestemt kritikk av teknologibransjen som kommer innenfra teknologigigantene. Mange av de som er intervjuet i dokumentaren er selv tidligere ansatte med ledende stillinger i selskaper som Google, Facebook, Instagram, Twitter og Pinterest. Det ene problemet med dette er at det er vanskelig å rive seg løs fra den typen felles skylapper som nesten alle i denne typen selskaper har. Folka som har gjort Facebook avhengighetsdannende er i stand til å se at de har bygget opp noe ondt, men de er ikke nødvendigvis rette personer til å analysere problemet.
Et annet problem er at flere av disse har hatt en bekvemmelig vei til de moralske kvalene sine. De tjente masse penger på å gjøre noe galt, og nå reiser de rundt på konferanser og stiller opp i dokumentarer for å si “ja, i dag skjønner vi at det nok nok galt det vi gjorde den gangen”. Flott, men hva har de lært underveis? Forstår de egentlig hva de gjorde feil?
Dokumentaren gjør langt på vei den tabben Cory Doctorow beskrev i kritikken av Shoshana Zuboff, som skrev The Age of Surveillance Capitalism og er et av intervjuobjektene i filmen: De tar for gitt at overvåkningsselskapene forstår og snakker sant om hva de driver med, altså at den enorme datamengden de sitter på har gitt dem unike muligheter til å manipulere brukerne. Jeg tror dette stemmer godt når det gjelder triksene de bruker for å få folk til å bruke tjenestene deres så mye som mulig. Alle varslingene de sender og måten de sorterer innholdet på, og hvordan de fremhever den typen innhold som får deg til å sitte ved skjermen lengst mulig. Her tror jeg de vet hva de driver med. Filmen får frem hvor effektivt og ødeleggende dette er.
Men at de også kan manipulere oss på dypere måter, og dermed faktisk tilby det annonsørene tror de kjøper fra dem? Det er en mye mer omfattende påstand som jeg er skeptisk til. Dette er iallfall to ulike ting. Det kan hende de får til dette, men dette er separat fra den mer direkte manipuleringen vi vet de er flinke til: Få deg til åpne Facebook, Twitter, Instagram. Trykke på de riktige følelsesmessige knappene i hodet ditt slik at du bruker ekstra mye tid og får med deg ekstra mange annonser.
En ting jeg var kritisk til i Doctorows essay var at han har en nesten rent materialistisk forklaring på polariseringen og radikaliseringen i sosiale medier. Alt bunner i økonomiske omstendigheter og andre “virkelige” problemer. Jeg tror han undervurderer måten disse tjenestene sprer ekstreme og sære ideer som kun stammer fra folks frie fantasi. Når alt fra Instagram-influensere til islamofobe norske bloggere nå plukker opp QAnon-ideer, tror jeg ikke det er noen slags felles økonomisk omstendighet som driver dem. Det er noe i teknologien som legger til rette for det.
Men jeg foretrekker likevel Doctorows tilnærming over The Social Dilemma, som gjør den motsatte tabben. Her finnes ingen materielle faktorer. Det har ikke skjedd noe som helst i den virkelige verden som gjør folk redde, triste og sinte. Filmen viser en graf over selvmord og depresjon blant tenåringsjenter, formodentlig fra USA. Grafen skyter stiger brått fra 2009. Det var året da sosiale medier tok av for alvor, sier filmen. Ja - men var det ikke noe annet som også skjedde på den tiden? Finanskrisen, som førte til konkurser, gjeldskrise og arbeidsledighet, og som i mange land utløste årevis med kutt i offentlige velferdstilbud. Og siden konteksten er amerikansk her, må man jo også nevne frykten det katastrofale helsesystemet skaper selv blant middelklassemennesker.
Har det ingenting å si for den mentale helsen til ungdommer at de lever i en verden hvor en økonomisk krise presser familien deres ut mot et stup? Filmen synes ikke det er verdt å nevne i det hele tatt. 2009 er bare året da sosiale medier tok av. Og så skjedde det noe fælt med ungdommene. Oi!
Filmen er en blanding av dokumentar og drama. I dramadelen møter vi en tenåringsgutt som er avhengig av mobilen sin, radikaliseres av YouTube-videoer og ender opp i en voldelig demonstrasjon. Dette er den underligste delen av filmen. Uten å si det rett ut, er subteksten i filmen åpenbar: Alle protestene og omveltningene de siste årene er resultatet av en destruktiv polarisering drevet frem av sosiale medier. Du går rundt med sinte plakater i gatene fordi YouTubes anbefalingsalgoritme sendte deg ned i et mørkt kaninhull.
Bildene som brukes gjør det klart at sinne, demonstrasjoner, polarisering er et irrasjonelt og destruktivt fenomen. Dette høres fornuftig ut for mange. Det er en ganske vanlig oppfatning blant folk som føler seg fornøyd med hvordan ting er, og ikke forstår hvordan noen kan ta politikk så alvorlig at de slutter å snakke med gamle venner. Vi må jo snakke sammen. Og når konfliktnivået stiger ut over den høflige samtalen de føler seg komfortable med, er det alltid et problem, uansett årsak. Hvis en venn avskyr deg fordi du synes det er greit at det bor muslimer i Norge, og du avskyr vennen din fordi de har endt opp som islamofobe fanatikere, så er dette like ille.
Selv har jeg mistet noen Facebook-venner de siste fem årene over spørsmål rundt innvandring og mangfold. Jeg har ikke et radikalt syn på disse spørmålene. Jeg har bare gått lei av å koseprate med rasister og høyreradikale. Det er en del folk jeg før diskuterte med, som jeg nå heller mener vi bør markere avstand til. Vi bør i større grad bruke sosiale normer til å vise at for eksempel islamhat ikke er greit. Det jeg tar til orde for er en slags polarisering. Det er et brudd i offentligheten. Og alt dette har noe med sosiale medier å gjøre, det stemmer: Folka jeg snakker om har brukt årevis på å grave seg ned i høyreradikale kaninhull, sikkert godt hjulpet av Silicon Valleys anbefalingsalgoritmer.
Men jeg går ikke med på at det at jeg vil markere avstand til dem, er like ille som den radikaliseringen de har vært gjennom. Jeg skrev mer om dette i Ytringsfrihet annotert.
Eller for å ta et eksempel fra den amerikanske konteksten filmen er laget i: Alle bildene vi ser av demonstrasjoner er satt i en skummel sammenheng, med dyster musikk i bakgrunnen og stemmer som snakker om radikalisering drevet frem av manipulerende algoritmer. Men hva er den største protestbevegelsen i USA i 2020? Black Lives Matter. Folk som er sinte av en helt konkret, virkelighetsnær grunn: Rasistisk politivold. Sosiale medier har sikkert bidratt til å styrke dette, men er det et problem. Har de sett for mye på YouTube, og meldt seg inn i for mange Facebook-grupper? Sosiale medier er vel snarere en del av løsningen. Politivolden har foregått lenge, men sosiale medier har bidratt til å gjøre den synlig og til å skape en fortelling protestbevegelsen kan samle seg rundt.
Det finnes mange dårlige grunner til å demonstrere i gatene, og sosiale medier bidrar til disse også. Men de er altså ikke et problem i seg selv. Én polariserende, kontroversiell sak som har utløst demonstrasjoner og sinne er klimakrisen. Extinction Rebellion prøver bevisst å skape en protestbevegelse som er plagsom nok til å løfte opp denne saken. Jeg skal ikke ta stilling til taktikken og ideologien deres her, men selvfølgelig burde klimakrisen skape mer bråk enn den gjør. Selvfølgelig burde mange flere være så redde for dette at de protesterer. Selvfølgelig burde mange flere være sinte på de mektige kreftene som stiller seg i veien for klimapolitiske løsninger.
Uten å si det rett ut, formidler filmen et perspektiv hvor alt politisk sinne og alle protester er et problem. Og det er et problem som kan føres tilbake til manipulasjon hos teknologigigantene, eventuelt betalt av russiske provokatører. Det har ingenting med den “virkelige” verden å gjøre. Alt er skjermens feil.
Det er et totalt fravær av teknologihistorisk og mediehistorisk perspektiv i filmen. Det gjør at den bommer selv der hvor den har halvveis rett. Det er for eksempel helt riktig at sosiale medier kan bidra til å skape sinne, ekstremisme og polarisering nærmeste ut av løse lufta. Mye av islamhatet i Norge i dag er et eksempel på dette. Det er vanskelig å forklare hvor opphengt en del nordmenn er i islam med faktorer i den virkelige verden, som muslimsk innvandring og jihadistisk terrorisme. Avstanden er for stor. Det hjelper ikke særlig å trekke inn økonomiske faktorer heller, i et land som stort sett har klart seg unna krisene. Et enda bedre eksempel er land som Tsjekkia, hvor det nesten ikke finnes muslimer, men islamhat er enda mer utbredt enn i Norge. Den materielle basisen er liten. Islamhat er noe som lever sitt eget liv oppe i hodene til folk.
Sosiale medier spiller en sentral rolle i denne fortellingen, men alt dette startet jo før Facebook, Twitter og YouTube revolusjonerte nettet. Det startet i enkle blogger og diskusjonsforum. Det var ikke Facebook eller Twitter som radikaliserte Breivik, det var bloggene til Fjordman og andre islamhatere. Det fantes ingen overvåkningsteknologi som manipulerte leserne av disse bloggene. Det var ingen algoritmer som prøvde å maksimere tiden folk brukte på dem eller henviste leserne til stadig mer ekstremt innhold. Det fant de fram til på egen hånd.
Jeg er enig i at de nye tjenestene forverrer problemet med nettradikalisering, men de har ikke funnet det opp. Det er veldig bekvemmelig å si “Ja, du vet, alt det du er redd for? Det er på grunn av Facebook, det.” Det er et budskap mange ønsker å høre nå. Alt ville vært ok, hvis det ikke var for de manipulerende jævlene i Silicon Valley. Men mange av radikaliseringsproblemene var der før Facebook, og vil fortsatt være der etter Facebook. Og mange av de virkelige faktorene som - med god grunn - driver uro og sinne, som klimakrisen, økonomiske kriser og rasisme, vil fortsatt være der, like uløste, selv om vi “løste” Facebook-problemet.
Bloggen Librarian Shipwreck har en god kritisk anmeldelse av filmen, og snakker om mye av det samme. Den er verdt å lese. Også den påpeker mangelen på teknologihistorisk perspektiv i filmen, som når ex-Googler Tristan Harris prøver å forklare hvor forskjellig vår teknologi er fra tidligere teknologiske revolusjoner, og påstår at sykkelen aldri gjorde folk redde:
“No one got upset when bicycles showed up. Right? Like, if everyone’s starting to go around on bicycles, no one said, ‘Oh, my God, we’ve just ruined society. [chuckles] Like, bicycles are affecting people. They’re pulling people away from their kids. They’re ruining the fabric of democracy. People can’t tell what’s true.’ Like we never said any of that stuff about a bicycle.”
Jeg satte nesten ølen i halsen da jeg så dette. Selvfølgelig var folk redde for syklene da de kom. Det var et poeng i alle sykkelhistoriebøkene jeg leste mens jeg skrev Jakten på den grønne lykken. Redde har man vært for omtrent alle andre viktige nye teknologier i historien også. I år leste jeg en del toghistorie for den kommende boka om togferier, og, joda, folk var livredde for toget også, da det kom. Folk kan ikke puste i høy hastighet, det ødelegger kyrnes melkeproduksjon osv. Dette er kanskje ikke en viktig tabbe, men det er en illustrerende tabbe i en film som også på andre måter ikke kjenner teknologihistorien. Librarian Shipwreck skriver:
Yet, what makes Harris’s point so interesting is not just that he is wrong, but that he is so confident while being so wrong. Smiling before the camera, in what is obviously supposed to be a humorous moment, Harris makes a point about bicycles that is surely one that will stick with many viewers—and what he is really revealing is that he needs to take some history classes (or at least do some reading). It is genuinely rather remarkable that this sequence made it into the final cut of the film. This was clearly an expensive production, but they couldn’t have hired a graduate student to watch the film and point out “hey, you should really cut this part about bicycles, it’s wrong”? It is hard to put much stock in Harris, and friends, as emissaries of technological truth when they can’t be bothered to do basic research.
That Harris speaks so assuredly about something which he is so wrong about gets at one of the central problems with the reformed insiders of The Social Dilemma. Though these are clearly intelligent people (lots of emphasis is placed on the fancy schools they attended), they know considerably less than they would like the viewers to believe. Of course, one of the ways that they get around this is by confidently pretending they know what they’re talking about, which manifests itself by making grandiose claims about things like bicycles that just don’t hold up. The point is not to mock Harris for this mistake (though it really is extraordinary that the segment did not get cut), but to make the following point: if Harris, and his friends, had known a bit more about the history of technology, and perhaps if they had a bit more humility about what they don’t know, perhaps they would not have gotten all of us into this mess.
De har med andre ord ikke lært. De gjorde tabbene de gjorde fordi de ikke kjente teknologihistorien, og ikke hadde satt seg inn i ideene til teknologikritikere som kunne advarte dem mot det de var i ferd med å gjøre. Og så sitter de her nå, flere år senere, og vet fremdeles ikke så mye mer enn før. De skjønner at de har vært med på noe galt og skummelt, men kan ikke forklare det på et dypere nivå.
Et annet eksempel på historieløshet: I dramascenene i filmen ser vi en mobilavhengig familie hvor alle har mobilene framme rundt middagsbordet, og dette settes i kontekst av den avhengighetsdannenede teknologien appene bruker. Det stemmer. Disse appene er designet for å gjøre oss avhengige. Men hvordan så den stua og det middagsbordet ut før smarttelefonen? I mange familier har man vært vant med å spise middag i sofaen foran TV’en. Man har TV’en på kvelden gjennom, nærmest som bakgrunnsstøy. I min oppvekst på 1980- og 90-tallet satt vi i fred rundt middagsbordet. Men TV-skjermen var stuas midtpunkt. Det var alltid noen som så på noe, og dermed dominerte dette kvelden for de andre også. Vi skrudde på TV’en med like stor selvfølge som vi plukker fram mobilen i dag.
I The Social Dilemma finner du ingen spor av denne konteksten. Den sier ikke rett ut at teknologi aldri har vært et problem før, men den gjør ingenting for å sette mobilen inn i et større bilde.
Som Librarian Shipwreck påpeker, er poenget med filmen først og fremst at disse angrende Silicon Valley-veteranene skal få promotere seg selv som løsningen på problemet. Det får de lov til å gjøre uten en gang å påta seg noe egentlig skyld for det som skjedde. Joda, sier de, vi var med på dette, vi skapte noe ondt, men vi mente godt. Bloggen har også skrevet kritisk om dette tidligere, og om prosjektet The Center for Humane Technology som Tristan Harris er involvert i.
En annen god tekst er The Prodigal Techbro av Maria Farrell, som påpeker hvor absurd det er at akkurat disse menneskene nå får all denne oppmerksomheten. Altså at vi lytter til de som forårsaket problemet, og har fått litt, men ikke mye, mer forståelse av teknologikritikk siden, i stedet for å lytte til teknologikritikerne som har hatt rett hele tiden. Det er jo ikke slik at ingen så hva som skjedde før Tristan Harris fikk dårlig samvittighet.
Just half an hour flipping through my contacts produced half a dozen friends and acquaintances who didn’t require a ‘road to Damascus’ conversion to see what was wrong with big tech or the ways governments abuse it. Nighat Dad runs the Digital Rights Foundation in Pakistan, defending online freedom of expression and privacy for women, minorities and dissidents. That’s real courage. Gus Hosein has worked in tech and human rights for over 20 years, runs Privacy International, the UK-based non-profit, and is the most visionary thinker I know on how to shake up our assumptions about why things are as they are. Bianca Wylie founded the volunteer-run Open Data Institute Toronto, and works on open data, citizen privacy and civic engagement. The “Jane Jacobs of the Smart Cities Age,” she’s been a key figure in opening up and slowing down Alphabet’s Sidewalk Labs juggernaut in Toronto. Aral Balkan runs Small Technology Foundation and works on both the tools and the policies to resist surveillance capitalism. Unafraid of being unpopular, even with other activists, Balkan freely hammers rights organizations or conferences for taking big tech’s sponsorship money while criticizing the companies’ practices. In the western Balkans, hvale vale works tirelessly and cheerfully on women’s rights, sexual rights and the political and practical path to a feminist internet. Robin Gross, a Californian intellectual property lawyer, could have put her persistence and sheer pizazz to work defending big entertainment companies, but instead she’s worked for decades against the copyright maximalism that strangles artists’ creativity and does nothing to increase their incomes. I would love to hear their voices amplified, not (just) the voices of those who took a decade and more to work out the rottenness at the core of big tech.
Dette med å angre på dumme ting man har støttet, er jo noe jeg har en del kjennskap til selv, for å si det forsiktig. Det er selvfølgelig bra når vi lærer av gamle feil og får ny kunnskap som setter ting i et riktigere perspektiv. Men da skal man prøve å peke på de som hadde rett hele tiden. Og man skal bruke litt tid på å sette seg inn i hva de sa den gangen for lenge siden, som vi andre nektet å lytte til. Det første steget er å innrømme at man tok feil. Men det neste steget er like viktig: Å få en dyp forståelse av temaet. Det er nesten enda vanskeligere. Det er sikkert lett nok for en ex-Googler å få dårlig samvittighet over hva de har vært med på å skape. Det vanskelige er å avlære alle feilene som førte dem dit, og bytte dem ut med en riktig forståelse av problemet. Farrell skriver:
We all need second chances. Even if we don’t need those fresh starts ourselves, we want to live in a world where people have a reason to do better. But the prodigal tech bro’s redemption arc is so quick and smooth it’s barely a road bump. That’s because we keep skipping the most important part of the prodigal son story—where he hits rock bottom. In the original parable, the prodigal son wakes up in a pig sty, starving, and realizes his father’s servants now live better than he does. He resolves to go home to the people and place he did not value or respect before. He will beg to be one of his father’s servants. He accepts his complete loss of status. But instead of chastising and punishing his prodigal son, the rejoicing father greets him joyfully and heads off the apology with a huge party. It’s a great metaphor for how to run a religion, but a lousy way to run everything else.
Prodigal tech bro stories skip straight from the past, when they were part of something that—surprise!—turned out to be bad, to the present, where they are now a moral authority on how to do good, but without the transitional moments of revelation and remorse. But the bit where you say you got things wrong and people were hurt? That’s the most important part. It’s why these corporatized reinventions feel so slick and tinny, and why so many of the comments on Lajeunesse’s train wreck post on Medium were critical. The journey feels fake. These ‘I was lost but now I’m found, please come to my TED talk’ accounts typically miss most of the actual journey, yet claim the moral authority of one who’s ‘been there’ but came back. It’s a teleportation machine, but for ethics.
Dette kunne like gjerne vært skrevet om The Social Dilemma. Likevel vil jeg anbefale alle å se filmen. Det er en del som er bra i den, og ikke minst er dette en film svært mange nå ser, og hvor de kanskje for første gang får et innblikk i hvordan appene de bruker er designet. Dette er en film mange kommer til å snakke om, og da er det viktig å kunne peke på blindsonene i filmen.