Journalisten har en interessant artikkel om hva som skjedde da Senteret for studier av Holocaust og livssynsminoriteter nylig ble utestengt fra Facebook. Den er interessant delvis for hva den viser om Facebooks moderasjonsprosesser, men kanskje enda mer for hva den avslører om HL-senteret og Journalistens forhold til Facebook.

Det som skjedde var altså at HL-senteret brukte et QAnon-bilde i invitasjonen til et arrangement om konspirasjonsteorier i USA.

En moderator hos Facebook - altså et menneske - tolket dette som støtte til QAnon-bevegelsen, og stengte siden. Nå beklager de det som skjedde, men råder HL-senteret til å ikke bruke slike bilder igjen.

Slik artikkelen presenterer det, fremstår det som en nyhet at det var mennesker som tok beslutningen. Det er det ikke. Det er kanskje mer å anse som en åpen hemmelighet: Mange tar for gitt at modereringen utføres av programvare, og Facebook og de andre gigantene ser ingen grunn til å frata oss denne illusjonen. Det er selvfølgelig mange automatiske prosesser involvert, men de viktigste modereringensoppgavene utføres likevel av mennesker, gjemt bort bak flere lag med programvare. Du får aldri snakke med de som slettet innholdet ditt. Og kun de som har makt til å nå ut i mediene med klagene sine, som HL-senteret, kan forvente å få feilaktige beslutninger ryddet opp i.

I boka Behind the Screen intervjuer Sarah T. Roberts folk som jobber med dette. Her viser hun hvilken umulig oppgave disse menneskene jobber med. De har sekunder på seg til å ta beslutningen sin, og så er det videre til neste mulige overtramp. Jeg gjetter at det var algoritmer som fanget opp at HL-senteret hadde postet et QAnon-bilde. Så ble denne lagt på arbeidskøen til en moderator som ikke hadde tilstrekkelig med tid eller språkforståelse til å forstå det egentlige budskapet. Hva skulle de ellers gjort? Lært seg norsk og brukt en halvtime på å bla i HL-senterets innlegg?

Roberts får samtidig fram at innholdsmoderering er nødvendig. Folk som sier at de er mot moderering avslører at de aldri har opplevd et usensurert internett. Med en gang du setter opp en tjeneste hvor folk kan poste ting, kommer noen til å poste noe uønsket. Da mener jeg ikke uønsket i betydningen støtende, men i betydningen “verre enn det verste du kan se for deg”.

Slik var det før også, iallfall for de større forumene. Før gigantene spiste nettet, løste man dette ved hjelp av moderatorer som var en del av miljøet de selv modererte, for eksempel frivillige i et diskusjonsforum. Det var en utakknemlig drittoppgave som vi nok alle er litt lettet over at vi ikke trenger å utføre. Men alternativet til å moderere selv, er at usynlige moderatorer uten kulturell forståelse tar kjappe og dårlige beslutninger. Og når dette i tillegg utføres på vegne av en gigant som har blitt en uunnværlig del av offentligheten i Norge og mange andre land, får det absurde konsekvenser - som her.

Det er altså noe uunngåelig over det hele. Selvfølgelig foregår modereringen hos Facebook på denne måten, og selvfølgelig har det i blant konsekvenser som dette. Dette gjenspeiles ikke i artikkelen, hvor man i stedet kan lese:

I etterkant har Facebook unnlatt å svare på konkrete spørsmål om Facebook vil endre noen av sine rutiner som en følge av erfaringen med saken rundt HL-senteret. Selskapet har heller ikke svart på om de aktuelle moderatorene som stengte ned siden til HL-senteret, har nødvendig kompetanse om skandinaviske språk, kultur eller samfunnsliv til å fatte en slik beslutning. Eller om de som modererer er basert i Norden/Europa.

Det ville overraske meg om moderatoren som tok beslutningen kan norsk eller har noe som helst forhold til norsk samfunnsliv. Det overrasker meg også at journalisten stiller spørsmålet på denne måten, som om dette er noe Facebook har gitt oss grunn til å forvente. Hva slags selskap tror han dette er? Facebook er en gratis internasjonal tjeneste som tjener penger på å formidle annonser. Hvor i denne forretningsmodellen finnes det rom for å sette opp egne team av moderatorer i alle verdens land, med rikelig med tid til å ta beslutninger som samsvarer med den aktuelle kulturens normer?

Nordmenn anser Facebook som en del av grunnmuren i offentligheten vår. Det følger mye ansvar med en slik rolle. Facebook har aldri takket ja til dette ansvaret. De og Google ønsker å beskytte duopolet de har over annonsemarkedet på nettet, og vil innføre nøyaktig den mengden med modereringsprosesser som er tilstrekkelig for dette, men ingenting mer. Det truer ikke Facebooks makt at en liten organisasjon i et lite land får litt medieomtale etter en feilaktig utestengelse, så lenge de slipper unna med å si unnskyld. Det som truer dem er nå vi slutter å bruke tjenesten deres. HL-senteret blir derimot værende på Facebook:

Senteret opplever det som et paradoks, at det er omtale av samfunnsproblemene som de ønsket å ta opp og diskutere, som førte til at de selv ble stengt ute fra Facebook.

– I likhet med mange andre organisasjoner, har nå også HL-senteret fått erfare hvor sårbar Facebook-plattformen er. Vi blir værende, dog med enda større fokus på sikkerhet og eget innhold som vi deler, sier direktør Hjeltnes.

– Hvilket råd har du til andre i samme situasjon?

– For det første å ta kontakt med Facebook umiddelbart, skrive formelle brev og stå på. For det andre er vår erfaring at redaktørstyrte medier er en god støtte - da får man et budskap fram og en offentlig diskusjon - og det påvirker opplagt også Facebook. For det tredje å sikre at Facebook-kontoen er verifisert og ha gode interne retningslinjer for bruk av sosiale medier.

Både journalisten og HL-senteret tar for gitt at Facebook er noe man bruker, men at det i blant dessverre kan gå galt, for plattformen har noen sårbarheter, og derfor trenger man noen råd om hva man bør gjøre for å få Facebooks hjelp til å rydde opp i problemet. Dette er en variant av det å tigge kongen om nåde, altså hvor undersåtten kritiserer den allmektige kongen for en feilaktig beslutning på en høflig og ærbødig måte, i stedet for å si at det ikke bør finnes allmektige konger.

Jeg ville også vært aktiv på Facebook hvis jeg var HL-senteret. Samtidig må man si klart at Facebooks makt over norsk offentlighet er illegitim og skadelig. Dette er ikke en sårbar plattform som kan forbedres. Skadene den gjør følger som en nødvendig konsekvens av forretningsmodellen.

HL-senterets direktør Guri Hjeltnes er på sporet av en viktig innsikt når hun påpeker hvor sårbart det er at kommuner og offentlige etater bruker Facebook som kommunikasjonskanal, når kontoen deres uten videre kan stenges som følge av en misforståelse (eller som ledd i en kamp mot lover Facebook ikke liker, som i Australia):

– Hele kommune-Norge har etablert Facebook-plattformer som de baserer sin kommunikasjon med innbyggerne på. De store helseforetakene benytter Facebook i en lang rekke sammenhenger, hele organisasjons-Norge er der, ja, mediehus og kulturlivet i hele sin bredde er på Facebook. Når vi gikk ut med denne saken offentlig, var det også for å gjøre andre oppmerksom på hvor lett det er å snuble på Facebook, også når man jobber med forebygging av hat og diskriminering.

Men legg merke til hvor den siste setningen ender opp. HL-senteret gikk ut med saken offentlig for å gjøre andre oppmerksom på hvor lett det er å snuble på Facebook. For å bygge videre på metaforen om den allmektige kongen: Det er som om den ene undersåtten sier til den neste, “det der må du ikke gjøre, for da blir kongen sint”, i stedet for å si “denne kongen må vi kvitte oss med, for han blir sint når du gjør sånne ting”.

Metaforen bryter sammenn fordi det ikke medfører dødsstraff å si at Facebook bør temmes og deles opp. For en organisasjon som HL-senteret er det vel et slags profesjonelt selvmord å ikke være tilstede der resten av offentligheten befinner seg, og store deler av iallfall den godt voksne befolkningen er aktive på Facebook. Derfor sier jeg heller ikke at HL-senteret skal slette Facebook-kontoen sin. (Jeg har ikke gjort det selv heller, bare tatt med meg alt innholdet.) Mine råd til HL-senteret, andre organisasjoner, og firmaer og offentlige instanser, er i stedet:

• Ikke bruk Facebook som deres primære kommunikasjonskanal, men som et midlertidig nødvendig onde. Bruk mange kommunikasjonskanaler. Vær tilstede i fødiverset. Vær på utkikk etter alternativer. Oppfordre andre til å gjøre det samme.
• Ikke snakk om Facebook som en legitim autoritet som man bør underkaste seg. Når du må tilpasse innholdet ditt på en absurd måte, ikke formuler kritikken din som en bønn om nåde til den allmektige kongen, men som en oppfordring til opprør.

Bruk Facebook, men gjør det kynisk. Dette er ikke norsk offentlighet, men en dårlig og skadelig plattform, styrt etter regler vi ikke kan påvirke, som det likevel kan gi en viss verdi å være tilstede på. Bruk Facebook som om kontoen din kan bli stengt i morgen. For det kan den.