Godtroenhet

Det finnes en tradisjonell forestilling om at mennesker godtroende, lettlurte. Lar seg forføre av karismatiske sjarlataner og forledes til å gjøre dumme og gale ting. Dette er en populær fortelling i mange miljøer. Predikanter gjør bruk av den, når menighetene avviker fra dogmene. Ateister bruker den om religiøse. Konspirasjonsteoretikere bruker den om oss andre. s3-4

Én forklaring for hvorfor vi skulle være født med en slik godtroenhet, særlig barn, er at det er nyttig for overføringen av kunnskap og kultur fra én generasjon til den neste. Barn anses som totalt ukritiske, som en faksmaskin. Men denne modellen forklarer ikke mangfoldet som finnes, selv i små og lukkete grupper. Vi kopierer - men hvem kopierer vi? Boyd & Richerson snakker om gene-culture coevolution. Vi har en evne til å ta stilling til hvem vi skal lære fra. s9-10

Medfødte tommelfingerregler som kunne føre til godtroenhet ville for eksempel være:

• Kopier det de mest vellykkete gjør, for det er umulig å vite hva som var den avgjørende faktoren i suksessen deres
• Conformity bias. Gjør som flertallet.
• Kombinasjon av disse: Kopier de som flertallet beundrer. s10-11

Årvåkenhet i kommunikasjon

Problemet med denne fortellingen om naturlig utviklete egenskaper for godtroenhet er at all kommunikasjon har et strategisk element.

Byttedyr kommuniserer med rovdyr. “Jeg kommer til å slippe unna, så bare gi opp.” Bruker signaler som ikke kan forfalskes. Det som gjør dyre signaler troverdige er ikke at de er dyre som sådan, men at de er tilstrekkelig dyrere for en løgner enn for en som snakker sant. Å eie en dyr iPhone er et signal om at eieren er rik, fordi kostnaden ved å kjøpe den er for stor for en som er fattig. s24-26

Signalet man sender behøver ikke å ha en faktisk kostnad, så lenge det i stedet finnes en mekanisme som straffer løgn. Det er forskjellen mellom kostnaden for sannhet og kostnaden for løgn som betyr noe, ikke den absolutte kostnaden. s27

Naturlig utviklet åpen årvåkenhet

Kommunikasjon er så viktig for oss mennesker at det er naturlig å anta at vi har utviklet egenskaper for åpen årvåkenhet.

Én (feilaktig) modell for hvordan evolusjon kunne formet godtroenheten og skepsisen vår er å sammenligne det med et våpenkappløp mellom avsender og mottager, hvor det å ha en fungerende skpepsis henger sammen med intellektuelle evner og overskudd, og det er mulig å manipulere de dumme og distraherte. s31

Frykten for hjernevasking stammer fra Koreakrigen. Noen amerikanske soldater gikk over til Kina etter å ha blitt torturert, som “beviste” at de hadde blitt brutt ned i en slik grad at de lettere kunne manipuleres til å bli noe helt annet. Tilsvarende fantes det en frykt for skjult, underbevisst markedsføring på kino. s32-33

Begge disse fryktene henger sammen med en gammel idé om at godtroenhet kommer av manglende intellektuell kapasitet. Enten som følge av at man er dum generelt, eller for øyeblikket distrahert, eller at man har inngått i en menneskemasse. Gruppepsykologien utviklet ideer om at massen er godtroende, sårbar for demagoger. I dag brukes dette som en forklaring på Trump og Brexit. Det antas at barn er godtroende, fordi de er dummere enn voksne. Dette dukker også i ideen om at hjernen tenker med system 1 og 2, hvor 1 har manipulerbare svakheter. Daniel Gilberg mener at i utgangspunktet tror vi på alt vi leser. Skepsis er avhengig av at system 2 fungerer, og dette er lett å forstyrre. s34-37

Men våpenkappløpet er feil metafor. Våpenkappløp kjennetegnes av stillstand. Begge parter ruster opp slik at ingen endrer seg. Kommunikasjon blant mennesker fungerer ikke på denne måten. En bedre metafor: Å være alteter vs å bare spise én ting. Dyr som bare spiser én type mat, trenger ikke evnen til å vurdere om denne tingen er trygg å spise, bare til å kjenne den igjen. Altetere som mennesker og rotter er derimot både åpne og årvåkne. Vi er villige til å prøve hva som helst. Altetere følger nøye med på hva som skjer når vi eller andre rundt oss spiser noe. Vi husker hva som gjør oss og andre syke. Vi favoriserer maten vi fikk som barn. På tilsvarende måte er andre primater kommunikasjonsspesialister, de sender og forstår kun bestemte signaler. Mennesker derimot kommunikasjonens altetere. Vi er mer åpne, men dette krever også mer årvåkenhet. s38-40

Utgangspunktet til forfedrene vi har utviklet oss fra er ikke godtroenhet, men spesialisert kommunikasjon. Herfra har utviklingen av åpenhet og årvåkenhet gått hånd i hånd. Det vi faller tilbake når vi kommer under press er derfor rigiditet, konservatisme. s41

Hjernevasking fungerte ikke. Krigsfangene i Korea gikk over til Kina av andre grunner. Det er mer effektivt med mykere metoder som gjør bruk av offerets kognitive evner. På samme måte vil ikke det å se teksten “drikk Coca-Cola” i noen millisekunder få folk til å gjøre dette. Effekten er minimal. s42-43

Det er ingen direkte sammenheng mellom det å være mindre analytisk og det å være mer godtroende. Sammenhengen er mer kompleks. Analytisk tenkning åpner deg for både gode og dårlige nye ideer. Skaper kulturell variasjon. s44

Marxistiske ideer er mer effektivt for å skape kommunister enn hjernevask. Barn er ikke godtroende fordi de er dumme, men fordi det gir mening å stole på de voksne som passer på deg. s45

Hva man skal tro på

Dilemmaet vårt er at vi må være åpne for å lære nye ting, men må gjøre bruk av det vi vet fra før for å vurdere troverdigheten til det nye.

Brenden Nyhan og Jason Reifler hevdet de fant en backfire effect, at folk paradoksalt blir sikrere i sin sak når de mottar motstridende informasjon. amerikanske konservative ble sikrere på at det var masseødeleggelsesvåpen i Irak da de fikk informasjon om at disse ikke fantes, og den samme effekten blant vaksinemotstandere. men Thomas Wood og Ethan Porter har forsøkt å gjenskape backfire-effekten, og fant den bare i 1 av 30 spørsmål. som regel lar vi oss påvirke av motstridende infrmasjon. s48-49

Vi har egentlig en god evne til å evaluere gode begrunnelser. Men å bli overbevist av et godt argument forutsetter at du er fokusert nok til å følge med. Hvis du ikke forstår, kan du heller ikke akseptere det. s52-54

Selv når folk har fått en logisk nøtt, har kommet fram til feil svar, og er helt sikre på at dette er riktig, lar de seg overbevise av argumenter for at de tar feil. Andre eksperimentelle bevis for at vi er gode til å evaluere argumenter: Hahn & Oaksford 2007. Petty & Wegener 1998. Priniski & Horne 2018. s55-56

Vi kan også finne historiske eksempler på dette. Vitenskapen godtar nye ideer, selv når de er radikale, som Gödel. Det finnes politiske eksempler: Storbritannias avskaffelse av slaveriet. Freveksten av støtte for minoriteters rettigheter. Og personlige bevis: Mange kjenner på følelsen av å være tiltrukket av et ukomfortabelt argument. s56-57

Vi vurderer kommunikasjonen vi mottar på to måter:

• Er dette troverdig, ut fra det vi allerede vet?
• Og er argumentene som legges fram gode? s58

Vi trekker gode slutninger innen områder evolusjonen har forberedt oss, og områder vi har fått grndig opplæring i. Men utenfor disse områdene sliter vi. Intuisjonene våre sender oss i feil retning. Vaksinemotstand er en slik intuitiv feilslutning. Vi tror kroppen fylles med virus, det føles feil. Frykten kommer først, ledere som McCarthy og Wakefield kommer etterpå, for å rasjonalisere frykten. Elena Conis mener at det var foreldrenes vaksinefrykt som skapte Wakefield, ikke omvendt. s59-60

Noen slike feiloppfatninger er unike, mens andre dukker opp gang på gang i ulike kulturer, med ulike begrunnelser, fordi de er lett tilgjengelig for intuisjonen. Konspirasjonsteorier, økonomisk proteksjonisme. s61

Hvem vet best?

Elizabeth Robinson har funnet at bern ned mot tre år vurderer troverdigheten til det voksne sier. De hører mindre på noe de selv vet av egen erfaring er feil. De gjør også bruk av informasjon om hvilke kilder foreldrene har for det de sier. Sier de “sånn er det” eller “sånn er det fordi..”? Det siste er mer troverdig. s64

Et sterkt signalm om at noen er kompetent innenfor sitt domene, og dermed troverdige, er hva de har fått til tidligere. Når vi har identifisert kompetente personer, kan vi forsøke å imitere dem, men det er ofte mer effektivt å bare spørre dem om hjelp. s66

Men suksess kan komme av ren flaks, for eksempel i finansmarkedet. Vi trenger flere verktøy for å vurdere andres kompetanse. Det er ikke åpenbart hvilke slutninger vi bør trekke fra observerbar suksess til underliggende kompetanse, selv om noe så konkret som å reparere datamaskiner. Likevel har vi gode intuisjoner for dette. Vi er ofte i stand til å si hvem i gruppa vår som er best egnet til å utføre en oppgave, fordi vi har observert dem over lengre tid. s68

Det er ofte temmelig smart å følge flertallet i et spørsmål. En grei tommelfingerregel. s70

Thomas Morgan har gjort eksperimenter hvor folk skal løse en vanskelig oppgave og har tilgang til info om hva andre har svart på samme oppgaver. Det viser seg at folk er flinke til å gjøre bruk av dette på en god måte. De veier sin egen mening opp mot flertallets på en grei måte. s72

Et evolusjonært gyldig signal er et signal som var tilstede på en konsistent og pålitelige måte i en periode hvor vi kunne ha utviklet intuisjon som gjør bruk av det. Derfor finner vi det naturlig å lytte til flertallet, men ikke å følge en tilsvarende logikk når den formuleres på en statistisk måte. Statistikk er en moderne oppfinnelse. s73

Vi forstår intuitivt at når flertallet mener noe fordi de alle lytter til én felles kilde, teller dette kun som én kilde, ikke mange. Dette er mindre troverdig for oss enn om alle hadde ulike grunner og kilder. s74

Det berømte konformitetseksperimentet til Solomon Asch, hvor folk lot seg påvirke av folk rundt seg til å gi et åpenbart feil svar om hvilken linje som var lengst, brukes som bevis på menneskers konformitet. Men det kan også tolkes omvendt: Hele to av tre stod i mot presset. Og i varianter hvor man har anledning til å svare privat, er det nesten ingen som følger flertallet. De ble altså ikke overbevist, svaret kom av noe annet enn godtroenhet. (Ie det handler om makt og status, ikke at man har blitt lurt av flertallet.) Tilsvarende gjorde Stanley Milgram et eksperiment hvor folk på gaten begynner å stirre på noe oppi lufta, for å se om dette får forbipasserende til å tro at det er noe der. Dette ble replikert av Andrew Gallup, som fant at folk ikke følger gruppen blindt. De gjør god bruk av observasjoner for å vurdere situasjonen. De oppfører seg ikke som om det var sosialt press som påvirket dem. s74-75

Hvem kan vi stole på?

Avsløring av løgner ved hjelp av mikrouttrykk, ref Paul Ekman og TV-serien Lie to Me, fungerer dårlig. Forskningen er ikke fagfellevurdert, lar seg ikke replikere. Mikrouttrykke ville vært evolusjonært ustabilt, hvis de fantes. (Se også Münecats knusende videoessay om Ekman og andre kroppsspråkeksperter.) s80-81

Tim Levine og Thomas Reid mener at vi stoler på det folk forteller oss fordi det faktisk er uvanlig å lyve. Det er i og for seg sant at det er uvanlig å lyve, men dette er ikke en evolusjonært holdbar påstand. Noe må holde løgnen i sjakk, ellers vil fordelene ved å lyve få overtaket. Det er vanskelig å vite når folk lyver. Det er enda vanskeligere, og på en måte viktigere, å vite når de er skjødesløse, altså at de har unnlatt å lege grundig nok etter informasjon de ikke har interesse av å sitte på. Fyrer løs med kjappe meninger. s82-83

Bedre enn å lete etter tegn på løgn er det nok å lete etter tegn på hvor nøye noen er med å gi deg brukbar informasjon. Legger de innsats i å vite hva som er sant og formidle det til deg på en måte som er relevant for deg og din kontekst? Vi kan lettere stole på dette når vi har felles insentiver, mål. s84-85

Også barn forstår at de skal stole mindre på det de hører fra noen med motstridende interesser. Når insentivene ikke overlapper perfekt, gjør vi bruk av anseelse og rykte for å få dem til å overlappe. Vi er ganske flinke til å vurdere hvem som er nøye og pålitelige samarbeidspartnere. s86-88

Siden vi ikke alle kan være 100% nøye med alt vi sier, hele tiden, sender vi også signaler om hvor mye vi stiller oss bak budskapet vårt, hvor mye vi forplikter oss til at vi tror at dette er nyttig for mottakeren. Slike signaler kan være ordene vi bruker, tonen vi snakker med, eller hva slags begrunnelser vi gir. Signalene er bare nyttige hvis vi vurderer dem kritisk, blant annet i lys av tidligere oppførsel. Hvis to personer tar like mye feil, men den ene var svært selvsikker, stoler vi mindre på dem neste gang enn personen som var usikker. s89-90

Overdreven selvtillit kan lønne seg i kontekster hvor det er vanskelig å evaluere resultatet, som deler av politikken og næringslivet, (og kanskje medier?) Dette er langt vanskeligere i små grupper. I et stort, komplekst samfunn har vi ofte ingen informasjon om avsenderen. Da faller vi tilbake på konservatisme og lite tillit. Antagelig gjør vi dette mer enn vi burde, ikke for lite. Vi er ikke for åpne, men for lukket. s91-93

Hva skal vi føle?

En tradisjonell forklaring på hvordan følelser og oppførsel sprer seg i grupper er hentet fra epidemiologien: Det sprer seg som et virus. Goes viral. Studier viser at vi kjapt imiterer ansiktsuttrykkene til de vi snakker med. Dette brukes som et argument for at følelser er smittsomme. Men det gir lite mening evolusjonært at vi kjapt skulle imitere andres følelser. Det er for lett å utnytte. s96-98

Robert Frank sier at følelser er verdifulle signaler, fordi de er automatiske og ikke lett kan forfalskes. Men dette gir heller ikke mening fra et evolusjonært perspektiv, fordi det ikke er viktig om et signal sendes bevisst eller automatisk. Naturen kan forfalske signalet, selv om ikke er bevisste på det - hvis dette belønnes. s99

Vi må skille mellom automatiske mekanismer som ligger utenfor vår bevisst kontroll og tvungne mekanismer, hvor resultatet følger som en nødvendighet. Det meste som skjer i hodet vårt er foregår automatisk, men det betyr ikke at det også er tvungent og nødvendig. s101

Følelsesmessig årvåkenhet: Vi har mekanismer som justerer vår reaksjon på andres følelser etter hva som er i vår interesse, slik at vi ikke blir utnyttet. Mekanismene tar hensyn til konteksten, våre egne meninger og planer, og de andres pålitelighet. Også små barn vurderer påliteligheten til andres følelsesmessige signaler, og tar dem mindre på alvor når de ikke har vært til å stole på før. s102-104

“Smitte” er en dårlig metafor for dette, blant annet fordi vi ikke er utviklet for å ta i mot og spre virus. Når følelser blir massefenomener, sprer de seg ikke ut fra kontakt, slik virus gjør, men innenfor en avgrenset gruppe som stoler på hverandre, som for eksempel når det oppstår latterepidemier blant skoleelever.

Bildet vi har fra historien av den “irrasjonelle mobben” er helt feil. De stor massemønstringene under den franske revolusjonen og gjennom 1800-tallet endret aldri opp i retningsløse blodbad - annet enn når det var myndighetene som drepte. (Samme som med strilekrigen i Bergen, ref Gundersen.) Masser kan gjøre fryktelige ting, men ikke på en måte som peker mot en slags smittsom irrasjonalitet. De som utfører overgrepene kan derimot være svært “rasjonelle” ut fra sitt perspektiv. De gjør bruk av en kaotisk anledning til å gjøre noe de ønsket å gjøre i utgangspunktet. (Altså, hvis du liker å stjele, drepe, voldta, er det rasjonelt å gjøre bruk av en anledning til å gjøre dette straffefritt.) s108-110

Det samme gjelder massepanikk. Selv under katastrofer og terrorangrep er det få tegn til panikk i stor skala. De som gjør gale ting i slike situasjoner, gjør det av egeninteresse, ikke fordi de fikk panikk. Menneskemasser er mangfoldige. Følelser og oppførsel sprer seg, men filtreres gjennom våre egne planer og meninger, og hvor mye vi stoler på de andre og deres følelsesuttrykk. s111-112

Demagoger, profeter og predikanter

Argumentasjon fungerer best i små grupper. I store gruppen må interaksjonene bli enklere, og det blir vanskeligere å vurdere folks kompetanse. Folk faller tilbake på “virker dette troverdig?” s113

Den opprinnelige “demagogen”, Kleon i Aten, forledet ikke massene til å gå mot sine egne interesser. Det var heller omvendt. Han tilbød en politikk som massene opplevde som nyttig. Det var ikke snakk om en ubegrunnet karisma. Da Aristofanes gjorde narr av Kleon, lo folk med. s115

Selv Hitler hadde begrenset evne til å forme opinionen. Han hadde snarere en evne til å følge opinionen. Han surfet fram på en bølge av antimarxisme, men tonet ned jødehatet der og når det var hensiktsmessig. Talene og propagandaen hadde en begrenset effekt, og folk mistet troen på ham som leder da krigen begynte å gå dårlig for Tyskland. s116

Også mottakelsen av profeter er avhengig av hvilken sinntilstand og materielle omstendigheter tilhørerne befinner seg i. Det må litte brennbart materiale klart til å bli satt fyr på. Millenaristiske bevegelser oppstår når omstendighetene legger til rette for det. Det kan for eksempel være snakk om en opplevelse av krise, undertrykkelse eller sosiale omveltninger. Religionen eller ideologien åpner døra for noe mange ønsker å gjøre av andre grunner. Altså, ideene overbeviser de som har en grunn til å bli overbevist. s117-120

Verdensreligioner vokser sakte, over lang tid, ikke ved hjelp av konvertering. Rodney Stark: Den tidlige kristne kirken hadde 3.5% årlig vekst, det var også nok. s122

Konvertering følger sosiale bånd. Selv de som konverterer til en upopulær religion som stiller strenge krav, får noe igjen for det. De blir lykkeligere. Mormonerne krever mye tid og penger, men gir også mye igjen til medlemmene. Selve troen/mening kommer etter at man engasjerer seg og utfører handlinger. Det faktiske teologiske innholdet er mindre viktig og mange får aldri et intenst forhold til ideene i religionen deres. Prester har begrenset innflytelse, selv når de har mye makt. (Ref Gundersen om Haugianerne, selv under eneveldet var presten avhengig av menighetens samtykke til å la seg bli belært.) s123

Prestene i middelalderen klagde over hvor vanskelig det var å få folk til å tilpasse seg de mest grunnleggende kravene til kristen oppførsel. De brukte høytidene som anledning til fest, (som i dag. “Vi må tilbake til julas egentlige kristne budskap.” Nja, jul er fest, har i stor grad alltid vært det.) s125

Det har til alle tider vært vanlig at den rådende ideologien får begrenset tilslutning fra massene. Folk gjør motstand med de svakes våpen, altså det de slipper unna med. Her ligge rogså noe av forklaringen for millenniarisme og revolusjon: Dette er anledninger for å gjøre mer motstand, ikke et produkt av manipulering. (Igjen ref Gundersen, diskusjonene om i hvilken grad norske kirkegjengere delte eneveldets ideologi.)

Propaganda og reklame

Nazistene la stor innsats i å spre antisemittisme før og etter at de vant makten, men propagandaen fungerte bare i områder av Tyskland som var antisemitter fra før av. Hitler hadde en forestilling om at massen var feminin og barnslig, og derfor mottakelig for enkle, repetive budskap. Men han lyktes dårlig med dette selv. Nazistene gjennomført antisemittisk politikk med makt, ikke med overtalelse. Og i følge deres egen sikkerhetstjeneste fungerte tysk krigspropaganda dårlig. Antikommunismen var populær på høyresiden, men upopulær blant arbeidere. s128-130

Lojalitet på slagmarken har lite å gjøre med politikk. Det har mer å gjøre med båndene som oppstår mellom soldater, frykt for straff, og frykt for å bli tatt til fange. Propaganda fungerte bare når den spilte på lag med massene. Det samme gjaldt i Sovjetunionen. s131

Også Kina: De som deltok i kulturrevolusjonen opplevde at Mao tilbød en løsning på deres personlige problelmer. I dagens Kina er det lav tillit til statens propaganda. Propagandastrategien i dag er derfor “friction and flooding”. Skap friksjon for tilgang til sensitiv informasjon, og oversvøm folk med distraherende informasjon. Kommunistpartiet har gitt opp å overbevise kritikerne. s132

At folk slutter seg opp om statspropaganda gjenspeiler ikke nødvendigvis tro, men statens makt til å straffe kjettere. Eller, som i dagens Kina, tilslutning gjenspeiler de faktiske materielle forholdene, ikke vellykket manipulasjon. Folk støtter partiet fordi de faktisk opplever at levekårene deres har blitt bedre. s134

Propaganda i demokratier et svært komplekst. Tidlig på 1900-tallet trodde man at man kunne få folk til å tro på nærmest hva som helst. I 1970-80-årene kom man fram til en mer sofistikert forståelse. Eksperimenter pekte mot at det man kan oppnå i praksis er å sette agendaen, påvirke hvodan spørsmålene presenteres og hvilke kriterier vi skal bruke for å evaluere dem. “Agenda, framing, priming.” Men effekten av dette har uklar økologisk gyldighet. s136

Joshua Kalla og David Broockman (2018) gjorde en metaanalyse av randomiserte eksperimenter med økologisk gyldighet. Fant ingen effekt på velgerne av utdeling av pamfletter, banking på dører, og så videre. s138

Cambridge Analytica fikk mye oppmerksomhet for bruk av persondata til å manipulere Facebook-brukere - men de var en svindel. Målrettet produktreklame kan ha en liten effekt, men ingen har funnet dette for politisk reklame. s139

Nyhetsmedier har stor effekt på valg gjennom noe så enkelt som at de formidler kandidatenes syn på viktigste spørsmål. Dette gir velgerne informasjonen de trenger for å ta stilling. Hvilken politiker er enige i spørsmålene jeg er opptatt av? s140

Også vanlig reklame har en uklar effekt. Den viktigste effekten er å formidle grunnleggende informasjon om et produkt til de som ikke har erfaring med det. De som derimom har erfaring, stoler heller på denne. s141

Spennende rykter

Den tradisjonelle forklaringen på falske rykter, så som at Obama var muslim, er at de henger sammen med folks sinnstilstand. De føler angst og usikkerhet. Angst skaper godtroenhet og behov for en fortelling som kan redusere usikkerheten. Problemet med denne fortellingen er at ryktene vi deler ofte gjør oss mer usikre. De forteller om en verden som er skumlere enn antatt. s147

Rykte kan ofte være en grei kilde til sann informasjon, for eksempel på arbeidsplassen, i en bransje, eller i militæret. Rykter er gjerne pålitelige i den grad de har betydelige konsekvenser for de som sprer dem. Det er da folk legger innsats i å vurdere påliteligheten til informantene sine, og vurdere det de blir fortalt opp mot andre kilder og tidligere kunnskap. s149-150

Når vi tror på falske rykter er det ofte snakk om meninger med få praktiske konsekvenser for oss selv. Dan Sperber skiller mellom reflekterte og intuitive oppfatninger. Reflekterte har få direkte konsekvenser for oss, så det gjør lite fra eller til hva jeg mener. Hvis man mener at Israel stod bak 11. september-angrepene, hva skal man egentlig gjøre med dette? 9/11-truthere tror at myndighetene deres er brutale og onde, men holder møtene sine i full offentlig. Det er som om de ikke egentlig tror på det de selv sier. s152-153

Rumour d’Orleans, 1969: Antisemittiske rykter om jødiske butikker. Men folk gjorde lite mer enn å stirre på butikkene det gjaldt.

Interneringen av japanere i USA under Andre verdenskrig: Ryktedrevet, men materielle faktorer var viktigere. Det var snakk om vellykkete jordeiere og bønder, andre ville ha jorda deres.

Pakistanere som mener at etterretningstjenesten ISI er onde og brutale holder ikke møter i offenligheten om dette, for de vet at da havner du i fengsel. Millioner av amerikanere trodde på Pizzagate, men bare én, Edgar Welch, oppførte seg som om han virkelig trodde på det. s154

Vellykkete falske rykter handler ofte om en opplevelse av trussel. Vi er så sugne på trusselinformasjon at vi samler inn og sprer dette også når det ikke er direkte relevant for os sselv. Det er en assymetrisk kostnad her: Det er bedre å være for ukritisk enn å være for kritisk. Det er på samme måte som vi er i stand til å gjenkjenne ansikter i tilfeldig støy, eller med ting vi finner avskyelige eller overraskende. Konspirasjonsteorier handler ofte om ting det er viktig å være på vakt mot: Koalisjoner av mektige personer som utgjør en trussel mot oss. Når det oppstår kriser, blir folk mer nysgjerrige på hva som foregår, men informasjon har ikke nødvendigvis praktisk relevans av den grunn. Dermed blir det flere falske rykter. s157-158

Interessante rykter har en sosial verdi. Du blir belønnet for å spre dem, og i motsetning til nyheter, er det bare du som sitter på informasjonen. Det skaper et insentiv for å spre dem. Når vi hører informasjon leter vi etter tegn på at den er troverdig - ellers avviser vi den. Når vi derimot videreformidler informasjon, leter vi i stedet etter tegn på at den kommer til å bli avvist - ellers sprer vi den. Det har en lav kostnad for oss å spre falsk informasjon ved et uhell. s160-161

Den åpne årvåkenheten vår håndterer falske rykter ved å bare tro på dem i reflektert forstand, og spare spre dem videre til de som vi tror er mottakelig for dem. Dermed får vi ingen krav til personlig handling, og vi unngår samtidig de negative konsekvensene av å ha formidlet noe til noen som vet at dette er bullshit. Det er derfor det primært er rykter som har direkte relevans for den som sprer dem vi bør stole på. Disse tror man på intuitivt, fører til handling, og det har negative konsekvenser å spre dem hvis de er feil. s162

Falske rykter med få praktiske konsekvenser sprer seg fordi de er interessante, og fordi vi vet at de er interessnate for andre, samtidig som vi unngår å koble de til virkeligheten i form av handling eller ved å snakke med personer som vet at dette er feil. Falske rykter sprer seg med andre ord fordi vi ikke tar dem tilstrekkelig på alvor. Løsningen på dette er å skape mer friksjon. Oppføre seg som om den man sprer rykter til, er i stand til å si at dette er bullshit. Straffe de som sprer falske rykter. s163-165

Overnaturlige oppfatninger

Falske rykter har ofte vage kildehenvisninger, eller spesifikke men falske henvisninger, som kjennetegnes ved at kjeden med henvisninger ikke utvides ved gjenfortelling. Når du får høre et rykte hvor kilden er “en venn av en venn”, utvider du ikke dette til “en venn av en venn av en venn” når du videreformidler. s166

I noen språk er det obligatorisk å oppgi hvordan man vet det man sier. s168

Ikke alle kilder er troverdige, og det er ikke alltid mer troverdig å oppgi kilde. Å vise til en kilde, kan også få det til å fremstå som at du ikke vil ta ansvar fo det du sier. Hensikten med kildehenvisninger, i tillegg til å overbevise, er også å justere konsekvensene for ens egen status. Ta æren for noe ufortjent, eller unngå straff hvis det viser seg å være feil. s170-171

Rykter gir status fordi du gir folk en spennende fortelling å dele videre. En spesifikk kildehenvisning som du samtidig har litt avstand til, så som at man “hørte det fra politiet”, er den perfekte unnskyldningen for å spre det videre, selv om både ryktet og kilden er falsk. s172

Det er et stort problem for den åpne årvåkenheten vår at påstander vi hører fra ulike steder kan ha en felles kilde og dermed fremstår som mer troverdig enn fortjent. Kildekritikk handler om å følge kjeden av kilder og vurdere deres troverdighet og omdømme. s174-179

Heksetilståelser og andre nyttige absurditeter

Falske tilståelser er vanlige og bygger ofte på tortur, press eller manipulasjon, men fremstår samtidig så overbevisende at alle andre bevis for eller mot blir overflødige. Falske tilståelser godtas når omstendighetene for dem holdes skjult, men avvises når omstendighetene er bedre kjent. s182-184

Falske tilståelser for trolldom gir mening hvis du ser det slik at hensikten med å tilstå, er å bli behandlet bedre for noe folk rundt deg allerede tror du er skyldig i. Dette bidrar paradoksalt nok til å styrke troen på at trolldom er ekte. Det var ikke kvinnene som tilstod at de var hekser som ble hengt i Salem. Hekser som tilstår, blir behandlet overraskende godt. De får en vei inn i samfunnet igjen. Dette stemmer dårlig forbrytelsen de anklages for, og peker mot at vi her har å gjøre med reflekterte meninger. Når hekser får dødsstraff, forklares dette bedre med mer jordnære motiver, som egeninteresse. s188-189

Det er få som virkelig tror å personkulten i diktaturer, dette er bare et språk man må lære seg å mestre for å overleve. s190

Grupper ofte skeptiske til nykommere. Man kan vinne tillit ved å brenne bruer til andre grupper, snakke negativt om den slik at det blir åpenbart for alle at man ikke senere kan bytte til disse grppene. Overdreven skryt av egen gruppe er et signal om at man forkaster andre grupper. Det samme gjelder påstander som fra utsiden fremstår inkompetente, avskyelige eller ekstreme. Ingen vei tilbake. Ekstreme politiske påstander kan altså være en måte å vinne tillit gjennom brobrenning. Dette kan skape en inflasjon hvor nye medlemmer kommer med enda mer ekstreme uttalelser for å oppnå status i gruppen. s192-194

Folk er ikke dumme. Uttalelser som setter oss selv i et negativt lys kan være bevisste. Vi oppnår mildere straff for det vi er anklaget for, eller vi oppnår høyere status i én gruppe, på bekostning av andre. s198

Bortkastete falske nyheter

Det er en antagelse om at falske rykter og nyheter fører til pogromer, Trump, Brexit osv. At folket manipuleres til handling. Eller at for eksempel en dårlig medisinsk teori fører til årelating. Men årelating kan ikke skyldes på Galen, fordi dette har vært en vanlig praksis over hele verden, også i kulturer som aldri har hørt om Galen. Teorien rettferdiggjorde noe folk følte var riktig i utgangspunktet, av andre årsaker. Falske rykter om jøder er svært vanlig, men fører nesten aldri til pogromer. Årsakssammenhengen går dermd motsatt vei: Pogromer starter av andre årsaker. Folk bruker ryktet til å rettferdiggjøre seg, underveis og i etterkant. s200-204

Det er uklart om falske nyheter fikk folk til å stemme på Trump i 2016. Disse slo best an blant de som allerede var de ivrigste tilhengerne. De som mottok korrigert informasjon, godtok korreksjonen, men fortsatte å støtte Trump. Ryktet om at Obama var muslim, overbevise de som allerede mislikte ham. s205

Falske nyheter og svake begrunnelser kan fylle et behov for begrunnelser i møte med kritikk og alternativer. Galens teori om årelating ble utformet fordi det dukket opp alternativer til praksisen. Altså måtte den begrunnes. Falske rykter om Trump fylte et lignende behov hos velgere som allerede ønsket å stemme på ham, men fant lite fra ekte medier til støtte for dette som de kunne dele på sosiale medier. s206

Polarisering kommer primært fra at personer på samme side snakker sammen og styrker intensiteten i meningene sine. Meningen er sjelden helt presise, de har et rom. Å høre flere argumenter for en mening styrker ikke bare tilliten til den men påvirker også hvor i dette rommet den plasserer seg. s210

Polariseringen blant amerikanske velger har ikke økt de siste tiårene. De fleste plasserer seg i sentrum. s211

Ekkokamrene på sosiale medier er en myte. Folk har varierte vennenettverk. Men sosiale medier kan gjøre velgerne mer konsistente gjennom å gjøre dem mer oppmerksom på hva deres parti eller side står for i ulike spørsmål. s212

Eldre amerikanere er mer polarisert enn yngre, men bruker sosiale medier mindre. s213

Den gode nyheten er at falsk informasjon ofte har liten effekt på handlingene våre. den dårlige nyheten er at dermed har riktig informasjon også liten effekt. Folk gjør det de ønsker å gjøre. Abstrakte ideer for eller mot behøver ikke å ha noen effekt. s214

Overfladiske guruer

Det å være et mennesker en intuitiv idé, noe alle mennesker har et nært forhold til. Å være et menneske med en overnaturlig egenskap (Zeus, spøkelser) er en minimalt kontraintuiv idé, intuitivt nok til at vi klarer å tro på det, men ikke-intuitivt nok til at det er en interessant idé, en god fortelling. Andre ideer er derimot totalt kontraintuitive, så som kristendommens Gud, men også mye vitenskap, og både god og dårlig filosofi. Argumenter for dette totalt kontraintuitive kan kun fortsås og evalueres av spsialister. s220-221

Når vi aksepterer slike kontraintuitive ideer, er det gjennom vår tillit til de som formidler dem. Samtidig er aksepten overfladisk. Du kan ha en teologisk korrekt forståelse av den allmektige, allvitende treenighetens Gud, men i praksis tenke på “ham” på en intuitiv måte, som et menneske + noe mer. På samme måte har selv de som kan fysikk en intuitiv fysikkforståelse som de faller tilbake på. s222-223

Karisma er en dårlig forklaring på hvorfor vi godtar konraintuitive ideer. Bare noen få predikanter og forskningsformidlere er karismatiske. Tre andre faktorer:

• 1. Rykte og anseelse. Hvem har giss oss troverdig og nyttig informasjon tidligere? Informasjon om trusler fremstår dessuten som mer troverdig, selv om de sjelden kan etterprøves. Årelating er intuitivt, men Galen tok ideen i en farligere retning enn det som er vanlig. Det intuitive åpner til en viss grad døra til det ikke-intuitive. (Og omvendt: Tomme abstraksjoner som ‘vi er et demokratisk land’ kan fylles med eksplosivt politisk innhold, som av Marcus Thrane.)
     
     Religion fungerer kanskje på samme måte. Idealer som moderasjon og selvdisiplin føles intuitivt riktige under visse materielle omstendigheter, og så oppstår teologiske begrunnelser for dette, som på sin side går lenger enn intuisjonen. Derfor består religion av to sett ideer, de intuitive, som ligner hverandre på tvers av religioner, og er mer viktige for teologenes behov for indre konsistens, men som betyr mindre for folk flest.
• 2. Det er ikke lett å forklare hvorfor kontraintuitive vitenskapelige ideer aksepteres så bredt som de faktisk er. Disse kan sjelden surfe på en bølge av intuitive ideer. Likevel bruker folk tegn på vitenskapelighet til å evaluere en påstands troverdighet. Matematiske symboler, “hard” vitenskap, prestisjefylte institusjoner.
• 3. Gurueffekten. Å formulere seg på en obskur måte reduserer relevansen, men kan i noen tilfeller øke troverdigheten. Jacques Lacun var notorisk obskur, men svært innflytelsesrik. Løsningen på dette er å ikke låne ut anseelse på kreditt. Anseelsen må bygges opp før man tror noen, for eksempel når de advarer om en trussel. Vi kan også prøve å finne bedre tegn på vitenskapelighet, så som konsensus og mangel på interessekonflikter. Avvis obskure guruer. De mangler ofte anerkjennelse i det vitenskapelige miljøet. Utenfor matematikk bør de fleste ideer kunne forklares på en klar måte. s225-238

Sinte synsere og dyktige svindlere

Det er to årsaker til feilplassert tillit:

• Når noen velger vår side uten kostnad eller risiko.
• Eller når tegnene vi bruker er for grove, så som yrke eller etnisitet. s240

Å velge side bør skape tillit hos denne siden når det har en kostnad. Man må velge bort den andre siden. Å velge side er derimot et svakt signal når det ikke koster noe, for eksempel når en TV-kanal på høyresiden tar side med sine egne seere. Det jager ikke bort noen og forteller derfor lite om deres eget engasjement. Det er likevel et effektivt triks. Det utnytter en mekanisme som under mer “typiske” omstendigheter er pålitelig. s242

Slike synsere tjener på å fremstille motparten som overveldende mektige, og dermed skapes det en illusjon av at folk er mer polarisert enn de i virkelighten er. s244

Du kan vinne tillit blant fremmede ved å fremstø religiøs, men da blir du også holdt til en strengere standard. s247

Nigeria-svindelen viser ikke at folk flest er godtroende, men det motsatte. Budskapet fremstilles på en spinnvill måte nettopp for å filtrere ut det store flertallet som er for kritiske til at det verdt å bruke tid på å svindle dem. Man plukker ut de ytterst få det er verdt å satse på. s250

Tillit gjelder ikke bare ett tilfelle. Å stole på en fremmed gir mer informasjon enn å la være. Man lærer om de er til å stole på ut fra hva de gjør. Det gjør deg også bedre i stand til å vurdere troverdigheten til andre fremmede. Total mistillit fører til null læring. s252

Argumentet mot godtroenhet

Åpen årvåkenhet innbærer at vi ser etter tegn på at andre har rett og vi tar feil. Dette er en kompleks, sofistikert mekanisme. Når vi fratas evnen til å bruke den, faller vi tilbake på konservatisme: Avvis alt. Dette er det motsatte av teorien om hjernevask. s257

Barn begynner tidlig å lære hvem de bør stole og når de bør stole på dem. s258

Åpen årvåkenhet fungerer best på personlig nivå. Massekommunikasjon er ekstremt vanskelig. Propaganda fungerer best når den bygger på en eksisterende konsensus. s259

Falsk informasjon spres lett, ikke fordi folk er godtroende, men fordi den er tilpasset intuisjonen vår. Samtidig kan den ha vært liten effekt - den støtter opp om reflekterte, ikke intuitive oppfatninger. En intuitiv kjerne gjør den troverdig, men helheten omfavnes ikke intuitivt.

Falske ideer tjener ofte interessene til de som tror, eller påstår at de tror, på dem. Det er rasjonaliseringer og påskudd. s261

Ideen om at folk er godtroende er i seg selv et eksempel på falsk informasjon som spres fordi den er intuitivt tiltrekkende. Det peker mot en trussel. Det er en sensasjonell påstand. Troen på godtroenhet er reflektert. Den fører ikke til den oppførselen en burde forventet, så som tiltak mot arenane hvor manipulasjonen visstnok skjer, eller forsøk på å selv utnytte andres godtroenhet. s262-263

Teorien om godtroenhet fungerer bedre som rasjonalisering. Fra konservative om hvorfor man ikke bør gi makt til folket, og fra radikale som forklaring på hvorfor folket ikke har gjort opprør ennå. Dessuten fremstår det rart at vi omgir oss med så mye reklame og propaganda hvis det ikke skulle ha noe å si. At det finnes så mye, må vel bety at det virker? Men propaganda overbeviser i liten grad. Det det derimot sender er et klart signal om makt. “Vi bestemmer og vi er villige og i stand til å drepe deg hvis du gjør mostand.” s264

Politiske ledere har en uklar påvirkningseffekt på velgerne. De kan flytte dem på områder bryr seg lite om. Andre ganger har de en termostateffekt. Lederne går for langt i én retning, opplyste velgere reagerer ved å gå i motsatt retning. s268

Vaksinemotstandere osv er ikke for godtroende, for åpne, men snarere ikke åpne nok til å plukke opp korrigerer fra de som vet bedre. Vaksineskepsis er intuisjon. Problemet er at de ikke er åpne nok til å lytte til korreksjonene. s269

Ekstra: Foredrag om feiloppfatninger

Mistaken beliefs, gullibility and atrocities with Hugo Mercier, 29/7/2022, fra Nature of Belief Seminar Series. (God oppsummering av de viktigste poengene i boka!)

Det er ikke misbeliefs, feiloppatninger, som forårsaker costly behavior, men omvendt.

Dan Sperber (1997) skiller mellom intuitive og reflekterte oppfatninger. Intuitive meninger har mer direkte påvirkning på oss enn de reflekterte, som vi kke kan koble til noe intuitivt, så som treenigheten eller relativitetsteorien. Folk kan tro at Gud er tilstede overalt, men eksperimenter viser at de faktisk intuivit antar at han har begrenset oppmerksomhetsevne.

Meninger så so at Obama er en muslim eller at amerikanske demokrater er barneovergripere, kobler seg på intuitive konsepter, men er likevel reflekterte meninger i Sperbers betydning. De mangler den direkte koblingen til oppførselen vår som intuitive meninger har.

Tegn på at meninger er reflekterte:

• De utløser ikke oppførsel, tanker, følelser på samme måte som en intutiv mening.
• De utløser oppførsel, tanker og følelser som ikke normalt utløses av en intuitiv mening.

Ta for eksempel ekte konspirasjoner sammenlignet med konspirasjonsteorier. Når noen har intuitive meninger om konspirasjoner, for eksempel en varsler i et stort selskap eller staten, fører dette til frykt. De vil ikke egentlig at andre skal få vite om dette. Det krever sterk beskyttelse før de er villige til å fortelle det de vet til andre. Når noen har reflekterte meninger om konspirasjonsteorier, så som at demokrater er barneovergripere, skaper det sinne, men ellers få følelser. Disse folkene skjuler ikke meningene sine. De går langt for å dele dem med andre.

Pizzagate 2016: Halvparten av republikanerne og noen demokrater trodde at dette var sant, men bare én person besøkte pizzarestauranten det var snakk om med våpen. I denne personens tilfelle kan vi snakke om en intuitiv oppfatning. Nesten ingen andre gjorde noe som helst. Noen skrev i stedet kritiske anmeldelser av stedet etter å ha besøkt det med barna sine. Dette antyder en reflektert mening.

9/11 truthers snakker helt åpent om at de tror myndighetene stod bak angrepet. En pakistaner som tror at deres hemmelige tjenester, som ISI, gjør fryktelige ting, holder kjeft om det, for disse organisasjonene kommer faktisk til å drepe deg.

Det dukker ofte opp påstander om overgrep utført av en gruppe man frykter leler hater, så som blood libel-anklager mot jøder. Dette blir ofte pekt ut som en årsak til antisemittiske overgrep. Men det som faktisk skjer når noen har en intuitiv oppfatning om at det utføres forbrytelser i et lite samfunnet er:

• Folk handler
• De viser måtehold
• De følger lokale prosedyrer
• Eventuell gjengjeldelse er målrettet

Når folk har reflekterte oppfatninger om forbrytelser, ser vi derimot:

• Det fører sjelden til handling. Blood libel har vært en populær idé i to tusen år, men pogromer skjer bare en gang i blant.
• Handlingen følger egeninteresse: Man stjeler, voldtar, dreper de svake.

Blood libel er altså som regel en reflektert, ikke intuitiv oppfatning. Et tegn på reflekterte oppfatninger er at du finner den samme oppførselen i mange kulturer, knyttet til helt ulike oppfatninger. Dette tyder på at det ikke er oppfatningene som forårsaker oppførselen. Et eksempel er årelating. En vanlig forklaring er at årsaken til praksisen er feil medisinske ideer. Men årelating har vært utbredt over hele verden, i en tredjedel av verdens kulturer. De færreste av dem hadde hørt om europeisk medisin. Altså er det riktigere å si at dette er en intuitiv praksis som i noen kulturer fører til en oppfatning som rettferdiggjør oppførselen. Altså omvendt.

Et annet eksempel er vaksinemotstand, som er utbredt i mange land. En viss andel er mot, andre nøler. Dette forklares ofte med forskningsjukset til Andrew Wakefield i 1990-årene, men det samme mønsteret dukker opp over alt, med helt ulike begrunnelser. Noen steder bruker man Wakefield som begrunnelser, andre steder helt andre begrunnelser.

Radikalisering, ref The Three Pillars of Radicalization. Needs, Narratives and Networks. Folk radikaliseres i helt ulike retninger, ut fra tre faktorer.

• Need: Radikalisering følger av manglende status og anerkjennelse.
• Narratives og networks: Måten man radikaliseres på er avhengig av sosiokulturell kontekst. De som har det sterkeste behovet, hvem kommer de først i kontakt med? Dette varierer fra kultur til kultur. Men behovet kommer alltid først. Islamsk radikalisering skjer ikke for de med sterkest tro, men de med sterkest behov.

Rational Choice Theory: Det samme gjelder for religion. Nye bevegelser tiltrekker seg rekrutter av samme grunn, altså felleskapssfølelse og sosial støtte. Dette fyller et behov hos dem. Konvertering foregår via sosiale koblinger, som familie og venner. Meningene følger etter konverteringen.

Hvordan forklarer vi kulturelle feiloppfatninger? Mange av dem er reflekterte meninger som er forårsaket av oppførselen, ikke omvendt.

• Meningen rettferdiggjør noe man ønsket å gjøre uansett.
• Meningen signaliserer tilhørighet, for eksempel til riktig side.
• .. og den koordinerer oppførsel. Hvis du vil vurdere om andre er klare til å angriepe en minoritet, følg med på hvordan de reagerer når du forteller dem ideene dine om hvor føle minoriteten er. Hvis de ikke reagerer, vil de også gjøre mindre for å stoppe deg. I denne betydningen har meningen en viss kausal effekt, men ikke mye.

Konklusjon:

• Mennesker har mange reflekterte oppfatninger
• Disse påvirker handlingene våre mindre enn intuitive oppfatninger
• De påvirker samtidig handlingene våre andre måter enn de intuitive
• De varierer mellom kulturer, men er koblet til samme oppførsel

De teoretiske konsekvensene av dette er at mennesker er mindre godtroende enn man skulle tro. De praktiske konsekvensene er at det å stoppe oppførsel gjennom å angripe meningene som ligger bak, fungerer dårlig. Du må gå til rotårsakene. Det eneste som fungerer mot konspirasjonsteorier er mindre korrupte myndigheter.