(Ustrukturert oppsummering av Det store spillet av Bår Stenvik. Se også omtalen min av boka.)

Boksen

Forholdet mellom kunstig intelligens og arbeidere. Den mekaniske “tyrkeren” på 1700-tallet, sjakkrobot med menneske inni. I dag spiller usynlige mennesker ofte en sentral rolle i prosesser som fremstår fra utsiden som kunstig intelligens og algoritmer, for eksempel moderering av sosiale medier. Under industrirevolusjonen tok maskinene over tungt og repetitivt arbeid, men skapte også nye tunge og repetitive oppgaver for mennesker. Tannhjul i systemet. I dag får vi en ny klasse av digitale tannhjul. Moderatorer på sosiale medier. Sjåfører i oppdragsselskaper. Lagerarbeidere hos nettbutikker. Lite selvstendighet i arbeidet.

Hva slags jobber vil finnes for de som er barn i dag? En vanlig påstand er at 47% av jobber kan automatiseres. Optimistene snakker om hvor gode programmer er på å kjenne igjen kreftsvulster i føflekker.

“Skyen” som metafor gir oss et bilde av et abstrakt system uten aktører og årsakssammenhenger, bare smarte algoritmer. Tar oppmerksomheten bort fra den fysiske siden av dette og fra de aktive valgene som tas. Vi trenger bedre metaforer.

Nevrale nettverk og dyp læring. Systemer som lærer selv gjennom prøving og feiling, finne verdiene som fører til riktig resultat, som å gjenkjenne en hund eller en kreftsvulst. Treningen avhengig av en autoritativ database med riktige svar, som bildearkivet ImageNet med 3,2 millioner kategoriserte bilder. Kategorisert av mennesker gjennom oppdragstjenesten Amazon Mechanical Turk. Digitale løsarbeidere, like usynlige som mennesket i sjakkroboten.

Tjenester som Facebook ønsker å automatisere så mye som mulig men støter opp mot lokal kulturell variasjon i hva som er akseptabelt. Derfor avhengig av mennesker med kulturell forståelse. Men ønsker samtidig å gi inntrykk av at de leverer en nøytral og nesten helautomatisk tjeneste. Den digitale økonomien er ikke så forskjellig fra den tradisjonelle: Noen har blankpusset den nye smarttelefonen med sterke kjemikalier, vi bare ser dem ikke. Det nye er at det har blitt lettere og billigere å abstrahere bort oppgaver i et system hvor mennesker må oppføre seg som maskiner.

Bakgrunnen for påstanden om at 47% av jobber kan automatiseres: Eksperter tok stilling til 70 yrker de kjente godt, lot et program bruke dette som treningsgrunnlag for å ta stilling til 600 andre jobber. Resultatet gjenspeiler dermed hva en bestemt gruppe eksperter på kunstig intelligens mente i 2012. Flere åpenbare svakheter ved spådommene.

Teknologidebatten har for passive premisser. Ting bare “skjer” og vi må henge med. Trenger mer fokus på vår egen evne til å velge, og på de fysiske kroppene skytjenestene består av. Menneskelige behov må sette føringen. Målet er ikke å finne en jobb for alle men å løse viktige oppgaver, og mange av disse trenger vi mennesker til. Mennesket i sentrum.

Det store spillet

Algoritmer i sosiale medier skaper en “digital tvilling” av brukeren som gjenspeiler deres oppførsel og interesser slik at man kan simulere hvordan du vil reagere på en bestemt anbefaling i for eksempel YouTube. Lærer hver gang du gjør noe. Hvert besøk på YouTube blir dermed en ny runde i et spill hvor maskinen vil kontrollere din tid og vilje. Ikke interessert i hva du ønsker å oppnå. 70% av videoklikkene i YouTube er algoritmiske anbefalinger.

Judea Perl: Kunstig intelligens har tre nivåer av forståelse. 1. Statistikk, så som hvor sannsynlig det er at en gitt føflekk er et symptom på kreft. 2. Forutse resultatet av hendelser. Hvis vi nå gjør X, hva vil det føre til? 3. Kontrafaktisk spekulasjon. Hvis vi hadde valgt X i stedet for Y, hva ville skjedd? Kunstig intelligens som kan rivalisere med mennesket er umulig hvis vi kun snakker om “statistikk på stereoider”. Trenger refleksjon over sammenheng mellom data og verden, og over hva målene våre er. Finnes ikke nå. Vi har med andre ord gitt enorm makt til ganske primitive algoritmer.

YouTube er ikke en hage hvor du fritt vandrer rundt og plukker det fineste. Du er omgitt av en usynlig gartner som hele tiden endrer landskapet rundt deg for at du skal bruke mest mulig tid. Samtidig er dette bare en metafor, algoritmene har ingen demonisk vilje. Ansiktsløse, usynlige. Det viktigste man kan lære barna er å forstå økosystemet på nettet.

Algoritmene i økosystemet arbeider ut fra korrelasjoner i datagrunnlaget som for eksempel sier noe om hvor sannsynlig det er at du er interessert i et produkt og derfor bør vises en annonse for produktet.

Frykten for algoritmer og kunstig intelligens handler gjerne om at de skal maksimere ett eneste mål monomant, for eksempel fylle verden med jordbæråkre for å produsere mest mulig jordbær. Frykten er paradoksal siden den ofte kommer fra næringslivsledere som Elon Musk som selv er en del av et system som monomant maksimerer ett eneste mål: Teknologi-startups ønsker å spise verden for å maksimere profitt. Frykten er dermed et tegn på manglende selvinnsikt. Selskaper kan anses som en slags førstegenerasjons AI, store systemer programmert for å tjene én enkelt funksjon, uten hensyn til hva som er bra for verden.

Googles personaliserte søkealgoritme kan videreføre sosiale forskjeller gjennom at barn fra mer akademiske hjem får flere akademiske treff på søkene sine.

Teknologibransjen spiller med en slags fantasipenger hvor man vedder om hvilket selskaps verdensdominerende fremtidsvisjon som blir sann. Ubers fortelling har enorm markedsverdi, tross intet overskudd. Fortellingen sikrer pengetilførsel som muligens kan gjøre fortellingen virkelig. Før eller siden oversettes fantasien til noe virkelig som enten fungerer eller ikke. Men før en eventuell Uber-konkurs har de opprinnelige investorene kanskje trukket seg ut for lenge siden. Tim O’Reilly: Vi har en økonomi som fungerer som et casino. Huset - de store investorene - vinner alltid.

Mye av frykten for kunstig intelligens handler om at den skal bli smartere enn oss, vippe oss av tronen, som en genial atomfysiker. Vi bør heller være redd for at den blir smart nok til å manipulere oss, som en tryllekunstner. Har prøvd og feilet seg fram til å kjenne svakhetene våre. Facebook målretter reklame mot brukere i øyeblikk hvor de føler seg usikre, stresset, engstelige, ikke nødvendigvis bevisst, men gjennom algoritmisk prøving og feiling. En videreføring av den tradisjonelle reklameøkonomiens fokus på frykt og angst.

Skylappene

Ubers selvkjørende bil drepte fotgjenger i 69 km/t. Programmet kjørte med lav sensitivitet for hva den skulle bremse ned for. Selvkjørende buss på Fornebu kjører heldigvis saktere og forsiktigere. Hvem skal designe etikken i slike biler? Ulik etikk i ulike land, vestlige land prioriterer barna, østlige de eldre. Hvordan prioritere de som sitter i bilen mot de som er utenfor? Fristende for bilfrabikantene å redde passasjerene over forbipasserende. Hvordan fordeles ansvaret for ulykker? Hvor gode må bilene bli før vi foretrekker dem over menneskelige sjåfører?

Lignende dilemma da de første bilene kom: Hvem har skylden når de kjører ned noen? Bilselskapene fant opp skjellsordet jaywalker for å legge skylden på ofrene. Mennesket er problemet, bilen løsningen. Bilsamfunnet fikk store konsekvenser som var vanskelige å forutse, som at nye bilveier fører til kø. Ensidig fokusert på nærliggende mål, tenkte ikke langsiktig nok. Samme i ferd med å skje med selvkjørende biler? Planlegger helautomatisert trafikk, men hvor er menneskene? Teknologer liker teknologiløsninger, tenker mindre på psykologi og sosiale forhold.

COWI: Studie for Ruter i 2019 om å se for seg byer med selvkjørende biler. Behovet for antall biler ville gått ned, men samtidig vil de kjøre mer, ofte uten passasjer. Vil ikke kunne erstatte kollektivtrafikk, da sprenges kapasiteten. Men gode biltjenester tiltrekker seg passasjerer. Hvorfor ikke flytte på landet og sove til byen i selvkjørende bil? Selvkjørende biler ikke en løsning på trafikkproblemer.

Farlig kombinasjon: Risikokapitalister med forventninger om hypervekst + teknologer med forakt for ytre rammebetingelser. Forsøk på å maksimere vekst og inntjening kan forsterke eksisterende skjevheter.

De beste løsningene på trafikkproblemer er gjerne lavteknologiske, som egne sykkelfelt og kollektivfelt. Teknologi må brukes som et redskap, riktig verktøy for jobben, ikke mer komplekst enn nødvendig. Samme med skole. Bøker er billige og trenger ikke oppgraderes. Elektronikk stjeles og går i stykker.

“Baumols syke”: Det offentlige blir stadig dyrere fordi det ikke er noe særlig effektivitetsgevinst å hente i slike tjenester og lønna må stige for å holde følge med privat sektor. Samtidig er det flere i det offentlige som føler at de gjør noe meningsfullt. Så ikke nødvendigvis et problem at ofentlig sektor vokser. Omdøp til “Baumols velsignelse”.

“Positiv assymetri”: Negative sider ved teknologi snakkes ikke om fordi man helst vil være positiv og det negative rammer bare noen få som ingen bryr seg om. Morozov: “Solutionism”, troen på at det alltid finnes en teknisk løsning. Meredith Broussard: “Teknosjåvinisme”, samme betydning.

Douglas Rushkoff: Hva om Zuckerberg ikke hadde hoppet av fra Hardvard men studert bredere? Kunne lært mye som ville hjulpet ham å unngå det gale Facebook har gjort. Koding ikke viktigst.

Entreprenører tenker kun disrupsjon, men vi kan gjøre politiske valg som skyver lønnsomhetskriteriene i en annen retning. Skatt på målrettede annonser. Begrensninger på inntjening. Mye av det beste på nettet gir ingen avkastning, som Internet Archive, Wikipedia, mange små forum.

Den store dugnaden

Mye snakk om hva som er “den nye oljen”. Myndighetene oppfordrer til å satse på kunstig intelligens.

Vi kan lære av den norske oljehistorien. “De ti oljebud”, oppbygging av norsk industri i stedet for å overlate til andre, opplæring av norske arbeidere slik at de kan overta. Den digitale utgaven av dette er “datalokalisering”. Viktig sak i India: Indiske data skal lagres i India. Krav om teknologioverføring. Men i WTO arbeides nå med avtaler som forbyr slike krav. Norge kan ende opp som en slags moderne koloni.

Nikolai Astrup mener Norge sitter på mye verdifull data vi ikke har “pumpet opp”, som i helseregistrene. Kan brukes til å bygge teknologi som kan skalere globalt. Sett opp sensorer på søppelkasser og alt annet. Helsedata kan brukes til opplæring av algoritmer, lovverket setter en del strenge grenser for dette i dag, men ikke gitt at det er et personvernbrudd å analysere dataene. Paradoks at private gir bort enorme mengder data til Google og Facebook, mens det offentlige har strenge føringer.

Forbrukerrådet: Dukker som snakker og er på nett kan hackes, brukes til overvåkning. Google følger med på hvor du er. Android manipulerer deg til å gi bort så mye data som mulig. “Persuasive technology” / “captology”. I praksis nesten umulig å hindre datadeling, selv når du i teorien kan gjøre det. Feil å si at vi “samtykker” til noe som er så vanskelig å unngå. De presser oss til å føle oss komfortable med overvåkning som for noen få år siden skapte frykt og sinne.

Shoshana Zuboff: Teknologigigantene er som nyankomne conquistadorer, innen vi forstår hva de egentlig er ute etter er det for sent.

Hvis offentlige data er en verdifull råvare, som olje, bør vi se på fortjenesten fra dette som skattbar grunnrente? Men råvarer er feil metafor, dataene ligger ikke bare der, vi skaper dem sammen som i en dugnad. Mine data alene er lite verdt, våre data sammen er mye verdt. Marianne Marthinsen: Rødt lys. Teknologiselskapene kamuflerer overskuddet sitt for å slippe skatt. Google har overtatt det norske annonsemarkedet uten å skatte og uten å eie noe særlig i Norge. Demokratiet beveger seg sakte, har ikke rukket å tilpasse seg en ny type skatteunndragelse.

OECD arbeider med forslag om å skattlegge selskaper ut fra antall brukere i hvert land. Og hindre dem i å flytte inntektene sine der skatten er billigst vha internfakturering.

Rana Foroohar: Dataene er mye mer verdifulle for teknologiselskapene enn tjenestene de leverer tilbake. Kan brukes til å trene opp systemene deres, sikre enda mer inntekter og makt i fremtiden. Morozov: Frykter utarming av offentlige tjenester, det offentlige har ikke ressurser til å lage egne, tvunget til å kjøpe av selskaper som bygget opp systemene sine på data de høstet gratis fra oss. Helprivatisert system, bygget på stor folkelig innsats. Hjelper ikke at vi tar betalt for dataene vi gir dem, maktkampen går dypere enn dette. Uber sikter mot verdensdominans.

Finansbyråd Robert Steen, Oslo: Offentlig digital infrastruktur bygget opp etter en startup-modell med eksperimentering. Origo.

Global “techlash” mot den digitale økonomien. Barcelona, DECODE-prosjektet: Data skal tilhøre brukerne, ikke Google og Uber. Norsk tjenestemannslag har foreslått en norsk “statssky”. Tyskland jobber med en “Bundes-cloud” og statlig økosystem for utvikling av digitale løsninger. Kontroll over egne data. Norge har godt potensiale for det samme: Erfaringen fra oljeeventyret + tradisjonen for dugnad. Dugnad bygget mye av den norske infrastrukturen i gamle dager, som vei over fjellet. I dag er vi del av en slags digital dugnad hvor vi sammen bygger opp datagrunnlag for nye digitale strukturer, men noen andre får gevinsten, og vi gjør dette hver for oss. Vi trenger en ekte digital dugnad hvor vi organiserer arbeidet vårt selv på en demokratisk måte og har kontroll over resultatet.

Appell for en digital dugnad: Går i sporene til tradisjonell dugnad og oljeeventyret. Stortings ti oljebud fra 1971, ta grep om verdiskapingen. Nasjonalt prosjekt for digitale laboratorier i byene, kontinuerlig utvikling, dele kunnskap og løsninger, samle data på bærekraftige og ansvarlige måter som kommer alle til gode. En nordisk digital modell. Alternativ til både teknologiselskaper som overvåker og bygger monopolmakt, og autoritære stater som undertrykket borgerne. En tredje vei hvor kollektive data kommer folk til nytte. Ti norske databud: 1 - Datahøsting fra norske borgere skal komme dem selv til gode i form av tjenester, skatteinntekter. 2 - Åpenhet og innsyn i algoritmer og kildekode som berører norske data. 3 - Norsk næringsutvikling. 4 - Datanæringen må ta hensyn til eksisterende næringsvirksomhet, likhetshensyn, miljøvern 5 - Norske datasentre 6 - Norsk integrert forskningsmiljø, staten samordne norske interesser innen teknologindustri og offentlig sektor 7 - Statlig databank eller sky 8 - Samle data på en måte som sikrer tillit, innflytelse, sikre personvern 9 - Det offentlige må ha god utviklerkompetanse, lage etisk, demokratisk infrastruktur 10 - Koordinere offentlige løsninger gjennom eget departement, unngå dobbeltarbeid

Demonene

Tidlige munker opplevde seg omgitt av fristende demoner. Svermer rundt oss og hvisker i ørene, tilbyr sex, alkohol og underholdning. “Demon” er en metafor som hjelper oss å si nei. Underholdningsbransjen har brukt tusenvis av år på å utvikle mentale hacks som treffer oss med de mest engasjerende fortellingene, “stickiness”. Inntil nylig enkle tommelfingerregler som “pen er bedre enn stygg”, nå mye mer avansert pga mer data, høyere presisjonsnivå. Demon er en grei metafor også for dette: algoritmer som vet alt om oss, prøver å utnytte det de vet, manipulere oss via kortsiktig tenkning til å gjøre noe vi kanskje helst ikke vil eller har godt av.

Facebook: Respekterte mennesker i norsk offentlighet uttrykker seg gjennom mistenkeliggjøring og flåsete anklager. Facebook prøver å maksimere engasjement, prioriterer det som utløser følelser, gjør deg glad, trist, sint. System 1-tenkning, i stedet for den langsomme, rasjonelle, mer bevisste system 2-tenkningen. Slik demonene hoppet fra den ene sterke følelsen til den neste for å overvelde deg. Sosiale medier foretrekker system 1 og dette påvirker igjen hvordan mediene vinkler sakene sine. Mediene alltid vært dratt mot system 1, men nå dras de med langt større kraft. I gamle dager ble man motstandsdyktig mot rykter ved å gjennomskue motivasjonen til de som fortalte dem. Vanskelig å gjennomskue motivasjonen til algoritmer som umerkelig tilpasser innholdet vi ser.

Zeynep Tufekci: YouTube tilbyr deg stadig mer ekstreme utgaver av det du allerede har sett. Algoritmen ønsker å maksimere tiden du bruker, dytter derfor mot renere ideer, mer spektakulære påstander. YouTube opererer også med “tvillingpublikum”, basert på egenskapene til folk som ligner deg. Vil dytte deg mot å bli enda likere tvillingpublikumet, selv om dette for eksempel innebærer politisk ekstremisme. Blir også en selvoppfyllende spådom hvor forestillingen om et slikt tvillingpublikum bekreftes ved at brukerne dyttes i denne retningen.

Wikipedia har fungert bedre. Stimulerer ikke bidragsyternes oppmerksomhetstrang. Maksimererer ikke engasjement. Får ikke mer penger når du bruker mer tid der.

Darkpatterns.org: Dokumentasjon av triksene som brukes for å manipulere brukere. Tilsvarer klassiske demonologier, lister over demoner, strategien deres, svakhetene våre de utnytter. Gi dem navn, slik at vi kan se og forsvare oss mot dem.

“Demonene” er ikke ondsinnete vesener men symptomer på et økosystem som gir dem næring. Ikke nok å frykte og forbanne demoniske algoritmer, vi må lage et økosystem som gir næring til gode algoritmer og systemer. Begrens selskapenes datatilgang, endre forretningsmodellen på nettet.

Den store festen

Mange hendelser de siste årene hvor nettradikalisering har ført til drap, massakrer og folkemord. Den digitale offentligheten er et gigantisk “stille-diskotek” hvor alle danser med hver sine hodetelefoner. Personifisert innhold med ukjent opprinnelse. Vi er ikke på samme fest.

Mennesker samarbeider godt, og digitale verktøy forsterker i utgangspunktet samarbeidsevnen. Så kommer bøllene og ekstremistene og utnytter det som lar seg utnytte i det nye systemet. Medielandskapet belønner system 1-atferd og dermed også denne typen mennesker. Frykt for filterbobler, at vi tilpasser oss på sosiale medier slik at vi bare ser akkurat det vi er enige med. I virkeligheten får vi mer mangfold, men mangfoldet er polarisert, de sinteste stemmene på hver side får mest oppmerksomhet.

Zetland.dk - mål om journalistikk som dyrker dannelsen, “den udviklede evne til oppmerksomhed”, støtte lesernes evne til selvkontroll. Samme mål hos nederlandske The Correspondent og Medium (hm?). Zetland har lydutgave av artiklene sine. Fremveksten av podcasts et symptom på savn etter fordypning som kan kombineres med produktivitet. Zetland skriver muntlig, personlig, holder seg ikke til fakta alene, forklarer systemer og sammenhenger. Appell til følelser, men ikke sjokk og raseri. Aftenposten måler ikke lenger deling men om artiklene blir lest og fører til abonnement. Facebook sier de vil satse på god journalistikk, men trekker milliarder ut av den eksisterende mediebransjen. Hjelper lite å donere småpenger med den ene hånden til en bransjen man er i ferd med å utradere med den andre hånden.

Samfunnet føles mer polarisert enn før, men er det ikke i virkeligheten. Undersøkelse for NRK av Iacob Christian Prebensen. Det er offentligheten som er mer polarisert. Generell mistro er bra for ekstremister og autoritære ledere. Ikke nok å lære å være kritisk, men lære hva man bør ha tillit til.

Tereza Kuldova: Digitale systemer for verifisering, autentisering, gjennomsiktighet kan erstatte og undergrave menneskelige systemer for tillit. Viktig å bevare de fysiske møtene, ellers går felleskapet i stykker.

Mennesker finner en dyp historie de opplever som grunnleggende sann, nye fakta kan tilpasses denne. Samspill mellom teknologi og disse dype historiene, alt handler ikke om algoritmer, også viktig å forstå den ikke-teknologiske grunnen til at noen er mottagelige for et bestemt budskap. Materielle omstendigheter.

Nabohjelp: App i Oslo som gjør det lettere for folk å hjelpe hverandre. Løsningen på polarisering og mistillit ligger ikke nødvendigvis i teknologi men i å få folk til å møtes mer i den fysiske virkeligheten. Ungdomsklubber, samfunnshus, skoler, korps, idrettslag, fiksefester. + det hjelper med fungerende velferdsinstitusjoner og rettferdig samfunn.

Maten

Matvarefabrikanter på 1800-tallet manipulerte maten på grådige og farlige måter. Kunne lyve fritt om innholdet. Nye lover og tilsyn ble innført for å beskytte forbrukerne, sikre at maten var trygg. 1911 norsk lov om kontroll av næringsmidler. Trenger noe lignende i dag. Datatilsynet skal overse GDPR og andre lover, men har 50 ansatte. Finanstilsynet har 285, Mattilsynet 1300 ansatte.

Tilsynssystemer avhengig av mennesker, kan ikke automatiseres helt. I tillegg må etikken “ligge som et skall rundt lovverket” (Bjørn Erik Thon). Ikke alt som er lov bør gjøres. Kanskje IT trenger en lege-ed: Bør sverge på å ikke bruke ferdighetene sine til å skade mennesker.

Forbudt i EU å prise forsikringer høyere for kvinner, men datagrunnlaget selskapene sitter på gjør at de kan gjøre dette indirekte fra annen kunnskap. AI bør være forklarbar slik at vi forstår hvordan skjevheter i datagrunnlaget kan føre til dårlige / uetiske beslutninger. Amazon måtte skrinlegge plan om automatisk behandling av jobbsøknader, klarte ikke å gjøre det på en måte som ikke diskriminerte. Datagrunnlaget er tidligere ansattelser, som gjenspeiler rekrutterernes diskriminering.

Volkswagen brukte kode til å jukse med dieselbilene sine, de visste når de ble testet for utslipp av nitrogenoksid. Krav om innsyn i kildekode kan gjøre slikt juks vanskeligere. Ikke nødvendigvis helt åpen, men noe tilsvarende krav om innsyn i regnskap, matproduksjon osv. Algoritmetilsyn med innsyn i hva som ligger i den svarte boksen. Men i WTO-forhandlinger som pågår nå er det snakk om forbud mot slike krav, eller at det begrenses til kun myndighetene, ikke uavhengige organisasjoner. Dermed lett å skjule juks og skjevheter i søknadsprosesser, fengslingsanbefalinger osv.

Forbrukerrådet: Hele annonsebransjen er i praksis lovbrytere. Ulovlig omsetning av persondata er basisen for økosystemet av annonser. Dårlig regulert bransje i sterk vekst, som mat før næringsmiddellovene. Teknologibransjen preget av deregulering og monopolisering. De siste årene har stemningen snudd, mer snakk om regulering, beskytte brukerne, aktiv stat. Kapitalismen gått av hengslene. Teknologibransjen prøver å komme dette i forkjøpet ved å legge fram sine egne forslag til regulering på deres premisser. GDPR lettere å følge for gigantene enn de mindre selskapene. Også lettere å betale bøter, kan velge å bryte loven bevisst fordi det lønner seg.

Mulig løsning å dele opp gigantene, tvinge dem til å bruke åpne protokoller, slike internett egentlig er bygget opp. Facebook og Google har skapt egne lukkete internett på toppen av det åpne systemet, prøver å holde oss innenfor deres verden. I et mer åpent system må man behandle kundene sine med respekt.

Matindustrien prøver å appellere til primitiv sult etter salt, fett, sukker. Teknologiindustriren gjør noe tilsvarende. Løsningen i noe lignende saktemat-bevegelsen. Ting blir ikke bedre av å være raske. Kvalitet tar tid. Det finnes et ønske om sunnere mediediett som gjør utslag i “digital detox”, apper som begrenser din egen nettbruk. Samtidig behandler disse symptomene ikke årsaken. Begrenset hvor mye du kan få til ved å styrke selvdisiplinen.

Landbruksindustrien har blitt mer industrialisert, effektivisert, og dermed også mer sårbar for økologiske bieffekter, monokultur. Fikk en umiddelbar gevinst, men den fulle regningen kommer på lang sikt og betales delvis av andre. Tilsvarende med teknologi. YouTube, Facebook osv har skapt sårbare monokulturer. Den fulle regningen kommer på sikt og betales kanskje av andre, selv om akkurat du og jeg føler vi får mye igjen. Løsningen kan ikke ligge hos enkeltpersoner, systemproblem krever systemløsning. Teknologiselskapene omgår reguleringer ved hjelp av et illusorisk “samtykke” fra brukerne, takker ja til alt mulig vi ikke har forutsetning for å tenke over. Mattilsynet stiller strengere krav, ikke greit å selge noe farlig bare du har “samtykke”. Bedre å ha sukkeravgift enn å be alle ta stilling til sukkerforbruket sitt selv. Google er som om et privat selskap overtok vannverket og begynte å tilsette kjemikalier for å få oss til å drikke mest mulig vann.

Regulering er et politisk spørsmål, ikke verdinøytralt. Vanskelige avveininger. Men økosystemene må styres av mennesker og demokratiet, ikke private selskaper.

Den store fortellingen

Teknologibransjen er en ung sektor og det har påvirket fortellingen den forteller om seg selv: Teatralsk, eventyrlig, mystisk. Andre planeter, krigere, trollmenn. På samme måte er kunstig intelligens formet av den typen menn som la grunnmuren for faget i etterkrigstiden. Unge menn, gode i matte, dårlige på sosiale relasjoner. Hippie-kultur i California + science fiction. Slike fortellinger former i dag verden gjennom verdens mektigste selskaper. En kultur formet rundt drømmen om å være en Steve Jobs som lanserer en teknologisk revolusjon. Fører til en tro på at vi skal løse problemer gjennom å gi visjonære gründere masse penger og makt. Konsekvensene for verden og forutsetningene for bransjen i form av underbetalte arbeidere er ikke en del av fortellingen.

Mariana Mazzucato (The Entrepeneurial State, The Value of Everything): I virkeligheten bygger mye av teknologibransjen på kunnskap fra offentlig sektor eller skapt med offentlig støtte. GPS (DARPA), Siri (DARPA), Googles Pagerank (Stanford-universitetet og National Science Foundation). De private investorene kommer inn etterpå, bidrar til å produktifisere kunnskapen, men de har sjelden finansiert grunnforskningen. Oppstartsselskapet som erobrer verden fra en garasje er ofte en myte skapt av gründerne selv. Næringslivet burde betale tilbake mer av gevinsten de har hentet, for eksempel til et nasjonalt innovasjonsfond. Paradoks at det brukerne anser som verdifullt i Google og Facebook for selskapene selv bare er utgiftsposter, mens inntekten er annonsesalg. Når alt kun måles i pengeverdi fremstår det offentlige som passivt og dyrt, tross verdiene det skaper. Statens selvbilde er skadet, tror innovasjon bare kan skje i det private.

AI-generert kunst, basert på Generativ Adverserial Network: Et nevralt nettverk trent opp til å lage et bilde som er troverdig nok til at et annet nevralt nettverk ikke kan skille det fra noe virkelig eller menneskeskapt. Resultatet ligner på kunst, men er samtidig uten særpreg, og dermed det stikk motsatte av kunst. Tilsvarende med tekstgeneratoren GPT2, kan lage tilsynelatende troverdig tekst, som ligner nok på den ekte varen til at den kan gli inn i mengden.

Fortellingene våre om oss selv påvirkes av hva Facebook velger å fremheve: Det som gjør folk opprørte eller glade.

Lars Nyre: Både forestillingen om gründere som skapere av teknologien og om samfunnet som en forvalter av den er naive, det er teknologien selv som setter premissene. Derfor må vi forme selve teknologien riktig, skape mot-teknologier som kan hjelpe oss i møte med det de store selskapene slipper løs på oss. Ikke nok å møte dem med krav om regulering. Trenger et økosystem av ulike teknologiarter som beskytter mot ensretting.

Stefano Nichele: Nevrale nettverk kan bare beregne på basis av det som allerede har skjedd. Kan ikke lede oss i riktig retning. Start med å se for oss sluttpunktet og spørre hva som kan ta oss dit. Men trenger teknologibransjen flere optimister eller pessimister? Blir de optimistiske fortellingene en sovepute eller inspirasjon til å gjøre noe bra?

Avslutningen

Stem. Bli med i en organisasjon. Dyrk tillit. Tenk langsomt. Gjør noe fysisk. Bruk biblioteket. Kjøp ting lokalt. Tenk sirkulært.