Mye som omtales som kunstig intelligens er markedsføringsbullshit. Mike Malazzo skriver at kunstig intelligens har blitt et rent bullshitord som det mot slutten av 2010-årene vokste frem så sterke forhåpninger til at mange oppstartsbedrifter i teknologibransjen omtaler teknologien sin som “AI” kun for å få investorer. Ingen bryr seg om hvorvidt programvaren deres faktisk gjør bruk av maskinlæring eller noen annen form for kunstig intelligens. Både selskapene selv, investorene, og bransjemediene vet at det er bullshit, mener Malazzo, men de har en felles interesse av å fortsette å late som om det er AI det er snakk om.

Det er de som står for langt unna bransjen til å forstå teknologien som ender opp med å bli lurt. Journalister i mainstream-medier sperrer opp øynene og skriver blåøyde artikler om all den kunstige intelligensen som er i ferd med å revolusjonere livene våre. Politikere lar seg overbevise til å kjøpe og støtte dårlige og skadelige teknologier - matteødeleggelsesvåpen. Kundene åpner lommeboka og storkonserner leier inn dyre konsulenter. Teknologien kan selvfølgelig være god nok, selv om den ikke faktisk gjør bruk av kunstig intelligens, men ordet legger et tåketeppe over hele bransjen som gjør det vanskeligere å skille gode og dårlige løsninger fra hverandre.

Dette betyr heller ikke at teknologiene som inngår i begrepet kunstig intelligens nødvendigvis er bullshit. En mer nøktern og ærlig bruk av ordet, skriver Cassie Kozyrkov, begynner med å slå fast at mange oppgaver ikke bør løses med kunstig intelligens. Maskinlæring er ikke en bedre måte å løse problemer på, men det er en bedre måte å løse en bestemt type problemer på: De hvor programmererne ikke er i stand til å beskrive løsningen, men hvor de sitter på store mengder med eksempeldata av høy kvalitet som de kan bruke til å trene opp algoritmen med.

Maskinlæring og andre AI-teknologier er med andre ord nyttige men feilbarlige verktøy som kan løse enkelte vanskelige oppgaver på overraskende gode måter, og som sikkert kommer til å overraske oss på lignende måter i framtiden også.

Bullshit-betydningen av ordet er imidlertid så mye mektigere og mer verdifull enn den jordnære betydningen, at det er bullshit-betydningen som dominerer. Det hjelper ikke at teknologene som faktisk lager løsningene, kjenner begrensningene til teknologien de jobber med, når alle andre har en felles interesse av å opprettholde bullshit-betydningen.

Potemkin AI

I blant er kunstig intelligens ikke noe mer enn svindel og manuelt menneskelig arbeide forkledd som programvare. AI står i dette tilfellet ikke for Artificial Intelligence, men for Anonymous Indians. Dette er beslektet med det Astra Taylor omtaler som fauxtomation, falsk automatisering, hvor det uunnværlige menneskelige arbeidet som inngår i en prosess skjules bak en tilsynelatende avansert teknologisk front, og i virkeligheten utføres gratis eller til lav lønn av arbeidere med lav status. Et eksempel er den vanskelige modereringsjobben som foregår bak kulissene hos sosiale medier som Facebook, som Sarah T. Roberts beskriver i boka Behind the Screen. Mange brukere tror det er kunstig intelligens som modererer innleggene deres, noe som bygger opp under maktesløsheten de føler når beslutningene som tas er feil. I virkeligheten er det mennesker som utfører essensielle deler av oppgaven. Facebook har en interesse av at du skal føle deg maktesløs i denne prosessen, som om du står alene i møte med en uransakelig gud. Det er billigere for dem enn å behandle moderering som det det i virkeligheten er: et sosialt fenomen med mennesker på begge sider av bordet.

Mary L. Gray og Siddharth Suri beskriver dette som ghost work. Mange av de tilsynelatende smarte løsningene til teknologigigantene gjør bruk av slikt spøkelsesarbeid, for eksempel for å bistå Amazon Alexa med talegjenkjenning.

Jathan Sadowski omtaler det samme fenomenet som Potemkin AI, etter landsbykulissene Grigorij Potemkin i følge ryktene bygget for keiserinne Katerina II for å gi henne et godt inntrykk av velstanden i Russland. En annen historisk parallel fra samme tid er sjakktyrkeren, en sjakkrobot bygget av Wolfgang von Kempelen som imponerte mye av eliten i 1700-tallets Europa. I virkeligheten satt et menneske inne i maskinen og styrte brikkene. En stor del av den kunstige intelligensen i dagens teknologiselskaper fungerer i praksis på samme måte.

I tillegg til vestlige selskaper, nevner Sadowski som eksempel de omfattende overvåkningssystemene Kina er i ferd med å bygge opp. Hensikten med disse systemene er at alle skal føle seg overvåket til enhver tid av smarte systemer som vet hvem du er, forstår hva du gjør, og kan straffe deg når du gjør noe galt. I praksis er det ofte mennesker som bistår i denne oppgaven også, blant annet med ansiktsgjenkjenning. Det tjener imidlertid Kinas hensikt at folk tror det er kunstig intelligens som overvåker dem. Så kan man heller fylle hullene i systemet med ekte AI senere. Sadowski påpeker at dette er den samme “fake it ‘til you make it”-tilnærmingen vi er vant med fra oppstartskulturen i Silicon Valley. Man setter opp en sort boks, slenger en merkelapp på den som gir den autoritet og motarbeider evnen til å stille kritiske spørsmål, og satser på at man senere vil klare å fylle boksen med innhold som motsvarer brukernes skyhøye forventninger.

I slike tilfeller er kunstig intelligens en kulisse som brukes kynisk. Det er ikke et problem i seg selv at mennesker inngår i et system som ellers i stor grad er automatisert, men det blir et problem når dette gjøres på en måte som lurer kundene til å betale mer for dårlige produkter på ene siden og fører til nedverdigende arbeidsforhold på den andre siden. Ved å usynliggjøre arbeiderne, kan man behandle dem dårligere.

Det burde heller vært motsatt: At det å utgjøre den essensielle menneskelige komponenten i et automatisert system var en kilde til status og gode arbeidsbetingelser. Slik er det selvfølgelig ikke, heller ikke i ikke-teknologiske yrker. Arbeidstakerne som i starten av koronapandemien ble erklært som essensielle for samfunnet, som barnehageansatte, kommer til å tjene like lite etter pandemien som de gjorde før. Det er ikke viktigheten av arbeidet som styrer lønna, men maktforholdet mellom arbeidstaker og arbeidsgiver. I teknologibransjen utgjør det å kalle noe for kunstig intelligens en viktig del av dette maktforholdet. Det er en måte å skjule og nedgradere menneskelig arbeid på som gjør at man kan lønne det enda dårligere enn før.

Tilbake til algoritmer, teknologi og start.