• Påvirkes Eksperimentene som artikkelforfatteren har vært med på å gjennomføre på tusenvis av testbrukere, har gang på gang vist at når de høyest rangerte søketreffene lenker til nettsider som favoriserer én kandidat fremfor en annen i en valgkamp, har dette en dramatisk påvirkning på velgere som ikke har bestemt seg for hvem de skal stemme på. Foto: DARREN STAPLES, REUTERS/NTB SCANPIX

  • Informasjonskilde nr. 1 Fordi rangeringene i Googles søkeresultater er flyktige og kortlivede – og basert på ukjente algoritmer – etterlater de seg ingen dokumentasjon. Makten dette representerer, er enestående i menneskehetens historie, skriver artikkelforfatteren. På bildet er Googles to grunnleggere og eiere: Larry Page og Sergey Brin. Foto: JACOB SILBERBERG og NEIL HALL, REUTERS/NTB SCANPIX

  • Tett omgang Eric Schmidt, styreformann i Alphabet Inc, Googles morselskap, har møtt Barack Obama en rekke ganger, både før og etter at han ble valgt til USAs president første gang. I november 2007 snakket Obama om viktigheten av et fritt og åpent internett, i Googles hovedkvarter (øverst). 21. oktober 2008, noen få uker før han ble valgt, møttes de to igjen (lengst t.v.) og 28. januar 2009, rett etter at Obama ble valgt til president, var Schmidt en av flere bedriftsledere på besøk i Det hvite hus. Foto: AP, AFP og REUTERS/NTB SCANPIX

  • Omfattende påvirkningskraft Søkemotorens rangeringer påvirker nesten alle valg folk gjør, dersom de ikke har bestemt seg på forhånd. De har påvirkning på internettbrukeres meninger, tro, holdninger og adferd i hele verden. Og dette uten at folk vet at det skjer. Illustrasjon: ØRJAN JENSEN/SUPERPOP

  • Google-venn Høsten 2015 var det alderen på Hillary Clinton som gikk igjen flest ganger i søk på den demokratiske presidentkandidaten. For Trumps del, var det milliardærens formue flest søkte etter informasjon om. Fremover mot presidentvalget kan Clinton vente seg god støtte fra Google. Foto: AP/NTB SCANPIX

Den nye tankekontrollen.

Den nye tankekontrollen.

Fra utgave: 4 / april 2016

Internett har skapt subtile muligheter for innflytelse. Det kan avgjøre presidentvalg og manipulere alt vi sier, tenker og gjør – helt lovlig.

Om artikkelforfatteren

Robert Epstein er psykolog og seniorforsker ved American Institute for Behavioral Research and Technology i California. Han har skrevet 15 bøker og vært sjefredaktør for tidsskriftet Psychology Today. Denne artikkelen er et utdrag fra hans kommende bok, «The New Mind Control».

Bekymringer for enhver smak. Det er ikke få store forfattere som det siste århundret har uttrykt sin bekymring for menneskeheten.

I romanen «Vi» (1924) så den glimrende russiske forfatteren Jevgenij Zamjatin for seg et samfunn hvor menneskene ble holdt i et jerngrep gjennom overvåking, og forutså samtidig overgrepene i den gryende Sovjetstaten. I Zamjatins roman har husene glassvegger, slik at alt innbyggerne gjorde, kunne overvåkes. De kunne dra for gardinene én time hver dag for å ha sex, men både tidspunkt og partner måtte først registreres og godkjennes av staten.I «Jernhælen» (1908) beskrev amerikanske Jack London en verden hvor en håndfull rike bedriftskjemper – «oligarkene» – holdt massene i sjakk ved hjelp av en brutal kombinasjon av belønning og straff. Store deler av menneskeheten levde nærmest i slaveri. De heldige få ble fristet med anstendige lønninger som gjorde det mulig å leve komfortabelt, men de var likevel uten reell kontroll over egne liv.

I «Vidunderlige nye verden» (1932) tegnet den britiske forfatteren Aldous Huxley et bilde av et nestenperfekt samfunn hvor elendighet og aggresjon var fjernet, takket være genteknologi og psykologiske tilpasninger.

Og i den mye mørkere romanen «1984» (1949) beskrev Huxleys landsmann, George Orwell, et samfunn hvor selve tanken ble kontrollert. I Orwells verden ble barn opplært i et språk han kalte «nytale», for å sørge for at den oppvoksende slekt aldri kunne uttrykke samfunnskritiske tanker.

Skjult og sporløst. Alle disse eksemplene er selvsagt oppdiktet, og i samtlige brukte makthaverne synlige metoder for å kontrollere befolkningen. Dermed kunne enkelte aktivt sette seg opp mot lederne, og av og til beseire dem. Men i den faglitterære bestselgeren «The Hidden Persuaders» (1957) beskrev den amerikanske journalisten Vance Packard en «merkelig og temmelig eksotisk» type påvirkning som var på rask fremmarsj i USA, og som på en måte fremsto enda mer skremmende enn de oppdiktede metodene fra romanene.

Ifølge Packard hadde amerikanske næringslivsledere og politikere begynt å ta i bruk metoder for å styre folks tanker, følelser og oppførsel basert på innsikt fra psykiatri og samfunnsvitenskap. Metodene var subtile og ofte fullstendig umulige å avsløre.

De fleste av oss har hørt om en av disse metodene: Subliminal persepsjon, eller det Packard omtalte som «subterskel-effekter» – korte meldinger som forteller oss hva vi skal gjøre, men som vises så kort tid at vi ikke oppfatter at vi mottar dem.

Googles sorterte søkeresultatliste er faktisk så god at rundt 50 prosent av klikkene våre går til de to øverste treffene og mer enn 90 prosent til de ti treffene på første side av søkeresultatene.

I 1958 endret den amerikanske kringkastingsunionen (NAB) reglene, som førte til et forbud mot kringkasting av subliminale meldinger. Bakgrunnen var en påstand om at en kino i New Jersey benyttet seg av skjulte meldinger for å øke iskremsalget til publikum.

I 1974 fastslo det føderale forvaltningsorganet for blant annet telekommunikasjon og kringkasting i USA (FCC) at slike meldinger var «i strid med allmennhetens interesse». Til tross for at lovgivning for å forby subliminale meldinger ble fremlagt for Kongressen, ble det aldri vedtatt. Storbritannia og Australia er nasjoner som har streng lovgivning på dette området.

Subliminal stimulering brukes trolig fortsatt i utstrakt grad i USA – det er tross alt vanskelig å oppdage, og ingen har oppsyn med utbredelsen – men det er neppe noe å bekymre seg for. Forskning antyder nemlig at slike budskap har liten effekt, og at de i hovedsak kun påvirker mennesker som allerede er motivert for å følge budskapet. Subliminale beskjeder om å drikke påvirker eksempelvis bare folk som allerede er tørste.

Utnytter våre svakheter. Packard hadde imidlertid avdekket et mye større problem, nemlig at mektige selskaper hele tiden lette etter – og ofte allerede opererte med – diverse metoder som påvirket folk uten at de selv var klar over det. Han beskrev en slags lobby av markedsføringsfolk som jobbet tett med samfunnsvitere for å finne ut hvordan de kunne få folk til å kjøpe ting de ikke trengte, 

og hvordan de kunne forme barn til å bli gode konsumenter –
tilbøyeligheter som ble åpent dyrket og innlært i Huxleys roman «Vidunderlige nye verden».

Med samfunnsvitenskapen som veiviser lærte markedsførerne raskt hvordan de kunne spille på folks usikkerhet, svakheter, ubevisste frykt, aggressive følelser og seksuelle begjær for å endre deres tankebaner, følelser og oppførsel uten at de var klar over at de ble manipulert.

Ifølge Packard hadde politikere skjønt dette allerede på begynnelsen av 1950-tallet, og solgte sine politiske «varer» ved å bruke de samme subtile kreftene som ble brukt for å selge såpe. I boken startet Packard kapittelet om politikk med et foruroligende sitat av den britiske økonomen Kenneth Boulding:

«En verden styrt av et skjult diktatur er tenkelig, selv om den fortsatt benytter demokratiske styreformer.»

Kunne dette virkelig skje? Og i så fall – hvordan ville det fungert?

Nøye orkestrert. Kreftene Packard beskrev, er blitt mer omfattende i årene som er gått. Den bedøvende musikken i supermarkedene får oss til å gå saktere og kjøpe flere matvarer, uansett om vi trenger dem eller ikke. De mange banale tankene og intense følelsene tenåringene våre gjennomlever fra morgen til kveld, er en følge av nøye orkestrert påvirkning fra dyktige og proffe markedsføringsfolk i mote- og underholdningsindustrien. Politikere har en stab av konsulenter som tester ut alle aspekter av hva som skal til for å tiltrekke seg velgere: Klær, språk, ansiktsuttrykk, sminke, hårsveis og taler blir tilpasset og optimalisert. Akkurat som innpakningen av frokostblandinger.

Heldigvis opererer alle disse påvirkningskildene i en konkurransesituasjon. Noen av dem som frister og overtaler, vil ha oss til å kjøpe eller mene én ting, andre vil ha oss til å kjøpe eller mene noe annet. Samfunnets kompetitive natur gjør at inntrykkene blir balansert, og vår relative frihet beholdes.

Men hva vil skje dersom det dukker opp nye aktører – med liten eller ingen konkurranse – som ønsker å kontrollere oss? Og hva om disse metodene er mye kraftigere og enda mer usynlige enn de som har eksistert tidligere? Og hva om nye typer kontroll ga en liten gruppe mennesker muligheten til å utøve en enorm innflytelse ikke bare på innbyggerne i USA, men over de fleste på Jorden?

Det overrasker deg kanskje å høre dette, men disse tingene har allerede skjedd.

Porten til all kunnskap. For å forstå hvordan de nye formene av tankekontroll fungerer, må vi begynne med å se på søkemotorene. Nærmere bestemt én av dem: Den største og beste av dem, Google. Googles søkemotor er så bra og populær at firmanavnet forlengst er blitt et vanlig og mye brukt verb på språk over hele verden. Å søke opp noe i Googles søkemotor er i dag måten de fleste databrukere over hele kloden henter sin informasjon om mer eller mindre alt mulig. De googler det. Google er blitt hovedporten til nesten all kunnskap, først og fremst fordi søkemotoren er så god til å gi oss nøyaktig den informasjonen vi søker, nesten på et blunk og nesten alltid på første side i listen som vises etter at vi har tastet inn et søk – listen over søkeresultater.

Av milliarder nettsider bestemmer Google hvilke som skal dukke opp i søkeresultatene våre, og de bestemmer også rangeringen. Hvordan de utøver en slik makt, er en dyp, mørk hemmelighet.

Den sorterte listen er faktisk så god at rundt 50 prosent av klikkene våre går til de to øverste treffene, og mer enn 90 prosent går til de ti treffene på første side av søkeresultatene. Få brukere går videre til andre resultatsider, selv om det ofte er tusenvis av dem og de trolig også inneholder masse god informasjon. Av milliarder nettsider bestemmer Google hvilke som skal dukke opp i søkeresultatene våre, og de bestemmer også rangeringen. Hvordan de utøver en slik makt, er en dyp, mørk hemmelighet – en av de best bevarte hemmelighetene i verden, som oppskriften på Coca-Cola.

Siden brukere mest sannsynlig klikker på høyt rangerte lenker, bruker selskaper milliarder av dollar hvert år på å prøve å lure Googles søkealgoritme – dataprogrammet som sørger for innsamling og rangering av nettsider – til å løfte deres nettsider noen plasser opp på listen. For en virksomhet kan det å rykke opp én plass bety forskjellen på fisko og suksess, og opprykk til topplasseringene kan være nøkkelen til store penger.

Søkemotorens manipulering. Mot slutten av 2012 begynte jeg å lure på om høyt rangerte søkeresultater kanskje påvirker mer enn rene forbrukervalg. Kanskje, spekulerte jeg, kan et topplassert søkeresultat også ha en viss innvirkning på folks meninger om ting. Sammen med min kollega Ronald E. Robertson ved American Institute for Behavioral Research and Technology i Vista i California forsøkte jeg tidlig i 2013 å teste denne ideen gjennom et eksperiment hvor 102 mennesker fra San Diego-området ble tilfeldig delt inn i tre grupper.

I én gruppe fikk folk søkeresultater som favoriserte én politisk kandidat – det vil si resultater som lenket til nettsider som fikk denne kandidaten til å fremstå som bedre enn hennes eller hans motstander. I en annen gruppe fikk folk søkeresultater der motstanderkandidaten var rangert høyere, og i en tredje – kontrollgruppen – fikk folk se en blandet rangering som ikke favoriserte noen av kandidatene. Hver gruppe fikk de samme søkeresultatene og nettsidene, den eneste forskjellen var rekkefølgen på resultatene.

For å gjøre eksperimentet realistisk benyttet vi reelle søkeresultater som lenket til reelle nettsider. Vi brukte også et reelt, men avholdt valg – statsministervalget i Australia i 2010. Vi brukte et utenlandsk valg for å være sikre på at våre deltagere ikke var forutinntatte. Mangelen på kjennskap til kandidatene sørget for dette. For å forsikre oss om at vi hadde alle viktige demografiske kjennetegn for den delen av den amerikanske befolkningen som normalt deltar ved valg, rekrutterte vi en etnisk variert gruppe registrerte velgere i et bredt aldersspekter.

Alle deltagerne fikk først korte beskrivelser av kandidatene og ble bedt om å rangere dem på ulike måter. De ble også bedt om å si hvilken kandidat de ville stemt på. Ikke uventet favoriserte deltagerne til å begynne med ingen av statsministerkandidatene på de fem målingene vi gjorde. På dette tidspunktet var stemmene likt fordelt i alle tre forsøksgruppene.

Tross deres gode hensikter og formål – har Google ingen konkurranse. Folk stoler uforbeholdent på deres søkeresultater, og antar at selskapets mystiske søkealgoritme er fullstendig objektiv og upartisk.

Så fikk deltagerne opptil 15 minutter på å gjøre nettsøk i vår liksom-søkemotor «Kadoodle». Den ga dem tilgang til fem sider med søkeresultater som lenket til nettsider. Deltagerne kunne bevege seg fritt mellom søkeresultater og nettsider, akkurat som vi gjør når vi bruker Google.

Da de hadde gjort seg ferdig, ba vi deltagerne om å rangere kandidatene på nytt, og vi spurte igjen om hvem de ville stemt på.

På forhånd antok vi at vurderingene og stemmene i de to gruppene med manipulerte søkeresultater ville øke to til tre prosent til fordel for den kandidaten de fikk se i toppen av søkeresultatet. Det vi fant ut, var mildt sagt forbausende:

Andelen deltagere som favoriserte søkemotorens best rangerte kandidat, økte med 48,4 prosent, og i alle de fem tilleggsmålingene beveget de seg mot denne kandidaten. I tillegg så det ut til at 75 prosent av deltagerne i disse to gruppene var fullstendig uvitende om at de fikk se en manipulert rangering av søkeresultatene.

I kontrollgruppen var vurderingene og stemmene omtrent like som før de så søkeresultatene i «Kadoodle».

Usynlig påvirkning. Dette syntes å være en betydelig oppdagelse. Dreiningen vi hadde skapt, som vi kalte Search Engine Manipulation Effect (eller SEME), fremsto som den største påvirkningen av adferd som noen gang var oppdaget. Vi sprettet imidlertid ikke champagnen umiddelbart. Én ting var at kun et lite antall mennesker deltok, og dessuten var alle fra San Diego og omegn.

I løpet av det neste året kom vi frem til de samme funnene i tre nye eksperimenter, og tredje gangen var utvalget på mer enn 2000 mennesker fra alle de 50 amerikanske statene. I dette tredje eksperimentet var bevegelsen i velgerpreferanser 37,1 prosent. I noen demografiske grupper var den til og med høyere, faktisk så høy som 80 prosent. I denne serien eksperimenter fant vi også ut at vi ved å gjøre den første siden av søkeresultatet litt mindre partisk – vi la inn et treff på den konkurrerende kandidaten på tredje- eller fjerdeplass – kunne vi maskere manipuleringen slik at få eller ingen var klar over at de fikk se en partisk rangering. Vi klarte likevel å skape dramatiske bevegelser i velgerpreferanser, samtidig som vi klarte å gjøre manipulasjonen usynlig.

Men vi sprettet fortsatt ikke champagnen. Resultatene våre var solide og konsistente, men alle eksperimentene involverte et utenlandsk, ferdig avholdt valg – 2010-valget i Australia. Kunne velgerpreferanser bli flyttet også med reelle velgere i en reell valgkamp? Vi var skeptiske. I virkelige valg blir folk bombardert fra flere informasjonskilder, og velgerne vet mye om kandidatene. For oss virket det usannsynlig at én enkelt opplevelse i en søkemotor ville ha særlig påvirkning på preferansene deres.

Den indiske syretesten. For å finne svarene dro vi til India tidlig i 2014, rett før folk gikk til stemmeurnene i verdens største demokratiske valg – Lok Sabha-valget. Her velges representanter til det indiske underhuset og statsministeren. De tre hovedkandidatene til statsministerposten var Rahul Gandhi, Arvind Kejriwal og Narendra Modi. Vi benyttet oss av frivillige som hadde gjort seg tilgjengelige for å delta i eksperimenter, og rykket inn annonser både på nett og papir. Slik rekrutterte vi 2150 mennesker fra 27 av Indias 35 delstater og territorier til eksperimentet vårt. For å bli med måtte de være registrerte velgere som ennå ikke hadde avlagt stemme, og de måtte heller ikke ha bestemt seg for hva de skulle stemme.

Deltagerne ble vilkårlig plassert i tre søkemotor-grupper, som favoriserte enten Gandhi, Kejriwal eller Modi. Som forventet var kjennskapen til statsministerkandidatene stor – mellom 7,7 og 8,5 på en skala til 10. Vi forventet at vår manipulasjon ville ha liten eller ingen effekt, men fant ut noe helt annet: I gjennomsnitt klarte vi å bevege andelen som favoriserte hvilken som helst kandidat med 20 prosent, og mer enn 60 prosent i noen demografiske grupper. Enda mer urovekkende var det at 99,5 prosent av deltagerne ikke forsto at rangeringen av søkeresultatene var blitt jukset med.

Med andre ord: Deltagerne var blitt manipulert.

Dramatisk påvirkningskraft. At nesten ingen oppdager SEME-effekten, er merkelig. Det betyr at når folk – inkludert deg og meg – ser på manipulerte rangeringer i søkemotoren, så ser det helt greit ut for oss. Så hvis du akkurat nå googler «US presidential candidates», vil søkeresultatene trolig se ganske tilfeldige ut, selv om de faktisk favoriserer én kandidat. Til og med jeg har problemer med å oppdage manipulerte søkerangeringer, selv om jeg vet de er partiske (fordi de blir laget av mine medarbeidere). Men våre tilfeldige, kontrollerte eksperimenter forteller oss gang på gang at når de høyest rangerte søketreffene lenker til nettsider som favoriserer én kandidat fremfor en annen, har dette en dramatisk påvirkning på velgere som ikke har bestemt seg for hvem de skal stemme på. Rett og slett fordi folk i så stor grad klikker på de øverste nettsidene i søkeresultatene.

Dette er virkelig skremmende: Akkurat som ved underbevisste stimuli er SEME noe du ikke kan se, men i motsetning til underbevisste stimuli har SEME en enorm virkning. Det er som om et spøkelse skulle dytte deg ned en trappeoppgang.

Noen domstoler har til og med kommet frem til at Googles rett til å rangere søkeresultater som de selv vil, er beskyttet av ytringsfriheten.

Vi publiserte en detaljert rapport om våre fem første SEME-eksperimenter i det prestisjetunge vitenskapelige tidsskriftet Proceedings of the National Academy of Sciences (PNAS) i august 2015. Vi hadde sannelig funnet noe viktig, spesielt på grunn av Googles dominans som søkemotor. Google har nesten monopol på nettsøk i USA; 83 prosent av befolkningen spesifiserer Google som den søkemotoren de bruker oftest, ifølge Pew Research Center. Så hvis Google favoriserer én kandidat i et valg, vil deres påvirkning på usikre velgere enkelt kunne avgjøre valget.

Og husk at våre deltagere bare ble utsatt for manipulasjonen én gang. Hvor stor vil påvirkningen være dersom én kandidat favoriseres i søkene folk gjør i uker og måneder før et valg? Den vil garantert være mye større enn det vi har sett i våre eksperimenter.

Uten konkurranse. Andre typer påvirkning under en valgkamp er balansert gjennom konkurrerende påvirkningskilder – et vidt spekter av blant annet aviser, radioprogrammer og TV-kanaler. Men tross deres gode hensikter og formål – har Google ingen konkurranse. Folk stoler uforbeholdent på deres søkeresultater, og antar at selskapets mystiske søkealgoritme er fullstendig objektiv og upartisk. Dette høye tillitsnivået kombinert med fraværet av konkurranse, plasserer Google i en helt unik posisjon til å påvirke valg. Og det er enda mer urovekkende at rangering av søk er en totalt uregulert virksomhet, slik at Google kan favorisere hvilken kandidat de vil uten å bryte en eneste lov. Noen domstoler har til og med kommet frem til at Googles rett til å rangere søkeresultater som de selv vil, er beskyttet av ytringsfriheten.

Støttet Obama. Men favoriserer selskapet noen gang spesielle kandidater? Under presidentvalget i 2012 donerte Google og deres toppsjefer mer enn 800 000 dollar til president Barack Obama, og bare 37 000 dollar til hans konkurrent, Mitt Romney. I 2015 viste en gruppe forskere fra blant annet University of Maryland at Googles søkeresultater rutinemessig favoriserte Demokratenes kandidater.

I 2015 viste en gruppe forskere at Googles søkeresultater rutinemessig favoriserte Demokratenes kandidater.

Er så Googles søkerangeringer virkelig partiske?

En intern rapport utgitt i 2012 av Federal Trade Commission (som har ansvar for forbrukervern og konkurranseregulering i USA) konkluderte med at Googles rangering av søkeresultater rutinemessig favoriserer Googles finansielle interesser på bekostning av konkurrentene, og konkurransetilsynssaker basert på lignende funn er for tiden på gang mot Google både i EU og India.

I de fleste land gjøres 90 prosent av alle nettsøk på Google, noe som gir selskapet enda mer makt til å påvirke valg enn de har i USA. Og siden internetts utbredelse fortsatt øker kraftig på verdensbasis, øker også Googles makt. I vår artikkel i tidsskriftet PNAS kalkulerte Robertson og jeg oss frem til at Google nå har mulighet til å bestemme utfallet av opptil 25 prosent av alle nasjonale valg i verden uten at noen vil oppdage det. Faktisk går vi ut fra at Googles søkerangeringer – med eller uten tilsiktet planlegging av selskapets ledelse – har påvirket valg i flere år, og at påvirkningen øker for hvert år. Og fordi rangeringene i et søkeresultat er flyktige og kortlivede og basert på ukjente algoritmer, etterlater de seg ingen dokumentasjon, og gir Google alle muligheter til benektelse. Makten dette representerer og med dette nivået av usynlighet, er enestående i menneskehetens historie. Men det viser seg at våre oppdagelser om SEME bare er toppen av isfjellet.

Mulig misbruk. Den ledende demokratiske presidentkandidaten, Hillary Clinton, er tungt inne i sosiale medier for å generere støtte – Twitter, Instagram, Pinterest, Snapchat og Facebook først og fremst. Når dette skrives, har hun 5,6 millioner følgere på Twitter, og hennes stab tvitrer opptil flere ganger i timen i løpet av dagen og kvelden. Republikanernes ledende kandidat, Donald Trump, har 6,7 millioner Twitter-følgere, og tvitrer like ofte.

I de fleste land gjøres 90 prosent av alle nettsøk på Google.

Er sosiale medier en like stor trussel mot demokratiet som søkemotorrangeringer ser ut til å være? Ikke nødvendigvis. Når ny teknologi brukes kompetitivt utgjør den ingen trussel. Selv om plattformene er nye, brukes de sosiale mediene stort sett på samme måte som plakater og TV-reklame er blitt brukt i flere tiår: Du henger opp én plakat på den ene siden av gaten, jeg henger opp en på den andre siden. Jeg har muligens penger til å henge opp flere plakater enn deg, men prosessen er likevel kompetitiv.

Men hva skjer hvis slik teknologi blir misbrukt av selskapene som står bak? En undersøkelse Robert M. Bond, professor i statsvitenskap ved Ohio State University, publiserte i samarbeid med andre i vitenskapstidsskriftet Nature i 2012, beskrev et etisk diskutabelt eksperiment hvor Facebook sendte ut «gå ut og stem»-påminnelser til mer enn 60 millioner brukere på valgdagen i 2010. Påminnelsene fikk 340 000 mennesker som ikke hadde planer om å stemme, til å delta i valget.

I magasinet New Republic pekte professor i folkerett ved Harvard University, Jonathan Zittrain, i 2014 på følgende: Med den massive mengden informasjon Facebook har samlet inn om sine brukere, kunne de enkelt ha sendt disse påminnelsene kun til de som hadde gitt uttrykk for sympati med ett spesielt parti eller én kandidat, og dermed lett ha avgjort et jevnt valgresultat uten at noen ville oppdaget det. Og siden Facebook-annonser akkurat som søkeresultat-rangeringer forandrer seg og forsvinner, ville en slik manipulering ikke ha etterlatt seg spor.

Finnes det lover som hindrer Facebook i å sende ut reklame til et selektivt utvalg brukere? Overhodet ikke. Målrettet reklame er jo faktisk måten Facebook tjener pengene sine på. Manipulerer Facebook valg på denne måten? Ingen vet, men slik jeg ser det ville det vært idiotisk og muligens upassende av Facebook ikke å gjøre det. Noen kandidater er bedre for et selskap enn andre, og Facebooks toppledelse har et ansvar overfor selskapets aksjeeiere om å fremme selskapets interesser i alle sammenhenger.

Googles rangering av søkeresultater favoriserer rutinemessig Googles finansielle interesser.

Påvirkning av følelsene. Bond-undersøkelsen fra 2012 ble stort sett ignorert. Men et annet Facebook-eksperiment, publisert i PNAS i 2014, skapte protester flere steder i verden.

689 000 brukere fikk i en uke se en strøm av poster på sin Facebook-side med enten overdreven bruk av positive begreper, negative begreper eller hverken positive eller negative. Etter hvert så man at Facebook-brukerne i den første gruppen begynte å uttrykke seg litt mer positivt når de kommuniserte, mens de som ble utsatt for negative uttrykk, etterhvert ble litt mer negative i det de skrev i sine innlegg.

Dette skulle vise at folks «emosjonelle tilstand» kunne manipuleres bevisst og i stor skala av et sosialt medieselskap, en tanke som for mange mennesker fremsto som svært urovekkende. Folk var også opprørt over at dette omfattende eksperimentet som involverte deres følelsesliv var blitt gjennomført uten at det var innhentet tillatelse fra deltagerne.

Facebooks registrering av brukerinformasjon er unektelig omfattende, men den blekner i forhold til hva Google sitter på, som samler informasjon om folk hele døgnet ved hjelp av mer enn 60 ulike plattformer: Søkemotoren, selvsagt, men også Google Wallet, Google Maps, Google Adwords, Google Analytics, nettleseren Chrome, Google Docs, Android, YouTube og så videre. De fleste Gmail-brukere er stort sett uvitende om at Google lagrer og analyserer (ved maskinlesing) hver eneste e-post som skrives. Til og med utkastene som aldri sendes, blir lagret av Google. Det samme blir alle epostene brukerne mottar, enten de er fra Gmail-brukere eller fra andre e-postadresser.

Deler ikke med brukerne. Ifølge Googles personvernregler – som man samtykker til når man bruker et Google-produkt, selv når det ikke er blitt opplyst om at man bruker et Google-produkt – kan de dele informasjonen de samler om deg med nesten alle, inkludert statlige institusjoner. Men aldri med deg. Googles privatliv er ukrenkelig, ditt eksisterer ikke.

Kan Google bruke informasjonen de samler inn om deg i ond hensikt? Kan uriktig informasjon i folks profiler (som de selv ikke har tilgang til å korrigere) begrense deres muligheter, eller ødelegge deres rykte? Helt klart. Hvis Google bestemte seg for å fikse et valg, kunne de først dykke ned i sin massive database av personlig informasjon for å identifisere de velgerne som ikke hadde bestemt seg for hva de skulle stemme. Så kunne de dag etter dag vise tilpassede søkeresultater som favoriserte én kandidat, kun til disse brukerne. Fordelen med denne tilnærmingen er at etterforskere ville hatt enorme problemer med å oppdage Googles manipulasjon.

Ekstreme former for overvåking, enten av KGB i Sovjetunionen, Stasi i DDR eller Storebror i «1984», er essensielle elementer i alle diktaturer, og ny teknologi gjør både overvåking og konsolideringen av overvåkingsdata lettere enn noen gang. Innen 2020 vil Kina ha på plass det mest ambisiøse statlige overvåkingssystemet noensinne – en enkeltstående database kalt Social Credit System. I denne databasen får offentlige tjenestemenn og byråkrater enkel tilgang til rangeringer og historikk for alle landets 1,3 milliarder innbyggere. Med et kjapt blikk vil de kunne se om en person har jukset på skolen, vært treg med å betale regninger, om de har urinert på offentlig sted eller blogget upassende meninger på nett.

Falske fjær. Som Edward Snowdens avsløringer har vist, nærmer vi oss raskt en verden hvor både makthavere og selskaper – noen ganger i samarbeid – samler omfattende mengder data om oss hver eneste dag, med minimal eller ingen lovgivning som begrenser hvordan disse dataene kan brukes. Dersom du kombinerer innsamlingen av data med et ønske om å kontrollere eller manipulere, er mulighetene utallige. Men det mest skremmende scenarioet er kanskje fortsatt best uttrykt i Bouldings påstand om at «skjulte diktaturer» kan oppstå «i forkledning av demokratiske styreformer».

Etter at Robertson og jeg leverte inn vår første rapport om SEME til PNAS tidlig i 2015 har vi gjennomført en rekke sofistikerte eksperimenter som har forbedret vår forståelse av fenomenet vesentlig, og flere eksperimenter vil bli fullført fremover. Vi har nå en mye bedre forståelse for hvorfor SEME (Search Engine Manipulation Effect) er så mektig, og hvordan den – til en viss grad – kan undertrykkes/tøyles/dempes.

Vi har også lært noe svært urovekkende – at søkemotorer påvirker mye mer enn hva folk kjøper og hvem de stemmer på. Vi har nå bevis som tyder på at søkemotorens rangeringer påvirker nesten alle valg folk gjør, dersom de ikke har bestemt seg på forhånd. De har påvirkning på internettbrukeres meninger, tro, holdninger og adferd i hele verden. Og dette uten at folk vet at det skjer. Dette skjer med eller uten bevisst innblanding av ledelsen i selskapet. Til og med såkalte «organiske» søkeprosesser genererer regelmessig resultater som favoriserer et visst standpunkt, noe som har potensial til å vippe millioner av mennesker fra ett standpunkt til et annet dersom de på forhånd ikke har bestemt seg.

I et eksperiment vi gjorde nylig, manipulerte vi søkeresultatene slik at 33,9 prosent av deltagerne forandret mening om verdien av å benytte hydraulisk oppsprekking for å utvinne petroleumsråstoff fra fossile bergarter.

Mer skremmende er det at de svært få som viser at de faktisk blir bevisst at det de ser, er manipulerte søkeresultatrangeringer, beveger seg enda lenger i retning av den meningen de er forsøkt manipulert mot. Så bevisstheten om at en liste er partisk, beskytter deg ikke nødvendigvis mot SEMEs makt.

Husk hva søkealgoritmen gjør: Når du søker, velger den en håndfull nettsider av milliarder tilgjengelige, og sorterer dem ved hjelp av hemmelige kriterier. Sekunder senere blir beslutningen du tar eller meningen du lander på om hvilken tannkrem du bør bruke, om hydraulisk oppsprekking er trygt, om hvor du skal på sommerferie, hvem som blir den beste presidenten, eller om global oppvarming virkelig skjer, bestemt av en kort liste du blir vist, selv om du ikke aner hvordan listen ble laget.

Samtidig har en integrering av søkemotorer skjedd i det stille, slik at flere mennesker bruker den ledende søkemotoren selv om de tror de bruker et alternativ. Fordi Google er den beste søkemotoren, og fordi bruken av søkeroboter på det hurtig voksende nettet er blitt uoverkommelig kostbart, benytter flere og flere søkemotorer seg av kunnskapen fra markedslederen fremfor å skaffe den selv. I oktober 2015 dukket det opp dokumenter hos US Securities and Exchange Commission (myndigheten som utøver tilsyn med verdipapirhandelen i USA) som viste at det var inngått en avtale mellom Google og Yahoo! Inc.

Etter våre beregninger har Stephanie Hannons gamle venner i Google mulighet til å skyve mellom 2,6 og 10,4 millioner stemmer til Clinton på valgdagen – uten at noen vet at det skjer.

Sikrer Hillary stemmer. Frem mot presidentvalget ser jeg klare tegn på at Google støtter Hillary Clinton. I april 2015 hyret Clinton inn Googles Stephanie Hannon som teknologisjef, og for noen måneder siden dannet Eric Schmidt, styreformannen i holdingselskapet som kontrollerer Google, et halvhemmelig selskap – The Groundwork – som har én konkret hensikt: Å få Hillary Clinton valgt til president. Dannelsen av The Groundwork fikk WikiLeaks-grunnlegger Julian Assange til å kalle Google for Clintons «hemmelige våpen» i kampen om presidentembetet.

Etter våre beregninger har Stephanie Hannons gamle venner i Google mulighet til å skyve mellom 2,6 og 10,4 millioner stemmer til Clinton på valgdagen – uten at noen vet at det skjer, og uten å etterlate seg spor. De kan selvsagt også hjelpe henne til å vinne nominasjonen ved å påvirke de velgerne i primærvalgene som ikke har bestemt seg for hvem de skal stemme på. Usikre velgere har alltid vært nøkkelen til å vinne valg, og det har aldri eksistert en mer kraftfull, effektiv og billig måte å vinne dem på enn SEME.

Innsirkling av byttet. Vi lever i en verden hvor en håndfull teknologiske selskaper, noen ganger i samarbeid med styresmaktene, ikke bare overvåker mye av det vi gjør, men også usynlig kontrollerer mer og mer av hva vi tenker, føler, gjør og sier. Teknologien som vi nå er omgitt av, er ikke bare et harmløst leketøy, den har også gjort det mulig å manipulere hele befolkninger uten å bli oppdaget. Dette er manipulasjon på et nivå som mangler sidestykke i menneskehetens historie, og som inntil videre ikke er i nærheten av å bli fanget opp av eksisterende regler og lovverk.

De nye, skjulte «overtalerne» er større, dristigere og tøffere enn noe Vance Packard var i stand til å se for seg.

Hvis vi velger å overse dette, gjør vi det på egen risiko.

Publisert på aeon.co.uk 29. feb. 2016.