Højrefløjsfolk med tjek på tech har været i stand til at »narre« internetgiganternes algoritmer og skabe en ny virkelighed, hvor Hitler er en fin fyr, jøder er onde og … Donald Trump bliver præsident. Vi bringer et afsnit fra bogen De skjulte algoritmer (redigeret af Klavs Birkholm og Niels Frølich), som udkommer den 24. maj på Djøf Forlag. Uddraget følger her:
Af Carole Cadwalladr
Hvad man ikke har lyst til at lave en sen søndag aften. Man har ikke lyst til at taste syv bogstaver på Google. Jeg gjorde ikke andet. Jeg skrev: »e-r«. Og så »j-ø-d-e-r«. Siden 2008 har Google forsøgt at forudsige, hvad man vil spørge om, og så komme med et forslag. Og det var det, der skete. Søgemaskinen foreslog forskellige, mulige spørgsmål, som Google mente, jeg ville stille: »Er jøder en race?«, »Er jøder hvide?«, »Er jøder kristne?«, og til sidst »Er jøder onde?«
Er jøder onde? Det er ikke et spørgsmål, jeg på noget tidspunkt havde tænkt mig at stille. Jeg havde ikke søgt på det. Men dér stod det. Så jeg trykker »enter«. En side fuld af resultater dukker op. Her var Googles spørgsmål. Og her var Googles svar: Jøder er onde. For dér, på min skærm, var beviset: En hel side fuld af resultater, hvor ni ud af ti er »bekræftende«. Det resultat, der står øverst, er fra en side, der hedder Listovative, med overskriften: »De 10 vigtigste årsager til, at folk hader jøder.« Jeg klikker på den: »I dag har jøderne overtaget markedsføringen, militæret, medicinen, teknologien, medierne, industrien, filmbranchen osv. og er fortsat konfronteret med verdens [sic] misundelse på grund af uforklarlige succeshistorier, når man tager deres skammelige og skadedyrslignende undertrykkelse i hele Europa i betragtning.«
Google er at søge. Det er et verbum: at google. Det er dét, vi alle gør, hele tiden, hver gang vi vil vide noget. Vi googler det. Søgemaskinen behandler mindst 63.000 søgninger i sekundet, 5,5 milliarder om dagen. Firmaets mission, det kortfattede slagord, der har tegnet virksomheden siden grundlæggelsen og også i dag står som overskrift på Googles hjemmeside, er: at »organisere al verdens information og gøre den tilgængelig og nyttig overalt«. Google stræber efter at give de bedste og mest relevante resultater. Og i dette tilfælde er det tredjebedste, mest relevante søgeresultat på »er jøder …« et link til en artikel fra stormfront.org, en nynazistisk hjemmeside. Resultat nummer fem er en YouTube-video: »Hvorfor jøder er onde. Hvorfor vi er imod dem.«
Det sjette stammer fra Yahoo Answers: »Hvorfor er jøder så onde?« Det syvende resultat er: »Jøder er nogle dæmoniske væsener fra en anden verden.« Og det tiende kommer fra jesus-is-saviour.com: »Jødedommen er satanisk!«
Der er ét resultat ud af de ti, som har en anden synsvinkel. Det er et link til en temmelig kompakt, lærd boganmeldelse fra thetabletmag.com, et jødisk tidsskrift, som har den uheldigvis misvisende overskrift: »Hvorfor bogstavelig talt alle i verden hader jøder.«
Jeg har det, som om jeg er røget i et ormehul og er trådt ind i et parallelunivers, hvor sort er hvidt, og godt er ondt. Men senere tænker jeg, at det, jeg måske rent faktisk har gjort, er at have skrabet det øverste jordlag af 2016 og fundet en af de underjordiske kilder, der i det stille har næret det. Den har selvfølgelig hele tiden været der. Blot nogle få anslag væk på tastaturet … på vores bærbare pc’er, vores tablets, vores telefoner. Det her er ikke nogen hemmelig nazicelle, der lurer i det skjulte. Jeg kunne ikke se skoven for bare træer.
Historier om fake news på Facebook dominerede visse dele af pressen i ugevis efter det amerikanske præsidentvalg, men denne her er velsagtens endnu mere magtfuld, mere lumsk. Frank Pasquale, juraprofessor ved University of Maryland og en af de førende akademikere, der højlydt forlanger, at tech-industrien skal være mere åben og gennemsigtig, kalder mine resultater »meget grundige og dybt foruroligende«. Han stødte på et lignende tilfælde i 2006, hvor »det første resultat, der dukkede op, hvis man tastede ‘jøde’ på Google, var jewwatch.org. Det lød: ‘Hold øje med disse forfærdelige jøder, der ødelægger dit liv’. Som det næste kom The Anti-Defamation League (Forening, der fører injuriesager (o.a.), red), og her satte de en stjerne ved resultatet og indsatte en fodnote, hvor der stod: ‘Disse søgeresultater kan virke stødende, men er fremkommet ved en automatiseret proces.’ Men det, du her viser – og jeg er meget glad for, at du dokumenterer det og har taget et screenshot af det – er, at til trods for, at man har undersøgt problemet meget grundigt, så er det kun blevet langt værre.«
Rækkefølgen af søgeresultater påvirker rent faktisk folk, siger Martin Moore, leder af Centre for the Study of Media, Communication and Power ved King’s College i London. Han har skrevet udførligt om de store tech-virksomheders indvirkning på vores civilsfære og politiske virkelighed. »Der findes en omfattende, statistisk signifikant forskning i søgeresultaters indvirkning på politiske opfattelser. Også den måde, man ser resultaterne på, og den form for resultater, man ser på siden, påvirker uvægerligt ens perspektiv.« Fake news, siger han, har ganske enkelt »afsløret et langt større problem. Disse firmaer er så magtfulde og så stærkt optagede af at sprænge de eksisterende rammer (disruption). De mente, at de disruptede den politiske proces, men på en positiv måde. De havde ikke tænkt på ulemperne. Disse værktøjer tilbyder en bemærkelsesværdig magt, men magten har også en mørkeside. Den gør folk i stand til at foretage nogle meget kyniske og ødelæggende handlinger.«
Google er viden. Det er dér, man går hen, når man skal finde ud af noget. Og de onde jøder er kun begyndelsen. Der findes også onde kvinder. Dem ledte jeg heller ikke efter. Jeg taster: »E-r k-v-i-n-d-e-r«. Og Google giver mig kun to valgmuligheder, hvoraf den første er: »Er kvinder onde?«. Jeg trykker på »enter«. Ja, de er. Hvert eneste af de ti resultater »bekræfter«, at det er de, inklusive det øverste resultat, som er fra en side, der hedder sheddingoftheego.com, og som er indrammet og fremhævet: »Alle kvinder rummer en vis grad af prostitueret i sig. Alle kvinder rummer en lille smule ondt … Kvinder elsker ikke mænd, de elsker det, mændene kan gøre for dem. Man kan med rimelighed sige, at kvinder føler sig tiltrukket af mænd, men de er ikke i stand til at elske dem.«
Dernæst taster jeg: »e-r m-u-s-l-i-m-e-r«. Og Google foreslår, at jeg spørger: »Er muslimer skadelige?« Og det, jeg finder ud af, er: Ja, det er de. Det siger det første resultat, og det siger seks af de øvrige. Uden at jeg har tastet noget som helst andet, men ved blot at placere cursoren i søgefeltet foreslår Google mig to nye søgninger, og jeg prøver den første: »Islam er skadeligt for samfundet.« På den næste liste af forslag møder jeg: »Islam skal udryddes.«
Jøder er onde. Muslimer skal udslettes. Og Hitler? Vil du gerne vide noget om Hitler? Lad os google det. Jeg taster: »Var Hitler skadelig?« Og her er Googles første resultat: »10 grunde til, at Hitler var en fin fyr«. Jeg klikker på linket: »Det var ikke på noget tidspunkt hans ønske at slå jøder ihjel«; »han bekymrede sig om de betingelser, jøderne levede under i arbejdslejrene«; »han gennemførte sociale og kulturelle reformer.« Otte ud af de ti andre søgeresultater er enige: Hitler var slet ikke så slem.
Nogle få dage senere taler jeg med Danny Sullivan, grundlæggeren af SearchEngineLand.com. Flere forskere har anbefalet mig at kontakte ham, da han er en af de mest vidende eksperter på søgning. Jeg spørger ham, om jeg bare er naiv? Burde jeg have vidst, at det her fandtes derude? »Nej, du er ikke naiv,« siger han. »Det her er frygteligt. Det er rædsomt. Det svarer til at gå på biblioteket og spørge bibliotekaren om jødedom og så få stukket ti bøger i hånden, der handler om had. Google gør et rædsomt, rædsomt stykke arbejde, når de bringer disse svar. Det kan og bør de gøre bedre.«
Han er også overrasket. »Jeg troede, de var holdt op med at vise automatisk udfyldte forslag i 2011, når det handler om religioner.« Og så skriver han »er kvinder« på sin egen computer. »Vorherre bevares! Det dér svar foroven. Det er et fremhævet resultat. Det kaldes et ‘direkte svar’. Det skulle være indiskutabelt. Det har Googles højeste anbefaling.« At alle kvinder rummer en lille prostitueret indeni? »Ja. Her går det da helt galt for Googles algoritmer.«
Jeg kontaktede Google angående firmaets automatisk udfyldte søgeforslag, der tilsyneladende led af en funktionsfejl, og modtog dette svar: »Vores søgeresultater afspejler hele nettets indhold. Det betyder, at ubehagelige gengivelser af følsomme emner, der optræder online, nogle gange kan påvirke de søgeresultater, der fremkommer ved en given forespørgsel. Disse resultater afspejler ikke Googles egne meninger eller overbevisninger – som selskab værdsætter vi i høj grad stor mangfoldighed med hensyn til perspektiver, idéer og kulturer.«
Google er selvfølgelig ikke bare en søgemaskine. Søgning var firmaets oprindelige forretningsgrundlag, men det var kun begyndelsen. Alphabet, Googles moderselskab, har i dag verdens største koncentration af eksperter i kunstig intelligens. Virksomheden er i gang med at ekspandere inden for sundhed, transport og energiforsyning. Den er i stand til at tiltrække verdens førende computervidenskabsfolk, fysikere og ingeniører. Den har opkøbt hundredvis af startup-virksomheder, inklusive Calico, hvis udtrykte mission er at »kurere for døden« (»cure death«), og DeepMind, hvis mål er at »løse intelligensens gåde« (»solve intelligence«).
For 20 år siden fandtes virksomheden ikke engang. Da Tony Blair blev premierminister, var det ikke muligt at google ham: Søgemaskinen var stadig ikke opfundet. Selskabet blev først grundlagt i 1998, og Facebook så først dagens lys i 2004. Googles grundlæggere Sergey Brin og Larry Page er stadig kun 43 år (begge er født i 1973). Facebooks Mark Zuckerberg er 32 (født 1984). Alt, hvad de har lavet, den verden, de har omkabt, er skabt på et øjeblik.
Men det lader til, at implikationerne af disse firmaers magt og rækkevidde først nu er ved at sive ind i den offentlige bevidsthed. Jeg spørger Rebecca MacKinnon, der er direktør for projektet Ranking Digital Rights ved New America Foundation, om det var den nylige furore over fake news, der fik folk til at få øjnene op for faren ved at afstå vores borgerrettigheder til sådanne selskaber. »Det er lidt sært for tiden,« siger hun, »for endelig siger folk, ‘Hold da op, hvor Facebook og Google da har stor magt’, som om det er en stor åbenbaring. Og det er ligesom ‘øhh ja’.«
MacKinnon har særlig ekspertise i, hvordan autoritære regeringer tilpasser sig internettet og former det, så det passer deres formål. »Kina og Rusland er en advarsel til os. Jeg tænker, at det, der sker, er, at det går frem og tilbage. Under det arabiske forår lod det til, at ‘the good guys’ var længst fremme. Og nu ser det ud til at være ‘the bad guys’, der fører. Pro-demokrati-aktivister bruger internettet mere end nogensinde før, men samtidig er modstanderne også blevet tilsvarende langt mere drevne.«
I november 2016 udgav Jonathan Albright, der er adjungeret professor i kommunikation ved Elon University i North Carolina, den første detaljerede forskningsrapport om, hvordan højreorienterede hjemmesider har spredt deres budskab. »Jeg tog en liste over disse fake news-sider, der var i omløb, jeg havde til at begynde med en liste med 306 af dem, og jeg anvendte et værktøj – svarende til det, Google benytter – til at udtrække de links, de indeholdt, og så kortlagde jeg dem. Derpå undersøgte jeg, hvor disse links førte hen – til YouTube og Facebook, og indbyrdes mellem dem – millioner af links, jeg kunne simpelthen ikke tro mine egne øjne.«
»De har skabt et net, der bløder igennem og ud på vores net. Der er ikke tale om en konspiration. Det er ikke en enkelt person, som har skabt det. Det er et enormt stort system af hundredvis af forskellige sider, der benytter alle de samme tricks, som enhver anden internetside bruger. De udsender links i tusindvis til andre sider, og tilsammen har det skabt et kæmpestort satellitsystem af højreorienterede nyheder og propaganda, der fuldkommen har omsluttet det almindelige mediesystem.«
Albright fandt 23.000 sider og 1,3 millioner hyperlinks. »Facebook er bare en forstærkningsmekanisme. Når man ser tredimensionelt på det, ligner det faktisk en virus. Og Facebook er bare en enkelt af de virusværter, som hjælper den med hurtigt at sprede sig. Man kan både finde New York Times og Washington Post derinde, og så kan man se, hvordan der er et kæmpe, kæmpe stort netværk, der omgiver dem. Den bedste måde at beskrive det på er at sammenligne med et økosystem. Det her rækker i den grad langt ud over individuelle sites eller individuelle historier. Kortet viser distributionsnetværket, og man kan se, at det omgiver og rent faktisk kvæler det almindelige nyhedsøkosystem.«
Ligesom kræft? »Ja. Ligesom en organisme, der vokser og konstant bliver stærkere.«
Charlie Beckett, der er professor ved School of Media and Communications på London School of Economics, siger til mig: »Nu har vi i et stykke tid argumenteret for, at det er godt med denne mangfoldighed af nyhedsmedier. At mangfoldighed er godt. At det er godt at kritisere de almindelige medier. Men nu … er det kommet helt vildt ud af kontrol. Det, som Jonathan Albrights forskning har vist, er, at det her ikke er et biprodukt af internettet. Og det sker ikke engang af kommercielle årsager. Det er motiveret af ideologi, af folk, der med fuldt overlæg forsøger at destabilisere internettet.«
Ovenstående tekst er et uddrag af bogen De skjulte algoritmer (redigeret af Klavs Birkholm og Niels Frølich), der udkommer 24. maj på Djøf Forlag. I bogen giver Klavs Birkholm, Massimo Mazzotti, Carole Cadwalladr, Cathy O’Neil, Adam Greenfield, Aske Mottelson, Niels Frølich, Luke Dormehl, Rikke Gottrup, Hanne Marie Motzfeldt og Evgeny Morozov overblik over algoritmernes betydning. Alle eksperter, der både nationalt og internationalt har været med til at rejse debatten om algoritmernes indflydelse.
Carole Cadwalladr er journalist og forfatter. Featureskribent ved den britiske søndagsavis The Observer, hvor hun siden Brexit-afstemningen har publiceret intensivt researchede artikler om, hvad hun betegner som det »nyheds-økosystem«, der har gjort det yderste højre magtfuldt. Cadwalladr blev verdenskendt, da hun 18.03.2018 publicerede historien om Facebooks afgivelse af mere end 50 millioner persondataprofiler til konsulentfirmaet Cambridge Analytica, der har arbejdet for både præsident Donald Trump og Brexit. Hun har desuden skrevet romanen The Family Tree (2005).
Carole Cadwalladrs internetsøgning, som er beskrevet i dette kapitel, fandt sted 4. december 2016 (red.).
Billede i artiklens top: /Ritzau Scanpix/ZUMAPRESS.com/Elliot Franks/
Magasinet Europa er hverken annonce- eller abonnementsbaseret. Hvis du er enig i vores fravalg af distraherende reklamer og restriktive betalingsbarrierer og gerne vil have flere dybdegående artikler og temaer om dagens Europa, vil vi sætte stor pris på din støtte.
Støt os med et engangsbeløb via MobilePay Støt os fast via Patreon
