Donald Trump's omstrede verwydering van sosiale mediaplatforms het die debat oor sensuur van inligting wat aanlyn gepubliseer is, weer aangewakker. Maar die kwessie van disinformasie en manipulasie op sosiale media strek veel verder as een man se Twitter-rekening. En dit is baie wyer as wat voorheen gedink is.
Sedert 2016 hou ons span by die Oxford Internet Institute die vinnige wêreldwye verspreiding van manipulasieveldtogte op sosiale media dop, wat ons definieer as die gebruik van digitale instrumente om aanlyn openbare gedrag te beïnvloed. In die afgelope vier jaar het sosiale media manipulasie ontwikkel van 'n nisbelangstelling tot 'n wêreldwye bedreiging vir demokrasie en menseregte.
Ons nuutste verslag gevind dat georganiseerde veldtogte vir sosiale media-manipulasie nou algemeen voorkom - in 81 in 2020 lande geïdentifiseer, teenoor 70 lande in 2019. Die kaart hieronder toon die wêreldwye verspreiding van hierdie 81 lande, gemerk in donkerblou.
In ons verslag fokus ons op die gebruik van 'kubertroepe', wat spanne van die regering, die militêre of politieke partye is wat daartoe verbind is om die openbare mening op sosiale media te manipuleer. Cyber troepe voer gereeld die sogenaamde "berekenings propaganda" veldtogte uit.
Berekeningspropaganda behels die gebruik van geprogrammeerde bots of mense om doelbewus misleidende inligting oor die internet te versprei, dikwels op 'n industriële skaal.
Om dit te doen, gebruik berekeningspropagandiste 'n uitgebreide gereedskapstel met desinformasie-instrumente. Politieke bots versterk haatspraak en skep die indruk van politieke boodskappe op Twitter en Facebook. Die onwettige oes van data help propagandiste teikenboodskappe by spesifieke, dikwels kwesbare individue en groepe. Trollie leërsword intussen gereeld ontplooi om politieke aktivisme en die persvryheid te onderdruk.
In 2020 het ons 62 lande geïdentifiseer waarin staatsinstansies self hierdie instrumente gebruik om die openbare mening te vorm. In ander lande wat in ons studie opgeneem is, word hierdie instrumente deur private organisasies of buitelandse akteurs gebruik.
Disinformasie te huur
Ten spyte van die Cambridge Analytica skandaal Ons navorsing het ook 'n kommerwekkende toename in die gebruik van "disinformasie-vir-huur" -dienste regoor die wêreld, blootgelê hoe private ondernemings in demokratiese verkiesings kan meng. Met behulp van befondsing van die regering en politieke partye is kubertroepe in die private sektor toenemend gehuur word om gemanipuleerde boodskappe aanlyn te versprei, of om ander stemme op sosiale media te verdrink.
Ons navorsing het bevind dat staatsaktore in 48 saam met private rekenaarpropaganda-ondernemings in 2020 lande werk, teenoor 21 wat tussen die twee geïdentifiseer is 2017 en 2018, en slegs nege sulke gevalle tussen 2016 en 2017. Sedert 2007, amper VSA $ 60 miljoen (£ 49 miljoen) is wêreldwyd bestee aan kontrakte met hierdie ondernemings.
Daarbenewens het ons verhoudings ontdek tussen gehuurde kubertroepe en burgerlike samelewingsgroepe wat ideologies 'n spesifieke saak steun, soos jeuggroepe en beïnvloeders op sosiale media. In die Verenigde State, byvoorbeeld, die pro-Trump-jeuggroep Keerpunt-aksie is gebruik om aanlyn-disinformasie en pro-Trump-vertellings oor beide COVID-19 en instembriewe te versprei.
Om hul politieke doel te bereik, is smeerveldtogte teen 'n politieke teenstander die algemeenste strategie wat kubertroepe gebruik, met 94% van al die lande wat ons ondersoek het. In 90% van die lande het ons die verspreiding van pro-party of pro-regering propaganda waargeneem. Die onderdrukking van deelname deur trolling of teistering was 'n kenmerk in 73% van die lande, terwyl die boodskappe van kubertroepe in 48% gepoog het om burgers te polariseer.
Sosiale media moderering
Dit is duidelik dat, debatte rondom die sensuur van Trump en sy ondersteuners op sosiale media dek slegs een faset van die disinformasiekrisis van die bedryf. Aangesien meer lande in veldtogte belê om hul burgers aktief te mislei, sal sosiale media-ondernemings waarskynlik toenemende oproepe tot matigheid en regulering in die gesig staar - en nie net Trump, sy volgelinge en verwante samesweringsteorieë soos QAnon.
Donald Trump is verban op Twitter in die nasleep van die onluste in Capitol. pcruciatti / Shutterstock
Reeds hierdie jaar het die voorkoms van berekeningspropagandaveldtogte regdeur die land COVID-19 pandemie en in die nasleep van die Amerikaanse verkiesing het baie sosiale media-ondernemings gevra om die misbruik van hul platforms te beperk deur rekeninge wat volgens hulle deur kubertroepe bestuur word, te verwyder.
Ons navorsing het byvoorbeeld bevind dat Facebook tussen Januarie 2019 en Desember 2020 verwyder 10,893 12,588 rekeninge, 603 XNUMX bladsye en XNUMX groepe vanaf sy platform. In dieselfde tydperk, Twitter verwyder 294,096 XNUMX rekeninge, en gaan voort om rekeninge wat aan die regterkant gekoppel is, te verwyder.
Ondanks hierdie verwydering van rekeninge, het ons navorsing aan die lig gebring dat tussen Januarie 2019 en Desember 2020 byna 10 miljoen dollar deur kubertroepe aan politieke advertensies bestee is. En 'n belangrike deel van die verhaal is dat sosiale media-ondernemings steeds voordeel trek uit die bevordering van disinformasie op hul platforms. Oproepe om strenger regulering en stewiger polisiëring sal waarskynlik Facebook en Twitter volg totdat hulle werklik die neiging van hul platforms om disinformasie aan te bied, te versprei en te vermenigvuldig.
'N Sterk, funksionele demokrasie is afhanklik van die publiek se toegang tot hoë gehalte inligting. Dit stel burgers in staat om ingeligte besprekings te voer en konsensus te bekom. Dit is duidelik dat sosiale media-platforms 'n belangrike rol gespeel het in fasilitering van hierdie uitruil van inligting.
Hierdie maatskappye moet dus meer inspan om desinformasie te vlag en te verwyder, tesame met alle kubertroepe wat gebruik word om skadelike inhoud aanlyn te versprei. Andersins sal die voortgesette toename in rekenaarpropagandaveldtogte wat ons navorsing aan die lig bring, politieke polarisasie net verhoog, die vertroue van die publiek in instellings verminder en die demokrasie wêreldwyd verder ondermyn.
Oor die skrywer
Hannah Bailey, PhD-navorser in sosiale data wetenskap, Universiteit van Oxford
Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.
