'N Tipiese sosiale bot-rekening. CC B
Sosiale mediaplatforms het meer as blote instrumente vir kommunikasie geword. Hulle het ontwikkel in bedrywige arenas waar waarheid en valsheid bots. Onder hierdie platforms staan X uit as 'n prominente slagveld. Dit is 'n plek waar disinformasieveldtogte floreer, voortgesit deur leërs van KI-aangedrewe bots wat geprogrammeer is om die openbare mening te swaai en vertellings te manipuleer.
KI-aangedrewe bots is outomatiese rekeninge wat ontwerp is om menslike gedrag na te boots. Bots op sosiale media, kletsplatforms en gesels-KI is 'n integrale deel van die moderne lewe. Hulle is nodig om byvoorbeeld KI-toepassings effektief te laat loop.
Maar sommige bots is met kwaadwillige opset gemaak. Skokkend, bots maak 'n beduidende deel van X se gebruikersbasis uit. In 2017 dit is beraam dat daar ongeveer 23 miljoen sosiale bots was wat 8.5% van die totale gebruikers uitmaak. Meer as twee derdes van twiets afkomstig van hierdie outomatiese rekeninge, wat die reikwydte van disinformasie versterk en die waters van openbare diskoers vertroebel.
Hoe bots werk
Sosiale invloed is nou 'n kommoditeit wat verkry kan word deur bots te koop. Maatskappye verkoop vals volgelinge om die gewildheid van rekeninge kunsmatig te verhoog. Hierdie volgelinge is beskikbaar teen merkwaardig lae pryse, met baie bekendes onder die kopers.
In die loop van ons navorsing het ek en kollegas byvoorbeeld 'n bot opgespoor wat 100 tweets geplaas het wat volgelinge te koop aangebied het.
Die gebruik van KI-metodologieë en 'n teoretiese benadering genoem akteur-netwerk teorie, my kollegas en ek het ontleed hoe kwaadwillige sosiale bots sosiale media manipuleer, wat beïnvloed wat mense dink en hoe hulle met kommerwekkende doeltreffendheid optree. Ons kan sê of vals nuus deur 'n mens of 'n bot gegenereer is met 'n akkuraatheidskoers van 79.7%. Dit is van kardinale belang om te verstaan hoe beide mense en KI disinformasie versprei om die maniere te begryp waarop mense KI gebruik om verkeerde inligting te versprei.
Om een voorbeeld te neem, ons het die aktiwiteit van 'n rekening met die naam "True Trumpers" op Twitter ondersoek.
Die rekening is in Augustus 2017 gestig, het geen volgelinge en geen profielfoto nie, maar het ten tyde van die navorsing 4,423 XNUMX twiets geplaas. Dit het 'n reeks heeltemal vervaardigde verhale ingesluit. Dit is opmerklik dat hierdie bot afkomstig is van 'n Oos-Europese land.
'n Stroom vals nuus vanaf 'n bot-rekening. Buzzfeed, CC BY
Navorsing soos hierdie het X beïnvloed om die aktiwiteite van sosiale bots te beperk. In reaksie op die bedreiging van sosiale media-manipulasie, het X tydelike leesbeperkings geïmplementeer om dataskraping en -manipulasie te beperk. Geverifieerde rekeninge is beperk tot die lees van 6,000 600 plasings per dag, terwyl ongeverifieerde rekeninge XNUMX per dag kan lees. Dit is 'n nuwe opdatering, so ons weet nog nie of dit effektief was nie.
Kan ons onsself beskerm?
Die onus rus egter uiteindelik op gebruikers om versigtig te wees en waarheid en leuens te onderskei, veral gedurende verkiesingsperiodes. Deur inligting krities te evalueer en bronne na te gaan, kan gebruikers 'n rol speel in die beskerming van die integriteit van demokratiese prosesse teen die aanslag van bots en disinformasieveldtogte op X. Elke gebruiker is in werklikheid 'n voorste verdediger van waarheid en demokrasie. Waaksaamheid, kritiese denke en 'n gesonde dosis skeptisisme is noodsaaklike wapenrusting.
Met sosiale media is dit belangrik dat gebruikers die strategieë wat deur kwaadwillige rekeninge gebruik word, verstaan.
Kwaadwillige akteurs gebruik dikwels netwerke van bots om vals narratiewe te versterk, neigings te manipuleer en vinnig verkeerde inligting te versprei. Gebruikers moet versigtig wees wanneer hulle rekeninge teëkom wat verdagte gedrag toon, soos oormatige plasing of herhalende boodskappe.
Disinformasie word ook gereeld deur middel van toegewyde fopnuuswebwerwe gepropageer. Dit is ontwerp om geloofwaardige nuusbronne na te boots. Gebruikers word aangeraai om die egtheid van nuusbronne te verifieer deur inligting met betroubare bronne te kruisverwys en feitekontrole-organisasies te raadpleeg.
Selfbewustheid is 'n ander vorm van beskerming, veral teen sosiale ingenieurstaktieke. Sielkundige manipulasie word dikwels ontplooi om gebruikers te mislei om valshede te glo of om betrokke te raak by sekere aksies. Gebruikers moet waaksaam wees en die inhoud wat hulle teëkom krities beoordeel, veral gedurende periodes van verhoogde sensitiwiteit soos verkiesings.
Deur ingelig te bly, betrokke te raak by siviele diskoers en te pleit vir deursigtigheid en aanspreeklikheid, kan ons gesamentlik 'n digitale ekosisteem vorm wat vertroue, deursigtigheid en ingeligte besluitneming bevorder.
Nick Hajli, KI-strateeg en professor in digitale strategie, Loughborough University
Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.
Verwante Boeke:
Oor tirannie: Twintig lesse uit die twintigste eeu
deur Timothy Snyder
Hierdie boek bied lesse uit die geskiedenis vir die behoud en verdediging van demokrasie, insluitend die belangrikheid van instellings, die rol van individuele burgers en die gevare van outoritarisme.
Klik vir meer inligting of om te bestel
Ons tyd is nou: krag, doel en die stryd vir 'n regverdige Amerika
deur Stacey Abrams
Die skrywer, ’n politikus en aktivis, deel haar visie vir ’n meer inklusiewe en regverdige demokrasie en bied praktiese strategieë vir politieke betrokkenheid en kiesersmobilisering.
Klik vir meer inligting of om te bestel
Hoe Demokrasieë sterf
deur Steven Levitsky en Daniel Ziblatt
Hierdie boek ondersoek die waarskuwingstekens en oorsake van demokratiese ineenstorting, en maak gebruik van gevallestudies van regoor die wêreld om insigte te bied oor hoe om demokrasie te beskerm.
Klik vir meer inligting of om te bestel
Die mense, No: 'n Kort geskiedenis van anti-populisme
deur Thomas Frank
Die skrywer bied 'n geskiedenis van populistiese bewegings in die Verenigde State en lewer kritiek op die "anti-populistiese" ideologie wat volgens hom demokratiese hervorming en vooruitgang gesmoor het.
Klik vir meer inligting of om te bestel
Demokrasie in een boek of minder: hoe dit werk, hoekom dit nie werk nie en hoekom dit makliker is as wat jy dink
deur David Litt
Hierdie boek bied 'n oorsig van demokrasie, insluitend sy sterk- en swakpunte, en stel hervormings voor om die stelsel meer responsief en verantwoordbaar te maak.
Klik vir meer inligting of om te bestel
