Facebook het vir die eerste keer data beskikbaar gestel op die skaal van beledigende kommentaar opgelaai na sy webwerf. Dit kan gebeur onder die toenemende druk deur organisasies vir sosiale media maatskappye om meer te wees deursigtig oor aanlynmishandeling, of om geloofwaardigheid na die Cambridge Analytica data skandaal. Hoe dan ook, die figure maak nie lekker leesbaar nie.
In 'n tydperk van ses maande Van Oktober 2017 tot Maart 20178, 21m seksueel eksplisiete foto's, 3.5m grafies gewelddadige plasings en 2.5m vorms van haatspraak is van sy webwerf verwyder. Hierdie syfers help om enkele treffende punte te openbaar.
Soos verwag, dui die data aan dat die probleem erger word. Byvoorbeeld, tussen Januarie en Maart is beraam dat vir elke 10,000-boodskappe aanlyn, tussen 22 en 27 grafiese geweld bevat, van 16 tot 19 in die vorige drie maande. Dit stel skerp verligting in die feit dat in die Verenigde Koninkryk vervolgings vir aanlynmishandeling afgeneem het, soos aangetoon in die grafiek hieronder.
Tog, wat Facebook nie vir ons gesê het nie, is net so belangrik.
Die sosiale netwerk is onder groeiende druk misbruik op sy webwerf te bekamp, in die besonder die verwydering van terroriste propaganda na gebeure soos die 2017 Westminster-aanval en die Manchester Arena-bombardering. Hier is die maatskappy proaktief. Tussen Januarie en Maart 2018 het Facebook 1.9m-boodskappe verwyder wat terroristepropaganda aanmoedig, 'n toename van 800,000-kommentaar in vergelyking met die vorige drie maande. Altesaam 99.5% van hierdie boodskappe is met behulp van vooruitgangstegnologie geleë.
Op die eerste oogopslag lyk dit of Facebook suksesvol sagteware ontwikkel het wat hierdie inhoud van sy bediener kan verwyder. Maar Facebook het nie syfers bekend gemaak wat wys hoe algemene terroris propaganda is op sy webwerf. Ons weet dus nie hoe suksesvol die sagteware in hierdie opsig is nie.
Verwydering van gewelddadige plasings
Facebook het ook tegnologie gebruik om die verwydering van grafiese geweld uit sy webwerf te help. Tussen die twee drie maande periodes was daar 'n toename van 183% in die aantal poste verwyder wat grafies gewelddadig gemerk is. Altesaam 86% van hierdie opmerkings is deur 'n rekenaarstelsel gemerk.
Maar ons weet ook dat Facebook se syfers ook wys dat tot 27 uit elke 10,000-opmerking wat dit verby die opsporingstegnologie gemaak het grafiese geweld bevat. Dit klink nie soos baie nie, maar dit is die moeite werd om die blote aantal totale kommentaar op die werf deur sy meer as 2 miljard aktiewe gebruikers te oorweeg. Een skat stel voor dat 510,000-kommentaar elke minuut gepos word. As dit korrek is, beteken dit dat 1,982,880 gewelddadige opmerkings elke 24-uur geplaas word.
Om op te los vir die mislukkings in sy opsporing sagteware, Facebook, soos ander sosiale netwerke, het jare lank op selfregulering staatgemaak, met gebruikers aangemoedig om rapporteer kommentaar hulle glo nie op die webwerf nie. Byvoorbeeld, tussen Januarie en Maart 2018 het Facebook 2.5m-kommentaar verwyder wat as haatspraak beskou is, maar slegs 950,000 (38%) van hierdie boodskappe is deur sy stelsel gemerk. Die ander 62% is aangemeld deur gebruikers. Dit toon dat Facebook se tegnologie nie haatspraak op sy netwerk bestry nie, ten spyte van die toenemende besorgdheid dat sosiale netwerk-webwerwe brandstof haatmisdaad in die regte wêreld.
Hoeveel kommentaar word aangemeld?
Dit bring ons by die ander belangrike syfer wat nie ingesluit is in die data wat deur Facebook vrygestel is nie: die totale aantal kommentaar wat deur gebruikers gerapporteer is. Aangesien dit 'n fundamentele meganisme in die aanpak van aanlynmishandeling is, moet die hoeveelheid verslae wat aan die maatskappy gemaak is, openbaar gemaak word. Dit sal ons toelaat om die volle omvang van misbruiklike kommentaar wat aanlyn gemaak is, te verstaan, terwyl die totale aantal boodskappe duidelik gemaak word. Facebook verwyder nie van die werf nie.
Facebook se besluit om data vry te stel wat die skaal van misbruik op sy webwerf blootstel, is 'n belangrike stap vorentoe. Twitter, daarenteen, is gevra vir soortgelyke inligting maar geweier Om dit vry te stel, beweer dit sal misleidend wees. Dit is duidelik dat nie alle kommentaar wat deur gebruikers van sosiale netwerkwerwe gemerk is, sy bepalings en voorwaardes sal oortree nie. Maar Twitter se versuim om hierdie inligting vry te stel, dui daarop dat die maatskappy nie bereid is om die skaal van misbruik op sy eie webwerf te openbaar nie.
Selfs Facebook het egter nog 'n lang pad om te gaan na totale deursigtigheid. Ideaal gesproke sal alle sosiale netwerk-webwerwe jaarlikse verslae vrystel oor hoe hulle aanlyn misbruik aanpak. Dit sal reguleerders en die publiek in staat stel om die firmas meer direk te hou om rekening te hou met mislukkings om aanlynmishandeling van hul bedieners te verwyder.
Selfs Facebook het egter nog 'n lang pad om te gaan na totale deursigtigheid. Ideaal gesproke sal alle sosiale netwerk-webwerwe jaarlikse verslae vrystel oor hoe hulle aanlyn misbruik aanpak. Dit sal reguleerders en die publiek in staat stel om die firmas meer direk te hou om rekening te hou met mislukkings om aanlynmishandeling van hul bedieners te verwyder.Oor Die Skrywer
Laura Bliss, PhD-kandidaat in die sosiale media reg, Edge Hill Universiteit
Hierdie artikel is oorspronklik gepubliseer op Die gesprek. Lees die oorspronklike artikel.
Verwante Boeke:
at InnerSelf Market en Amazon
