Privaat maatskappye aanlyn haat sonder onafhanklike toesig of regulering, wat ernstige implikasies het en risiko's vir basiese menseregte en vryhede inhou. (Shutter)

Die fakkelverligte mars deur gewapende wit supremakiste, onlangs in Charlottesville, Va., Hou steeds 'n debat oor hoe haatgroepe gereguleer moet word. Te midde van groeiende openbare druk na aanleiding van die optog, het internetmaatskappye gehaas om van hul platforms webwerwe af te haal wat gewelddadige haatspraak betref.

GoDaddy het sy domeindienste beëindig na neo-Nazi-webwerf Die Daily Stormer, soos dit gedoen het Google. Cloudflare, 'n maatskappy wat webwerwe van aanlyn aanvalle beskerm, ook verbied die haatwebwerf van sy platform. Rusland het die terrein beveel van gasheer in die land.

My navorsing en my boek Chokepoints: Global Private Regulation on the Internet Demonstreer dat baie internetmaatskappye reeds inhoud verwyder en gebruikers "vrywillig" verbied - dit wil sê in die afwesigheid van wetgewing of enige regsprosesse. Belangrike tussengangers, insluitend Google, PayPal, GoDaddy, Twitter en Facebook, polisie hul platforms vrywillig vir inhoud vir seksuele misbruik van kinders, ekstremisme en die onwettige handel in nagemaakte goedere.

Baie mense begryp hierdie pogings om haatspraak en ander aanstootlike inhoud uitdruklik te verheerlik. Internet-maatskappye se pogings as de facto reguleerders van die toespraak stel egter ernstige vrae op: Hoe moet aanlyn-inhoud gereël word? Deur wie?

Ek ondersteun nie wit supremacists nie en ek argumenteer nie teen 'n paar polisiëring van so 'n toespraak nie. Ek sê eerder dat ons ernstig moet oorweeg hoe om aanlyn-inhoud te reguleer, aangesien die volgende geval dalk nie so duidelik is nie.

Daar is aansienlike probleme met die vertroue op kragtige maatskappye om die internet te polisie omdat hulle afdwingingspraktyke ontstellend ondeursigtig is en geneig is tot willekeurige interpretasie.

Ontstellende presedent

In 'n ontnugterende kontras met die gejuig van internetmaatskappye vir hul openbare teenkanting teen die Daily Stormer, het Cloudflare se hoof uitvoerende beampte, Matthew Prince, 'n nuanseerde omsigtigheidsperspektief aangebied, waarna gewaarsku word dat die onttrekking van dienste van haatgroepe in reaksie op openbare druk 'n ontstellende presedent in die polisiëring van aanlyn-toespraak plaas .

in 'n blog post verduidelik Cloudflare se optrede teen die Daily Stormer, het Prince aangevoer dat die maatskappy behoorlike proses 'n "meer belangrike beginsel" beskou as vryheid van spraak. As gevolg van die proses, het hy gesê, "jy behoort die reëls te ken wat 'n stelsel sal volg as jy aan daardie stelsel deelneem." Hierdie stelling bevat die inherente probleme met tussengangers wat werklik as reguleerders van inhoud en aanlyngedrag werk.

Vroeër die jaar, Shopify werknemers en honderde van duisende mense aangemoedig en versoekskrif die aanlyn-handelsplatform om te stop met verre regs Breitbart Media se internetwinkel. Hersiene uitvoerende voorsitter Stephen Bannon oproepe Breitbart "die platform vir die alt-regs." Die sogenaamde "alt-regs" - 'n term wat gewild is deur Richard Bertrand Spencer - dek 'n mengsel van wit supremacistiese, separatistiese, neo-Nazi, fascistiese, rassistiese, antisemitiese, islamofobiese en populistiese konserwatiewe ideologieë.

Tobias Lütke, uitvoerende hoof van Shopify, het gesê hy het vrye spraak verdedig aangesien die Ottawa-maatskappy Breitbart se aanlynwinkel onder druk gedreig het werknemers bedank. Na die publiek druk en 'n voetsoolvlakveldtog genoem #DeleteShopify het gelei tot ondersoek wat meer geopenbaar het twyfelagtige besigheid, Was Shopify gedwing 'n "Aanvaarbare gebruiksbeleid."

Die kontrasterende voorbeelde van The Daily Stormer en die verwydering daarvan deur internetmaatskappye, en Shopify se vaste ondersteuning vir Breitbart, toon die uiterste van 'n dilemma wat net beloof om te versterk.

Arbitrêre beleid, regulasie

Internet-tussengangers het die potensiaal om kragtige reguleerders op 'n wye verskeidenheid sake te wees omdat hulle vinnig en sonder hofbevel kan optree. Dit is belangrik dat hulle die breedte het om enige inhoud te censureren of gebruikers te verbied onder hulle diens-ooreenkomste.

PayPal behou die reg voor om sy dienste aan gebruikers te beëindig "om enige rede en te eniger tyd, "Taal wat in die meeste tussengangers se diensooreenkomste gesak word. Die kapasiteit vir willekeurige regulering word dus in tussengangers se interne reëls gebak.

Prins het gewaarsku dat Cloudflare se optrede teen die Daily Stormer 'n presedent vir tussengangers tot gevolg het dat die polisiewoord sonder hofbesware gepleeg word.

Hierdie tussengangers tree gereeld op die owerheid van regerings wat verkies dat maatskappye die openbare (maar grotendeels onverklaarbare) gesig van internetregulering is. Maar daardie maatskappye is oor die algemeen swak toegerus om die wettigheid van onwettigheid te onderskei, onregmatige ondernemings te veroorsaak en verkeerdelik op wettige gedrag te fokus.

Ewe problematies: Tussengangers se handhawingsprosesse is dikwels ondeursigtig, aangesien hul inhoudsmedateerders hul ingewikkelde, vinnig veranderende interne reëls willekeurig interpreteer. Hierdie probleme word vererger deur tussengangers se toenemende gebruik van geoutomatiseerde gereedskap om problematiese inhoud op hul platforms te identifiseer en te verwyder.

Daar is ook die besorgdheid van sogenaamde missie-kruip wanneer reëls wat eers teen kindermishandeling of terrorisme ingestel is - noemenswaardige katalisators vir handhawingsaksies - later toegepas word op ander duidelik minder skadelike kwessies, soos die ongemagtigde aflaai van kopiereg-inhoud.

Dystopiese toekoms is hier

Regulerende pogings brei gewoonlik uit van die sensasie van gewelddadige haatspraak na ander toespraak wat deur sommige, soos dié van Black Life Matter, as kontroversieel beskou kan word. Ook regerings wêreldwyd druk gereeld tussengangers aan sensuur en spoor kritici en politieke teenstanders.

Wanneer groot tussengangers reëlgewers word wat verantwoordelik is vir die polisiëring van inhoud namens regerings of in reaksie op hoëprofiel-protes, word hul reeds aansienlike krag verhoog. VSA-gebaseerde internet maatskappye domineer alreeds baie bedryfsektore, insluitende soek, advertensies, domeinregistrasie, betaling en sosiale media. Cloudflare se Prins terecht gewaarsku dat, afhangende van 'n paar reuse netwerke, ''n klein aantal maatskappye sal grootliks bepaal wat kan en kan nie aanlyn wees nie.'

Hierdie dystopiese toekoms is reeds hier.

Die afneem van die Daily Stormer maak ongetwyfeld die wêreld 'n beter plek. Maar wil ons regtig maatskappye soos Facebook en Twitter besluit - onafhanklik, willekeurig en in die geheim - watter inhoud ons kan kry en deel?

Gegewe hierdie oënskynlik hardnekkige probleme, wat kan ons doen? Eerstens, ons moet vermy regeer op grond van protes of media druk. In plaas daarvan, ons benodig 'n duidelike stel reëls tussengangers in staat te stel om konsekwent, deursigtig en met respek vir die behoorlike proses te reageer, soos Prince aanbeveel.

Regerings moet die aard van en, belangriker, die beperkings van tussengangers se regulatoriese verantwoordelikhede verduidelik. Ten slotte moet ons ophou reageer in reaksie op spesifieke krisisse - sogenaamde "valse nuus," terrorisme en haatgroepe - en dink eerder krities oor hoe ons die internet kan en behoort te beheer.

Oor Die Skrywer

Natasha Tusikov, Assistent Professor, Kriminologie, Departement Sosiale Wetenskappe, York Universiteit, Kanada

Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.

verwante Boeke

at InnerSelf Market en Amazon