Hoe Big Tech ontwerp sy eie etiese reëls om kontrole en aanspreeklikheid te vermy

Hoe Big Tech ontwerp sy eie etiese reëls om kontrole en aanspreeklikheid te vermy

Datatetiek is nou 'n oorsaak selder.

"Digitale etiek en privaatheid" geskiet in navorsing en adviesmaatskappy Gartner's top tien strategiese tegnologie tendense vir 2019. Voor dit het dit skaars gesê.

In die afgelope jaar regerings, korporasies en beleid en tegnologie dink tenks het gepubliseer data etiek gidse. 'N hele kohort van kundige data-etici het magies gematerialiseer.

Waarom hierdie skielike belangstelling in data-etiek? Wat is data-etiek? Wie se belange is die riglyne wat ontwerp is om te dien?

Om te verstaan ​​wat aangaan, is dit nodig om 'n stap terug te neem en te kyk na hoe die inligtingslandskap ontvou het.

Die prent wat na vore kom, is van 'n bedryf immuun teen die regulatoriese beperkings wat op almal van toepassing is.

Die skyn het gegaan

Oor die afgelope paar jaar het die inligtingbedryf sy glans verloor.

Die Snowden onthullings, die Cambridge Analytica skandaal, sosiale media se bemagtiging van haatspraak, die wapenvorming van inligting en sy rol in die ondermyning van demokratiese instellings het almal bygedra.

Die sakemodel wat persoonlike inligting monetiseer om advertensies te verkoop, word nou gesien as 'n faustiese winskoop. Miskien is die offer nie die moeite werd nie. Van 2017 tot 2018 was daar 'n 6% daling in Facebook-gebruikers in die Verenigde State in die winsgewende 12-34-jarige mark.

Hierdie bekommernisse het gelei tot oproepe tot regulering. Maar dit het gesukkel om traksie te kry teen die heersende regulatoriese ortodoksie vir die tegnologiesektor. Dit dateer terug na Al Gore se vyf beginsels om sodoende die "globale inligtingshoofweg" bekend te maak.

Hoofstuk drie was dat die regulerende beleid sou "'n buigsame regulatoriese raamwerk skep wat tred hou met vinnige tegnologiese en markveranderinge". Dit was kode vir geen regulering, of selfregulering nie. In Australië was dit bekend as "Light touch" regulasie.

Groot tegnologie het opgetree met regulatoriese straffeloosheid, grootliks bevry van die alledaagse bekommernisse van die "ou" ekonomie soos verbruikersbeskerming of produkaanspreeklikheid of mededingingsreg of in die besonder inligting privaatheid.

Sirkel nader

Europa het nooit hierdie laissez-faire-benadering heeltemal aangeneem nie. Inligting privaatheid is nog altyd hoog op sy agenda, wat uitloop op die 2018 Algemene Databeskermingsregulasie (BBP). Dit bied individue in die Europese Unie die mees omvattende databeskermingsregte in die wêreld. Die regte het ekstraterritoriale bereik, behels regulatoriese toesig en diens siviele boetes van ooggewende grootte. Ander jurisdiksies begin om te volg.

Terselfdertyd begin reguleerders van ander dissiplines om te sirkel. Anti-trust reguleerders kyk weer na inligting monopolieë en die groot tegnologie se gebruik van markkrag om die kompetisie te beperk.

In Australië het die ACCC 'n beroep gedoen op a nuwe regulerende owerheid Om die effek van algoritmes op die posisie van nuus en joernalistieke inhoud te monitor en te ondersoek.

Die Britse Gekose Komitee oor Kommunikasieverslag oor Regulering in 'n Digitale Wêreld het het 'n nuwe digitale owerheid aanbeveel Om toesig te hou oor die "gefragmenteerde" regulasie van die digitale omgewing rondom tien regulatoriese beginsels, en let daarop dat "[s] elf-regulering deur aanlyn-platforms duidelik versuim". Menseregte regulasies ondersoek die rol van algoritmes in die skep en verskansing van diskriminasie.

Data beteken geld

Big tech wil nie gereguleer word nie. Dit wil nie hê sy onbeperkte vermoë om persoonlike inligting te oes om te beperk of vir GDPR-tipe beskerming om die globale norm te word nie. Persoonlike inligting is die rou materiaal vir die algoritmes wat dit moontlik maak om ons aandag te verdien.

Vir 'n bedryf wat trots is op "ontwrigtende", is groot tegnologie se grootste angs om die strenger regulerende omgewing te voorkom om te verhoed dat dit self ontwrig word. Datatetiek is een van die middele wat dit ontwikkel het om regulering te beveg. Dit doen dit deur die deugde wat met etiek verband hou, toe te pas, maar deur inhoud of gevolgtrekking daarvan te le.

neem Google se beginsels vir AI. (AI is kunsmatige intelligensie). Hierdie is:

  • wees sosiaal voordelig
  • Vermy die skep of bevordering van onbillike partydigheid
  • gebou en getoets word vir veiligheid
  • wees aanspreeklik teenoor mense
  • inkorporeer privaatheidontwerpbeginsels
  • handhaaf hoë standaarde van wetenskaplike uitnemendheid
  • beskikbaar gestel word vir gebruike wat ooreenstem met hierdie beginsels.

Hierdie "beginsels" is opvallend soortgelyk aan die voel-goeie homilies wat op Instagram gepubliseer word, wat ons aanmoedig om "goed vir mekaar te wees" of om nie "die son op ons woede te laat gaan nie" en is omtrent so nuttig.

ekonomie Regtig? Skermskoot gevang Maart 28 2019

Sit aan die toets

Kom ons toets een van Google se beginsels, "wees aanspreeklik teenoor mense".

Daar is verskeie lae van dubbelsinnigheid hier. Beteken dit dat Google se AI-algoritmes aanspreeklik moet wees vir "mense" in die algemeen, Google se "mense" of iemand anders se "mense" soos 'n onafhanklike reguleerder?

As laasgenoemde, sal Google die algoritme vir analise verskaf, enige foute regstel en vergoeding betaal vir enige skade wat veroorsaak word?

As Google se AI-algoritmes verkeerdelik tot die gevolgtrekking kom, is ek 'n terroris en stuur hierdie inligting dan aan nasionale veiligheidsagentskappe wat die inligting gebruik om my te arresteer, my in die hande te kry en my te ondervra, sal Google aanspreeklik wees vir sy nalatigheid of om by te dra tot my valse gevangenisstraf? Hoe sal dit aanspreeklik wees? As ek ontevrede is met Google se weergawe van aanspreeklikheid, aan wie doen ek 'n beroep op geregtigheid?

Nuttige etiek behels aanspreeklikheid

Etiek is gemoeid met die morele beginsels wat beïnvloed hoe individue besluite neem en hoe hulle hul lewens lei.

Etiek is bestudeer en bespreek vir aeone. Binne Westerse tradisies word etiek teruggevoer na Sokrates. Dit sluit in filosofiese posisies soos deontologiese (diensgebaseerde) etiek, konsekwensialisme, utilitarisme en eksistensialisme, om maar 'n paar te noem. Dis nie verbasend dat geen een van hierdie antwoorde dieselfde antwoorde op vrae verskaf oor wat 'n individu in enige spesifieke omstandighede moet doen nie.

"Toegepaste etiek" poog om die beginsels van etiek op werklike situasies te dra. Daar is talle voorbeelde.

Publieke sektor etiek word deur die wet beheer. Daar is gevolge vir diegene wat hulle oortree, insluitend dissiplinêre maatreëls, beëindiging van indiensneming en soms strafregtelike strawwe. Om 'n prokureur te word, moes ek aan 'n hof bewys lewer dat ek 'n "fiks en gepaste persoon" is. Om voort te gaan oefen, is ek verplig om te voldoen aan die gedetailleerde vereistes soos uiteengesit in die Australiese Advokate se gedragsreëls. As ek hulle oortree, is daar gevolge.

Die kenmerke van toegepaste etiek is dat hulle spesifiek is, daar is terugvoerlusse, leiding is beskikbaar, hulle is ingebed in organisatoriese en professionele kultuur, daar is behoorlike toesig, daar is gevolge wanneer hulle oortree word en daar is onafhanklike afdwingingsmeganismes en werklike middels. . Hulle is deel van 'n regulerende apparaat en nie net 'goed voel' nie.

Feelgood, hoëvlak data-etiese beginsels is nie geskik vir die regulering van groot tegnologie nie. Toegepaste etiek kan 'n rol speel, maar omdat hulle beroep of dissipline is, kan hulle nie staatgemaak word om alles te doen, of selfs die grootste deel van die swaar opheffing nie.

Die skade wat aan die groot tegnologie gekoppel word, kan slegs deur behoorlike regulering aangespreek word.Die gesprek

Oor Die Skrywer

David Watts, Professor in Inligtingreg en Beleid, La Trobe Universiteit

Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.

Verwante Boeke:

{amazonWS: search index = Boeke; sleutelwoorde = digitale monopolieë; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

volg InnerSelf op

Facebook-ikoonTwitter-ikoonrss-ikoon

Kry die nuutste per e-pos

Emailcloak = {af}