Shutter.

Of jy dit al dan nie besef of daarmee toestem, groot data kan jou beïnvloed en hoe jy jou lewe leef. Die data wat ons skep wanneer u sosiale media gebruik, op die internet en die dra van fiksheidsnyers is almal versamel, gekategoriseer en gebruik deur besighede en die staat om profiele van ons te skep. Hierdie profiele word dan gebruik om advertensies vir produkte en dienste te rig op diegene wat hulle waarskynlik sal koop, of om regeringsbesluite in te lig.

Groot data stel lande en maatskappye in staat om ons inligting te verkry, te kombineer en te ontleed en onthullings te bou - maar onvolledige en potensieel onakkurate - profiele van ons lewens. Hulle doen dit deur die identifisering van korrelasies en patrone in data oor ons, en mense met soortgelyke profiele vir ons, om voorspellings te maak oor wat ons kan doen.

Maar net omdat groot data-analise gebaseer is op algoritmes en statistieke, beteken dit nie dat dit is nie akkurate, neutrale of inherente doelwit. En terwyl groot data insig gee oor groepgedrag, is dit nie noodwendig 'n betroubare manier om individuele gedrag te bepaal nie. Trouens, hierdie metodes kan maak die deur oop vir diskriminasie en bedreig mense se menseregte - hulle kan selfs teen jou werk. Hier is vier voorbeelde waar groot data-analise kan lei tot onreg.

1. Berekening van krediet tellings

Groot data kan gebruik word om besluite te neem kredietwaardigheid, wat beïnvloed of u 'n verband toegestaan ​​word, of hoe hoog u motor versekering premies moet wees. Hierdie besluite kan deur u ingelig word sosiale media poste en data van ander programme, wat geneem word om jou vlak van risiko of betroubaarheid aan te dui.

Maar data soos jou onderwys agtergrond of waar jy woon, mag nie relevant of betroubaar wees vir sulke assesserings nie. Hierdie soort data kan optree as 'n gevolmagtigde vir ras of sosio-ekonomiese status, en die gebruik daarvan om besluite oor kredietrisiko te maak, kan tot diskriminasie lei.

2. Werksoeke

Groot data kan gebruik word om te bepaal wat 'n werkadvertensie sien of kortlys vir 'n onderhoud kry. Werksadvertensies kan geteiken word by spesifieke ouderdomsgroepe, soos 25 tot 36-jariges, wat jonger en ouer werkers uitsluit om selfs sekere posplase te sien en 'n risiko van ouderdomsdiskriminasie inhou.

Outomatisering word ook gebruik om kandidate doeltreffend te filter, sorteer en rangskik. Maar hierdie siftingsproses kan mense uitsluit op grond van aanwysers soos die afstand van hul pendel. Werkgewers kan veronderstel dat diegene met 'n langer pendelvoering minder geneig sal wees om op 'n lang termyn te bly, maar dit kan eintlik diskrimineer teen mense wat verder woon van die middestad weens die ligging van bekostigbare behuising.

3. Parool- en borgtogbesluite

In die VSA en die Verenigde Koninkryk word groot data-risiko-assesseringsmodelle gebruik om amptenare te help om te besluit of mense toegestaan ​​word parool of borgtog, of verwys na rehabilitasie programme. Hulle kan ook gebruik word om te bepaal hoeveel risiko 'n oortreder aan die samelewing bied, wat een faktor is wat 'n regter kan oorweeg wanneer hy die lengte van 'n vonnis bepaal.

Dit is nie duidelik presies watter data word gebruik om hierdie assesserings te help nie, maar as die skuif na digitale polisiëring versamel tempo, dit is toenemend waarskynlik dat hierdie programme open source inligting sal insluit soos sosiale mediale aktiwiteit - as hulle dit nie reeds doen nie.

Hierdie assesserings mag nie net na 'n persoon se profiel kyk nie, maar ook hoe dit met ander vergelyk. " Sommige polisiemagte het histories oordrewe sekere minderheidsgemeenskappe, wat lei tot 'n buitensporige aantal gerapporteerde kriminele voorvalle. As hierdie data in 'n algoritme gevoer word, sal dit die risikobepalingsmodelle verdraai en diskriminasie tot gevolg hê wat direk raak 'n persoon se reg op vryheid.

4. Vetting visum aansoeke

Verlede jaar het die Verenigde State se Immigrasie- en Doeane-handhawingsagentskap (ICE) aangekondig dat hy 'n outomatiese "ekstreme visumbewys"Program. Dit sal outomaties en deurlopend sosiale media-rekeninge skandeer, om te bepaal of aansoekers 'n positiewe bydrae tot die Verenigde State sal maak en of daar enige nasionale veiligheidskwessies kan ontstaan.

Behalwe risiko's vir vryheid van denke, mening, uitdrukking en assosiasie, was daar groot risiko's dat hierdie program teen mense van sekere nasionaliteite of godsdienste sou diskrimineer. kommentators het dit as 'n "Moslemverbod volgens algoritme" gekenmerk.

Die program is onlangs onttrek, volgens berigte dat daar geen "out-of-the-box" sagteware was wat die gehalte van die bestuur van die agentskap kon monitor nie. Maar om sulke doelwitte in verkrygingsdokumente in te sluit, kan slegte aansporings vir die tegnologie-industrie skep om programme wat diskriminerend vir ontwerp is, te ontwikkel.

Daar is geen twyfel dat groot data-analise op maniere werk wat individue se geleenthede in die lewe kan beïnvloed nie. Maar die 'n gebrek aan deursigtigheid oor hoe groot data versamel, gebruik en gedeel word, maak dit moeilik vir mense om te weet watter inligting gebruik word, hoe en wanneer. Groot data-analise is eenvoudig te ingewikkeld vir individue om hul data te beskerm teen onvanpaste gebruik. In plaas daarvan moet state en maatskappye maak en volg regulasies om te verseker dat hul gebruik van groot data nie tot diskriminasie lei nie.

Oor die skrywers

Lorna McGregor, Direkteur, Menseregte Sentrum, PI en Mede-Direkteur, ESRC Menseregte, Groot Data en Tegnologie Groot Grant, Universiteit van Essex; Daragh Murray, Dosent in Internasionale Menseregtewet by Essex Law School, Universiteit van Essex, en Vivian Ng, Senior Navorser in Menseregte, Universiteit van Essex

Hierdie artikel is oorspronklik gepubliseer op Die gesprek. Lees die oorspronklike artikel.

Boeke deur hierdie

Oor Die Skrywer

at

Dankie vir die besoek InnerSelf.com, waar daar is 20,000 + lewensveranderende artikels wat "Nuwe houdings en nuwe moontlikhede" bevorder. Alle artikels word vertaal in 30+ tale. Teken In aan InnerSelf Magazine, wat weekliks gepubliseer word, en Marie T Russell se Daily Inspiration. InnerSelf Magazine is sedert 1985 gepubliseer.