Weet jy wat gebeur wanneer jy jou data deel? mtkang / shutterstock.com

Elke aspek van die lewe kan gelei word deur kunsmatige intelligensie-algoritmes - van die keuse van die roete om vir jou oggend te gebruik, om te besluit wie om 'n datum op te neem, om komplekse regs- en geregtelike sake soos voorspellende polisiëring.

Big tech maatskappye soos Google en Facebook gebruik AI om insigte te verkry oor hul gigantiese troef van gedetailleerde kliënt data. Dit laat hulle toe om die kollektiewe voorkeure van gebruikers te monetiseer deur praktyke soos mikro-teikening, 'n strategie wat adverteerders gebruik om spesifieke stelle gebruikers te rig.

Terselfdertyd vertrou baie mense nou platforms en algoritmes meer as hul eie regerings en burgerlike samelewing. 'N Oktober 2018-studie het voorgestel dat mense "algoritme waardering, "Tot die mate dat hulle meer op advies sal vertrou as hulle dink dit is uit 'n algoritme as van 'n mens.

In die verlede het tegnologie kundiges bekommerd oor a "Digitale skeidslyn" tussen diegene wat toegang tot rekenaars en die internet kon kry en diegene wat nie kon nie. Huishoudings met minder toegang tot digitale tegnologie het 'n nadeel in hul vermoë om verdien geld en versamel vaardighede.

Maar, soos digitale toestelle versprei, is die verdeling nie meer net oor toegang nie. Hoe hanteer mense oorlading en die oorvloed van algoritmiese besluite wat elke aspek van hul lewens deurdring?

Die savvier gebruikers navigeer weg van toestelle en word bewus van hoe algoritmes hul lewens beïnvloed. Intussen het verbruikers wat minder inligting het, al meer op algoritmes gebruik om hul besluite te lei.

Moet jy verbind word - of ontkoppel? pryzmat / shutterstock.com

Die geheime sous agter kunsmatige intelligensie

Die hoofrede vir die nuwe digitale kloof, na my mening as iemand wat inligtingstelsels studeer, is dit so min mense verstaan ​​hoe algoritmes werk. Vir 'n meerderheid gebruikers word algoritmes gesien as 'n swart boks.

AI-algoritmes neem data in, pas hulle by 'n wiskundige model en stel 'n voorspelling uit, wat wissel van watter liedjies jy mag geniet om Hoeveel jaar moet iemand in die tronk spandeer. Hierdie modelle word ontwikkel en geknip op grond van vorige data en die sukses van vorige modelle. Die meeste mense - selfs soms die algoritme-ontwerpers self - weet nie regtig wat binne die model gaan nie.

navorsers is lank besorg oor algoritmiese regverdigheid. Byvoorbeeld, Amazon se AI-gebaseerde werwingsinstrument blyk uit ontslaan vroulike kandidate. Amazon se stelsel is selektief onttrek implisiete geslagswoorde - woorde wat mans meer geneig is om in alledaagse spraak te gebruik, soos "uitgevoer" en "gevang".

Ander studies het getoon dat regspraak algoritmes rassig bevooroordeeld is, en dat hulle swak swart verweerders langer as ander veroordeel.

As deel van die onlangs goedgekeurde Algemene Databeskermingsregulasie in die Europese Unie, het mense "'N reg op verduideliking" van die kriteria wat algoritmes in hul besluite gebruik. Hierdie wetgewing behandel die proses van algoritmiese besluitneming soos 'n resepboek. Die denke is dat as jy die resep verstaan, kan jy verstaan ​​hoe die algoritme jou lewe beïnvloed.

Intussen het sommige AI-navorsers gestreef na algoritmes wat is regverdig, aanspreeklik en deursigtig, sowel as interpreteerbare, wat beteken dat hulle by hul besluite moet kom deur prosesse wat mense kan verstaan ​​en vertrou.

Watter effek sal deursigtigheid hê? in 'n studie, is studente deur 'n algoritme gegradeer en verskillende vlakke van verduideliking aangebied oor hoe hul eweknieë se tellings aangepas is om tot 'n finale graad te kom. Die studente met meer deursigtige verduidelikings het die algoritme minder vertrou. Dit stel weer 'n digitale kloof voor: Algoritmiese bewustheid lei nie tot meer vertroue in die stelsel nie.

Maar deursigtigheid is nie 'n wondermiddel nie. Selfs wanneer 'n algoritme se algehele proses geskets word, Die besonderhede kan nog te kompleks wees vir gebruikers om te verstaan. Deursigtigheid sal slegs gebruikers help wat gesofistikeerd is om die ingewikkeldhede van algoritmes te begryp.

Byvoorbeeld, in 2014 was Ben Bernanke, die voormalige voorsitter van die Federale Reserweraad, aanvanklik 'n lening herfinansier deur 'n outomatiese stelsel. Die meeste individue wat aansoek doen om so 'n verbandherfinansiering, sal nie verstaan ​​hoe algoritmes hul kredietwaardigheid kan bepaal nie.

Wat sê die algoritme vandag om te doen? Maria Savenko / shutterstock.com

Uitverkiesing van die nuwe inligting-ekosisteem

Algoritmes beïnvloed soveel mense se lewens, maar net 'n klein fraksie van deelnemers is gesofistikeerd om ten volle betrokke te raak in hoe algoritmes hul lewe beïnvloed.

Daar is nie baie statistieke oor die aantal mense wat algoritme bewus is nie. Studies het bewyse gevind van algoritmiese angs, wat lei tot 'n diep wanbalans van mag tussen platforms wat algoritmes ontplooi en Die gebruikers wat daarvan afhanklik is.

'N Studie van Facebook-gebruik het bevind dat wanneer deelnemers bewus gemaak is van Facebook se algoritme om nuusvoere te reguleer, het 83% van deelnemers hul gedrag gewysig om te probeer om van die algoritme gebruik te maak, terwyl 10% hul gebruik van Facebook verminder het.

'N November 2018 verslag van die Pew Research Center bevind dat 'n wye meerderheid van die publiek beduidende bekommernisse het oor die gebruik van algoritmes vir spesifieke gebruike. Dit het bevind dat 66% gedink het dit sal nie regverdig wees vir algoritmes om persoonlike finansies te bereken nie, terwyl 57% dieselfde gesê het oor geautomatiseerde hervat skerm.

'N klein fraksie van individue oefen 'n bietjie beheer oor hoe algoritmes hul persoonlike data gebruik. Byvoorbeeld, die Hu-Manity platform laat gebruikers toe 'n opsie om te beheer hoeveel van hul data afgehaal word. Online ensiklopedie Everipedia bied gebruikers die geleentheid om 'n belanghebbende in die proses van kurering te wees, wat beteken dat gebruikers ook kan beheer hoe inligting geaggregeer en aangebied word.

'N Groot meerderheid van platforms bied egter nie soveel buigsaamheid aan hul eindgebruikers of die reg om te kies hoe die algoritme hul voorkeure gebruik om hul nuusvoer te kureer of om hulle inhoud aan te beveel nie. As daar opsies is, kan gebruikers dalk nie van hulle weet nie. Omtrent 74% van Facebook se gebruikers het in 'n opname gesê hulle is Nie bewus van hoe die platform hul persoonlike belange kenmerk nie.

Na my mening gebruik die nuwe digitale geletterdheid nie 'n rekenaar of word op die internet nie, maar verstaan ​​en evalueer die gevolge van 'n altyd-ingepakte leefstyl.

Hierdie lewenstyl het 'n betekenisvolle impak op hoe mense met ander kommunikeer; op hul vermoë om te let op nuwe inligting; ensovoorts die kompleksiteit van hul besluitnemingsprosesse.

Toenemende algoritmiese angs kan ook weerspieël word deur parallelle verskuiwings in die ekonomie. 'N klein groepie individue is die opsporing van die winste van outomatisering, terwyl baie werkers in 'n onvoorsiene posisie.

Uitverkiesing uit algoritmiese kurasie is 'n luukse - en kan eendag 'n simbool van welvaart wees wat slegs vir 'n paar seleksie beskikbaar is. Die vraag is dan wat die meetbare kwaad sal wees vir diegene aan die verkeerde kant van die digitale kloof.

Oor Die Skrywer

Anjana Susarla, Medeprofessor in Inligtingstelsels, Michigan State University

Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.

verwante Boeke

at InnerSelf Market en Amazon