Hoe kunsmatige intelligensiestelsels die demokrasie kan bedreig

privaatheid

Amerikaanse tegnologie reus Microsoft het saamgespan met 'n Chinese militêre universiteit om te ontwikkel kunsmatige intelligensie stelsels wat moontlik die regering toesig en sensuur vermoëns kan verbeter. twee Amerikaanse senatore openbaar veroordeel die vennootskap, maar wat die Nasionale Verdediging Tegnologie Universiteit van China wil van Microsoft is nie die enigste saak nie.

As My navorsing toon, die koms van digitale onderdrukking is diep beïnvloed die verhouding tussen burger en staat. Nuwe tegnologieë help regerings met ongekende vermoëns om individuele mense te monitor, op te spoor en op te let. Selfs regerings in demokrasieë met sterk tradisies van oppergesag van die reg bevind hulle in die versoeking om te misbruik hierdie nuwe vermoëns.

In lande met onverklaarbare instellings en gereelde oortredings van menseregte, AI stelsels sal waarskynlik groter skade veroorsaak. China is 'n prominente voorbeeld. Sy leierskap het entoesiasties AI-tegnologie aangemoedig, en het die wêreld se wêreld gevestig mees gesofistikeerde toesigstaat in Xinjiang provinsie, die dop van mense se daaglikse bewegings en slimfoongebruik.

Die uitbuiting van hierdie tegnologieë bied 'n koel model vir mede-outokrate en vorm 'n direkte bedreiging om demokratiese samelewings oop te maak. Alhoewel daar geen bewyse is dat ander regerings hierdie vlak van AI-toesig herhaal het nie, bedryf Chinese maatskappye dieselfde onderliggende tegnologieë regoor die wêreld.

Toenemende afhanklikheid van AI gereedskap in die VSA

Kunsmatige intelligensiestelsels is oral in die moderne wêreld, help met die bestuur van slimfone, internet soekenjins, digitale stemassistente en Netflix-filmreeks. Baie mense versuim om te besef hoe vinnig uitbrei AI, danksy steeds groter hoeveelhede data wat geanaliseer moet word, algoritmes en gevorderde rekenaarskyfies verbeter.

Enige tyd word meer inligting beskikbaar en analise word makliker, regerings belangstel - en nie net outoritêre nie. In die VSA, byvoorbeeld, het die 1970s openbarings gesien wat regeringsagentskappe - soos die FBI, CIA en NSA - ingestel het uitgestrekte huishoudelike toesignetwerke protestante, politieke aktiviste en inheemse Amerikaanse groepe te monitor en teister. Hierdie kwessies het nie weggegaan nie: Digitale tegnologie vandag het die vermoë van nog meer agentskappe verdiep om selfs meer opdringerige toesig te voer.

privaatheid Hoe redelik voorspel algoritmes waar die polisie die meeste gefokus moet wees? Arnout de Vries


Kry die nuutste van InnerSelf


Byvoorbeeld, die Amerikaanse polisie het gretig AI-tegnologie aangegryp. Hulle het begin om sagteware te gebruik bedoel om te voorspel waar misdade sal plaasvind om te besluit waar om beamptes op patrollie te stuur. Hulle gebruik ook gesig erkenning en DNA-analise in kriminele ondersoeke. Maar ontledings van hierdie stelsels wys die data waarop die stelsels opgelei word is dikwels bevooroordeeld, wat lei tot onbillike uitkomste, Soos valslik bepaal dat Afro-Amerikaners meer geneig is om misdade te pleeg as ander groepe.

AI toesig oor die wêreld

In outoritêre lande kan AI-stelsels direk huishoudelike beheer en toesig help om te help interne veiligheidsmagte verwerk groot hoeveelhede inligting - insluitend sosiale media-boodskappe, sms-boodskappe, e-pos en telefoonoproepe - vinniger en doeltreffend. Die polisie kan sosiale tendense identifiseer en spesifieke mense wat die regime kan bedreig op grond van die inligting wat deur hierdie stelsels ontdek word.

Byvoorbeeld, die Chinese regering het AI gebruik in wye skaalstortings in gebiede wat tuis is aan etniese minderhede in China. Surveillance stelsels in Xinjiang en Tibet is beskryf as "Orwelliaanse. "Hierdie pogings het ingesluit verpligte DNA monsters, Wi-Fi netwerk monitering en wydverspreide gesigherkenning kameras, almal verbind met geïntegreerde data analise platforms. Met behulp van hierdie stelsels het die Chinese owerhede volgens die Amerikaanse staatsdepartement "willekeurig aangehou" tussen 1 en 2 miljoen mense.

My Navorsing kyk na 90-lande regoor die wêreld met regerings tipes wat wissel van geslote outoritêre tot gebrekkige demokrasieë, insluitende Thailand, Turkye, Bangladesj en Kenia. Ek het gevind dat Chinese maatskappye is uitvoer AI toesig tegnologie tot minstens 54 van hierdie lande. Dikwels word hierdie tegnologie verpak as deel van China se vlagskip Belt en Road Initiative, wat 'n uitgebreide netwerk van paaie, spoorweë, energiepypleidings en telekommunikasienetwerke finansier wat 60% van die wêreld se bevolking bedien en ekonomieë wat 40% van die globale BBP genereer.

Byvoorbeeld, Chinese maatskappye hou van Huawei en ZTE bou "slimme stede" in Pakistan, die Filippyne en Kenia, met uitgebreide ingeboude toesigstegnologie. Byvoorbeeld, Huawei het uitrusting Bonifacio Global City in die Filippyne met hoë-definisie internet-gekoppelde kameras wat "24 / 7 intelligente sekuriteitswaarneming Met data-analise om misdaad op te spoor en om verkeer te help. "

privaatheid Bonifacio Global City in die Filippyne het baie ingebedde toesigstoerusting. alveo land / Wikimedia Commons

Hikvision, Yitu en SenseTime bied nuutste gesigsherkenningskameras aan vir die gebruik in plekke soos Singapoer - wat die bekendstelling van 'n toesig program met 110,000-kameras op lampposte gemonteer rondom die stadstaat. Zimbabwe skep 'n nasionale beeld databasis wat gebruik kan word vir gesigsherkenning.

Die verkoop van gevorderde toerusting vir wins is egter anders as om tegnologie met 'n uitdruklike geopolitieke doel te deel. Hierdie nuwe vermoëns kan die sade vir globale toesig plant: Aangesien regerings toenemend afhanklik is van Chinese tegnologie om hul bevolkings te bestuur en krag te handhaaf, sal hulle groter druk hê om in lyn te kom met China se agenda. Maar nou blyk dit dat China se primêre motief die mark vir nuwe tegnologie oorheers en baie geld in die proses maak.

AI en disinformation

Benewens die verskaffing van toesig vermoëns wat beide vee en fynkorrelige, AI kan help onderdrukkende regerings manipuleer beskikbare inligting en versprei disinformation. Hierdie veldtogte kan outomaties of outomaties gehelp word, en implementeer hyper-gepersonaliseerde boodskappe gerig op - of teen - spesifieke mense of groepe.

AI ondersteun ook die tegnologie wat algemeen bekend staan ​​as "deepfake, "Waarin algoritmes skep realistiese video en klank vervalsings. Die modder van die waters tussen waarheid en fiksie kan nuttig wees in 'n stywe verkiesing, wanneer een kandidaat vals video's kan skep wat 'n teenstander kan doen en dinge sê wat nooit eintlik gebeur het nie.

'N Vroeë diepvalsvideo wys van die gevare van gevorderde tegnologie.

Na my mening moet beleidsmakers in demokrasieë noukeurig oor die risiko's van AI-stelsels na hul eie samelewings en na mense wat onder outoritêre regimes in die wêreld leef, dink. 'N Kritiese vraag is hoeveel lande China se model van digitale toesig sal aanneem. Maar dit is nie net outoritêre lande wat die trek voel nie. En dit is ook nie net Chinese maatskappye wat die tegnologie versprei nie: Baie Amerikaanse maatskappye, Microsoft ingesluit, maar IBM, Cisco en Thermo Fisher Ook het gesofistikeerde vermoëns aan slegte regerings voorsien. Die misbruik van AI is nie beperk tot outokratiese state nie.Die gesprek

Oor Die Skrywer

Steven Feldstein, Frank en Bethine Kerk Voorsitter van Openbare Sake en Medeprofessor, Skool vir Staatsdiens, Boise State University

Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.

verwante Boeke

{amazonWS: search index = Boeke; sleutelwoorde = AI toesig; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

volg InnerSelf op

Facebook-ikoonTwitter-ikoonrss-ikoon

Kry die nuutste per e-pos

Emailcloak = {af}