Hoe wetenskapfiksie ons van slegte tegnologie kan red

Hoe wetenskapfiksie ons van slegte tegnologie kan red
Ahmet Misirligul / Shutterstock

Die kort film Slaughterbots beeld 'n nabye toekoms uit waarin swerms mikro-drones duisende mense vermoor weens hul politieke oortuigings. In November 2017 vrygestel deur akademici en aktiviste wat waarsku oor die gevare van gevorderde kunsmatige intelligensie (AI), het dit vinnig virale geraak en tot dusver 3m-sienings gelok. Dit het gehelp om vonk a openbare debat oor die toekoms van outonome wapens en plaas druk op diplomate wat by die Verenigde Nasies vergader Konvensie oor konvensionele wapens.

Maar hierdie soort spekulatiewe storievertelling van wetenskapfiksie is nie net nuttig om aandag te trek nie. Die mense wat gevorderde tegnologie ontwerp en bou, kan verhale gebruik om die gevolge van hul werk te oorweeg en te verseker dat dit ten goede gebruik word. En ons dink dat hierdie soort “prototipering van wetenskapfiksie” of “ontwerpfiksie” kan help om vooroordele van die mens in nuwe tegnologie te laat werk, wat die vooroordele en ongeregtighede van die samelewing verder kan versterk.

'N Vooroordeel kan lei tot die arbitrêre voorkeur van sommige kategorieë (van resultate, mense of idees) bo ander. Sommige mense kan byvoorbeeld bevooroordeeld wees teen die aanstelling van vroue vir uitvoerende poste, of hulle nou daarvan bewus is of nie.

Tegnologie wat gebou is rondom data wat sulke vooroordele aanteken, kan eindig die probleem te herhaal. Werwingsagteware wat ontwerp is om die beste CV's vir 'n spesifieke werk te kies, kan byvoorbeeld geprogrammeer word om te kyk na eienskappe wat 'n onbewuste vooroordeel teenoor mans weerspieël. In welke geval sal die algoritme uiteindelik die CV's vir mans verkies. En dit is nie teoreties nie - dit het eintlik met Amazon gebeur.

Die ontwerp van algoritmes sonder om moontlike negatiewe implikasies in ag te neem is vergelyk aan dokters “wat skryf oor die voordele van 'n gegewe behandeling en die newe-effekte heeltemal ignoreer, maak nie saak hoe ernstig hulle is nie”.

Sommige tegnologiefirmas en navorsers probeer die kwessie aanpak. Google het byvoorbeeld 'n stel etiese beginsels om die ontwikkeling van AI te lei. En Britse akademici het 'n inisiatief van stapel gestuur Nie-Gelyke wat daarop gemik is om groter billikheid en geregtigheid in die ontwerp en gebruik van tegnologie aan te moedig.


Kry die nuutste van InnerSelf


Die probleem is dat ondernemings in die openbaar geneig is om slegs 'n positiewe visie te lewer oor die moontlike gevolge van tegnologieë wat in die nabye toekoms is. Byvoorbeeld, motors sonder bestuurders word dikwels uitgebeeld as die oplossing van al ons vervoerkwessies, van koste tot veiligheid, en dit sal geïgnoreer word gevare van kuberaanvalle of die feit dat hulle mense kan aanmoedig om dit te doen stap of fiets minder.

Die moeilikheid om te verstaan ​​hoe digitale tegnologieë werk, veral dié wat swaar gedryf word deur obskure algoritmes, maak dit ook moeiliker vir mense om 'n ingewikkelde en uitgebreide siening van die probleme te hê. Hierdie situasie lei tot 'n spanning tussen 'n gerusstellende positiewe vertelling en die vae vermoede dat vooroordele tot 'n sekere mate ingebed is in die tegnologieë rondom ons. Dit is waar ons dink dat storievertelling deur ontwerpfiksie kan inkom.

Verhale is 'n natuurlike manier om na te dink oor moontlikhede en komplekse situasies, en ons hoor dit al ons lewens. Wetenskapsfiksie kan ons help spekuleer oor die impak wat tegnologie in die nabye toekoms op die samelewing het, soos Slaughterbots doen. Dit kan selfs kwessies van sosiale geregtigheid insluit, soos die manier waarop sekere groepe, soos vlugtelinge en migrante, kan wees uitgesluit van digitale innovasies.

Die (moontlike) toekoms onthul

Ontwerp fiksieverhale bied 'n nuwe manier vir ontwerpers, ingenieurs en futuriste (onder andere) om na te dink oor die impak van tegnologie vanuit 'n menslike perspektief en dit te koppel aan moontlike toekomstige behoeftes. Met 'n mengsel van logika en verbeelding kan ontwerpfiksie aspekte openbaar van hoe tegnologie aangeneem en gebruik kan word, met die begin van gesprekke daaroor toekomstige gevolge.

Byvoorbeeld, die kortverhaalMisdaad-verkryging”Ondersoek wat moontlik sou gebeur as AI die inligting met 'n massa-bron en 'n kriminele databasis sou gebruik om te voorspel wie 'n moord kan pleeg. Die navorsers het bevind dat omdat die databasis vol mense in etniese groepe van minderhede was, wat om sosiale redes statisties meer geneig was om weer aanstoot te gee, dit waarskynlik die misdaad-verkrygingsmodel sou wees minderhede verkeerdelik vermoed as blanke mense.

U hoef nie 'n talentvolle skrywer te wees of 'n gladde film te maak om ontwerpfiksie te produseer nie. Dinkskrumaktiwiteite met kaarte en storieborde gebruik is om ontwerpfiksie te ontwikkel en die verhaalproses te help ontwikkel. Deur meer werkswinkels wat hierdie soort gereedskap gebruik het, meer ingenieurs, ondernemers en beleidmakers in staat te stel om hierdie assesseringsmetode te gebruik. En die publikasie beskikbaar te stel, sal help om potensiële vooroordele in tegnologieë bloot te lê voordat dit die samelewing beïnvloed.

As ontwerpers aangemoedig word om meer verhale op hierdie manier te skep en te deel, sou die verhaal wat die nuwe tegnologie ondersteun, nie net 'n positiewe prentjie of 'n buitengewone negatiewe of 'n dystopiese weergawe bied nie. In plaas daarvan sal mense beide aspekte van wat rondom ons gebeur, kan waardeer.Die gesprek

Oor die outeurs

Alessio Malizia, Professor in ontwerp vir gebruikerservaring, Universiteit van Hertfordshire en Silvio Carta, Hoof van kuns en ontwerp en voorsitter van die Ontwerpnavorsingsgroep, Universiteit van Hertfordshire

Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

volg InnerSelf op

Facebook-ikoonTwitter-ikoonrss-ikoon

Kry die nuutste per e-pos

Emailcloak = {af}

UIT DIE REDAKTEURS

As jou rug teen die muur is
by Marie T. Russell, InnerSelf
Ek is mal oor die internet. Nou weet ek dat baie mense baie slegte dinge daaroor te sê het, maar ek is mal daaroor. Net soos ek die mense in my lewe liefhet - hulle is nie perfek nie, maar ek is in elk geval lief vir hulle.
InnerSelf Nuusbrief: Augustus 23, 2020
by InnerSelf Personeel
Almal kan waarskynlik saamstem dat ons in vreemde tye leef ... nuwe ervarings, nuwe houdings, nuwe uitdagings. Maar ons kan aangemoedig word om te onthou dat alles altyd in vloei is, ...
Vroue staan ​​op: word gesien, word gehoor en neem aksie
by Marie T. Russell, InnerSelf
Ek het hierdie artikel "Women Arise: Be seen, Be Heard and Take Action" genoem, en terwyl ek verwys na die vroue wat in die video's hieronder uitgelig is, praat ek ook van elkeen van ons. En nie net van die ...
Die dag van rekoning het aangebreek vir die GOP
by Robert Jennings, InnerSelf.com
Die Republikeinse party is nie meer 'n politieke party in Amerika nie. Dit is 'n buite-egtelike pseudo-politieke party vol radikale en reaksionêre persone, met die verklaarde doelwit om te ontwrig, te destabiliseer en ...
Waarom Donald Trump die grootste verloorder van die geskiedenis kan wees
by Robert Jennings, InnerSelf.com
Opgedateer 2 Julie 20020 - Hierdie hele pandemie van die coronavirus kos 'n fortuin, miskien 2 of 3 of 4 fortuin, almal van onbekende grootte. O ja, en honderde duisende, miskien 'n miljoen mense, sal sterf ...