Ahmet Misirligul / Shutterstock

Die kort film Slaughterbots beeld 'n nabye toekoms uit waarin swerms mikro-drones duisende mense vermoor weens hul politieke oortuigings. In November 2017 vrygestel deur akademici en aktiviste wat waarsku oor die gevare van gevorderde kunsmatige intelligensie (AI), het dit vinnig virale geraak en tot dusver 3m-sienings gelok. Dit het gehelp om vonk a openbare debat oor die toekoms van outonome wapens en plaas druk op diplomate wat by die Verenigde Nasies vergader Konvensie oor konvensionele wapens.

Maar hierdie soort spekulatiewe storievertelling van wetenskapfiksie is nie net nuttig om aandag te trek nie. Die mense wat gevorderde tegnologie ontwerp en bou, kan verhale gebruik om die gevolge van hul werk te oorweeg en te verseker dat dit ten goede gebruik word. En ons dink dat hierdie soort “prototipering van wetenskapfiksie” of “ontwerpfiksie” kan help om vooroordele van die mens in nuwe tegnologie te laat werk, wat die vooroordele en ongeregtighede van die samelewing verder kan versterk.

{vembed Y = 9CO6M2HsoIA}

'N Vooroordeel kan lei tot die arbitrêre voorkeur van sommige kategorieë (van resultate, mense of idees) bo ander. Sommige mense kan byvoorbeeld bevooroordeeld wees teen die aanstelling van vroue vir uitvoerende poste, of hulle nou daarvan bewus is of nie.

Tegnologie wat gebou is rondom data wat sulke vooroordele aanteken, kan eindig die probleem te herhaal. Werwingsagteware wat ontwerp is om die beste CV's vir 'n spesifieke werk te kies, kan byvoorbeeld geprogrammeer word om te kyk na eienskappe wat 'n onbewuste vooroordeel teenoor mans weerspieël. In welke geval sal die algoritme uiteindelik die CV's vir mans verkies. En dit is nie teoreties nie - dit het eintlik met Amazon gebeur.

Die ontwerp van algoritmes sonder om moontlike negatiewe implikasies in ag te neem is vergelyk aan dokters “wat skryf oor die voordele van 'n gegewe behandeling en die newe-effekte heeltemal ignoreer, maak nie saak hoe ernstig hulle is nie”.

Sommige tegnologiefirmas en navorsers probeer die kwessie aanpak. Google het byvoorbeeld 'n stel etiese beginsels om die ontwikkeling van AI te lei. En Britse akademici het 'n inisiatief van stapel gestuur Nie-Gelyke wat daarop gemik is om groter billikheid en geregtigheid in die ontwerp en gebruik van tegnologie aan te moedig.

Die probleem is dat ondernemings in die openbaar geneig is om slegs 'n positiewe visie te lewer oor die moontlike gevolge van tegnologieë wat in die nabye toekoms is. Byvoorbeeld, motors sonder bestuurders word dikwels uitgebeeld as die oplossing van al ons vervoerkwessies, van koste tot veiligheid, en dit sal geïgnoreer word gevare van kuberaanvalle of die feit dat hulle mense kan aanmoedig om dit te doen stap of fiets minder.

Die moeilikheid om te verstaan ​​hoe digitale tegnologieë werk, veral dié wat swaar gedryf word deur obskure algoritmes, maak dit ook moeiliker vir mense om 'n ingewikkelde en uitgebreide siening van die probleme te hê. Hierdie situasie lei tot 'n spanning tussen 'n gerusstellende positiewe vertelling en die vae vermoede dat vooroordele tot 'n sekere mate ingebed is in die tegnologieë rondom ons. Dit is waar ons dink dat storievertelling deur ontwerpfiksie kan inkom.

Verhale is 'n natuurlike manier om na te dink oor moontlikhede en komplekse situasies, en ons hoor dit al ons lewens. Wetenskapsfiksie kan ons help spekuleer oor die impak wat tegnologie in die nabye toekoms op die samelewing het, soos Slaughterbots doen. Dit kan selfs kwessies van sosiale geregtigheid insluit, soos die manier waarop sekere groepe, soos vlugtelinge en migrante, kan wees uitgesluit van digitale innovasies.

Die (moontlike) toekoms onthul

Ontwerp fiksieverhale bied 'n nuwe manier vir ontwerpers, ingenieurs en futuriste (onder andere) om na te dink oor die impak van tegnologie vanuit 'n menslike perspektief en dit te koppel aan moontlike toekomstige behoeftes. Met 'n mengsel van logika en verbeelding kan ontwerpfiksie aspekte openbaar van hoe tegnologie aangeneem en gebruik kan word, met die begin van gesprekke daaroor toekomstige gevolge.

Byvoorbeeld, die kortverhaalMisdaad-verkryging”Ondersoek wat moontlik sou gebeur as AI die inligting met 'n massa-bron en 'n kriminele databasis sou gebruik om te voorspel wie 'n moord kan pleeg. Die navorsers het bevind dat omdat die databasis vol mense in etniese groepe van minderhede was, wat om sosiale redes statisties meer geneig was om weer aanstoot te gee, dit waarskynlik die misdaad-verkrygingsmodel sou wees minderhede verkeerdelik vermoed as blanke mense.

U hoef nie 'n talentvolle skrywer te wees of 'n gladde film te maak om ontwerpfiksie te produseer nie. Dinkskrumaktiwiteite met kaarte en storieborde gebruik is om ontwerpfiksie te ontwikkel en die verhaalproses te help ontwikkel. Deur meer werkswinkels wat hierdie soort gereedskap gebruik het, meer ingenieurs, ondernemers en beleidmakers in staat te stel om hierdie assesseringsmetode te gebruik. En die publikasie beskikbaar te stel, sal help om potensiële vooroordele in tegnologieë bloot te lê voordat dit die samelewing beïnvloed.

As ontwerpers aangemoedig word om meer verhale op hierdie manier te skep en te deel, sou die verhaal wat die nuwe tegnologie ondersteun, nie net 'n positiewe prentjie of 'n buitengewone negatiewe of 'n dystopiese weergawe bied nie. In plaas daarvan sal mense beide aspekte van wat rondom ons gebeur, kan waardeer.

Oor die outeurs

Alessio Malizia, Professor in ontwerp vir gebruikerservaring, Universiteit van Hertfordshire en Silvio Carta, Hoof van kuns en ontwerp en voorsitter van die Ontwerpnavorsingsgroep, Universiteit van Hertfordshire

Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.