William Perugini/ShutterstockVan die vele"groot risiko's vir die samelewing en die mensdom” wat tegnologiekundiges bekommerd maak oor kunsmatige intelligensie (KI), is die verspreiding van vals beelde een waarmee alledaagse internetgebruikers vertroud sal wees.
Deepfakes – video's of foto's waar iemand se gesig of liggaam digitaal verander is sodat dit lyk of hulle iets doen wat hulle nie doen nie – is reeds gebruik om te versprei politieke disinformasie en valse pornografie.
Hierdie beelde is tipies kwaadwillig en word gebruik om die onderwerp te diskrediteer. Wanneer dit by diepvalse pornografie kom, is die oorgrote meerderheid van die slagoffers is vroue. Generatiewe KI – tegnologie wat gebruik word om teks, beelde en video te skep – is reeds maak beeldgebaseerde seksuele misbruik makliker om te pleeg.
'N nuwe stel wette in die VK, sal die deel van diepvalse pornografie kriminaliseer. Maar met die aandag op KI en deepfakes, kan ons nie vergeet hoe minder gesofistikeerde tegnologie gebruik kan word as 'n instrument van misbruik, met verwoestende gevolge vir slagoffers nie.
Tegnologie en beheer
Toe ek my navorsing oor tegnologie in beledigende verhoudings begin het, was dieepfakes net 'n blits op die horison. My werk het gefokus op die rol van slimfone in die mishandeling van vroue wat beheersverhoudings gevlug het. Ek het gevind dat oortreders van huishoudelike mishandeling tegnologie gebruik om die reikwydte van hul mag en beheer oor hul vennote uit te brei, 'n moderne benadering van mishandelingstaktieke wat gebruik is lank voor slimfone was in elke sak.
Selfone kan direk gebruik word om te monitor en te beheer, met behulp van GPS-opsporing of deur 'n slagoffer met tekste, video's en stemoproepe te bombardeer. Een deelnemer aan my navorsing in 2019 het verduidelik hoe haar beledigende maat sy foon gebruik het om toegang tot sosiale media te kry, haar aanstootlike foto's via Instagram en aanhoudende en aanstootlike WhatsApp-boodskappe gestuur het.
Wanneer sy saam met haar vriende uit was, het hy haar eers gebel, gebel en dan gedurig gebel om te kyk waar sy is en saam met wie sy was. Toe die deelnemer haar foon afskakel, het haar destydse maat haar vriende gekontak en hulle met SMS'e en oproepe gebombardeer.
Hierdie deelnemer het te skaam gevoel om reëlings te tref om haar portuurgroep te ontmoet en het dus opgehou om uit te gaan. Ander in soortgelyke situasies kan dalk van sosiale planne uitgesluit word as vriende wil vermy dat hulle deur hul vriend se misbruiker gekontak word. Sulke sosiale isolasie is 'n gereelde deel van huishoudelike mishandeling en 'n belangrike aanduiding van die beheer van verhoudings.
Volgens die liefdadigheidsorganisasie Refuge vir huishoudelike geweld, meer as 72% van mense wat sy dienste gebruik, rapporteer misbruik wat tegnologie behels.
Selfone is 'n poort na ander toerusting, via die "internet van dinge" - toestelle wat aan die web gekoppel is en in staat is om data uit te ruil. Hierdie gereedskap kan ook deur misbruikers gewapen word. Byvoorbeeld, die gebruik van selfone om verander temperatuurinstellings op 'n huishoudelike termostaat, wat uiterstes van een uur na die volgende skep.
Verward hierdeur, soek mense verduidelikings by hul maat net om te hoor dat dit 'n verbeelding moet wees. Gasbeligtingstegnieke soos hierdie laat slagoffers hul eie gesonde verstand bevraagteken wat hul vertroue in hul eie oordeel ondermyn.
'n Moderne panoptikon
Met die klik van 'n knoppie maak selfone ongekende toesig oor ander moontlik. In die sak van 'n oortreder kan hulle gebruik word om enige tyd, enige plek dop te hou oor huidige en voormalige vennote en - as die sein dit toelaat - enige plek. Dit gee oortreders 'n krag van almag, wat slagoffers laat glo dat hulle dopgehou word selfs wanneer hulle nie is nie.
Dit laat dink aan die werk van die 18de-eeuse filosoof Jeremy Bentham, wat die konsep van die "panoptikon" bekendgestel het. Bentham het 'n "perfekte" gevangenisstelsel voorgestel, waar 'n wagtoring in die middel sit, omring deur individuele selle.
Geïsoleer van mekaar, sou gevangenes net die toring sien - 'n konstante herinnering dat hulle permanent dopgehou word, al kan hulle nie die wag daarin sien nie. Bentham het geglo so 'n struktuur sou lei tot die gevangenes se selftoesig totdat daar uiteindelik geen slotte of tralies nodig was nie.
My mees onlangse navorsing wys dat selfone soortgelyke dinamika binne beledigende verhoudings geskep het. Fone neem die rol van die toring, en oortreders die wagte daarin.
In hierdie moderne panoptikon kan slagoffers uit en rond wees, sigbaar vir vreemdelinge, vriende en familie. Maar as gevolg van die teenwoordigheid van die telefoon, voel hulle dat hulle steeds deur hul beledigende vennote dopgehou en beheer word.
Soos een deelnemer dit gestel het: “Jy voel daar is geen vryheid nie, selfs wanneer jy uit is. Jy voel of jy iewers toegesluit is, jy het nie vryheid nie, iemand beheer jou.”
Oorlewendes van mishandeling gaan voort om hulself te monitor selfs wanneer die oortreders nie daar is nie. Hulle tree op maniere op wat hulle glo hul misbruikers sal behaag (of ten minste nie kwaad maak nie).
Hierdie gedrag word dikwels deur ander as vreemd beskou, en te maklik as paranoia, angs of meer ernstige geestesgesondheidskwessies afgemaak. Die fokus word op die slagoffer se gedrag en ignoreer die oorsaak – beledigende of kriminele gedrag deur hul maat.
Soos tegnologie meer gesofistikeerd raak, sal die gereedskap en strategieë wat aan misbruikers beskikbaar is, voortgaan om te ontwikkel. Dit sal oortreders se bereik uitbrei en nuwe geleenthede vir toesig, gasbeligting en mishandeling bied.
Totdat tegnologiemaatskappye die ervarings van oorlewendes van huishoudelike mishandeling oorweeg en veiligheidsmeganismes in die ontwerp van hul produkte inbou, sal mishandeling voortduur in die oog versteek.
Tirion Havard, Medeprofessor in Maatskaplike Werk, London South Bank University
Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.
