Die wisselvallige mengsel van deepfakes en politieke veldtogte is 'n goeie rede om op jou hoede te wees. Sean Anthony Eddy Creative/E+ via Getty Images
Stel jou voor 'n Oktober verrassing soos geen ander nie: Slegs 'n week voor 5 November 2024 onthul 'n video-opname 'n geheime ontmoeting tussen Joe Biden en Volodymyr Zelenskyy. Die Amerikaanse en Oekraïense presidente stem in om Oekraïne onmiddellik by NAVO te inisieer onder "die spesiale noodlidmaatskapprotokol" en voor te berei vir 'n kernwapenaanval teen Rusland. Skielik is die wêreld op die drumpel van Armageddon.
Terwyl joernaliste dit kon uitwys so 'n protokol bestaan nie en sosiale media-gebruikers sal dalk vreemde videospeletjie-eienskappe van die video opmerk, ander mag dit dalk voel hul ergste vrese bevestig is. Wanneer verkiesingsdag aanbreek, kan hierdie besorgde burgers die video hul stemme laat swaai, onbewus daarvan dat hulle pas gemanipuleer is deur 'n situasie diep vals - 'n gebeurtenis wat nooit werklik gebeur het nie.
Situasie deepfakes verteenwoordig die volgende fase van tegnologie wat het alreeds gehore se persepsies van die werklikheid geskud. In ons navorsing by die DeFake-projek, my kollegas by die Rochester Instituut van Tegnologie, die Universiteit van Mississippi, Michigan State University en ek bestudeer hoe diepvals gemaak word en watter maatreëls kiesers kan neem om hulself daarteen te verdedig.
Verbeel jou gebeure wat nooit gebeur het nie
'n Deepfake word geskep wanneer iemand veral 'n kunsmatige intelligensie-instrument gebruik diep leer, om 'n te manipuleer of te genereer gesig, 'n stem of – met die opkoms van groot taalmodelle soos Klets GPT - gesprekstaal. Dit kan gekombineer word om "situasie diepvals" te vorm.
Die basiese idee en tegnologie van 'n situasie deepfake is dieselfde as met enige ander deepfake, maar met 'n dapper ambisie: om 'n werklike gebeurtenis te manipuleer of een uit die lug uit te vind. Voorbeelde sluit in uitbeeldings van Donald Trump se misdadige stap en Trump omhels Anthony Fauci, nie een van die twee het gebeur nie. Die drukkie-skoot is bevorder deur a Twitter rekening verband hou met die presidensiële veldtog van Trump-mededinger Ron DeSantis. An aanval advertensie gerig op Joe Biden se 2024-veldtog wat deur die Republikeinse Nasionale Komitee gepubliseer is geheel en al met KI gemaak.
By die DeFake-projek, Ons navorsing het bevind dat deepfakes, insluitend situasies, tipies geskep word deur een of ander mengsel van voeg een stuk media by 'n ander; met behulp van 'n video om 'n prent te animeer of 'n ander video te verander, gedoop poppespel; 'n stuk media tot stand te bring, tipies met behulp van generatiewe AI; of 'n kombinasie van hierdie tegnieke.
Om duidelik te wees, word baie situasie-deepfakes gemaak vir onskuldige doeleindes. Byvoorbeeld, Infinite Odyssey Tydskrif vervaardig vals foto's uit flieks wat is nooit vervaardig nie or kon nooit bestaan het nie. Maar selfs onskuldige deepfakes gee rede tot pouse, soos in die geval van byna geloofwaardige vals foto's wat die Apollo Moon landing as 'n fliekproduksie.
Deepfaking 'n verkiesing
Plaas jouself nou in die posisie van iemand wat die komende verkiesing probeer beïnvloed. Wat is die moontlike situasies wat jy dalk wil skep?
Om mee te begin, sal dit saak maak of jy die stemming na of weg van 'n spesifieke uitslag wil kantel. Miskien sal jy 'n kandidaat uitbeeld wat heldhaftig optree deur 'n voetganger uit die pad van 'n spoedmotor te trek of, omgekeerd, iets aanstootliks of krimineel te doen. Die formaat van die situasie diep vals sal ook saak maak. In plaas van 'n video, kan dit 'n foto wees, miskien met die vervaging en hoeke wat 'n slimfoonkamera of die vervalste logo van 'n nuusagentskap simuleer.
Jou teikengehoor sal die sleutel wees. Eerder as om na die algemene kiesers of 'n party se basis te mik, kan jy dalk samesweringsteoretici in sleutelstemdistrikte teiken. Jy kan die kandidaat of hul familielede uitbeeld as betrokke by 'n sataniese ritueel, wat deelneem aan 'n fees by die eksklusief en omstrede Boheemse Grove, of met 'n geheime ontmoeting met 'n buiteaards.
As jy die ambisie en vermoëns daarvoor het, kan jy selfs probeer om die verkiesing self te vervals. In Junie 2023 is Rusland se televisie- en radiostasies gekap en 'n volledige mobiliseringsbevel uitsaai deur 'n diep valsheid van Russiese president Vladimir Poetin. Alhoewel dit moeiliker sou wees om dit te doen in 'n Amerikaanse verkiesing, kan in beginsel enige nuusartikel gekap word om diepe valse uitsaai van hul ankers uit te saai wat die verkeerde uitslae aankondig of 'n kandidaat wat toegee.
Die verdediging van die werklikheid
Daar is 'n verskeidenheid van tegnologiese en sielkundige maniere om op te spoor en te verdedig teen situasie diepvals.
Op die tegnologiese front bevat alle deepfakes 'n paar bewyse van hul ware aard. Sommige van hierdie tekens kan deur die menslike oog gesien word – soos te gladde vel of vreemde beligting of argitektuur – terwyl ander dalk slegs opspoorbaar deur 'n diepvals-jag AI.
Ons bou DeFakese detektor om KI te gebruik om die duidelike tekens van diepvals te vang, en ons werk daaraan om dit betyds gereed te hê vir die 2024-verkiesing. Maar selfs al kan 'n voldoende kragtige diepvalsverklikker soos ons s'n nie teen die verkiesingsdag ontplooi word nie, is daar sielkundige hulpmiddels wat jy, die kieser, kan gebruik om diepvals te identifiseer: agtergrondkennis, nuuskierigheid en gesonde skeptisisme.
As jy media-inhoud oor 'n persoon, plek of gebeurtenis teëkom wat onkenmerkend lyk, vertrou jou agtergrondkennis. Byvoorbeeld, in 'n onlangse klug van 'n brand by die Pentagon, die gebou wat gewys word, lyk meer vierkantig as vyfhoekig, wat 'n weggee kan wees.
Probeer egter om nie heeltemal op jou agtergrondkennis staat te maak nie, wat verkeerd of onduidelik kan wees. Moet nooit bang wees om meer uit betroubare bronne te leer nie, soos feitegekontroleerde nuusberigte, eweknie-geëvalueerde akademiese artikels of onderhoude met gekwalifiseerde kundiges.
Wees ook bewus daarvan dat deepfakes gebruik kan word om voordeel te trek uit wat jy is geneig om te glo oor 'n persoon, plek of gebeurtenis. Een van die beste maniere om dit te hanteer, is om eenvoudig wees bewus van jou vooroordele en wees 'n bietjie bewaak oor enige media-inhoud wat dit blyk te bevestig.
Selfs al word dit moontlik om perfekte situasie-deepfakes te skep, hoe geloofwaardig hul onderwerp is, sal waarskynlik hul achilleshiel bly. Dus, met of sonder 'n tegnologiese oplossing, het jy steeds die mag om die verkiesing te verdedig teen die invloed van vals gebeure.
Oor Die Skrywer
Christopher Schwartz, Nadoktorale Navorsingsgenoot van Rekenaarsekuriteit, Rochester Instituut van Tegnologie
Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.
Verwante Boeke:
Oor tirannie: Twintig lesse uit die twintigste eeu
deur Timothy Snyder
Hierdie boek bied lesse uit die geskiedenis vir die behoud en verdediging van demokrasie, insluitend die belangrikheid van instellings, die rol van individuele burgers en die gevare van outoritarisme.
Klik vir meer inligting of om te bestel
Ons tyd is nou: krag, doel en die stryd vir 'n regverdige Amerika
deur Stacey Abrams
Die skrywer, ’n politikus en aktivis, deel haar visie vir ’n meer inklusiewe en regverdige demokrasie en bied praktiese strategieë vir politieke betrokkenheid en kiesersmobilisering.
Klik vir meer inligting of om te bestel
Hoe Demokrasieë sterf
deur Steven Levitsky en Daniel Ziblatt
Hierdie boek ondersoek die waarskuwingstekens en oorsake van demokratiese ineenstorting, en maak gebruik van gevallestudies van regoor die wêreld om insigte te bied oor hoe om demokrasie te beskerm.
Klik vir meer inligting of om te bestel
Die mense, No: 'n Kort geskiedenis van anti-populisme
deur Thomas Frank
Die skrywer bied 'n geskiedenis van populistiese bewegings in die Verenigde State en lewer kritiek op die "anti-populistiese" ideologie wat volgens hom demokratiese hervorming en vooruitgang gesmoor het.
Klik vir meer inligting of om te bestel
Demokrasie in een boek of minder: hoe dit werk, hoekom dit nie werk nie en hoekom dit makliker is as wat jy dink
deur David Litt
Hierdie boek bied 'n oorsig van demokrasie, insluitend sy sterk- en swakpunte, en stel hervormings voor om die stelsel meer responsief en verantwoordbaar te maak.
