deep fakes sow doubt 4 14
 Tegnologie wat deepfakes kan produseer, is wyd beskikbaar. (Shutter)

Vroeg in Maart, a gemanipuleerde video van die Oekraïense president Volodymyr Zelenskyy is versprei. Daarin het 'n digitaal gegenereerde Zelenskyy die Oekraïense nasionale weermag aangesê om oor te gee. Die video is aanlyn gesirkuleer, maar is vinnig ontken as 'n deepfake - 'n hiper-realistiese dog vals en gemanipuleerde video wat met kunsmatige intelligensie vervaardig is.

Terwyl Russiese disinformasie blykbaar 'n beperkte impak het, het hierdie kommerwekkende voorbeeld die potensiële gevolge van diepvals geïllustreer.

Deepfakes word egter suksesvol in ondersteunende tegnologie gebruik. Byvoorbeeld, mense wat aan Parkinson se siekte ly, kan stemkloning gebruik om te kommunikeer.

Deepfakes word in onderwys gebruik: die Ierland-gebaseerde spraaksintese maatskappy CereProc het 'n sintetiese stem vir John F. Kennedy geskep, hom weer lewendig te maak om sy geskiedkundige toespraak te lewer.

innerself subscribe graphic

Tog het elke muntstuk twee kante. Deepfakes kan hiper-realisties wees, en basies onopspoorbaar deur menslike oë.

Daarom kan dieselfde stemkloningtegnologie gebruik word vir uitvissing, laster en afpersing. Wanneer deepfakes doelbewus ontplooi word om die openbare mening te hervorm, sosiale konflikte aan te blaas en verkiesings te manipuleer, het dit die potensiaal om demokrasie te ondermyn.

Navorsers aan die Universiteit van Washington het 'n diep valsheid van Barack Obama gemaak.

Chaos veroorsaak

Deepfakes is gebaseer op tegnologie bekend as generatiewe adversariële netwerke waarin twee algoritmes mekaar oplei om beelde te produseer.

Alhoewel die tegnologie agter diep vervalsings dalk ingewikkeld klink, is dit 'n eenvoudige saak om een ​​te vervaardig. Daar is talle aanlyn toepassings soos Gesigswapen en ZAO Deepswap wat binne minute diepvals kan produseer.

Google Colaboratory – 'n aanlynbewaarplek vir kode in verskeie programmeertale – bevat voorbeelde van kode wat kan gebruik word om vals beelde en video's te genereer. Met sagteware wat so toeganklik is, is dit maklik om te sien hoe gemiddelde gebruikers verwoesting kan saai met deepfakes sonder om die potensiële sekuriteitsrisiko's te besef.

Die gewildheid van toepassings om gesigte te ruil en aanlyn dienste soos Diep nostalgie wys hoe vinnig en wyd deepfakes deur die algemene publiek aangeneem kan word. In 2019, Ongeveer 15,000 XNUMX video's wat diepvals gebruik is opgespoor. En hierdie getal sal na verwagting toeneem.

Deepfakes is die perfekte hulpmiddel vir disinformasieveldtogte, want dit produseer geloofwaardige vals nuus wat tyd neem om te ontmasker. Intussen is die skade wat deur diepvervalsings veroorsaak word - veral dié wat mense se reputasie beïnvloed - dikwels langdurig en onomkeerbaar.

Is sien glo?

Miskien is die gevaarlikste gevolge van deepfakes hoe hulle hulself tot disinformasie in politieke veldtogte leen.

Ons het dit gesien toe Donald Trump enige onvleiende mediadekking as “valse nuus.” Deur sy kritici daarvan te beskuldig dat hulle vals nuus versprei, kon Trump verkeerde inligting gebruik ter verdediging van sy oortredings en as 'n propaganda-instrument.

Trump se strategie stel hom in staat om steun te behou in 'n omgewing gevul met wantroue en disinformasie deur te beweer "dat ware gebeure en stories vals nuus of deepfakes is. "

Geloofwaardigheid by owerhede en die media word ondermyn, wat 'n klimaat van wantroue skep. En met die toenemende verspreiding van deepfakes, kan politici maklik skuld ontken in enige opkomende skandale. Hoe kan iemand se identiteit in 'n video bevestig word as hulle dit ontken?

Die bekamping van disinformasie was egter nog altyd 'n uitdaging vir demokrasieë terwyl hulle probeer om vryheid van spraak te handhaaf. Mens-KI-vennootskappe kan help om die toenemende risiko van diepvals te hanteer deur mense inligting te verifieer. Dit kan ook oorweeg word om nuwe wetgewing in te stel of bestaande wette toe te pas om vervaardigers van deepfakes te penaliseer vir die vervalsing van inligting en die nabootsing van mense.

Multidissiplinêre benaderings deur internasionale en nasionale regerings, private maatskappye en ander organisasies is almal noodsaaklik om demokratiese samelewings teen vals inligting te beskerm.The Conversation

Oor Die Skrywer

Sze-Fung Lee, Navorsingsassistent, Departement Inligtingstudie, McGill Universiteit en Benjamin CM Fung, Professor en Kanada-navorsingsleerstoel in data-ontginning vir kuberveiligheid, McGill Universiteit

Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.