Om iemand se stem te kloneer is makliker as ooit. D-Keine/iStock via Getty Images
Jy is pas terug huis toe na 'n lang dag by die werk en is op die punt om aan te sit vir aandete toe jou foon skielik begin gons. Aan die ander kant is 'n geliefde, miskien 'n ouer, 'n kind of 'n jeugvriend, wat jou smeek om dadelik vir hulle geld te stuur.
Jy vra hulle vrae, probeer om te verstaan. Daar is iets af aan hul antwoorde, wat óf vaag of uit karakter is, en soms is daar 'n eienaardige vertraging, amper asof hulle 'n bietjie te stadig dink. Tog is jy seker dat dit beslis jou geliefde is wat praat: dit is hul stem wat jy hoor, en die beller-ID wys hul nommer. Deur die vreemdheid van hul paniek op te krap, stuur jy die geld pligsgetrou na die bankrekening wat hulle aan jou verskaf.
Die volgende dag bel jy hulle terug om seker te maak alles is reg. Jou geliefde het geen idee waarvan jy praat nie. Dit is omdat hulle jou nooit gebel het nie – jy is deur tegnologie bedrieg: 'n stem diep vals. Duisende mense was in 2022 op hierdie manier bedrieg.
Die vermoë om 'n persoon se stem te kloon is toenemend binne bereik van enigiemand met 'n rekenaar.
As rekenaar sekuriteit navorsers, sien ons dat voortdurende vooruitgang in diepleeralgoritmes, oudioredigering en ingenieurswese, en sintetiese stemgenerering beteken het dat dit toenemend moontlik is om simuleer 'n persoon se stem oortuigend.
Nog erger, kletsbotte soos ChatGPT begin realistiese skrifte genereer met aanpasbare intydse reaksies. Deur hierdie tegnologieë te kombineer met stemgenerering, 'n Deepfake gaan van 'n statiese opname na 'n lewendige, lewensgetroue avatar wat oortuigend 'n telefoongesprek kan voer.
Kloning van 'n stem
Om 'n boeiende hoë-gehalte diepvals te maak, hetsy video of oudio, is nie die maklikste ding om te doen nie. Dit vereis 'n magdom artistieke en tegniese vaardighede, kragtige hardeware en 'n redelik stewige voorbeeld van die teikenstem.
Daar is 'n groeiende aantal dienste wat aan produseer matige tot hoë kwaliteit stemklone teen 'n fooi, en sommige stemvervalsingsinstrumente benodig 'n voorbeeld van net 'n minuut lank, of selfs net 'n paar sekondes, om 'n stemkloon te produseer wat oortuigend genoeg kan wees om iemand te flous. Om egter 'n geliefde te oortuig - byvoorbeeld om in 'n nabootsing-bedrogspul te gebruik - sal waarskynlik 'n aansienlik groter steekproef neem.
Navorsers kon stemme kloon met so min as vyf sekondes se opname.
Beskerming teen swendelary en disinformasie
Met alles gesê, ons by die DeFake-projek van die Rochester Institute of Technology, die Universiteit van Mississippi en Michigan State University, en ander navorsers werk hard om video- en oudio-deepfakes op te spoor en die skade wat dit veroorsaak, te beperk. Daar is ook eenvoudige en alledaagse aksies wat jy kan neem om jouself te beskerm.
Om mee te begin, stem uitvissing, of "vishing", swendelary soos die een wat hierbo beskryf is, is die mees waarskynlike stem-deepfakes wat jy in die alledaagse lewe kan teëkom, beide by die werk en by die huis. In 2019 het 'n energiemaatskappy is uit US$243,000 XNUMX bedrieg toe misdadigers die stem van sy moedermaatskappy se baas nageboots het om 'n werknemer te beveel om geld na 'n verskaffer oor te dra. In 2022 was mense bedrieg uit 'n geraamde $11 miljoen deur gesimuleerde stemme, insluitend van hegte, persoonlike verbintenisse.
Wat kan jy doen?
Wees bedag op onverwagte oproepe, selfs van mense wat jy goed ken. Dit is nie te sê dat jy elke oproep moet skeduleer nie, maar dit help om ten minste vooruit te e-pos of SMS. Moet ook nie op beller-ID staatmaak nie, aangesien dit kan ook vervals word. Byvoorbeeld, as jy 'n oproep ontvang van iemand wat beweer dat hy jou bank verteenwoordig, hang af en skakel die bank direk om die oproep se legitimiteit te bevestig. Maak seker dat jy die nommer gebruik wat jy neergeskryf het, in jou kontaktelys gestoor het of wat jy op Google kan vind.
Wees ook versigtig met u persoonlike identifiseerbare inligting, soos u sosiale sekerheidsnommer, huisadres, geboortedatum, telefoonnommer, middelnaam en selfs die name van u kinders en troeteldiere. Swendelaars kan hierdie inligting gebruik om jou voor te doen by banke, makelaars en ander, om hulself te verryk terwyl jy jou bankrot maak of jou krediet vernietig.
Hier is nog 'n stukkie raad: ken jouself. Ken spesifiek jou intellektuele en emosionele vooroordele en kwesbaarhede. Dit is in die algemeen goeie lewensadvies, maar dit is die sleutel om jouself te beskerm teen manipulasie. Swendelaars probeer gewoonlik om jou finansiële bekommernisse, jou politieke gehegtheid of ander neigings uit te roei en dan te prooi, wat dit ook al mag wees.
Hierdie waaksaamheid is ook 'n ordentlike verdediging teen disinformasie deur gebruik te maak van stem-deepfakes. Deepfakes kan gebruik word om voordeel te trek uit jou bevestiging vooroordeel, of wat jy geneig is om oor iemand te glo.
As jy hoor hoe ’n belangrike persoon, hetsy van jou gemeenskap of die regering, iets sê wat óf baie onkenmerkend vir hulle lyk óf jou ergste vermoedens van hulle bevestig, sal jy wys wees om versigtig te wees.
Oor die skrywers
Matthew Wright, professor in rekenaarsekuriteit, Rochester Instituut van Tegnologie en Christopher Schwartz, Nadoktorale Navorsingsgenoot van Rekenaarsekuriteit, Rochester Instituut van Tegnologie
Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.
