Image deur Susan Cipriano
Van die redakteur:
Soos in hierdie artikel uitgelig, kan die ontwikkeling van KI-gedrewe politieke veldtogte, soos die hipotetiese masjien genaamd Clogger, die integriteit van verkiesings ingrypend ondermyn. Deur gebruik te maak van outomatisering, pasgemaakte boodskappe en versterkingsleer, het hierdie masjiene die potensiaal om kiesers se gedrag op groot skaal te manipuleer en te verander.
In ’n era waar kunsmatige intelligensie (KI) vinnig vorder, moet ons waaksaam bly vir die potensiële bedreigings wat dit vir ons demokratiese prosesse inhou. Die opkoms van KI-gedrewe veldtogte daag die wese van demokrasie uit. In plaas daarvan dat verkiesings bepaal word deur die krag van idees, beleidsvoorstelle en opregte kieserskeuses, kan hulle deur masjiene wat uitsluitlik op oorwinning gefokus is, beheer word. Die inhoud wat heers, sou afkomstig wees van KI-taalmodelle met geen agting vir waarheid of politieke beginsels nie. In wese sou die verkiesingsuitslag deur 'n kunsmatige intelligensie bepaal word, wat die demokratiese proses erodeer.
Om die opkoms van 'n "klogokrasie" en die ontmagtiging van burgers te voorkom, is dit van kardinale belang dat ons optree. Verbeterde privaatheidbeskerming en sterk dataprivaatheidswette kan help om die toegang van KI-masjiene tot persoonlike data te beperk, wat hul doeltreffendheid in die teiken en manipulering van individue verminder. Verkiesingskommissies moet dit ook oorweeg om KI-stelsels te verbied of streng te reguleer wat ontwerp is om kiesers te beïnvloed. Implementering van regulasies wat duidelike vrywarings vereis wanneer KI-gegenereerde boodskappe in politieke veldtogte gebruik word. Dit kan deursigtigheid bied en kiesers help om ingeligte besluite te neem.
Dit is noodsaaklik dat ons hierdie uitdagings proaktief aanspreek en verseker dat die krag van KI verantwoordelik aangewend word om die beginsels van demokrasie te handhaaf. Deur die integriteit van verkiesings te beskerm en die vryheid van keuse te beskerm, kan ons die kompleksiteite van KI navigeer en die grondslae van demokratiese regering bewaar.
Hoe KI verkiesings kan oorneem - en demokrasie kan ondermyn
Geskryf deur Archon Fung, professor in burgerskap en selfregering, Harvard Kennedy Skool en Lawrence Lessig, Professor in Regte en Leierskap, Harvard Universiteit
Kan organisasies kunsmatige intelligensie-taalmodelle soos ChatGPT gebruik om kiesers te oorreed om op spesifieke maniere op te tree?
Sen Josh Hawley het OpenAI se uitvoerende hoof, Sam Altman, hierdie vraag in 'n 16 Mei 2023, Amerikaanse Senaatverhoor oor kunsmatige intelligensie. Altman het geantwoord dat hy inderdaad bekommerd is dat sommige mense taalmodelle kan gebruik om een-tot-een interaksies met kiesers te manipuleer, te oorreed en betrokke te raak.
Altman het nie uitgebrei nie, maar hy kon dalk iets soos hierdie scenario in gedagte gehad het. Stel jou voor dat politieke tegnoloë binnekort 'n masjien genaamd Clogger ontwikkel - 'n politieke veldtog in 'n swart boks. Clogger streef onverbiddelik net een doel na: om die kanse te maksimeer dat sy kandidaat – die veldtog wat die dienste van Clogger Inc. koop – in 'n verkiesing seëvier.
Terwyl platforms soos Facebook, Twitter en YouTube vorme van KI gebruik om gebruikers te kry spandeer meer tyd op hul werwe sou Clogger se KI 'n ander doelwit hê: om mense se stemgedrag te verander.
Hoe Clogger sou werk
As 'n politieke wetenskaplike en 'n regsgeleerde wat die kruising van tegnologie en demokrasie bestudeer, glo ons dat iets soos Clogger outomatisering kan gebruik om die skaal en moontlik die doeltreffendheid van gedragsmanipulasie en mikroteikentegnieke wat politieke veldtogte sedert die vroeë 2000's gebruik het. Net soos adverteerders gebruik jou blaai- en sosialemediageskiedenis om nou kommersiële en politieke advertensies individueel te teiken, sal Clogger individueel aan jou – en honderde miljoene ander kiesers – aandag gee.
Dit sou drie vooruitgang bied bo die huidige moderne algoritmiese gedragsmanipulasie. Eerstens sou sy taalmodel boodskappe genereer - tekste, sosiale media en e-pos, miskien insluitend beelde en video's - wat vir jou persoonlik aangepas is. Terwyl adverteerders 'n relatief klein aantal advertensies strategies plaas, kan taalmodelle soos ChatGPT ontelbare unieke boodskappe vir jou persoonlik genereer - en miljoene vir ander - in die loop van 'n veldtog.
Tweedens sou Clogger 'n tegniek gebruik genaamd versterkingsleer om 'n opeenvolging van boodskappe te genereer wat al hoe meer geneig is om jou stem te verander. Versterkingsleer is 'n masjienleer, proef-en-fout-benadering waarin die rekenaar aksies neem en terugvoer kry oor watter werk beter om te leer hoe om 'n doelwit te bereik. Masjiene wat Go, Skaak en baie videospeletjies kan speel beter as enige mens versterkingsleer gebruik het.
Hoe versterkingsleer werk.
Derdens, in die loop van 'n veldtog, kan Clogger se boodskappe ontwikkel om jou antwoorde op die masjien se vorige versendings in ag te neem en wat dit geleer het om ander se gedagtes te verander. Clogger sou met verloop van tyd dinamiese “gesprekke” met jou – en miljoene ander mense – kon voer. Clogger se boodskappe sal soortgelyk wees aan advertensies wat jou volg op verskillende webwerwe en sosiale media.
Die aard van KI
Nog drie kenmerke – of foute – is opmerklik.
Eerstens, die boodskappe wat Clogger stuur mag of mag nie polities in inhoud wees nie. Die masjien se enigste doel is om stemaandeel te maksimeer, en dit sal waarskynlik strategieë bedink om hierdie doelwit te bereik waaraan geen menslike kampvegter sou gedink het nie.
Een moontlikheid is om waarskynlike teenstanderkiesers inligting te stuur oor niepolitieke passies wat hulle in sport of vermaak het om die politieke boodskappe wat hulle ontvang, te begrawe. Nog 'n moontlikheid is om afstootlike boodskappe te stuur – byvoorbeeld inkontinensie-advertensies – wat met die opponente se boodskappe saamval. En nog een manipuleer kiesers se sosiale media-vriendegroepe om die gevoel te gee dat hul sosiale kringe sy kandidaat ondersteun.
Tweedens het Clogger geen agting vir waarheid nie. Inderdaad, dit het geen manier om te weet wat waar of onwaar is nie. Taalmodel "hallusinasies" is nie 'n probleem vir hierdie masjien nie, want die doel daarvan is om jou stem te verander, nie om akkurate inligting te verskaf nie.
Derdens, omdat dit 'n swart boks tipe kunsmatige intelligensie, sou mense geen manier hê om te weet watter strategieë dit gebruik nie.
Die veld van verklaarbare KI het ten doel om die swart boks van baie masjienleermodelle oop te maak sodat mense kan verstaan hoe hulle werk.
Klogokrasie
As die Republikeinse presidensiële veldtog Clogger in 2024 sou ontplooi, sou die Demokratiese veldtog waarskynlik verplig wees om in natura te reageer, miskien met 'n soortgelyke masjien. Noem dit Dogger. As die veldtogbestuurders gedink het dat hierdie masjiene doeltreffend is, kan die presidensiële kompetisie op Clogger vs. Dogger neerkom, en die wenner sal die kliënt van die meer effektiewe masjien wees.
Politieke wetenskaplikes en kenners sou baie te sê hê oor hoekom die een of ander KI seëvier, maar waarskynlik sal niemand regtig weet nie. Die president sal verkies word nie omdat sy of haar beleidsvoorstelle of politieke idees meer Amerikaners oorreed het nie, maar omdat hy of sy die meer effektiewe KI gehad het. Die inhoud wat die dag gewen het, sou gekom het van 'n KI wat uitsluitlik op oorwinning gefokus is, met geen politieke idees van sy eie nie, eerder as van kandidate of partye.
In hierdie baie belangrike sin sou 'n masjien die verkiesing gewen het eerder as 'n persoon. Die verkiesing sou nie meer demokraties wees nie, al sou al die gewone aktiwiteite van demokrasie – die toesprake, die advertensies, die boodskappe, die stemming en die tel van stemme – plaasgevind het.
Die KI-verkose president kan dan een van twee maniere gaan. Hy of sy kan die mantel van verkiesing gebruik om Republikeinse of Demokratiese partybeleid na te streef. Maar omdat die party-idees dalk min te doen gehad het met hoekom mense gestem het soos hulle gestem het – Clogger en Dogger gee nie om oor beleidsbeskouings nie – sou die president se optrede nie noodwendig die wil van die kiesers weerspieël nie. Kiesers sou deur die KI gemanipuleer gewees het eerder as om hul politieke leiers en beleid vrylik te kies.
Nog 'n pad is vir die president om die boodskappe, gedrag en beleide na te streef wat die masjien voorspel die kanse op herverkiesing sal maksimeer. Op hierdie pad sou die president geen spesifieke platform of agenda hê as om mag te handhaaf nie. Die president se optrede, gelei deur Clogger, sou diegene wees wat die meeste geneig is om kiesers te manipuleer eerder as om hul opregte belange of selfs die president se eie ideologie te dien.
Vermy Clogocracy
Dit sou moontlik wees om manipulasie van KI-verkiesing te vermy as kandidate, veldtogte en konsultante almal die gebruik van sulke politieke KI verbied. Ons glo dit is onwaarskynlik. As polities effektiewe swart bokse ontwikkel sou word, sou die versoeking om dit te gebruik byna onweerstaanbaar wees. Inderdaad, politieke konsultante kan heel moontlik sien om hierdie instrumente te gebruik soos vereis deur hul professionele verantwoordelikheid om hul kandidate te help wen. En sodra een kandidaat so 'n doeltreffende instrument gebruik, kon daar kwalik van die opponente verwag word om weerstand te bied deur eensydig te ontwapen.
Verbeterde privaatheidbeskerming sou help. Clogger sal afhang van toegang tot groot hoeveelhede persoonlike data om individue te teiken, boodskappe te skep wat aangepas is om hulle te oorreed of te manipuleer, en hulle op te spoor en te herteiken in die loop van 'n veldtog. Elke stukkie van daardie inligting wat maatskappye of beleidmakers die masjien ontken, sal dit minder effektief maak.
Sterk data-privaatheidswette kan help om AI weg te stuur van manipulerend.
Nog 'n oplossing lê by verkiesingskommissies. Hulle kan probeer om hierdie masjiene te verbied of streng te reguleer. Daar's 'n hewige debat oor of so "repliserende" toespraak, selfs al is dit polities van aard, kan gereguleer word. Die VSA se uiterste vrye spraak tradisie lei daartoe dat baie vooraanstaande akademici sê dit kan nie.
Maar daar is geen rede om outomaties die Eerste Wysiging se beskerming uit te brei na die produk van hierdie masjiene nie. Die nasie kan wel kies om masjiene regte te gee, maar dit behoort 'n besluit te wees wat gegrond is op die uitdagings van vandag, nie die misplaaste aanname nie dat James Madison se standpunte in 1789 bedoel was om op KI van toepassing te wees.
Europese Unie reguleerders beweeg in hierdie rigting. Beleidmakers het die Europese Parlement se konsep van sy Wet op Kunsmatige Intelligensie hersien om "KI-stelsels aan te wys om kiesers in veldtogte te beïnvloed" as "hoë risiko" en onderhewig aan regulatoriese ondersoek.
Een grondwetlik veiliger, indien kleiner, stap, reeds deels aangeneem deur Europese internetreguleerders en in Kalifornië, is om bots te verbied om hulself as mense voor te gee. Regulasie kan byvoorbeeld vereis dat veldtogboodskappe met vrywarings kom wanneer die inhoud wat dit bevat deur masjiene eerder as mense gegenereer word.
Dit sou wees soos die advertensie-vrywaringsvereistes - "Betaal deur die Sam Jones vir Kongreskomitee" - maar gewysig om die KI-oorsprong daarvan te weerspieël: "Hierdie KI-gegenereerde advertensie is deur die Sam Jones vir Kongreskomitee betaal." 'n Sterker weergawe kan vereis: "Hierdie KI-gegenereerde boodskap word aan jou gestuur deur die Sam Jones vir Kongreskomitee omdat Clogger voorspel het dat dit jou kanse om vir Sam Jones te stem met 0.0002% sal verhoog." Ten minste glo ons kiesers verdien om te weet wanneer dit 'n bot is wat met hulle praat, en hulle moet ook weet hoekom.
Die moontlikheid van 'n stelsel soos Clogger wys dat die pad na menslike kollektiewe ontmagtiging mag nie een of ander bomens vereis nie kunsmatige algemene intelligensie. Dit kan dalk net oorgretige kampvegters en konsultante vereis wat kragtige nuwe instrumente het wat effektief miljoene mense se baie knoppies kan druk.
Oor die skrywers
Archon Fung, professor in burgerskap en selfregering, Harvard Kennedy Skool en Lawrence Lessig, Professor in Regte en Leierskap, Harvard Universiteit
Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.
Redakteur se Addendum: Die potensiaal van KI om verkiesings oor te neem en demokrasie te ondermyn is 'n dringende bekommernis wat ons aandag verg. Soos hierdie artikel beklemtoon het, kan die opkoms van KI-gedrewe politieke veldtogte soos Clogger verkiesingsuitkomste hervorm, met masjiene wat kiesersgedrag op 'n ongekende skaal beïnvloed. Die gevolge van so 'n verskuiwing sal verreikend wees, met verkiesings wat nie deur die wil van die mense bepaal word nie, maar deur die doeltreffendheid van KI-manipulasie.
Om hierdie ontmagtiging van burgers te voorkom en demokrasie te beskerm, moet ons proaktiewe maatreëls tref. Robuuste privaatheidsbeskerming en regulasies wat die invloed van KI-stelsels in verkiesings beperk, is van kardinale belang. Deur deursigtigheid te verseker, duidelike vrywarings vir KI-gegenereerde inhoud af te dwing, en verantwoordelike gebruik van KI te bevorder, kan ons die integriteit van demokratiese prosesse handhaaf en die fundamentele waardes van ons samelewing beskerm.
Dit is noodsaaklik dat ons waaksaam bly en gesamentlik werk om die uitdagings wat KI in verkiesings stel, te navigeer. Deur dit te doen, kan ons die demokratiese ideale bewaar wat ons samelewings onderlê en 'n toekoms verseker waar die krag van tegnologie strook met die belange en aspirasies van die mense.
Verwante Boeke:
Oor tirannie: Twintig lesse uit die twintigste eeu
deur Timothy Snyder
Hierdie boek bied lesse uit die geskiedenis vir die behoud en verdediging van demokrasie, insluitend die belangrikheid van instellings, die rol van individuele burgers en die gevare van outoritarisme.
Klik vir meer inligting of om te bestel
Ons tyd is nou: krag, doel en die stryd vir 'n regverdige Amerika
deur Stacey Abrams
Die skrywer, ’n politikus en aktivis, deel haar visie vir ’n meer inklusiewe en regverdige demokrasie en bied praktiese strategieë vir politieke betrokkenheid en kiesersmobilisering.
Klik vir meer inligting of om te bestel
Hoe Demokrasieë sterf
deur Steven Levitsky en Daniel Ziblatt
Hierdie boek ondersoek die waarskuwingstekens en oorsake van demokratiese ineenstorting, en maak gebruik van gevallestudies van regoor die wêreld om insigte te bied oor hoe om demokrasie te beskerm.
Klik vir meer inligting of om te bestel
Die mense, No: 'n Kort geskiedenis van anti-populisme
deur Thomas Frank
Die skrywer bied 'n geskiedenis van populistiese bewegings in die Verenigde State en lewer kritiek op die "anti-populistiese" ideologie wat volgens hom demokratiese hervorming en vooruitgang gesmoor het.
Klik vir meer inligting of om te bestel
Demokrasie in een boek of minder: hoe dit werk, hoekom dit nie werk nie en hoekom dit makliker is as wat jy dink
deur David Litt
Hierdie boek bied 'n oorsig van demokrasie, insluitend sy sterk- en swakpunte, en stel hervormings voor om die stelsel meer responsief en verantwoordbaar te maak.
