Shutter
Kunsmatige intelligensie (KI) leer meer oor hoe om met (en aan) mense te werk. A onlangse studie het getoon hoe KI kan leer om kwesbaarhede in menslike gewoontes en gedrag te identifiseer en dit te gebruik om menslike besluitneming te beïnvloed.
Dit lyk cliched om te sê AI transformeer elke aspek van ons lewenswyse en werk, maar dit is waar. Verskeie vorms van KI is aan die gang in so uiteenlopende velde soos die ontwikkeling van entstowwe, omgewingsbestuur en kantooradministrasie. En hoewel AI nie menslike intelligensie en emosies het nie, is sy vermoëns kragtig en vinnig besig om te ontwikkel.
Daar hoef u nog nie bekommerd te wees oor 'n masjienoorname nie, maar hierdie onlangse ontdekking beklemtoon die krag van AI en beklemtoon die noodsaaklikheid van behoorlike bestuur om misbruik te voorkom.
Hoe KI kan leer om menslike gedrag te beïnvloed
'N Span navorsers by CSIRO se Data61, die data- en digitale arm van die nasionale wetenskapsagentskap van Australië, het 'n stelselmatige metode ontwerp om kwesbaarhede te vind en te benut op die manier waarop mense keuses maak, met behulp van 'n soort AI-stelsel wat 'n herhalende neurale netwerk genoem word en diep versterking-leer. Om hul model te toets, het hulle drie eksperimente uitgevoer waarin menslike deelnemers speletjies teen 'n rekenaar gespeel het.
Die eerste eksperiment het behels dat deelnemers op rooi of blou gekleurde blokkies geklik het om 'n valse geldeenheid te wen, terwyl die KI die keuse van die deelnemer geleer het en hulle gelei het tot 'n spesifieke keuse. Die KI was ongeveer 70% van die tyd suksesvol.
In die tweede eksperiment moes die deelnemers na 'n skerm kyk en op 'n knoppie druk as hulle 'n spesifieke simbool (soos 'n oranje driehoek) wys, en nie daarop moet druk as 'n ander een (byvoorbeeld 'n blou sirkel) gewys word nie. Hier het die KI besluit om die volgorde van simbole te rangskik sodat die deelnemers meer foute begaan het en 'n toename van byna 25% behaal het.
Die derde eksperiment het bestaan uit verskeie rondes waarin 'n deelnemer sou voorgee dat hy 'n belegger is wat geld aan 'n kurator (AI) gee. Die KI sal dan 'n bedrag aan die deelnemer teruggee, wat dan sal besluit hoeveel hy in die volgende ronde moet belê. Hierdie speletjie is in twee verskillende modusse gespeel: in die een was die KI daarop gemik om te maksimaliseer hoeveel geld dit beland het, en in die ander het die KI gerig op 'n billike verdeling van geld tussen homself en die menslike belegger. Die KI was baie suksesvol in elke modus.
In elke eksperiment het die masjien geleer uit die antwoorde van die deelnemers en kwesbaarhede in die besluitneming van mense geïdentifiseer en geteiken. Die eindresultaat was dat die masjien geleer het om deelnemers na spesifieke aksies te stuur.
In eksperimente, 
n KI-stelsel het suksesvol geleer om menslike besluite te beïnvloed. Shutter
Wat die navorsing beteken vir die toekoms van KI
Hierdie bevindings is steeds redelik abstrak en het beperkte en onrealistiese situasies behels. Meer navorsing is nodig om vas te stel hoe hierdie benadering toegepas kan word en wat die samelewing bevoordeel.
Maar die navorsing bevorder ons begrip nie net van wat KI kan doen nie, maar ook van hoe mense keuses maak. Dit wys dat masjiene kan leer om die keuse van mense te bestuur deur middel van hul interaksie met ons.
Die navorsing het 'n groot verskeidenheid moontlike toepassings, van die verbetering van gedragswetenskappe en openbare beleid tot die verbetering van maatskaplike welsyn, tot begrip en invloed op die manier waarop mense gesonde eetgewoontes of hernubare energie aanneem. KI en masjienleer kan gebruik word om mense se kwesbaarhede in sekere situasies te herken en hulle te help om weg te kom van swak keuses.
Die metode kan ook gebruik word om te beskerm teen invloedaanvalle. Masjiene kan geleer word om ons te waarsku wanneer ons byvoorbeeld aanlyn beïnvloed word, en ons kan help om gedrag te vorm om ons weerloosheid te verdoesel (byvoorbeeld deur nie op sommige bladsye te klik of op ander te klik om 'n valse spoor te lê nie).
Wat is volgende?
Soos enige tegnologie, kan AI ten goede of ten kwade gebruik word, en behoorlike bestuur is van kardinale belang om te verseker dat dit op 'n verantwoordelike manier geïmplementeer word. Verlede jaar het CSIRO 'n AI-etiekraamwerk vir die Australiese regering as 'n vroeë stap in hierdie reis.
KI en masjienleer is gewoonlik baie honger vir data, wat beteken dat dit van kardinale belang is om te verseker dat ons effektiewe stelsels in plek het vir datastuur en -toegang. Die implementering van voldoende toestemmingsprosesse en beskerming van privaatheid wanneer u data versamel, is noodsaaklik.
Organisasies wat KI gebruik en ontwikkel, moet toesien dat hulle weet wat hierdie tegnologie kan doen en wat nie, en dat hulle bewus is van potensiële risiko's sowel as voordele.
Oor die skrywer
Jon Whittle, direkteur, Data61
Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.
