Die vrystelling van die gevorderde kletsbot Klets GPT in 2022 het almal oor kunsmatige intelligensie (KI) laat praat. Die gesofistikeerde vermoëns daarvan het kommer versterk oor KI wat so gevorderd word dat ons dit binnekort nie sal kan beheer nie. Dit het selfs daartoe gelei dat sommige kenners en bedryfsleiers gewaarsku het dat die tegnologie kan lei tot menslike uitwissing.
Ander kommentators was egter nie oortuig nie. Noam Chomsky, 'n professor in linguistiek, het ChatGPT afgemaak as "hoëtegnologie plagiaat".
Ek was jare lank ontspanne oor die vooruitsig van KI se impak op die menslike bestaan en ons omgewing. Dit is omdat ek altyd daaraan gedink het as 'n gids of adviseur vir mense. Maar die vooruitsig dat KI's besluite kan neem - uitvoerende beheer uitoefen - is 'n ander saak. En dis een wat nou ernstig vermaak word.
Een van die belangrikste redes waarom ons nie KI moet toelaat om uitvoerende mag te hê nie, is dat dit heeltemal gebrek aan emosie het, wat noodsaaklik is vir besluitneming. Sonder emosie, empatie en 'n morele kompas het jy die geskep perfekte psigopaat. Die gevolglike sisteem kan hoogs intelligent wees, maar dit sal die menslike emosionele kern ontbreek wat dit in staat stel om die potensieel verwoestende emosionele gevolge van 'n andersins rasionele besluit te meet.
Wanneer KI uitvoerende beheer neem
Dit is belangrik dat ons nie net aan KI as 'n eksistensiële bedreiging moet dink as ons dit sou doen nie plaas dit in beheer van kernarsenale. Daar is in wese geen beperking op die aantal beheerposisies waaruit dit ondenkbare skade kan aanrig nie.
Oorweeg byvoorbeeld hoe KI reeds die inligting kan identifiseer en organiseer wat nodig is om jou eie konservatorium te bou. Huidige iterasies van die tegnologie kan lei jou effektief deur elke stap van die bou en voorkom baie beginnersfoute. Maar in die toekoms kan 'n KI as projekbestuurder optree en die bouwerk koördineer deur kontrakteurs te kies en hulle direk uit jou begroting te betaal.
KI word reeds in byna alle domeine van inligtingverwerking en data-analise gebruik - vanaf weerpatrone te modelleer om bestuurlose voertuie te beheer om help met mediese diagnoses. Maar dit is waar probleme begin – wanneer ons KI-stelsels die kritieke stap van die rol van adviseur na dié van uitvoerende bestuurder laat neem.
In plaas daarvan om net remedies voor te stel om a maatskappy se rekeninge, wat as 'n KI direkte beheer gegee is, met die vermoë om prosedures te implementeer vir die verhaal van skuld, bankoorplasings te maak en winste te maksimeer - met geen beperkings op hoe om dit te doen nie. Of stel jou voor dat 'n KI-stelsel nie net 'n diagnose gebaseer op X-strale, maar die mag gegee word om direk behandelings of medikasie voor te skryf.
Jy sal dalk ongemaklik begin voel oor sulke scenario's – ek sou beslis. Die rede kan dalk jou intuïsie wees dat hierdie masjiene nie werklik “siele” het nie. Hulle is net programme wat ontwerp is om groot hoeveelhede inligting verteer om komplekse data te vereenvoudig in baie eenvoudiger patrone, wat mense in staat stel om besluite met meer selfvertroue te neem. Hulle het nie – en kan nie – emosies hê wat intiem gekoppel is aan biologiese sintuie en instinkte.
Emosies en sedes
Emosionele intelligensie is die vermoë om ons emosies te bestuur om stres te oorkom, empatie en effektief te kommunikeer. Dit maak waarskynlik meer saak in die konteks van besluitneming as intelligensie alleen, want die beste besluit is nie altyd die mees rasionele een nie.
Dit is waarskynlik dat intelligensie, die vermoë om te redeneer en logies te werk, in KI-aangedrewe stelsels ingebed kan word sodat hulle rasionele besluite kan neem. Maar stel jou voor dat jy 'n kragtige KI met uitvoerende vermoëns vra die klimaatkrisis op te los. Die eerste ding wat dit dalk geïnspireer kan word om te doen is om die menslike bevolking drasties te verminder.
Hierdie afleiding het nie veel verduideliking nodig nie. Ons mense is amper per definisie die bron van besoedeling in elke moontlike vorm. Byl mensdom en klimaatsverandering sou opgelos word. Dit is nie die keuse waartoe menslike besluitnemers sou kom nie, hoop 'n mens, maar 'n KI sal sy eie oplossings vind - ondeurdringbaar en onbelemmer deur 'n menslike afkeer om skade te veroorsaak. En as dit uitvoerende mag gehad het, is daar dalk niks wat dit keer om voort te gaan nie.
Om 'n KI die vermoë te gee om uitvoerende besluite in lugverkeerbeheer te neem, kan 'n fout wees. Gorodenkoff / Shutterstock
Sabotasie scenario's
Hoe gaan dit met sabotasie sensors en monitors wat voedselplase beheer? Dit kan aanvanklik geleidelik gebeur, deur kontroles net verby 'n kantelpunt te druk sodat geen mens agterkom dat die gewasse veroordeel word nie. Onder sekere scenario's kan dit vinnig tot hongersnood lei.
Alternatiewelik, hoe gaan dit met lugverkeersbeheer wêreldwyd afskakel, of eenvoudig alle vliegtuie wat op enige tyd vlieg neerstort? Sowat 22,000 XNUMX vliegtuie is gewoonlik gelyktydig in die lug, wat bydra tot 'n potensiële dodetal van etlike miljoene mense.
As jy dink dat ons nog lank nie in daardie situasie is nie, dink weer. KI's ry reeds motors en militêre vliegtuie vlieg, outonoom.
Alternatiewelik, hoe gaan dit met die sluiting van toegang tot bankrekeninge oor groot streke van die wêreld, burgerlike onrus veroorsaak oral op een slag? Of afskakel rekenaarbeheerde verwarmingstelsels in die middel van die winter, of lugversorgingstelsels op die hoogtepunt van somerhitte?
Kortom, 'n KI-stelsel hoef nie in beheer van kernwapens geplaas te word om 'n ernstige bedreiging vir die mensdom te verteenwoordig nie. Maar terwyl ons oor hierdie onderwerp is, as 'n KI-stelsel kragtig en intelligent genoeg was, kan dit 'n manier vind om 'n aanval op 'n land met kernwapens te vervals, wat 'n mens-geïnisieerde vergelding veroorsaak.
Kan KI groot getalle mense doodmaak? Die antwoord moet in teorie ja wees. Maar dit hang grootliks daarvan af dat mense besluit om dit uitvoerende beheer te gee. Ek kan nie regtig aan enigiets meer vreesaanjaend dink as 'n KI wat besluite kan neem en die mag het om dit te implementeer nie.
Oor Die Skrywer
Guillaume Thierry, Professor in Kognitiewe Neurowetenskap, Bangor Universiteit
Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.
