Toekomstige historici kan 2023 heel moontlik beskou as 'n landmerk in die koms van kunsmatige intelligensie (KI). Maar of daardie toekoms sal bewys utopiese, apokaliptiese or iewers tussenin dink iemand.

In Februarie het ChatGPT die rekord opgestel as die vinnigste toepassing om te bereik 100 miljoen gebruikers. Dit is gevolg deur soortgelyke "groot taal" KI-modelle van Google, Amazon, Meta en ander groot tegnologiefirmas, wat gesamentlik gereed lyk om onderwys, gesondheidsorg en baie ander kennisintensiewe velde te transformeer.

KI se potensiaal vir skade is egter in Mei onderstreep deur 'n onheilspellende stelling onderteken deur vooraanstaande navorsers:

Die vermindering van die risiko van uitwissing van KI behoort 'n wêreldwye prioriteit te wees saam met ander maatskaplike skaalrisiko's soos pandemies en kernoorlog.

In November, in reaksie op die groeiende kommer oor KI-risiko, het 27 nasies (insluitend die VK, VSA, Indië, China en die Europese Unie) samewerking belowe by 'n eerste KI-veiligheidsberaad by Bletchley Park in Engeland, om die veilige ontwikkeling van KI te verseker vir die voordeel van almal.

Om dit te bereik, fokus navorsers op KI-belyning – dit wil sê, hoe om seker te maak KI-modelle is in ooreenstemming met menslike waardes, voorkeure en doelwitte. Maar daar is 'n probleem - KI se sogenaamde "donker geheim”: grootskaalse modelle is so kompleks dat hulle soos 'n swart boks is, onmoontlik vir enigiemand om ten volle te verstaan.

KI se swart boks probleem

Alhoewel die deursigtigheid en verklaarbaarheid van KI-stelsels is belangrike navorsingsdoelwitte, lyk dit onwaarskynlik dat sulke pogings tred hou met die frenetiese pas van innovasie.

Die swart boks-metafoor verduidelik hoekom mense se oortuigings oor KI oral op die kaart is. Voorspellings wissel van utopie tot uitwissing, en baie glo selfs 'n kunsmatige algemene intelligensie (AGI) sal binnekort gevoel te bereik.

Maar hierdie onsekerheid vererger die probleem. KI-belyning moet 'n tweerigtingstraat wees: ons moet nie net verseker dat KI-modelle ooreenstem met menslike bedoelings nie, maar ook dat ons oortuigings oor KI akkuraat is.

Dit is omdat ons merkwaardig vaardig is om toekoms te skep wat ooreenstem met daardie oortuigings, selfs al is ons onbewus daarvan.

Sogenaamde “verwagting effekte”, of selfvervullende profesieë, is welbekend in die sielkunde. En navorsing het getoon dat die manipulering van gebruikers se oortuigings nie net invloed het op hoe hulle interaksie met KI, maar hoe KI pas by die gebruiker aan.

Met ander woorde, hoe ons oortuigings (bewustelik of onbewustelik) KI beïnvloed, kan moontlik die waarskynlikheid van enige uitkoms verhoog, insluitend katastrofiese.

KI, berekening, logika en rekenkunde

Ons moet dieper ondersoek om die basis van KI te verstaan ​​- soos Alice in Wonderland, gaan na die konyngat en kyk waarheen dit ons neem.

Eerstens, wat is KI? Dit werk op rekenaars, en so ook outomatiese berekening. Van sy oorsprong as die "perceptron” – 'n kunsmatige neuron wat in 1943 wiskundig deur neurofisioloog gedefinieer is Warren McCulloch en logikus Walter Pitts – KI is verweef met die kognitiewe wetenskappe, neurowetenskap en rekenaarwetenskap.

Hierdie konvergensie van gedagtes, brein en masjiene het gelei tot die algemeen aanvaarde oortuiging dat, omdat KI berekening deur masjien is, dan moet natuurlike intelligensie (die verstand) berekening deur die brein wees.

Maar wat is berekening? In die laat 19de eeu, wiskundiges Richard Dedekind en Giuseppe Peano 'n stel aksiomas voorgestel wat rekenkunde in terme van logika gedefinieer, en geïnspireerde pogings om alle wiskunde te grond op 'n veilige formele basis.

Alhoewel die logikus Kurt Godel later bewys hierdie doel was onhaalbaar, was sy werk die beginpunt vir wiskundige (en kodebreker) Alan Turing. Sy "Turingmasjien”, 'n abstrakte toestel wat in staat is om universele berekening, is die grondslag van rekenaarwetenskap.

Diep struktuur van persepsie

Dus, berekening is gebaseer op wiskundige idees wat terugspoor na pogings om rekenkunde in logika te definieer. Maar ons kennis van rekenkunde bestaan voor logika. As ons die basis van KI wil verstaan, moet ons verder gaan en vra waar rekenkunde self vandaan kom.

Ek en my kollegas het onlangs gewys dat rekenkunde gebaseer is op die "diep struktuur” van persepsie. Hierdie struktuur is soos gekleurde bril wat ons persepsie op bepaalde maniere vorm, sodat ons ervaring van die wêreld georden en hanteerbaar is.

Rekenkunde bestaan ​​uit 'n stel elemente (getalle) en bewerkings (optelling, vermenigvuldiging) wat pare elemente kombineer om 'n ander element te gee. Ons het gevra: van alle moontlikhede, hoekom is getalle die elemente, en optelling en vermenigvuldiging die bewerkings?

Ons het gewys deur wiskundige bewys dat wanneer aanvaar is dat die diep struktuur van persepsie die moontlikhede beperk, rekenkunde die gevolg was. Met ander woorde, wanneer ons verstand na die abstrakte wêreld kyk deur dieselfde “gekleurde bril” wat ons ervaring van die fisiese wêreld vorm, “sien” dit getalle en rekenkunde.

Omdat rekenkunde die grondslag vir wiskunde is, is die implikasie dat wiskunde 'n weerspieëling van die verstand is - 'n uitdrukking in simbole van die fundamentele aard en kreatiwiteit daarvan.

Alhoewel die diep struktuur van persepsie met ander diere gedeel word en dus 'n produk van evolusie, het net mense wiskunde uitgevind. Dit is ons mees intieme skepping – en deur die ontwikkeling van KI moontlik te maak, miskien ons mees gevolglike.

'n Kopernikaanse rewolusie van die gees

Ons rekening van rekenkunde se oorsprong stem ooreen met sienings van die 18de eeuse filosoof Immanuel Kant. Volgens hom word ons kennis van die wêreld gestruktureer deur "suiwer intuïsies" van ruimte en tyd wat voor sintuigervaring bestaan ​​- analoog aan die gekleurde bril wat ons nooit kan verwyder nie.

Kant het syne geëis filosofie was 'n "Kopernikaanse rewolusie van die gees". Op dieselfde manier wat antieke sterrekundiges geglo het dat die Son om die Aarde wentel omdat hulle onbewus was van die Aarde se beweging, het Kant aangevoer, filosowe wat geglo het dat alle kennis afgelei is van sin ervaring (John Locke en David Hume, byvoorbeeld) het oor die hoof gesien hoe die verstand persepsie vorm.

Alhoewel Kant se sienings gevorm is deur die natuurwetenskappe van sy dag, het hulle bewys invloedryk in kontemporêre sielkunde.

Die erkenning dat rekenkunde a natuurlike gevolg van ons persepsie, en dus biologies gebaseer, dui op 'n soortgelyke Kantiaanse verskuiwing in ons begrip van berekening.

Berekening is nie "buite" of apart van ons in 'n abstrakte gebied van wiskundige waarheid nie, maar inherent aan ons verstand se aard. Die verstand is meer as berekening; die brein is nie 'n rekenaar nie. Berekening - die basis vir KI - is eerder, soos wiskunde, 'n simboliese uitdrukking van die gees se aard en kreatiwiteit.

Prometheaanse vuur

Wat is die implikasies vir KI? Eerstens, KI is nie 'n verstand nie en sal nooit sentient word nie. Die idee dat ons ons biologiese aard kan transendeer en onsterflikheid kan bereik deur ons gedagtes na die wolk op te laai, is slegs fantasie.

Maar as die verstandsbeginsels waarop KI gebaseer is deur die hele mensdom (en waarskynlik ook ander lewende wesens) gedeel word, kan dit moontlik wees om die beperkings van ons individuele verstand te oorskry.

Omdat berekening universeel is, is ons vry om enige uitkoms wat ons kies in ons toenemend gekoppelde virtuele en fisiese wêrelde te simuleer en te skep. Op hierdie manier is KI werklik ons Prometheaanse vuur, 'n geskenk aan die mensdom gesteel van die gode soos in Griekse mitologie.

As 'n globale beskawing is ons waarskynlik by 'n keerpunt. KI sal nie voelend raak en besluit om dit te doen nie maak ons ​​almal dood. Maar ons is baie in staat om onsself daarmee te “apokalipseer” – verwagting kan werklikheid skep.

Pogings om KI-belyning, -veiligheid en -sekuriteit te verseker, is uiters belangrik, maar is dalk nie genoeg as ons 'n gebrek aan bewustheid en kollektiewe wysheid het nie. Soos Alice, moet ons uit die droom wakker word en die realiteit en krag van ons gedagtes herken.

Randolph Grace, Professor in sielkunde, Universiteit van Canterbury

Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.