Inligting is 'n waardevolle kommoditeit. En danksy tegnologie is daar miljoene teragrepe daarvan aanlyn.

Kunsmatige intelligensie-instrumente (KI) soos ChatGPT bestuur nou hierdie inligting namens ons – versamel dit, som dit op en bied dit aan ons terug.

Maar hierdie “uitkontraktering” van inligtingbestuur aan KI – gerieflik soos dit is – kom met gevolge. Dit kan nie net beïnvloed nie wat ons dink, maar potensieel ook hoe ons dink.

Wat gebeur in 'n wêreld waar KI-algoritmes besluit watter inligting voortduur, en wat langs die pad gelaat word?

Die opkoms van gepersonaliseerde KI

Generatiewe KI-gereedskap is gebou op modelle wat op honderde gigagrepe opgelei is voorafbestaande data. Uit hierdie data leer hulle hoe om teks-, beeld-, oudio- en video-inhoud outonoom te skep, en kan op gebruikersnavrae reageer deur die "heelwaarskynlike" antwoord bymekaar te maak.

ChatGPT word gebruik deur miljoene mense, ten spyte daarvan dat dit minder as 'n jaar gelede in die openbaar vrygestel is. In Junie is die byvoeging van pasgemaakte antwoorde het die reeds indrukwekkende chatbot selfs nuttiger gemaak. Hierdie kenmerk laat gebruikers gepasmaakte instruksies stoor wat verduidelik waarvoor hulle die bot gebruik en hoe hulle wil hê dit moet reageer.

Dit is een van verskeie voorbeelde van "gepersonaliseerde KI": 'n kategorie KI-nutsgoed wat inhoud genereer om by die spesifieke behoeftes en voorkeure van die gebruiker te pas.

Nog 'n voorbeeld is Meta's wat onlangs bekendgestel is virtuele assistent, Meta AI. Hierdie chatbot kan gesprekke voer, beelde genereer en take oor Meta se platforms, insluitend WhatsApp, Messenger en Instagram, uitvoer.

Kunsmatige intelligensie-navorser en medestigter van DeepMind, Mustafa Suleyman, beskryf gepersonaliseerde KI as meer 'n verhouding as 'n tegnologie:

Dit is 'n vriend. […] Dit gaan regtig altyd teenwoordig en langs jou wees, saam met jou leef – basies in jou span. Ek hou daarvan om daaraan te dink as om 'n goeie afrigter in jou hoek te hê.

Maar hierdie tegnologieë is ook omstrede, met kommer wat geopper is data eienaarskap, vooroordeel en verkeerde inligting.

Tegniese maatskappye probeer maniere vind om hierdie probleme te bekamp. Byvoorbeeld, Google het bronskakels bygevoeg na KI-gegenereerde soekopsommings wat deur sy vervaardig is Soek generatiewe ervaring (SGE) werktuig, wat vroeër vanjaar onder skoot gekom het vir aanbied onakkurate en problematiese antwoorde.

Tegnologie het reeds ons denke verander

Hoe sal generatiewe KI-instrumente – en veral dié wat vir ons gepersonaliseer is – hoe ons dink verander?

Om dit te verstaan, kom ons kyk weer na die vroeë 1990's toe die internet die eerste keer in ons lewens gekom het. Mense kon skielik toegang kry tot inligting oor omtrent enigiets, of dit nou bankwese, bak, onderrig of reis was.

Byna 30 jaar later het studies getoon hoe ons kognisie, geheue en kreatiwiteit verander het om aan hierdie globale "korfgedagte" verbind te word.

Byvoorbeeld, met onmiddellike toegang tot die ekwivalent van 305.5 miljard bladsye van inligting het mense se meta-kennis – dit wil sê hul kennis oor kennis. Een impak hiervan is die "Google effek”: 'n verskynsel waarin aanlyn soektog ons vermoë om inligting te vind verhoog, maar ons geheue van wat daardie inligting was verminder.

Aan die een kant is getoon dat dit ons verstandelike reserwes vrystel om ons denke na soekenjins af te laai probleemoplossing en kreatiewe denke. Aan die ander kant, is aanlyn inligting herwinning geassosieer met verhoogde afleibaarheid en afhanklikheid.

Navorsing toon ook dat aanlynsoektogte – ongeag die hoeveelheid of kwaliteit van inligting wat verkry word – ons verhoog kognitiewe selfagting. Met ander woorde, dit verhoog ons geloof in ons eie “slims”.

Koppel dit met die feit dat om inligting te bevraagteken is moeitevol – en dat hoe meer ons ons soekenjin vertrou, hoe minder is ons krities betrokke te raak by die resultate daarvan – en jy kan sien hoekom toegang tot ongekende hoeveelhede inligting ons nie noodwendig wyser maak nie.

Moet ons ons denke 'uitkontrakteer'?

Vandag se generatiewe KI-nutsgoed gaan baie verder as om net soekresultate aan ons voor te stel. Hulle vind die inligting vir ons op, evalueer dit, sintetiseer dit en bied dit aan ons terug.

Wat kan die implikasies hiervan wees? Sonder om te dring op mensgeleide gehaltebeheer, is die vooruitsigte nie belowend nie.

Generatiewe KI se vermoë om reaksies te produseer wat bekend, objektief en boeiend voel, beteken dit laat ons meer kwesbaar vir kognitiewe vooroordele.

Die outomatisering vooroordeel, byvoorbeeld, is die menslike neiging om die integriteit van inligting wat deur die masjien verkry word, te oorskat. En die blote blootstelling effek is wanneer ons meer geneig is om inligting te vertrou wat as bekend of persoonlik aangebied word.

Navorsing op sosiale media kan ons help om die impak van sulke vooroordele te verstaan. In een 2016-studie het Facebook-gebruikers berig voel meer "in die wete" gebaseer op die hoeveelheid nuusinhoud wat aanlyn geplaas is – en nie hoeveel daarvan hulle werklik lees nie.

Ons weet ook dat "filter borrels” geskep deur sosiale media-algoritmes – waarin ons strome gefiltreer word volgens ons belangstellings – beperk die diversiteit van die inhoud waaraan ons blootgestel word.

Daar is getoon dat hierdie proses van inligtingvernouing toeneem ideologiese polarisasie deur mense se geneigdheid om alternatiewe perspektiewe te oorweeg, te verminder. Daar is ook getoon dat dit ons waarskynlikheid verhoog om daaraan blootgestel te word valse nuus.

Gebruik KI om wys te maak, en nie dom te maak nie

Generatiewe KI is sonder twyfel 'n revolusionêre krag met die potensiaal om groot dinge vir die samelewing te doen. Dit kan ons onderwysstelsel hervorm deur voorsiening te maak gepersonaliseerde inhoud, verander ons werkspraktyke deur te bespoedig skryfwerk en inligtingsontleding, en verskuif die grense van wetenskaplike ontdekking.

Dit het selfs die potensiaal om ons verhoudings positief te verander deur ons te help om te kommunikeer en met ander te skakel en kan soms as 'n vorm van sintetiese geselskap.

Maar as ons enigste manier om die toekoms te oordeel is deur na die verlede te kyk, is dit dalk nou die tyd om te besin oor hoe beide die internet en sosiale media ons kognisie verander het, en om voorsorgmaatreëls. Ontwikkel KI geletterdheid is 'n goeie plek om te begin, net soos die ontwerp van KI-instrumente wat menslike outonomie en kritiese denke aanmoedig.

Uiteindelik sal ons albei ons eie moet verstaan en KI se sterk- en swakpunte om te verseker dat hierdie "denkende" metgeselle ons help om die toekoms te skep wat ons wil hê - en nie die een wat toevallig boaan die lys is nie.

Sarah Vivienne Bentley, Navorsingswetenskaplike, Verantwoordelike Innovasie, Data61, CSIRO; Claire Mason, Hoofnavorsingswetenskaplike, CSIRO, en Einat Grimberg, Nadoktorale Navorsingsgenoot in Tegnologie en Sosiale Wetenskappe, CSIRO

Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.