KI chatbots word kragtiger, maar hoe weet jy of hulle in jou beste belang werk? 

As jy Alexa, Amazon se stemassistent KI-stelsel, vra of Amazon 'n monopolie is, reageer dit deur sê dit weet nie. Dit vat nie veel om dit te maak nie lambaste die ander tegnologie reuse, maar dit swyg oor sy eie korporatiewe ouer se wandade.

Wanneer Alexa op hierdie manier reageer, is dit duidelik dat dit sy ontwikkelaar se belange bo joune stel. Gewoonlik is dit egter nie so duidelik wie 'n KI-stelsel bedien nie. Om te voorkom dat hulle deur hierdie stelsels uitgebuit word, sal mense moet leer om KI skepties te benader. Dit beteken om doelbewus die insette wat jy dit gee te konstrueer en krities oor die uitset daarvan te dink.

Nuwer generasies KI-modelle, met hul meer gesofistikeerde en minder losbandige reaksies, maak dit moeiliker om te sê wie daarby baat wanneer hulle praat. Internetmaatskappye se manipulering van wat jy sien om hul eie belange te dien, is niks nuuts nie. Google se soekresultate en jou Facebook-stroom is gevul met betaalde inskrywings. Facebook, TikTok en ander manipuleer jou feeds om die tyd wat jy op die platform spandeer, wat meer advertensie-kyke beteken, oor jou welstand te maksimeer.

Wat KI-stelsels van hierdie ander internetdienste onderskei, is hoe interaktief hulle is, en hoe hierdie interaksies toenemend soos verhoudings sal word. Dit verg nie veel ekstrapolasie van vandag se tegnologieë om KI's voor te stel wat reise vir jou sal beplan, namens jou sal onderhandel of as terapeute en lewensafrigters sal optree nie.

Hulle sal waarskynlik 24/7 by jou wees, jou intiem ken en in staat wees om jou behoeftes te antisipeer. Hierdie soort gesprekskoppelvlak tot die groot netwerk van dienste en hulpbronne op die web is binne die vermoëns van bestaande generatiewe KI's soos ChatGPT. Hulle is op pad om te word gepersonaliseerde digitale assistente.

As 'n sekuriteitskenner en data wetenskaplike, glo ons dat mense wat op hierdie KI's kom staatmaak, hulle implisiet sal moet vertrou om die daaglikse lewe te navigeer. Dit beteken dat hulle seker moet wees dat die KI's nie in die geheim vir iemand anders werk nie. Regoor die internet werk toestelle en dienste wat lyk of hulle vir jou werk reeds in die geheim teen jou. Slim TV's spioeneer op jou. Foontoepassings versamel en verkoop jou data. Baie toepassings en webwerwe manipuleer jou deur donker patrone, ontwerp elemente wat webwerfbesoekers doelbewus mislei, dwing of mislei. Dit is ' toesig kapitalisme, en KI is besig om deel daarvan te wees. KI speel 'n rol in toesigkapitalisme, wat daarop neerkom om op jou te spioeneer om geld uit jou te maak.

In die donker

Heel moontlik kan dit baie erger wees met KI. Vir daardie digitale AI-assistent om werklik nuttig te wees, sal dit jou regtig moet ken. Beter as wat jou foon jou ken. Beter as wat Google Search jou ken. Miskien beter as wat jou goeie vriende, intieme vennote en terapeut jou ken.

Jy het geen rede om vandag se toonaangewende generatiewe KI-instrumente te vertrou nie. Los die eenkant hallusinasies, die opgemaakte "feite" wat GPT en ander groot taalmodelle produseer. Ons verwag dat dit grootliks opgeruim sal word namate die tegnologie oor die volgende paar jaar verbeter.

Maar jy weet nie hoe die KI's opgestel is nie: hoe hulle opgelei is, watter inligting hulle gegee is en watter instruksies hulle beveel is om te volg. Byvoorbeeld, navorsers die geheime reëls ontbloot wat die gedrag van die Microsoft Bing-kletsbot beheer. Hulle is grootliks goedaardig, maar kan enige tyd verander.

Maak geld

Baie van hierdie KI's word teen enorme koste geskep en opgelei deur sommige van die grootste tegnologiese monopolieë. Hulle word aan mense aangebied om gratis of teen baie lae koste te gebruik. Hierdie maatskappye sal hulle op een of ander manier moet monetiseer. En, soos met die res van die internet, sal dit op een of ander manier waarskynlik toesig en manipulasie insluit.

Stel jou voor dat jy jou kletsbot vra om jou volgende vakansie te beplan. Het dit 'n spesifieke lugredery of hotelketting of restaurant gekies omdat dit die beste vir jou was of omdat sy vervaardiger 'n terugslag van die besighede gekry het? Soos met betaalde resultate in Google-soektogte, nuusvoeradvertensies op Facebook en betaalde plasings op Amazon-navrae, sal hierdie betaalde invloede waarskynlik mettertyd meer sluimerig word.

As jy jou kletsbot vir politieke inligting vra, word die resultate skeefgetrek deur die politiek van die korporasie wat die kletsbot besit? Of die kandidaat wat dit die meeste geld betaal het? Of selfs die menings van die demografiese mense wie se data gebruik is om die model op te lei? Is jou KI-agent in die geheim 'n dubbelagent? Op die oomblik is daar geen manier om te weet nie.

Betroubaar volgens wet

Ons glo dat mense meer van die tegnologie moet verwag en dat tegnologiemaatskappye en KI's meer betroubaar kan word. Die Europese Unie se voorgestelde KI-wet neem 'n paar belangrike stappe, wat deursigtigheid vereis oor die data wat gebruik word om KI-modelle op te lei, versagting vir potensiële vooroordeel, openbaarmaking van voorsienbare risiko's en verslagdoening oor industriestandaardtoetse. Die Europese Unie gaan voort met KI-regulering.

Meeste bestaande KI's versuim om daaraan te voldoen met hierdie opkomende Europese mandaat, en, ten spyte van onlangse aansporing van die Senaat-meerderheidsleier Chuck Schumer, is die VSA ver agter met sulke regulering.

Die KI's van die toekoms moet betroubaar wees. Tensy en totdat die regering robuuste verbruikersbeskerming vir KI-produkte lewer, sal mense op hul eie wees om te raai oor die potensiële risiko's en vooroordele van KI, en om hul ergste uitwerking op mense se ervarings daarmee te versag.

So wanneer jy 'n reisaanbeveling of politieke inligting van 'n KI-instrument kry, benader dit met dieselfde skeptiese oog as wat jy 'n reklamebordadvertensie of 'n veldtogvrywilliger sou doen. Ten spyte van al sy tegnologiese towenaars, is die KI-instrument dalk bietjie meer as dieselfde.

Oor Die Skrywer

Bruce Schneier, Adjunkdosent in Openbare Beleid, Harvard Kennedy Skool en Nathan Sanders, Geaffilieerde, Berkman Klein Sentrum vir Internet en Samelewing, Harvard Universiteit

Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.