Hoe KI potensiaal het om gesondheidsorg te revolusioneer
Getty Images

Kunsmatige Intelligensie (KI) beweeg vinnig en sal 'n belangrike ondersteuningsinstrument in kliniese sorg word. Navorsing dui daarop dat AI-algoritmes akkuraat kan melanome op te spoor en toekomstige borskanker voorspel.

Maar voordat KI by roetine-kliniese gebruik geïntegreer kan word, moet ons die uitdaging van algoritmiese vooroordeel aanspreek. KI-algoritmes kan inherente vooroordele hê wat kan lei tot diskriminasie en privaatheidskwessies. KI-stelsels kan ook besluite neem sonder die vereiste toesig of menslike insette.

 'N Voorbeeld van die potensieel skadelike effekte van KI kom van 'n internasionale projek wat daarop gemik is om KI te gebruik om lewens te red deur deurbraak mediese behandelings te ontwikkel. In 'n eksperiment het die span hul "goeie" KI-model omgekeer om opsies te skep vir 'n nuwe KI-model om "skade" te doen.

In minder as ses uur se opleiding het die omgekeerde KI-algoritme tienduisende potensiële chemiese oorlogvoeringsagente gegenereer, met baie gevaarliker as huidige oorlogvoeringsagente. Dit is 'n uiterste voorbeeld wat chemiese verbindings betref, maar dit dien as 'n wekroep om KI se bekende en moontlik onkenbare etiese gevolge te evalueer.

KI in kliniese sorg

In medisyne hanteer ons mense se mees private data en dikwels lewensveranderende besluite. Robuuste KI-etiekraamwerke is noodsaaklik.

Die Australiese Epilepsie-projek het ten doel om mense se lewens te verbeter en kliniese sorg meer algemeen beskikbaar te maak. Gebaseer op gevorderde breinbeelding, genetiese en kognitiewe inligting van duisende mense met epilepsie, beplan ons om KI te gebruik om beantwoord tans onbeantwoordbare vrae.


innerself teken grafiese in


Sal hierdie persoon se aanvalle voortduur? Watter medisyne is die doeltreffendste? Is breinchirurgie 'n lewensvatbare behandelingsopsie? Dit is fundamentele vrae wat moderne medisyne sukkel om aan te spreek.

As die KI-leier van hierdie projek, is my grootste bekommernis dat KI vinnig beweeg en regulatoriese toesig minimaal is. Hierdie kwessies is hoekom ons onlangs 'n etiese raamwerk vir die gebruik van KI as 'n kliniese ondersteuningsinstrument. Hierdie raamwerk beoog om te verseker dat ons KI-tegnologie oop, veilig en betroubaar is, terwyl dit inklusiwiteit en regverdigheid in kliniese sorg bevorder.

So, hoe implementeer ons KI-etiek in medisyne om vooroordeel te verminder en beheer oor algoritmes te behou? Die rekenaarwetenskapbeginsel "rommel in, vullis uit" is van toepassing op KI. Gestel ons versamel bevooroordeelde data uit klein steekproewe. Ons KI-algoritmes sal waarskynlik bevooroordeeld wees en nie in 'n ander kliniese omgewing herhaalbaar wees nie.

Voorbeelde van vooroordele is nie moeilik om in kontemporêre KI-modelle te vind nie. Gewilde groottaalmodelle (byvoorbeeld ChatGPT) en latente diffusiemodelle (DALL-E en Stable Diffusion) wys hoe eksplisiete vooroordele ten opsigte van geslag, etnisiteit en sosio-ekonomiese status kan voorkom.

Navorsers het bevind dat eenvoudige gebruikersaanwysings beelde genereer wat etniese, geslagtelike en klasstereotipes voortduur. Byvoorbeeld, 'n versoek vir 'n dokter genereer meestal beelde van manlike dokters, wat nie met die werklikheid strook nie, aangesien ongeveer die helfte van alle dokters in OESO-lande vroulik is.

Veilige implementering van mediese KI

Die oplossing om vooroordeel en diskriminasie te voorkom is nie onbenullig nie. Om gesondheidsgelykheid moontlik te maak en inklusiwiteit in kliniese studies te bevorder, is waarskynlik onder die primêre oplossings om vooroordele in mediese KI te bekamp.

Bemoedigend het die Amerikaanse voedsel- en dwelmadministrasie onlangs voorgestel diversiteit verpligtend te maak in kliniese proewe. Hierdie voorstel verteenwoordig 'n skuif na minder bevooroordeelde en gemeenskapsgebaseerde kliniese studies.

Nog 'n struikelblok vir vordering is beperkte navorsingsbefondsing. KI-algoritmes benodig tipies aansienlike hoeveelhede data, wat duur kan wees. Dit is van kardinale belang om verbeterde befondsingsmeganismes daar te stel wat navorsers van die nodige hulpbronne voorsien om klinies relevante data in te samel wat geskik is vir KI-toepassings.

Ons argumenteer ook dat ons altyd die innerlike werking van KI-algoritmes moet ken en verstaan ​​hoe hulle tot hul gevolgtrekkings en aanbevelings kom. Daar word dikwels na hierdie konsep verwys as "verklaarbaarheid" in KI. Dit hou verband met die idee dat mense en masjiene moet saamwerk vir optimale resultate.

Ons verkies om die implementering van voorspelling in modelle as "vergrote" eerder as "kunsmatige" intelligensie te beskou – algoritmes moet deel van die proses wees en die mediese beroepe moet in beheer bly van die besluitneming.

Benewens die aanmoediging van die gebruik van verklaarbare algoritmes, ondersteun ons deursigtige en oop wetenskap. Wetenskaplikes moet besonderhede van KI-modelle en hul metodologie publiseer om deursigtigheid en reproduceerbaarheid te verbeter.

Wat het ons in Aotearoa Nieu-Seeland nodig om die veilige implementering van KI in mediese sorg te verseker? KI-etiekkwessies word hoofsaaklik deur kundiges in die veld gelei. Maar geteikende KI regulasies, soos die EU-gebaseerde Wet op Kunsmatige Intelligensie voorgestel is, wat hierdie etiese oorwegings aanspreek.

Die Europese KI-wet word verwelkom en sal mense wat binne "veilige KI" werk, beskerm. Die Britse regering het onlangs hul proaktiewe benadering tot KI-regulering, wat dien as 'n bloudruk vir ander regeringsreaksies op KI-veiligheid.

In Aotearoa pleit ons daarvoor om 'n proaktiewe eerder as reaktiewe houding teenoor KI-veiligheid in te neem. Dit sal 'n etiese raamwerk daarstel vir die gebruik van KI in kliniese sorg en ander velde, wat interpreteerbare, veilige en onbevooroordeelde KI sal lewer. Gevolglik sal ons vertroue groei dat hierdie kragtige tegnologie die samelewing bevoordeel terwyl dit teen skade beskerm word.Die gesprek

Oor Die Skrywer

Mangor Pedersen, Medeprofessor in Sielkunde en Neurowetenskap, Auckland Universiteit van Tegnologie

Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.

Verwante Boeke:

Die liggaam hou die telling: brein gees en liggaam in die genesing van trauma

deur Bessel van der Kolk

Hierdie boek ondersoek die verbande tussen trauma en fisiese en geestelike gesondheid, en bied insigte en strategieë vir genesing en herstel.

Klik vir meer inligting of om te bestel

Asem: Die nuwe wetenskap van 'n verlore kuns

deur James Nestor

Hierdie boek verken die wetenskap en praktyk van asemhaling, en bied insigte en tegnieke vir die verbetering van fisiese en geestelike gesondheid.

Klik vir meer inligting of om te bestel

Die plantparadoks: die verborge gevare in "gesonde" kosse wat siektes en gewigstoename veroorsaak

deur Steven R. Gundry

Hierdie boek ondersoek die verbande tussen dieet, gesondheid en siekte, en bied insigte en strategieë vir die verbetering van algehele gesondheid en welstand.

Klik vir meer inligting of om te bestel

Die immuniteitskode: die nuwe paradigma vir werklike gesondheid en radikale anti-veroudering

deur Joel Greene

Hierdie boek bied 'n nuwe perspektief op gesondheid en immuniteit, met die beginsels van epigenetika en bied insigte en strategieë vir die optimalisering van gesondheid en veroudering.

Klik vir meer inligting of om te bestel

Die volledige gids tot vas: genees jou liggaam deur intermitterende, alternatiewe dag en verlengde vas

deur Dr Jason Fung en Jimmy Moore

Hierdie boek verken die wetenskap en praktyk van vas en bied insigte en strategieë vir die verbetering van algehele gesondheid en welstand.

Klik vir meer inligting of om te bestel

sorg