As dinge verkeerd gaan in 'n outomatiese wêreld, sal ons nog weet wat om te doen?

Ons leef in 'n wêreld wat al hoe meer kompleks en outomatiese. Net soos ons meer komplekse probleme moet hanteer, lei outomatisering tot 'n atrofie van menslike vaardighede wat ons meer kwesbaar kan laat wanneer ons reageer op onverwagte situasies of wanneer dinge verkeerd gaan. Die gesprek

Oorweeg die finale notules van Air France Flight 447, wat in Mei 2009 in die Atlantiese Oseaan neergestort het nadat hulle Rio de Janeiro, Brasilië, verlaat het vir Parys, Frankryk.

Sy vlugopnemer onthul hewige verwarring in die kajuit. Die vliegtuig het op 15 º opwaarts gekantel met 'n outomatiese stem wat herhaaldelik "stalletjie, stalletjie" noem. Tog het die vlieëniers gewoel, een het uitgeroep: "Ons verstaan ​​niks nie."

Dit is nie die plek om in die moeilike vlug in te gaan nie, behalwe om daarop te let dat enige stelsel wat ontwerp is om outomaties met gebeurlikhede te handel, die meeste van die tyd 'n vervalle vaardigheidsbasis laat vir die minderheid situasies wat die ontwerpers kon nie nie voorsien nie.

Te praat Vanity Fair, Nadine Sarter, 'n industriële ingenieur aan die Universiteit van Michigan, herinner aan 'n gesprek met vyf ingenieurs wat betrokke is by die bou van 'n spesifieke vliegtuig.


innerself teken grafiese in


Ek het begin vra, 'Wel, hoe werk dit of dit?' En hulle kon nie saamstem oor die antwoorde nie. So ek het gedink, as hierdie vyf ingenieurs nie kan saamstem nie, die arme vlieënier, as hy ooit daardie spesifieke situasie ervaar ... wel, baie sterkte.

In effek is die kompleksiteit van oordeelkundig gevorderde hoogs ingewikkelde hoëtegnologie-vliegtuie uitgekontrakteer aan 'n robot, met vlug ingenieurs vir alle doeleindes en doelwitte weg van kajuit. Slegs ouer vlieëniers en ex lugmag-vlieëniers behou daardie gedetailleerde vaardighede.

Terug op terra firma, in 'n outonome bestuurswêreld, kan daar heelwat toekomstige geslagte wees sonder enige praktiese ervaring hoegenaamd nie ry en navigeer 'n voertuig.

Ons sien reeds 'n aanduiding van wat kan verkeerd gaan wanneer mense beheer oorlaat outonome stelsels.

'N Ondersoek na die noodlottige ongeluk van 'n Tesla Model S met autopilot het opgemerk dat die maatskappy inligting oor "stelselbeperkings" aan bestuurders verskaf het. In daardie geval is dit steeds aan bestuurders om aandag te skenk.

Maar watter kans sal 'n persoon hê om enige kontroles oor te neem indien dinge in hul toekoms verkeerd gaan gaan ten volle outonome voertuig. Sal hulle selfs weet hoe om die vroeë tekens van naderende ramp te sien?

Verloor ons pad?

Dit is 'n tegnologiese determinisme wat enigsins glo en alle innovasie is intrinsiek goed. Terwyl opkomende tegnologie nog kan definieer wat dit is om mens te wees, is die uitdaging om herken die risiko en wat om te doen om seker te maak dat dinge nie verkeerd gaan nie.

Dit word harder as wat ons by kompleksiteit voeg, veral met outonome bestuur van voorstedelike treine, lug taxis en afleweringsdronne.

Stelselontwerpers bou groter en meer verweefde stelsels om rekenaarverwerkingslading te deel, alhoewel dit hul skeppings eerste kandidate vir onderbreking maak. Hulle sien uit dat sodra alles verbind is, probleme so maklik as oplossings kan versprei, soms meer.

Die groeiende en geweldige kompleksiteit van 'n outomatiese wêreld skep soortgelyke risiko's.

Gevaar punte

In die agtergrond, wat nodig is, is die vermoë om netwerke vry te sny as daar foutpunte is, of om ten minste dele van 'n enkele netwerk te seël wanneer daar elders daar foutiewe punte is.

Hierdie "eilanding" is 'n kenmerk van slim elektrisiteitsnetwerk wat ruimte bied om die netwerk in fragmente te verdeel wat in staat is om hul interne kragvraag te onderhou. Modellering het dit getoon minder verbindings kan lei tot meer sekuriteit.

Kan ontluikende kompleksiteit wetenskaplike hulp bepaal waar die gevaarpunte in hoogs onderling gekoppelde netwerke kan lê? Marten Scheffer en kollegas het so gedink. Hy het ooreenkomste gesien tussen die gedrag van (sy) natuurlike stelsels en ekonomiese en finansiële stelsels.

Sy vroeër werk op mere, koraalriwwe, seë, woude en grasvelde het bevind dat omgewings onderworpe aan geleidelike veranderinge soos klimaat, voedingstowwe en habitatverlies punte kan bereik wat hulle in 'n soms onomkeerbare laer toestand laat val.

Kon bankiers en ekonome wat met die stabiliteit van finansiële markte worstel, leer van navorsers in ekologie, epidemiologie en klimatologie om merkers van die nabyheid van kritieke drempels en stelselafbreek te ontwikkel?

In Februarie 2016 het dit alles in die vorm van 'n referaat oor kompleksiteitsteorie en finansiële regulering mede-outeur deur 'n wye verskeidenheid van kundiges, insluitend 'n ekonoom, bankier, fisikus, klimatoloog, ekoloog, dierkundige, veearts en epidemioloog.

Hulle het 'n aanlyn integrasie van data, metodes en aanwysers aanbeveel, wat in stres-tyd in stres toetse vir globale sosio-ekonomiese en finansiële stelsels gevoer word. Die voormalige is soortgelyk aan wat bereik is in die hantering van ander komplekse stelsels soos die weer.

Ons kan begin om te sien hoe ons voorbeeld van 'n outonome bestuurswêreld oorvleuel in vrae oor netwerkstabiliteit. Stel jou voor 'n hoogs met mekaar verbind netwerk van outonome voertuie.

Daar is 'n duidelike behoefte om te weet hoe om enige moontlike versuimpunte in so 'n netwerk op te spoor en te isoleer voordat dinge verkeerd gaan met moontlike tragiese gevolge. Dit is meer as net om bestuurder en passasier te beskerm teen enige stelselfout in 'n enkele outonome voertuig.

Dit is tyd om te dink hoe ons die multidissiplinêre vooruitgang kan gebruik om die stabiliteit van sulke grootskaalse netwerke te verstaan ​​om drastiese gevolge te vermy.

Oor Die Skrywer

Peter Fisher, Adjunct Professor, Global, Urban and Social Studies, RMIT Universiteit

Hierdie artikel is oorspronklik gepubliseer op Die gesprek. Lees die oorspronklike artikel.

verwante Boeke

at InnerSelf Market en Amazon