Shutterstock/Hamara

Silicon Valley om vinnig te beweeg en dinge in verdediging te breek? 

deur Elke Schwarz

Ek is 'n propagandis, ek sal die waarheid verdraai, ek sal net my weergawe daarvan voorhou as ek dink dit gaan mense propagandiseer om te glo wat ek nodig het om te glo.

Hierdie is nie 'n klankgreep van 'n besonder onstuimige oomblik in die treffertelevisieprogram Mad Men nie. Hierdie woorde was geuiter deur Palmer Luckey, die uitvoerende hoof van Silicon Valley se warmste militêre tegnologie-opstart. Luckey se maatskappy, Anduril Industries, spesialiseer in kunsmatige intelligensie-geaktiveerde stelsels, insluitend outonome wapenstelsels. Met 'n waardasie van US$14 miljard is Anduril een van die lieflinge van die verdediging-opstarttoneel en sy nuut-opkomende waagkapitaal (VC)-ekosisteem waar groot beloftes, groot weddenskappe en 'n neiging tot propaganda 'n stapelvoedsel is wat nodig is vir sukses.

Die integrasie van kunsmatige intelligensie (KI) in verdedigingsprogramme, wat nog te sê van wapenstelsels, bly omstrede. Die Britse Komitee vir Kunsmatige Intelligensie in Wapenstelsels het versigtigheid aangedring oor verkrygingsprosesse vir KI-geaktiveerde wapens, maar tog – soos so dikwels die geval is wanneer dit by Silicon Valley-produkte kom – het die ontwikkeling, verkryging en uitrol van KI-verdedigingsprogramme die afgelope paar jaar skerp versnel.

Anduril, wat eers in 2017 gestig is, het reeds verskeie multi-miljoen dollar kontrakte deur die Amerikaanse Departement van Verdediging (DoD), sowel as die Britse Ministerie van Verdediging (MoD). Teen die agtergrond van die voortslepende oorlog tussen Rusland en Oekraïne, die oorlog in Gasa en toenemende wêreldwye spanning, lyk dit dalk nie 'n verrassende ontwikkeling nie.

In my nuutste navorsing oor militêre KI het ek geïdentifiseer dat een van die sleuteldrywers van die versnelde verkryging van militêre opstartprodukte, soos outonome hommeltuie en ander KI-geaktiveerde stelsels, die invloei van enorme bedrae waagkapitaalgeld en invloed is. Hierdie waagkapitaalmaatskappye het verdedigingsorganisasies nodig om die tegnologiebedryf se etos van spoed en skaal en die waagkapitaalwêreld se aptyt vir risiko en revolusie aan te neem. Dit maak van hierdie firmas nie net finansiële rolspelers nie, maar ook politieke.

My navorsing, gepubliseer in Finansies en Samelewing, dui daarop dat hierdie neiging om verdediging in die beeld van Silicon Valley te vorm, gemotiveer deur waagkapitaalbelange, waarskynlik meer uitgesproke en wydverspreid sal word. Met dit in gedagte, is dit die moeite werd om die dinamika in die spel van nader te bekyk wanneer waagkapitaal sy oë op sake van lewe en dood rig.

Die opkomende militêre finansielisering

Die militêre KI-industrie en wêreldwye verdedigingsbesteding floreer albei. Op die oomblik ramings, was die wêreldwye militêre KI-mark US$13.3 miljard werd in 2024, met ’n geprojekteerde groei tot US$35 miljard in die volgende sewe jaar. Hierdie syfers verskil, afhangende van die markdatadienste wat geraadpleeg is, maar dit is die afgelope 12 maande gereeld opwaarts hersien. Wêreldwye verdedigingsbegrotings het ook die afgelope 24 maande gestyg teen die agtergrond van voortdurende konflikte en 'n algemene verskuiwing na militarisering.

Globale verdediging besteding het in 2 'n rekordvlak van net meer as VS$2023 triljoen bereik. Met VS$877 miljard het die VSA verantwoordelik vir byna 40% van globale verdedigingsbesteding in 2023. Die NAVO-alliansie sal in 1.47 VS$2024 triljoen bestee. Dit is groot, aantreklike syfers vir groot tegnologie- en finansieringsmaatskappye met voorneme om vastrapplek in die verdedigingsmark te kry.

Die Insigte afdeling is verbind tot hoë gehalte langvorm joernalistiek. Ons redakteurs werk saam met akademici van baie verskillende agtergronde wat 'n wye reeks sosiale en wetenskaplike uitdagings aanpak.

Intussen begin verdedigingsorganisasies meer geld spandeer op die nuutste tegnologieë, insluitend, onvermydelik, KI. 'n 2024 Brookings Instituut verslag gevind dat verdedigingskontrakte vir KI-verwante tegnologieë in die 1200 maande van Augustus 12 tot Augustus 2022 in waarde met byna 2023% toegeneem het.

Vir die meeste nuwe KI-produkte, burgerlik of andersins, is een of ander vorm van waagkapitaalfinansiering dikwels betrokke, veral as die KI-onderneming te riskant kan blyk te wees om deur banklenings of ander finansiële instrumente gefinansier te word. Waagkapitaal is bereid om weddenskappe te neem op innovasie wat ander befondsers onwillig of nie in staat sou wees om te neem nie.

In die afgelope twee dekades het hierdie tipe befondsing hoofsaaklik gefokus op Silicon Valley-produkte vir die burgerlike mark, waar die dinamika toegelaat het dat buitengewone winste vir beleggers gemaak kan word. Maar namate die verdedigingsmark groei, en die geleenthede vir buitengewone waagkapitaalopbrengste in die kommersiële sfere afneem, sien diegene met groot hoeveelhede kapitaal om te belê 'n nuwe geleentheid vir groot winste in verdediging binne hul bereik.

Dit is dus nie verbasend dat waagkapitaalinvestering in verdedigingstegnologie die afgelope vyf jaar gestyg het nie. Van 2019 tot 2022 het Amerikaanse waagkapitaalfinansiering vir militêre tegnologie-opstart verdubbel, en sedert 2021 het die verdedigingstegnologiesektor 'n inspuiting van VS$130 miljard in VC-geld.

Waagkapitaalbesteding is ook op 'n hoogtepunt vir die Europese verdedigingsektor; private VC-beleggings is geprojekteer om 'n rekord van VS$1 miljard te bereik, hoofsaaklik gedryf deur Amerikaanse waagondernemings. Daar is 'n tasbare gegons in die lug oor die moontlikhede vir VC-gesteunde pogings en die moontlikheid om die verdedigingslandskap te hervorm.

Die waagkapitaal-militêre-Silicon Valley-nexus

Waagkapitaal was nog altyd op een of ander manier aan die militêre sektor verbind. Trouens, die huidige oplewing in waagkapitaalverdedigingsbeleggings kan gesien word as 'n terugkeer na sy vroeë dae. Die oorsprong van waagkapitaal is tipies teruggespoor aan die Amerikaanse Navorsings- en Ontwikkelingskorporasies (ARDC) wat in 1946 gestig is, net na die Tweede Wêreldoorlog waarin die VSA gesteun is deur 'n oorwinning wat, ten minste gedeeltelik, deur die nuutste tegnologie behaal is.

ARDC was een van die eerste maatskappye wat stelselmatig kapitaal van institusionele beleggers ingesamel het om nuwe ondernemings met hoë potensiaal te finansier, maar wat te riskant was vir banklenings. Met hierdie benadering was ARDC die eerste waagkapitaal-uitrusting wat beleggingsportefeuljes geskep het wat dikwels op een of twee buitengewone suksesse staatgemaak het om die meerderheid maatskappye te verreken wat slegs baie beskeie opbrengste of inderdaad verliese gemaak het. Op hierdie manier was ARDC die eerste sogenaamde “unicorn” maatskappy.

Unicorns is jong maatskappye wat 'n waardasie van US$ 1 miljard of meer ontvang (tot onlangs 'n uiters seldsame geleentheid vir 'n begin en iets wat elke belegger in hul portefeulje begeer). Dit is die kern van waagkapitaalbelegging: dit is risikokapitaal met potensieel baie hoë belonings.

Veral in die vroeë dae, net na die Tweede Wêreldoorlog, het baie beleggings gegaan om nuwe ondernemings te ondersteun wat in militêre innovasie en tegnologieë. Dit het verskeie analitiese instrumente, hoëspanning-opwekkers, bestralingsdetectietegnologie, sowel as vroeë mini-rekenaarmaatskappye, soos die Digital Equipment Corporation, tot gevolg gehad.

Die digitale landskap, soos ons dit vandag ken, het sy wortels in die weermag. Innovasies in kommunikasieteorie was bedoel vir militêre missieltegnologie in die 1950's, die grootvaders van KI het byna almal aan middel-eeuse militêre projekte gewerk en selfs die internet self het ontstaan ​​uit 'n militêre projek, toe genoem Arpanet.

Baie Silicon Valley-firmas het oor die dekades met die militêre sektor verstrengel gebly en, soos die antropoloog Roberto Gonzales het geskryf, byna "al vandag se tegnologiereuse dra 'n bietjie DNS van die verdedigingsbedryf, en het 'n lang geskiedenis van samewerking met die Pentagon". Dus, waagkapitaal se DNA is in hierdie verhouding ingevou.

Maar dit is die moeite werd om te beklemtoon dat dit tradisioneel die behoeftes van die militêre organisasies en die regerings was wat grootliks die tempo, struktuur en proses vir tegnologiese innovasies bepaal het.

Nou word die pas en fokus vir militêre tegnologie en innovasie toenemend bepaal deur 'n progressief vokale en kragtige tegnologie-opstartbedryf en hul befondsers wat 'n reeks van "Patriotiese hoofstad” inisiatiewe, soos Amerikaanse dinamisme; Die Spesiale Mededingende Studieprojek, Herbegin die Arsenal van Demokrasie en Amerika se grensfonds. Hierdie ondernemings is deur 'n handvol prominente maatskappye en individue in die nuwe verdedigingstegnologie-domein geskep om verdedigings- en militêre prioriteite te vorm en goeie opbrengste te maak terwyl hulle dit doen. Gesteun deur groot hoeveelhede waagkapitaal, vermeerder eenhoornmaatskappye in die verdedigingsruimte, insluitend nuwe militêre tegnologie-eenhorings soos Anduril Industries, Skerm AI, skydio, Skaal AI en Palantir (Palantir is tegnies nie meer 'n aanvangsonderneming sedert dit in 2020 bekend gemaak is nie, maar dit is steeds deel van 'n groep nuwe militêre tegnologieë).

Dit is 'n onlangse ontwikkeling. In die twee dekades van die middel 90's tot 2014 het die waagkapitaalsektor sy pogings gefokus op 'n florerende burgerlike tegnologielandskap, waar die lug die spreekwoordelike limiet was vir opbrengste van tegnologie-opstartondernemings soos Google, Microsoft, Facebook en PayPal.

Die verdedigingsmark, daarenteen, is as volwasse en gekonsolideer beskou, met streng verkrygingsreëls en -regulasies, en te min geleentheid vir buitensporige opbrengste op beleggings. Vir 'n staatskontrak om te realiseer, sou dit dikwels baie jare neem. Verdediging is ook oorheers deur 'n handjievol sleutelrolspelers in die bedryf – die sogenaamde primas wat Lockheed Martin, RTX Corporation, Northrop Grumman, Boeing, General Dynamics en BAE Systems insluit.

Hierdie primes het die leeueaandeel in die verdedigingsmark onder mekaar verdeel en dit het gelyk of daar min geleentheid was vir tegnologie-opstarters om sonder groot moeite 'n voet in die deur te kry. Maatskappye soos Space X en Palantir het byvoorbeeld die Amerikaanse lugmag en die Amerikaanse weermag in 2014 onderskeidelik gedagvaar vir die geleentheid om vir sekere kontrakte te bie. Die gebruik van die wet om verdediging oop te breek vir militêre startups het sedertdien meer wydverspreid geword.

Benewens hierdie strukturele struikelblokke vir VC-belegging in die verdedigingsektor, was daar 'n groter nominale morele koste verbonde aan die idee van winsbejag uit oorlog. Aangesien waagkapitaalbeleggers dikwels skenkings, stigtings, versekeringsmaatskappye, universiteite en pensioenfondse is, was daar 'n uiterlike onwilligheid om gesien te word as 'n belegging in "'n verdedigingsportefeulje" - of met ander woorde, in instrumente van dood. Europese waagkapitaalbeleggers was besonder versigtig.

Die spoed waarmee hierdie bewing blykbaar in minder as 'n dekade afgeneem het, is egter merkwaardig, wat daarop dui dat die beleggers waagkapitaalmaatskappye ondersteun. kom uit verskillende agtergronde wat dalk minder huiwering het wanneer dit kom by voordeel uit die besigheid van oorlog, of, dat dit altyd hoofsaaklik bloot 'n kwessie van wiskunde eerder as sedes was.

Eenhorings en hipergroei

Vandag wil almal in 'n eenhoorn belê omdat dit die potensiaal het om die hoogte in te laat in waardasie.

Maar om 'n voet in die deur te kry met 'n onbewese produk of konsep, kan sommige beginners gemotiveer word om groot, dapper aansprake te maak oor die revolusionêre, veranderingskeppende aard van hul produkte. En selfs sodra 'n maatskappy befondsing verkry het, bly die etos van oorbeloofde dikwels vasgelê om sukses in die rigting van hipergroei te handhaaf.

In die ergste geval word oorbelofte op so 'n skaal gedoen dat dit neerkom op kriminele bedrog, soos dit die geval was met die berugte bloedtoetsonderneming Theranos, wat van een van die opwindendste gesondheidsorgondernemings geword het, ter waarde van US$10 miljard. op sy hoogtepunt in 2015, tot 'n volledige borsbeeld in vier kort jare.

In die Theranos-geval het die maatskappy se charismatiese stigter die tegnologie se vermoëns wild oorbeloof en beweer dat dit 'n hele reeks toetse sou moontlik maak wat met net een klein druppel bloed gedoen kan word. Hierdie baanbrekende tegnologie "kan medisyne rewolusie en lewens oor die hele wêreld red".

Dit was 'n toekomsgerigte belofte - die tegnologie kon nog nie doen wat belowe is nie - nietemin het die maatskappy beweer dat hulle reeds 'n funksionerende toetstoestel het, wat blykbaar 'n leuen was. Theranos het in 2018 gevou en die charismatiese stigter, Elizabeth Holmes, is tronk toe.

Verkoop van 'n fantasie

Daar is baie ander, minder dramatiese verhale wat op 'n soortgelyke, hoewel nie bedrieglike manier afspeel nie: maatskappye wat belowe om die manier waarop ons alledaagse dinge doen 'n rewolusie te maak met baanbrekende tegnologie, wat blyk onvolhoubaar, onwerkbaar te wees, of bloot uitbrand.

Maar die gevolg is dat beleggers geld verloor, en, nog belangriker, dat mense wat op die tegnologie se belofte kom staatmaak, skade kom.

In die verdedigingskonteks draai die beloftes van nuwe militêre tegnologie om verkoop kragtige afskrikking, of demokrasie te beskerm, om omvattende, akkurate, intydse kennis, van a heeltemal deursigtige aardbol, en, in die eerste plek van 'n skoon, vinnige en beslissende oorwinning met gladde en moeitelose verbinding.

Dit kan in die ergste geval 'n fantasie van alwetendheid en alomteenwoordigheid aanwakker en, op sy beste, blaas dit 'n begeerte na 'n onmoontlike revolusie in oorlogvoering aan wat te aantreklik is om te weerstaan ​​en uiteindelik 'n al hoe wyer gehoor in sy nasleep trek. Hierdie vertellings word dikwels onderskryf deur 'n algemene hype dat 'n toekoms met KI onvermydelik is. Dit sorg vir 'n kragtige storielyn wat 'n tegnologie mitologiseer en valoriseer wat dalk nooit sal lewer wat beloof word nie. Dit is 'n kragtige mengsel wat dikwels meer nugter stemme weerstaan wat versigtigheid aandring.

Die aansprake wat deur verdedigings-eenhorings gemaak word, kan dikwels aanneemlik lyk, maar hulle is gewoonlik nie verifieerbaar nie, omdat hulle die toekoms aanspreek. En dikwels weerspieël daardie toekoms 'n visie wat gevorm word deur fiksie en wetenskap-fiksie, wat altyd 'n mate verwyder is van die sosiale en politieke uitdagings van die werklikheid.

Hierdie versoeking van oorbelowende en die mitologisering van moontlike tegnologie vorm programme wat werk om wêreldwye deursigtigheid en globale reikwydte vinnig te verwesenlik. Die Joint-All-Domain Command and Control (JADC2)-program is een so 'n poging wat deur die Pentagon geïnisieer is. Dit is daarop gemik om alle domeine - land, lug, see, ruimte en kuber - in 'n enkele netwerk te verbind vir "voorspellende analise” en “hoëspoedgeveg".

Om die program smaaklik vir die Kongres te maak, word JADC2 dikwels vergelyk met die saamry platform Uber, wat naatlose interaksie tussen stelsels en platforms belowe vir vinnige ingrypings. Dit hervestig die aandag op KI as 'n infrastruktuur noodsaaklikheid vir alle militêre bates en platforms. Sonder om militêre KI uit te brei, sal hierdie visie onmoontlik wees. Dit is hier waar die geleentheid vir militêre beginners is.

Twee prominente militêre tegnologiemaatskappye is kontrakteurs vir JADC2 - Anduril en Palantir. Albei maatskappye maak min geheim van hul ambisies om die verdedigingsektor te ontwrig, die huidige prime te ontwrig en 'n monopolie deel van die mark uit te sny om toenemende winste te verseker.

Palantir het sit sy oë oor "die sentrale bedryfstelsel vir alle Amerikaanse verdedigingsprogramme word"; Anduril het verklaar dat dit sal gaan "na alles wat op die [departement van verdediging] se lys is” om in die sektor te oorheers. Vir albei maatskappye is dit die stryd – die stryd om groei.

Soos Anduril's Luckey sê: "jy moet veg en wen oor verskeie gebiede”. (Hy bedoel dit in terme van korporatiewe strategie, nie werklike slagvelde nie). Net so het uitvoerende hoof en medestigter van Palantir, Alex Karp, erken dat, om verdediging as 'n mark wyd oop te breek, hy trots is om "het gesleep en geskop en gejoel en verneder” verskeie wetgewers, beleidmakers en die regering om hierdie doelwit te help bevorder. Beweeg vinnig en breek dinge.

Om 'n eenhoorn te maak, verg 'n daadwerklike poging en 'n aggressiewe houding van diegene wat finansieel die meeste in hierdie domein sal kry. Dit word die beste gedoen in alliansie met eendersdenkende ander. In die huidige verdedigingswaagkapitaallandskap is daar 'n noue verstrengeling van stigters en befondsers.

Peter Thiel, byvoorbeeld, is medestigter van Palantir, hy bestuur ook die Founders Fund VC-uitrusting wat onder andere beleggings in Space X, Anduril en Scale AI het. Die VC-maatskappy Andreessen Horowitz finansier ook SpaceX, Anduril, Shield AI en Skydio. Die bestuurders van hierdie VC-maatskappye het langdurige bande met mekaar. Net so is daar verweefdheid tussen maatskappye. Anduril is byvoorbeeld begin deur voormalige Palantir-werknemers wat hul ervaring van Palentir geneem het en dit by Anduril toegepas het. Palmer Luckey, voorheen van Oculus Rift, is aangestel as sy charismatiese en uitgesproke uitvoerende hoof.

Peter Thiel en Eric Schmidt (voorheen uitvoerende hoof van Google en voorsitter van die Amerikaanse nasionale veiligheidskommissie oor kunsmatige intelligensie) is belê in die America's Frontier Fund, ensovoorts. Daar is 'n hegte en baie goed verbonde netwerk van finansiers en beginners wat almal werk om die sleutel dryfveer boodskap te verdubbel: die verdedigingsektor het ontwrigting nodig en dit is ons wat dinge moet skud.

By 'n onlangse paneel getuienis aflê aan die US Armed Services Committee was verteenwoordigers van vyf militêre beginmaatskappye. Elkeen van die vyf is óf deur die VC-firma Andreessen Horowitz gefinansier óf andersins met die firma geaffilieer.

By die verhoor van die Amerikaanse Gewapende Dienstekomitee het Palantir se hooftegnologiebeampte, Shyam Sankar, getuienis gelewer pleit vir "meer mal" en vir "laat chaos heers" in die militêre verkryging en verkrygingsproses, sodat die nodige aansporings vir innovasie deur interdepartementele mededinging bevorder kan word.

Regulerende beperkings, dink hy, "dwing jou tot toesig" en hy "sal graag meer mislukking aanvaar as dit beteken dat ons meer katastrofiese sukses gehad het". Watter soort sukses dit kan wees, of wat die implikasies vir mislukking is, bly onbeantwoord, maar dit is duidelik dat Palantir se CTO praat met 'n waagkapitaallogika in gedagte. En, volgens 'n onlangse VSA Verdedigingsinnovasieraad se verslag, blyk dit die regering is gereed om meer risiko te aanvaar en topdekking vir sulke "mavericks" te bied.

Die 'krisis'-narratief

Behalwe om nuwe ondernemings met 'n hoë potensiaal te kweek, is daar 'n aantal maniere om die verdedigingsektor te buig vir die behoeftes van Silicon Valley-kontrakteurs en hul VC-ondersteuners. Die krag van narratiewe gaan ook hier ver. Waagkapitaalbestuurders en hul beginners skryf dikwels hoëprofiel-op-eds waarin die swak toestand van (VSA) verdediging word betreur, waarin die behoefte aan versnelde innovasie beklemtoon word, en waarin die moontlikheid dat die VSA "baie waarskynlik" in "'n driefrontoorlog met China, Rusland en Iran" gewikkel kan raak, is opgetower het. Kortom, 'n verhaal van dringendheid word gespin wat help om daardie maatskappye te valoriseer wat gesien word om die dreigende krisis aan te spreek.

'n Tweede pilaar in die strukturele hersiening van verdediging is om 'n ingewikkelde netwerk van voormalige staatswerknemers in diens te neem wat óf as lobbyiste óf as adviseurs met noue bande met die regering dien.

Voormalige Republikeinse kongreslid Mike Gallagher, het byvoorbeeld in Augustus 2024 Palantir se hoof van verdedigingsoperasies en voormalige nasionale veiligheidsadviseur geword HR McMaster is nou senior adviseur vir Shield Capital. Daar is nog baie meer sulke "Draaideur” oomblikke waarin geloofwaardige kenners hul gesag aan die nuwe beginners verleen. Die militêre tegnologie-opstarttoneel, soos die meeste Silicon Valley-skeppings, het 'n sekere reputasiekas en die geld is ook aantreklik.

Anduril, nadat hy by Palantir geleer het, het 'n rits lobbyiste in die eerste week, spandeer meer geld op "prokureurs en lobbyiste as ingenieurs” soos Luckey opgemerk het in 'n onlangse onderhoud met The Economist.

Hiermee neem Anduril 'n relatief tradisionele manier aan om die verdediginglandskap te vorm, wat ook aangewend word deur hoofverdedigingskontrakteurs wat, soos die Anduril erken in 'n 2022 blogpos, 'n aansporing “om swaar aan spanne regsgeleerdes en lobbyiste te bestee om programvereistes te vorm in ooreenstemming met die maatskappy se bestaande tegnologie”.

Anduril, en sy ondersteuners, doen nou dieselfde, aangepas vir hul eie reeks tegnologieë. Die prokureurs word dikwels aangewend om nie net toesig te hou oor samesmeltings, verkrygings en vennootskappe nie, maar ook as 'n manier om die wet as 'n instrument te gebruik om hervorming af te dwing.

Die primêre doel van die SpaceX- en Palantir-regsgedinge teen die Amerikaanse weermag en lugmag wat ek vroeër genoem het, was nie noodwendig om te wen nie (Space X-regsgeding was nie suksesvol nie, was Palantir s'n), maar om oop ruimte te soek vir verkrygingshersiening en beide regsgedinge het net dit bereik .

’n Strategie om ’n gevoel van dringendheid te skep, verdubbeling met lobbyiste en die skep van die strukturele moontlikheid vir ’n verdediging-opknapping is nou goed op dreef. Om duidelik te wees, ek voer nie aan dat die verdedigingsektor nie by modernisering of herstrukturering baat sal vind nie. Ek argumenteer ook nie dat alle militêre opstartprodukte irrelevant of onvolhoubaar is nie. Ek probeer ook nie die prime teen die nuwe waagkapitaaldinamika en hul fokus op groei stel nie.

Maar wat ek dink die moeite werd is om te ondersoek, is die dinamika wat met hierdie nuwe maatskappye speel en hul implisiete prioriteite en belange, want hulle sal praktyke en prioriteite vorm. En waar ontwrigting by die werk is, is 'n mate van breek te verwagte. En dit neem 'n ander toon aan in sake van lewe en dood.

Ontwrigting puin

Die ontwrigting van die verdedigingsektor is goed op dreef en pogings om dit in die beeld van Silicon Valley te vorm het die afgelope jare vrugte afgewerp met 'n aantal konkrete resultate. Die JADC2-program wat vroeër genoem is, is een. Ander is duidelik in programme soos die Amerikaanse departement van verdediging s'n Replikator-inisiatief, wat die doelwitte, tydlyne en produkte insluit wat Silicon Valley militêre opstartings te bied het.

Hoë vlak verdedigingsbeamptes herhaal die gesprekspunte van die waagkapitaalbedryf en verskeie verkrygingsprogramme aangepas het om te akkommodeer die spoed en skaal wat nodig is. Hierdie maatskappye het die oor van beleidmakers en die eise vir 'n kwasi-geestelike "Verdedigingshervorming” vind 'n groeiende gehoor.

So wat is die moontlike gevolge?

Toe Uber die private vervoerbedryf ontwrig het, het hy 'n reeks van arbeidswette geërodeer, werkersregte en gesondheidsorgvoorsiening vir bestuurders. Toe AirBnB die akkommodasiebedryf geruk het, het dit tot gevolg gehad verhoogde huurpryse in gewilde toeristebestemmings. Wanneer jy ’n monopolie probeer skep, is daar altyd sosiale en politieke gevolge. Dikwels is hierdie gevolge voorsienbaar, soms is dit nie.

Die ontwrigting van die verdedigingsverkrygingsproses kom ten minste ten koste van groter toesig oor die verkrygingsproses. Die tegnologiesektor is nie bekend vir sy waardering vir regulatoriese grense nie. Inteendeel. Sommige van die mees prominente befondsers van die nuwe militêre opstartlandskap is mees vokale gekant aan enige tipe regulasie.

VC-swaargewig Marc Andreessen, byvoorbeeld, het beroemd geskryf 'n Techno-Optimist-manifes waarin hy risikobestuur, vertroue en veiligheidsmaatreëls en die voorsorgbeginsels as “die vyand” noem.

Minder regulering beteken minder toesig en aanspreeklikheid, nie net in besteding nie, maar ook in hoe en waar sekere tegnologieë gebruik word en met watter uitwerking. Soveel is duidelik.

Maar daar is baie ander hoogs aanneemlike gevolge wat ons kan voorsien met die versnelde verkryging en uitrol van militêre tegnologieë vir die geveg. Een daarvan is die herfokus op risiko en eksperimentering.

Die huidige oes van militêre opstarttegnologieë, soos KI-geaktiveerde hommeltuie en KI-besluitondersteuningstelsels, word regstreeks en tydens voortdurende konflikte getoets en verbeter, soos in die Rusland-Oekraïne-oorlog, maar ook in Gasa. Dit is 'n vorm van prototyping wat al hoe meer prominent word en wat 'n aktiewe slagveld nodig het vir effektiewe toetsing, iterasie en optimalisering van die tegnologieë.

Dit beteken ook dat dit moontlik is dat tegnologieë aangebied sal word wat nie geskik is vir die doel nie, net om dit te toets en te verbeter soos jy aangaan. Dit normaliseer, indien nie bevorder nie, die bekendstelling en verkoop van gebrekkige en moontlik onvoldoende KI-produkte, wat onvermydelik skade sal veroorsaak aan onskuldige burgerlikes wat in die visier van konflik vasgevang is.

Ons kan dit nou waarneem met die druk van tegnologiemaatskappye om hul groot taalmodelle aan militêre organisasies te verkoop. Scale AI het byvoorbeeld met Meta saamgespan om 'n LLM-produk te verkoop, Verdediging Lama, vir verdedigingsdoeleindes. Die maatskappy sê dat menslike betrokkenheid “absoluut noodsaaklik” is vir die stelsel.

Maar gegewe die welbekende feit dat LLM's geneig is tot wat bekend staan ​​as hallusinasies, is die kanse dat sulke tegnologieë presies sal werk soos geadverteer skraal vir 'n konteks so kompleks en dinamies soos oorlogvoering. Dit kan skade veroorsaak aan diegene wat in die middel van hierdie eksperimentering, fyninstelling en lewendige toetsing gevang word. Dit is 'n groot bekommernis dat die tegnologie dalk nie geskik is vir die onverwagte, vir die minder berekenbare of minder voorsienbare elemente in oorlogvoering nie. Dit sluit moontlike opkomende terreurbedreigings of skuiwe deur daardie state in wat dikwels as irrasioneel beskou word; soos byvoorbeeld Noord-Korea.

Anduril HUB, Luckey, het soveel erken in die onderhoud waarmee ek geopen het. Hy het erken dat die logika waarop sy wapens gebou is uitmekaar val met potensiële vyande wat die spel se teoretiese benadering vermy waarop baie van die KI-logika vir verdediging berus: "Dit is baie moeilik om betrokke te raak by spelteorie met mense wat die nie-spel nastreef. teorie optimale strategie ... Dit is soos om monopolie te speel met die persoon wat gaan uitval en al hul geld aan iemand anders gee.” 'n Ernstige beperking vir iets so deurspek met toeval as oorlogvoering.

Daar is ook tweede- en derdeorde-effekte wat voortspruit uit hierdie verskuiwing na waagkapitaallogika. Deur 'n dreigende bedreiging op te tower, kan die breër globale risiko- en sekuriteitslandskap verander; deur wapentegnologie te prioritiseer, kan befondsing vir ander maniere om konflik aan te spreek ingekort word, deur 'n toenemende bedrag te wy aan tegnologieë wat ongetoets bly en wat dalk nie permanensie het nie, kan aansienlike bedrae geld wat beter elders toegewys word, vermors word.

Maar dit is 'n land van skyn en eenhorings, waar sulke oorwegings so spekulatief is soos die veelbesproke beloftes van KI-wapens as die verdedigers van demokrasie.

In Silicon Valley impliseer die "beweeg vinnig en breek dinge" leuse dat probleme wat ontstaan ​​in die uitrol van die tegnologie altyd later aangespreek en opgelos kan word. In die wêreld van verdediging en oorlog kan die skade wat deur hierdie soort risikoneming veroorsaak word nie so maklik ongedaan gemaak word nie.

Die gesprek het die punte wat in hierdie artikel geopper is, aan die genoemde tegnologie- en waagkapitaalfirmas gestel. Hulle het nie op ons versoek om kommentaar gereageer nie.

Elke Schwarz, Leser in Politieke Teorie, Queen Mary University of London

Hierdie artikel is gepubliseer vanaf Die gesprek onder 'n Creative Commons lisensie. Lees die oorspronklike artikel.

Verwante Boeke:

Oor tirannie: Twintig lesse uit die twintigste eeu

deur Timothy Snyder

Hierdie boek bied lesse uit die geskiedenis vir die behoud en verdediging van demokrasie, insluitend die belangrikheid van instellings, die rol van individuele burgers en die gevare van outoritarisme.

Klik vir meer inligting of om te bestel

Ons tyd is nou: krag, doel en die stryd vir 'n regverdige Amerika

deur Stacey Abrams

Die skrywer, ’n politikus en aktivis, deel haar visie vir ’n meer inklusiewe en regverdige demokrasie en bied praktiese strategieë vir politieke betrokkenheid en kiesersmobilisering.

Klik vir meer inligting of om te bestel

Hoe Demokrasieë sterf

deur Steven Levitsky en Daniel Ziblatt

Hierdie boek ondersoek die waarskuwingstekens en oorsake van demokratiese ineenstorting, en maak gebruik van gevallestudies van regoor die wêreld om insigte te bied oor hoe om demokrasie te beskerm.

Klik vir meer inligting of om te bestel

Die mense, No: 'n Kort geskiedenis van anti-populisme

deur Thomas Frank

Die skrywer bied 'n geskiedenis van populistiese bewegings in die Verenigde State en lewer kritiek op die "anti-populistiese" ideologie wat volgens hom demokratiese hervorming en vooruitgang gesmoor het.

Klik vir meer inligting of om te bestel

Demokrasie in een boek of minder: hoe dit werk, hoekom dit nie werk nie en hoekom dit makliker is as wat jy dink

deur David Litt

Hierdie boek bied 'n oorsig van demokrasie, insluitend sy sterk- en swakpunte, en stel hervormings voor om die stelsel meer responsief en verantwoordbaar te maak.

Klik vir meer inligting of om te bestel

Artikelopsomming:

Silicon Valley se waagkapitaliste dryf militêre KI-innovasie aan terwyl hulle hul ontwrigtende etos na demokratiese prosesse uitbrei. Die verdedigingsindustrie, wat lank weerstand bied teen verandering, is nou aan die genade van ondernemings wat deur ondernemings ondersteun word, wat doeltreffendheid beloof, maar chaos waag. Hierdie selfde strewe na ontwrigting het verkiesingsinmenging aangevuur, swak regulatoriese toesig uitgebuit en wins bo openbare goed geprioritiseer. Met militêre stelsels wat toenemend gevorm word deur ongetoetste KI en demokrasie wat deur korporatiewe ambisies ondermyn word, was die belange nog nooit hoër nie.

hashtags:
#SiliconValley #ElectionInterference #MilitaryAI #TechRisks #DemocracyUnderThreat