Algoritmenes krig

Når det kommer til bruk av kunstig intelligens i militæret, våkner marerittet med science fiction umiddelbart, en opprørsk og dødelig AI som reiser seg mot menneskeheten for å ødelegge den. Dessverre er frykten til militæret og ledere for at «fienden skal ta igjen oss» like sterk i utviklingen av krigføringsalgoritmer.

Algoritmisk krigføringsom ifølge mange fundamentalt kan endre ansiktet til slagmarken slik vi kjenner den, hovedsakelig fordi krigføring ville være raskere, langt foran folks evne til å ta beslutninger. Amerikansk general Jack Shanahan (1), leder av US Joint Center for Artificial Intelligence, understreker imidlertid at før vi introduserer kunstig intelligens i arsenaler, må vi sikre at disse systemene fortsatt er under menneskelig kontroll og ikke vil starte kriger på egen hånd.

"Hvis fienden har maskiner og algoritmer, vil vi tape denne konflikten"

Kjøreevne algoritmisk krigføring er basert på bruk av fremskritt innen datateknologi på tre hovedområder. Den første tiår med eksponentiell vekst i datakraftdette har forbedret ytelsen til maskinlæring betraktelig. Sekund rask vekst av ressurser "Big data", det vil si enorme, vanligvis automatiserte, administrerte og kontinuerlig opprettede datasett egnet for maskinlæring. Det tredje gjelder rask utvikling av cloud computing-teknologier, der datamaskiner enkelt kan få tilgang til dataressurser og behandle dem for å løse problemer.

Krigsalgoritmesom definert av ekspertene, må det først uttrykkes med datakode. For det andre må det være et resultat av en plattform som er i stand til både å samle informasjon og ta valg, ta beslutninger som i hvert fall i teorien ikke krever menneskelig inngripen. For det tredje, noe som virker åpenbart, men ikke nødvendigvis slik, for det er først i aksjon at det blir klart om en teknikk beregnet på noe annet kan være nyttig i krig og omvendt, den må kunne fungere under forhold. væpnet konflikt.

En analyse av de ovennevnte retningene og deres interaksjon viser det algoritmisk krigføring det er ikke en egen teknologi som f.eks. energi våpen eller hypersoniske missiler. Effektene er omfattende og blir gradvis allestedsnærværende i fiendtligheter. For første gang militære kjøretøy de blir intelligente, noe som potensielt gjør forsvarsstyrkene som implementerer dem mer effektive og effektive. Slike intelligente maskiner har klare begrensninger som må forstås godt.

"" sa Shanahan i fjor høst i et intervju med tidligere Google-sjef Eric Schmidt og Googles visepresident for internasjonale anliggender Kent Walker. "".

Det amerikanske nasjonale sikkerhetsrådets utkast til rapport om AI viser til Kina mer enn 50 ganger, og fremhever Kinas offisielle mål om å bli verdensledende innen AI innen 2030 (se også: ).

Disse ordene ble uttalt i Washington på en spesiell konferanse som fant sted etter at det nevnte Shanakhan-senteret presenterte sin foreløpige rapport for kongressen, utarbeidet i samarbeid med anerkjente eksperter innen kunstig intelligens, inkludert Microsofts forskningsdirektør Eric Horwitz, AWS-sjef Andy Jassa og Google Cloud-rektor Andrew Moore. Den endelige rapporten vil bli publisert i oktober 2020.

Google-ansatte protesterer

For noen år siden ble Pentagon involvert. algoritmisk krigføring og en rekke AI-relaterte prosjekter under Maven-prosjektet, basert på samarbeid med teknologiselskaper, inkludert Google og startups som Clarifai. Det handlet i hovedsak om å jobbe videre kunstig intelligensfor å lette identifiseringen av objekter på.

Da det ble kjent om Googles deltakelse i prosjektet våren 2018, signerte tusenvis av ansatte i Mountain View-giganten et åpent brev som protesterte mot selskapets deltakelse i fiendtligheter. Etter måneder med arbeidsuro Google har vedtatt sitt eget sett med regler for AIsom inkluderer forbud mot deltakelse i arrangementer.

Google har også forpliktet seg til å fullføre Project Maven-kontrakten innen utgangen av 2019. Googles exit avsluttet ikke Project Maven. Den ble kjøpt av Peter Thiels Palantir. Luftforsvaret og US Marine Corps planlegger å bruke spesielle ubemannede luftfartøyer, som Global Hawk, som en del av Maven-prosjektet, som hver skal visuelt overvåke opptil 100 kvadratkilometer.

I anledning det som skjer rundt Project Maven ble det klart at det amerikanske militæret har akutt behov for en egen sky. Dette sa Shanahan under konferansen. Dette var tydelig da videoopptak og systemoppdateringer måtte fraktes til militære installasjoner spredt over feltet. I bygningen enhetlig cloud computing, som vil bidra til å løse problemer av denne typen, som en del av et samlet IT-infrastrukturprosjekt for Jedi-hæren, Microsoft, Amazon, Oracle og IBM. Google er ikke på grunn av deres etiske retningslinjer.

Det er tydelig fra Shanahans uttalelse at den store AI-revolusjonen i militæret bare så vidt begynner. Og senterets rolle i USAs væpnede styrker vokser. Dette er tydelig sett i det estimerte JAIC-budsjettet. I 2019 utgjorde det i underkant av 90 millioner dollar. I 2020 skulle det allerede være $414 millioner, eller omtrent 10 prosent av Pentagons $4 milliarder AI-budsjett.

Maskinen gjenkjenner en overgitt soldat

Amerikanske tropper er allerede utstyrt med systemer som Phalanx (2), som er en type autonome våpen som brukes på amerikanske marineskip for å angripe innkommende missiler. Når et missil blir oppdaget, slår det seg på automatisk og ødelegger alt i veien. Ifølge Ford kan han angripe med fire eller fem missiler på et halvt sekund uten å måtte gå gjennom og se på hvert mål.

Et annet eksempel er den semi-autonome Harpy (3), et kommersielt ubemannet system. Harpyen brukes til å ødelegge fiendens radarer. For eksempel, i 2003, da USA satte i gang et angrep på Irak som hadde luftbårne radaravlyttingssystemer, hjalp israelskproduserte droner med å finne og ødelegge dem slik at amerikanerne trygt kunne fly inn i irakisk luftrom.

3. Lansering av dronen til IAI Harpy-systemet

Et annet kjent eksempel på autonome våpen er Koreansk Samsung SGR-1-system, som ligger i den demilitariserte sonen mellom Nord- og Sør-Korea, designet for å identifisere og avfyre ​​inntrengere i en avstand på opptil fire kilometer. Ifølge beskrivelsen kan systemet «skille mellom en person som overgir seg og en person som ikke gir seg» ut fra hendenes plassering eller anerkjennelse av våpenets plassering i hendene.

4. Demonstrasjon av oppdagelsen av en overgivende soldat ved hjelp av Samsung SGR-1-systemet

Amerikanerne er redde for å bli etterlatt

For tiden bruker minst 30 land rundt om i verden automatiske våpen med ulike nivåer av utvikling og bruk av AI. Kina, Russland og USA ser på kunstig intelligens som et uunnværlig element i å bygge sin fremtidige posisjon i verden. "Den som vinner AI-løpet vil styre verden," sa Russlands president Vladimir Putin til studenter i august 2017. Presidenten for Folkerepublikken Kina, Xi Jinping, har ikke kommet med så høyprofilerte uttalelser i media, men han er hoveddriveren for direktivet som krever at Kina skal bli den dominerende kraften innen AI innen 2030.

Det er økende bekymring i USA for «satellitteffekten», som har vist at USA er ekstremt dårlig rustet til å møte de nye utfordringene kunstig intelligens utgjør. Og dette kan være farlig for freden, om ikke annet fordi landet truet av dominans kan ønske å eliminere fiendens strategiske fordel på en annen måte, det vil si ved krig.

Selv om det opprinnelige formålet med Maven-prosjektet var å hjelpe til med å finne islamske ISIS-krigere, er dets betydning for videreutviklingen av militære kunstige intelligenssystemer enorm. Elektronisk krigføring basert på opptakere, monitorer og sensorer (inkludert mobil, flyging) er assosiert med et stort antall heterogene datastrømmer, som bare kan brukes effektivt ved hjelp av AI-algoritmer.

Den hybride slagmarken har blitt militær versjon av IoT, rik på viktig informasjon for å vurdere taktiske og strategiske trusler og muligheter. Å kunne administrere disse dataene i sanntid har store fordeler, men det kan være katastrofalt å ikke lære av denne informasjonen. Evnen til raskt å behandle informasjonsflyten fra ulike plattformer som opererer i flere områder gir to store militære fordeler: fart i tilgjengelighet. Kunstig intelligens lar deg analysere de dynamiske forholdene på slagmarken i sanntid og slå raskt og optimalt, samtidig som du minimerer risikoen for dine egne styrker.

Denne nye slagmarken er også allestedsnærværende og. AI er kjernen i de såkalte dronesvermene, som har fått mye oppmerksomhet de siste årene. Ved hjelp av allestedsnærværende sensorer lar droner ikke bare navigere i fiendtlig terreng, men kan til slutt tillate dannelsen av komplekse formasjoner av ulike typer ubemannede luftfartøyer som opererer i mange områder, med tilleggsvåpen som tillater sofistikert kamptaktikk, umiddelbart tilpasse seg fiende. manøvrer for å dra nytte av slagmarken og rapportere endrede forhold.

Fremskritt innen AI-assistert målretting og navigasjon forbedrer også mulighetene for effektivitet i et bredt spekter av taktiske og strategiske forsvarssystemer, spesielt missilforsvar, ved å forbedre metodene for å oppdage, spore og identifisere mål.

øker stadig kraften til simuleringer og spillverktøy som brukes til å forske på atomvåpen og konvensjonelle våpen. Massemodellering og simulering vil være avgjørende for å utvikle et omfattende flerdomenesystem av målsystemer for kampkontroll og komplekse oppdrag. AI beriker også interaksjoner med flere parter (5). AI lar spillere legge til og modifisere spillvariabler for å utforske hvordan dynamiske forhold (våpen, alliert involvering, flere tropper osv.) kan påvirke ytelse og beslutningstaking.

For militæret er objektidentifikasjon et naturlig utgangspunkt for AI. For det første er det nødvendig med en omfattende og rask analyse av det økende antallet bilder og informasjon samlet inn fra satellitter og droner for å finne gjenstander av militær betydning, som missiler, troppebevegelser og andre etterretningsrelaterte data. I dag spenner slagmarken over alle landskap – hav, land, luft, rom og cyberspace – på global skala.

Cyberspacesom et iboende digitalt domene er det naturligvis egnet for AI-applikasjoner. På den offensive siden kan AI hjelpe med å finne og målrette mot individuelle nettverksnoder eller individuelle kontoer for å samle inn, forstyrre eller feilinformere. Cyberangrep på intern infrastruktur og kommandonettverk kan være katastrofale. Når det gjelder forsvar, kan AI hjelpe med å oppdage slike inntrengninger og finne destruktive anomalier i sivile og militære operativsystemer.

Forventet og farlig fart

Imidlertid kan rask beslutningstaking og rask utførelse ikke tjene deg godt. for effektiv krisehåndtering. Fordelene med kunstig intelligens og autonome systemer på slagmarken gir kanskje ikke tid til diplomati, som, som vi vet fra historien, ofte har vært vellykket som et middel til å forhindre eller håndtere en krise. I praksis kan nedbremsing, pause og tid til å forhandle være nøkkelen til seier, eller i det minste å avverge katastrofe, spesielt når atomvåpen står på spill.

Beslutninger om krig og fred kan ikke overlates til prediktiv analyse. Det er grunnleggende forskjeller i hvordan data brukes til vitenskapelige, økonomiske, logistiske og prediktive formål. menneskelig oppførsel.

Noen kan oppfatte AI som en styrke som svekker gjensidig strategisk følsomhet og dermed øker risikoen for krig. Utilsiktet eller med vilje ødelagte data kan føre til at AI-systemer utfører utilsiktede handlinger, for eksempel feilidentifisering og målretting mot feil mål. Handlingshastigheten som er postulert i tilfelle utviklingen av krigsalgoritmer kan bety for tidlig eller til og med unødvendig eskalering som hindrer en rasjonell håndtering av krisen. På den annen side vil algoritmer heller ikke vente og forklare, fordi de også forventes å være raske.

Foruroligende aspekt funksjonen til algoritmer for kunstig intelligens også presentert av oss nylig i MT. Selv eksperter vet ikke nøyaktig hvordan AI fører til resultatene vi ser i utdataene.

Når det gjelder krigsalgoritmer, har vi ikke råd til slik uvitenhet om naturen og hvordan de "tenker" dem. Vi ønsker ikke å våkne opp midt på natten til atombluss fordi «vår» eller «deres» kunstige intelligens har bestemt at det er på tide å endelig avgjøre kampen.