Skrekkens kabinett

Fremveksten av maskinene og maktovertakelsen av kunstig intelligens. En verden av total overvåking og sosial kontroll. Atomkrig og sivilisasjonens degenerering. Mange mørke fremtidsvisjoner, tegnet for mange år siden, skulle ha skjedd i dag. Og i mellomtiden ser vi tilbake og det ser ut til at de ikke var der. Er du sikker?

Det er et ganske stereotypt repertoar av populært dystopiske profetier (om fremtidens svarte visjon). I tillegg til de vanligste knyttet til ødeleggelse av naturmiljøet og ressursene, er det en utbredt oppfatning at de nyeste teknologiene skader mellommenneskelig kommunikasjon, relasjoner og samfunn.

Virtuelt rom vil villedende erstatte reell deltakelse i verden. Andre dystopiske synspunkter ser på teknologisk utvikling som en måte å øke sosial ulikhet, konsentrere makt og rikdom i hendene på små grupper. De høye kravene til moderne teknologi konsentrerer kunnskap og ferdigheter i trange sirkler av privilegerte individer, øker overvåkingen av mennesker og ødelegger personvernet.

I følge mange fremtidsforskere kan høyere produktivitet og større synlige valg skade livskvaliteten ved å forårsake stress, sette jobber i fare og gjøre oss stadig mer materialistiske om verden.

En av de kjente teknologiske "dystopiene", James Gleick, gir et tilsynelatende trivielt eksempel på en TV-fjernkontroll som en klassisk oppfinnelse som ikke løser et eneste vesentlig problem, og gir opphav til mange nye. Gleick, siterer en teknisk historiker Edward Tenner, skriver at muligheten og enkeltheten til å bytte kanal ved hjelp av fjernkontrollen først og fremst tjener til å distrahere seeren mer og mer.

I stedet for tilfredshet, blir folk stadig mer misfornøyde med kanalene de ser på. I stedet for å tilfredsstille behov, er det en følelse av uendelig skuffelse.

Vil biler holde oss på reservasjoner?

Vil vi være i stand til å kontrollere denne tingen som er uunngåelig og sannsynligvis kommer snart? Over kunstig intelligens? Hvis dette skal være tilfelle, som mange dystopiske visjoner forkynner, så nei. (1).

Det er vanskelig å kontrollere noe som er mange ganger sterkere enn oss. med en økning i antall oppgaver. For tjue år siden ville ingen ha trodd at de kunne lese følelser i en persons stemme og møte mye mer nøyaktig enn vi kan gjøre det selv. I mellomtiden er de nåværende trente algoritmene allerede i stand til å gjøre dette, analysere ansiktsuttrykk, klang og måten vi snakker på.

Datamaskiner tegner bilder, komponerer musikk, og en av dem vant til og med en poesikonkurranse i Japan. De har slått folk i sjakk i lang tid, og lært spillet fra bunnen av. Det samme gjelder det mye mer komplekse spillet Go.

den adlyder lovene for stadig raskere akselerasjon. Det AI har oppnådd – ved hjelp av mennesker – i løpet av de siste tiårene vil dobles i løpet av de neste årene, kanskje bare måneder, og så vil det ta bare uker, dager, sekunder...

Som det viste seg nylig, kan algoritmene som brukes i smarttelefoner eller på flyplasser for å analysere bilder fra allestedsnærværende kameraer, ikke bare gjenkjenne noen i forskjellige rammer, men også bestemme utelukkende intime psykologiske egenskaper. Å si at dette er en stor personvernrisiko er som å ikke si noe. Dette handler ikke om enkel overvåking, å se hvert trinn, men om informasjon som oppstår som et resultat av selve utseendet til en person, om hans skjulte ønsker og personlige preferanser. 

Algoritmer kan lære dette relativt raskt ved å analysere hundretusenvis av tilfeller, som er langt mer enn selv den mest kloke personen kan se i løpet av livet. Bevæpnet med et vell av erfaring er de i stand til å skanne en person mer nøyaktig enn selv den mest erfarne psykolog, kroppsspråk og gestanalytiker.

Så den virkelige avkjølende dystopien er ikke at datamaskiner spiller sjakk eller går mot oss, men at de kan se sjelen vår dypere enn noen andre enn oss selv, fulle av forbud og blokkeringer i å gjenkjenne disse eller andre tilbøyeligheter.

Elon Musk mener at når AI-systemer begynner å lære og resonnere i stadig økende skala, kan "intelligens" utvikle seg et sted dypt i nettlag, umerkelig for oss.

Ifølge en amerikansk studie publisert i 2016 har kunstig intelligens i løpet av de neste 45 årene 50 prosent sjanse til å overgå mennesker i alle oppgaver. Prognosemakere sier at ja, AI vil løse problemet med kreft, forbedre og øke hastigheten på økonomien, gi underholdning, forbedre kvaliteten og varigheten av livet, utdanne oss slik at vi ikke kan leve uten det, men det er mulig at en dag, uten hat, bare for basert på logisk beregning, fjerner det oss bare. Kanskje det ikke vil fungere fysisk, for i hvert system er det verdt å lagre, arkivere og lagre ressurser som "kan komme godt med en dag". Ja, dette er ressursen vi kan være for AI. Beskyttet arbeidskraft?

Optimister trøster seg med at det alltid er mulighet for å trekke støpselet ut av stikkontakten. Alt er imidlertid ikke så enkelt. Allerede har menneskelivet blitt så avhengig av datamaskiner at et radikalt skritt mot dem ville være en katastrofe for oss.

Vi lager tross alt i økende grad AI-baserte beslutningssystemer, og gir dem rett til å fly fly, sette renter, drive kraftverk – vi vet at algoritmer vil gjøre det mye bedre enn oss. Samtidig forstår vi ikke helt hvordan disse digitale beslutningene tas.

Det er frykt for at superintelligente kommandosystemer som "Reducer Congestion" kan få dem til å konkludere med at den eneste effektive måten å få jobben gjort på er å ... redusere befolkningen med en tredjedel eller til og med halvparten.

Ja, det er verdt å gi maskinen den viktigste instruksjonen som "Først av alt, redd et menneskeliv!". Men hvem vet om da digital logikk vil føre til fengsling av menneskeheten eller under låven, hvor vi kan være trygge, men absolutt ikke frie.

Nettkriminalitet som en tjeneste

Tidligere ble dystopier og bilder av den postapokalyptiske verden i litteratur og film vanligvis satt i post-atomæra. I dag ser ikke kjernefysisk utslettelse ut til å være nødvendig for katastrofen og ødeleggelsen av verden slik vi kjenner den, selv om det ikke er slik vi forestiller oss det. , er det usannsynlig å ødelegge verden som i "Terminator", hvor det ble kombinert med atomutslettelse. Hvis hun gjorde det, ville hun ikke vært en superintelligens, men en primitiv kraft. Tross alt har selv menneskeheten ennå ikke innsett det globale scenariet med en ødeleggende atomkonflikt.

En ekte maskinapokalypse kan være mye mindre imponerende.

Cyber ​​​​krigføring, virusangrep, systemhacking og løsepengevare, løsepengevare (2) lammer og ødelegger verden vår ikke mindre effektivt enn bomber. Hvis omfanget deres utvider seg, kan vi gå inn i en fase med all-out krig der vi vil bli ofre og gisler for maskiner, selv om de ikke er pålagt å handle autonomt, og det er mulig at folk fortsatt vil stå bak alt.

I fjor sommer utpekte U.S.A. Cyber ​​​​Security and Infrastructure Security Agency (CISA) løsepengevareangrep "den mest synlige cybersikkerhetstrusselen."

CISA hevder at mange aktiviteter der en nettkriminell avskjærer og krypterer en persons eller organisasjons data og deretter utpresser løsepenger, aldri rapporteres fordi offeret betaler nettkriminelle og ikke er villig til å offentliggjøre problemer med deres usikre systemer. På mikronivå retter nettkriminelle seg ofte mot eldre mennesker som har problemer med å skille mellom ærlig og uærlig innhold på Internett. De gjør dette med skadelig programvare innebygd i et e-postvedlegg eller en pop-up på et infisert nettsted. Samtidig øker angrepene på store selskaper, sykehus, offentlige etater og myndigheter.

Sistnevnte ble spesielt målrettet på grunn av de sensitive dataene de hadde og muligheten til å betale store løsepenger.

Noen opplysninger, som helseopplysninger, er mye mer verdifulle for eieren enn andre og kan tjene kriminelle mer penger. Tyver kan fange opp eller sette store blokker med kliniske data i karantene som er viktige for pasientbehandlingen, for eksempel testresultater eller legemiddelinformasjon. Når livet står på spill, er det ikke rom for forhandlinger på sykehuset. Et av de amerikanske sykehusene ble stengt permanent i november i fjor etter terrorangrepet i august.

Det vil nok bare bli verre over tid. I 2017 kunngjorde det amerikanske departementet for hjemmesikkerhet at nettangrep kan være rettet mot kritisk infrastruktur som vannforsyninger. Og verktøyene som trengs for å utføre slike handlinger er i økende grad tilgjengelig for mindre operatører, som de selger løsepengepakker som Cerber og Petya-programvare til og krever løsepenger etter vellykkede angrep. Basert på nettkriminalitet som en tjeneste.

Farlig forstyrrelse i genomet

Et av de populære temaene for dystopi er genetikk, DNA-manipulasjon og avl av mennesker - i tillegg "programmert" på riktig måte (myndigheter, selskaper, militære).

Den moderne legemliggjørelsen av disse angstene er en metode for popularisering CRISPR-genredigering (3). Mekanismene den inneholder er først og fremst bekymringsfulle. fremtvinge ønskede funksjoner i påfølgende generasjoner og deres potensial spres til hele befolkningen. En av oppfinnerne av denne teknikken, Jennifer Doudna, til og med nylig ba om et moratorium for slike "kimlinje"-redigeringsteknikker på grunn av potensielt katastrofale konsekvenser.

Husk at for noen måneder siden, en kinesisk vitenskapsmann På Jiankui har blitt mye kritisert for å redigere genene til menneskelige embryoer for å immunisere dem mot AIDS-viruset. Årsaken var at endringene han gjorde kunne gå i arv fra generasjon til generasjon med uforutsigbare konsekvenser.

Spesielt bekymrende er den såkalte d (genomskriving, gendrift), dvs. en genetisk konstruert mekanisme som koder for et redigeringssystem i DNAet til et gitt individ CRISPR / CAS9-genomet med å sette den til å redigere denne varianten av det uønskede genet. På grunn av dette overskriver etterkommerne automatisk (uten deltakelse fra genetikere) den uønskede genvarianten med den ønskede.

Imidlertid kan en uønsket genvariant mottas av avkom "som en gave" fra en umodifisert annen forelder. Så genedrift la oss bryte Mendelske lover om arvsom sier at halvparten av de dominerende genene går til avkommet fra en forelder. Kort fortalt vil dette på sikt føre til spredning av den aktuelle genvarianten til hele befolkningen.

Biolog ved Stanford University Christina Smolke, tilbake i et panel for genteknologi i 2016, advarte om at denne mekanismen kan ha skadelige og i ekstreme tilfeller grufulle konsekvenser. Gendriften er i stand til å mutere etter hvert som den går gjennom generasjonene og forårsake genetiske lidelser som hemofili eller hemofili.

Som vi leser i en artikkel publisert i Nature Reviews av forskere ved University of California, Riverside, kan den samme arvelige egenskapen være skadelig hvis den på en eller annen måte introduseres i en annen populasjon, selv om en drift fungerer etter hensikten i en populasjon av en organisme. . samme utseende.

Det er også en fare for at forskere skaper gendrev bak lukkede dører og uten fagfellevurdering. Hvis noen med vilje eller utilsiktet introduserer en skadelig gendrift i det menneskelige genomet, for eksempel en som ødelegger vår motstand mot influensa, kan det til og med bety slutten for homo sapiens-arten...

Overvåkingskapitalisme

En versjon av dystopi som tidligere science fiction-forfattere knapt kunne ha forestilt seg er virkeligheten til Internett, og spesielt sosiale medier, med alle dets vidt beskrevne konsekvenser som ødelegger folks privatliv, relasjoner og psykologiske integritet.

Denne verden er kun malt i nyere kunstforestillinger, som det vi kunne se i Black Mirror-serien i 2016-episoden «The Diving» (4). Shoshana Zuboff, en Harvard-økonom, kaller denne virkeligheten fullstendig avhengig av sosial selvbekreftelse og fullstendig "deprivatisert". overvåkingskapitalisme (), og samtidig kronen på verket til Google og Facebook.

4. Scene fra "Black Mirror" - episode "Diving"

Ifølge Zuboff er Google den første oppfinneren. I tillegg utvider den stadig overvåkingsvirksomheten, for eksempel gjennom tilsynelatende uskyldige smartbyprosjekter. Et eksempel er World's Most Innovative Neighborhood-prosjektet av Sidewalk Labs, et Google-datterselskap. brygge i Toronto.

Google planlegger å samle inn alle de minste dataene om livet til innbyggerne ved vannkanten, deres bevegelser og til og med pust ved hjelp av allestedsnærværende overvåkingssensorer.

Det er også vanskelig å velge en internettdystopi som er uaktuelt på Facebook. Overvåkingskapitalismen kan ha blitt oppfunnet av Google, men det var Facebook som tok det til et helt nytt nivå. Dette ble gjort gjennom sosiale og emosjonelle virale mekanismer og hensynsløs forfølgelse av selv de som ikke er brukere av Zuckerberg-plattformen.

Bevoktet AI, nedsenket i virtuell virkelighet, lever med UBI

I følge mange fremtidsforskere er fremtiden for verden og teknologi utpekt av fem forkortelser - AI, AR, VR, BC og UBI.

Leserne av «MT» vet nok godt hva de er og hva de tre første består av. Den kjente viser seg også å være den fjerde, «BC», når vi forstår hva det handler om. Og den femte? UBD er en forkortelse av konseptet, som betyr "universell grunninntekt » (5). Dette er en offentlig fordel, postulert fra tid til annen, som vil bli gitt til hver person som frigjøres fra jobb ettersom andre teknologier utvikler seg, spesielt AI.

5. Universell grunninntekt - UBI

Sveits la til og med ideen til folkeavstemning i fjor, men innbyggerne avviste den, i frykt for at innføringen av en garantert inntekt ville føre til en flom av innvandrere. UBI bærer også med seg en rekke andre farer, inkludert risikoen for å opprettholde eksisterende sosiale ulikheter.

Hver av de teknologiske revolusjonene bak akronymet (se også:) - hvis det sprer seg og utvikler seg i forventet retning - har enorme konsekvenser for menneskeheten og vår verden, inkludert selvfølgelig en enorm dose dystopi. For eksempel antas det at det kan erstatte fireårige valgsykluser og føre til folkeavstemninger om et utall av saker.

Virtuell virkelighet er på sin side i stand til å "ekskludere" en del av menneskeheten fra den virkelige verden. Som skjedde for eksempel med koreanske Jang Ji-sun, som etter datterens død i 2016 på grunn av en dødelig sykdom, siden har møtt avataren sin i VR. Det virtuelle rommet skaper også nye typer problemer, eller overfører faktisk alle de gamle kjente problemene til den "nye" verdenen, eller til og med til mange andre verdener. Til en viss grad kan vi allerede se dette i sosiale nettverk, hvor det hender at for lite likes på innlegg fører til depresjon og selvmord.

Profetiske fortellinger mer eller mindre

Tross alt lærer historien om opprettelsen av dystopiske visjoner også forsiktighet i å formulere spådommer.

6. Forside av "Islands in the Net"

Ridley Scotts berømte sci-fi-mesterverk ble filmet i fjorandroid hunter» Siden 1982. Det er mulig å diskutere oppfyllelsen eller ikke av mange spesifikke elementer, men det er udiskutabelt at den viktigste profetien om eksistensen i vår tid av intelligente, humanoide androider, på mange måter overlegne mennesker, ennå ikke har blitt en realitet.

Vi ville være klare til å tolerere mange flere profetiske treff."Nevromansikere»dvs. romaner William Gibson siden 1984, som populariserte konseptet "cyberspace".

Men i det tiåret dukket det opp en litt mindre kjent bok (nesten fullstendig i vårt land, fordi den ikke ble oversatt til polsk), som spådde dagens tid mye mer nøyaktig. Jeg snakker om romantikkØyer på nettet"(6) Bruce Sterling siden 1988, satt i 2023. Den presenterer en verden fordypet i det som ligner på Internett, kjent som "nettet". Det kontrolleres av store internasjonale selskaper. "Øyer på nettet" er kjent for å gi kontroll, overvåking og monopolisering av det angivelig gratis Internett.

Det er også interessant å forutse militære operasjoner utført ved bruk av ubemannede luftfartøyer (droner) mot nettpirater/terrorister. Operatører tusenvis av mil unna med sikre stasjonære datamaskiner – hvordan vet vi det? Boken handler ikke om den endeløse konflikten med islamsk terrorisme, men om kampen mot kreftene som motarbeider globaliseringen. Verdenen til Islands in the Net er også fylt med forbrukerenheter som ligner mye på smartklokker og smarte sportssko.

Det er en annen bok fra 80-tallet som, selv om noen av hendelsene virker mer fantastiske, gjør en god jobb med å illustrere vår moderne dystopiske frykt. denne "Georadar programvare", Historie Rudy Rookersatt i 2020. Verden, samfunnets tilstand og dens konflikter virker utrolig lik det vi har å gjøre med i dag. Det er også roboter kjent som boppere som har fått selvinnsikt og rømt til byer på månen. Dette elementet har ennå ikke materialisert seg, men maskinenes opprør blir et konstant refreng for svarte spådommer.

Vår tids visjoner i bøkene er også på mange måter slående nøyaktige. Octavia Butler, spesielt iLignelser om såmannen» (1993). Handlingen starter i 2024 i Los Angeles og finner sted i California, ødelagt av flom, stormer og tørker forårsaket av klimaendringer. Middel- og arbeiderklassefamilier møtes i inngjerdede samfunn mens de prøver å rømme omverdenen med vanedannende stoffer og virtuelle virkelighetssett. Nye religioner og konspirasjonsteorier dukker opp. Flyktningkaravanen drar nordover for å unngå økologisk og sosial kollaps. En president kommer til makten som bruker kampanjeslagordet "Make America Great Again" (dette er slagordet til Donald Trump) ...

Butlers andre bok, "Lignelsen om talenteneforteller hvordan medlemmer av en ny religiøs kult forlater jorden i et romskip for å kolonisere Alpha Centauri.

***

Hva er lærdommen av denne omfattende undersøkelsen av spådommer og visjoner gjort for flere tiår siden angående våre daglige liv?

Sannsynligvis er faktum at dystopier forekommer ofte, men oftest bare delvis.