Gabinet grozy
Istnieje dość stereotypowy repertuar popularnych proroctw dystopijnych (dotyczących czarnej wizji przyszłości). Oprócz najbardziej rozpowszechnionych, dotyczących wyniszczenia środowiska naturalnego i zasobów, często spotyka się np. przekonanie, że najnowsze techniki szkodzą komunikacji międzyludzkiej, relacjom i społeczeństwu.
Przestrzeń wirtualna oszukańczo zastąpi prawdziwe uczestnictwo w świecie. Inne dystopijne poglądy widzą w rozwoju technologicznym drogę do zwiększania nierówności społecznych, koncentracji władzy i bogactwa w rękach wąskich grup. Wysokie wymagania związane z nowoczesną techniką koncentrują wiedzę i umiejętności w wąskich kręgach jednostek uprzywilejowanych, zwiększają nadzór nad ludźmi i niszczą prywatność.
Zdaniem wielu futurystów, większa wydajność i powiększanie możliwości pozornego wyboru mogą zaszkodzić jakości życia człowieka - powodując stres, grożąc miejscom pracy, czyniąc nas osobami coraz bardziej materialistycznie nastawionymi do świata.
Jeden ze znanych "dystopistów" technologicznych, James Gleick, podaje trywialny z pozoru przykład pilota do telewizora, jako klasycznego wynalazku, który nie rozwiązuje żadnego istotnego problemu, generując wiele nowych. Gleick, cytując historyka technologii Edwarda Tennera, pisze, że możliwość i łatwość przełączania kanałów za pomocą pilota zdalnego sterowania służy przede wszystkim coraz większemu rozpraszaniu uwagi widza.
Zamiast satysfakcji ludzie są coraz bardziej niezadowoleni z oglądanych kanałów. Zamiast zaspokojenia potrzeb pojawia się poczucie niekończącej się frustracji.
Czy maszyny zamkną nas w rezerwatach?
Czy będziemy mieli kontrolę nad tym czymś, co niechybnie i pewnie niedługo powstanie? Nad sztuczną inteligencją? Jeśli ma być ona taka, jak głosi wiele dystopijnych wizji, to nie (1).
Trudno kontrolować coś, co jest od nas wielokrotnie potężniejsze. Komputery są sprawniejsze od ludzi w coraz większej liczbie zadań. Dwadzieścia lat temu nikt by nie uwierzył, że będą w stanie wyczytać emocje z głosu i twarzy człowieka dużo dokładniej, niż potrafimy to zrobić sami. Tymczasem obecnie trenowane algorytmy są już do tego zdolne, analizując mimikę, barwę głosu, sposób, w jaki mówimy.
Komputery malują obrazy, komponują utwory muzyczne, a jeden z nich zwyciężył nawet w konkursie poezji w Japonii. Od dawna wygrywają z człowiekiem w szachy i to same, ucząc się tej gry od podstaw. Podobnie dzieje się w przypadku dużo bardziej złożonej gry w Go.
Postęp w rozwoju sztucznej inteligencji podlega prawom coraz szybszego przyspieszenia. To, co AI osiągnęła - z ludzką pomocą - w ciągu ostatnich dekad, podwoi się w ciągu następnych kilku lat, a może tylko miesięcy, a potem potrzeba będzie już jedynie kilku tygodni, dni, sekund...
Jak się ostatnio okazuje, algorytmy używane w smartfonach czy na lotniskach do analizy zdjęć z wszechobecnych kamer są w stanie nie tylko rozpoznać kogoś na różnych ujęciach, lecz także ustalić niezwykle intymne cechy psychologiczne. Mówić, że to ogromne zagrożenie dla prywatności, to jak nic nie mówić. Nie chodzi bowiem o zwykłą inwigilację, obserwację na każdym kroku, ale o wynikające z samego wyglądu człowieka informacje o jego skrywanych pożądaniach i preferencjach osobistych.
Algorytmy potrafią się tego nauczyć relatywnie szybko, analizując setki tysięcy przypadków, czyli znacznie więcej niż przez całe życie może przejrzeć najbardziej nawet przenikliwy człowiek. Wyposażone w taki bagaż doświadczeń są w stanie prześwietlić człowieka trafniej niż najbardziej nawet doświadczony psycholog, analityk mowy ciała i gestu.
Zatem prawdziwie mrożąca krew w żyłach dystopia polega nie na tym, że komputery wygrywają z nami w szachy czy w Go, lecz że potrafią wejrzeć do naszej duszy wnikliwiej niż ktokolwiek, niż nawet my sami, pełni zahamowań i blokad w przyznawaniu się do takiej czy owej skłonności.
Elon Musk uważa, że w miarę jak systemy AI zaczynają się uczyć i rozumować na coraz większą skalę, "inteligencja" może rozwinąć się gdzieś głęboko w warstwach sieci, w sposób dla nas niedostrzegalny.
Według amerykańskich badań opublikowanych w 2016 r., w ciągu najbliższych 45 lat sztuczna inteligencja ma 50% szans na prześcignięcie tej ludzkiej we wszystkich zadaniach. Progności mówią, że owszem, AI rozwiąże problem raka, udoskonali i przyspieszy gospodarkę, dostarczy rozrywki, poprawi jakość i długość życia, wytrenuje nas tak, że bez niej nie będziemy potrafili żyć, ale niewykluczone, że któregoś dnia, bez nienawiści, jedynie na podstawie logicznej kalkulacji, po prostu nas usunie. Może uczyni to nie fizycznie, bo w każdym systemie warto zapisywać, archiwizować i przechowywać zasoby, które "mogą się kiedyś przydać". Tak, właśnie takim zasobem możemy się stać dla AI. Strzeżone rezerwaty dla ludzi?
Optymiści pocieszają się, że zawsze istnieje opcja wyciągnięcia wtyczki z gniazdka. Jednak to wcale nie takie proste. Już w tej chwili ludzkie życie stało się tak uzależnione od komputerów, że radykalny krok skierowany przeciwko nim byłby dla nas katastrofą.
Coraz częściej tworzymy przecież systemy decyzyjne oparte na AI, dajemy im prawo do pilotowania samolotów, ustalania stóp procentowych, zarządzania elektrowniami - wiemy bowiem, że algorytmy zrobią to dużo lepiej niż my. Jednocześnie nie do końca rozumiemy, jak te cyfrowe decyzje są podejmowane.
Pojawiają się obawy, że wydanie superinteligentnym systemom poleceń takich, jak np. "Zmniejsz korki uliczne", może doprowadzić je do wniosku, że jedyny skuteczny sposób sprostania zadaniu oznacza… zmniejszenie populacji o jedną trzecią lub nawet o połowę.
Owszem, warto dać maszynie nadrzędną wytyczną w rodzaju "Przede wszystkim chroń ludzkie życie!". Kto wie jednak, czy cyfrowa logika nie doprowadzi wtedy do zamknięcia ludzkości pod kluczem, albo pod kloszem, gdzie może i będziemy bezpieczni, ale wolni - na pewno nie.
Cyberprzestępstwo jako usługa
Kiedyś dystopie i obrazy postapokaliptycznego świata w literaturze i w filmie zwykle umiejscawiane były w epoce po wojnie jądrowej. Dziś zagłada nuklearna nie wydaje się konieczna, aby doszło do katastrofy i zniszczenia świata, jaki znamy, choć w inny sposób, niż to sobie wyobrażamy. Zaawansowana sztuczna inteligencja, jeśli nawet jest groźna, to raczej nie zniszczy świata tak, jak w "Terminatorze", gdzie zostało to połączone z zagładą atomową. Gdyby do tego doprowadziła, nie byłaby superinteligencją, lecz prymitywną siłą. Nawet ludzie nie zrealizowali przecież póki co scenariusza globalnego, wyniszczającego konfliktu nuklearnego.
Rzeczywista apokalipsa maszynowa może być znacznie mniej spektakularna.
Cyberwojna, ataki wirusów, włamania do systemów i oprogramowanie wymuszające okup, ransomware (2) paraliżują i niszczą nasz świat nie mniej skutecznie niż bomby. Jeśli ich skala rozszerzy się, to możemy wejść w fazę wszechogarniającej totalnej wojny, w której staniemy się ofiarami i zakładnikami maszyn, choć wcale nie muszą one działać autonomicznie, a niewykluczone, że za wszystkim stać będą wciąż ludzie.
Ostatniego lata amerykańska Agencja Bezpieczeństwa Cyberprzestrzeni i Infrastruktury (CISA) nazwała ataki ransomware "najbardziej widocznym ryzykiem związanym z bezpieczeństwem cybernetycznym".
CISA twierdzi, że wiele akcji, w których cyberprzestępca przechwytuje i szyfruje dane osoby lub organizacji, a następnie wymusza na nich okup, nigdy nie jest zgłaszanych, ponieważ ofiara spłaca cyberprzestępców i nie chce upubliczniać problemów ze swoimi niepewnymi systemami. W skali mikro cyberprzestępcy często kierują swoje działania przeciwko osobom starszym, mającym problem z odróżnieniem w Internecie treści uczciwych od nieuczciwych. Czynią to poprzez złośliwe oprogramowanie wbudowane w załącznik do wiadomości e-mail lub wyskakujące okienko na zainfekowanej stronie. Jednocześnie rośnie skala ataków na duże korporacje, szpitale, agencje państwowe i rządy.
Celem uderzeń stały się zwłaszcza te ostatnie, ze względu na posiadane przez nie poufne dane i zdolność do zapłacenia wysokiego okupu.
Niektóre informacje, np. dotyczące zdrowia, są dużo bardziej wartościowe dla właściciela od innych i mogą przynieść większy zysk przestępcom. Złodzieje są w stanie przechwycić lub poddać kwarantannie duże bloki danych klinicznych, kluczowych dla opieki nad pacjentem - np. wyniki testów lub informacje o lekach. Gdy w grę wchodzi życie, szpital nie ma zbyt dużego pola do negocjacji. Jeden z amerykańskich szpitali został w listopadzie ub. roku zamknięty na stałe po sierpniowym ataku ransomware.
Prawdopodobnie w miarę upływu czasu będzie jeszcze gorzej. Departament Bezpieczeństwa Wewnętrznego USA ogłosił w 2017 r., że cyberataki mogą być skierowane na krytyczną infrastrukturę, np. wodociągi. A narzędzia potrzebne do przeprowadzania takich działań są coraz bardziej dostępne dla mniejszych operatorów, którym organizacje przestępcze sprzedają zestawy narzędzi wymuszających okup - w rodzaju oprogramowania Cerber czy Petya - i biorą prowizję od okupu po udanych atakach. Na zasadzie cyberprzestępstwa jako usługi.
Niebezpieczna grzebanina w genomie
Jednymi z popularnych dystopijnych wątków są genetyka, manipulacje DNA i hodowanie ludzi - w dodatku "zaprogramowanych" w pożądany (przez władze, korporacje, wojsko) sposób.
Współczesne wcielenie tych niepokojów stanowi upowszechniająca się metoda edycji genów CRISPR (3). Obawy wzbudza przede wszystkim zawarty w niej mechanizm wymuszania pożądanych cech w kolejnych pokoleniach i potencjalnego rozszerzania się ich na całość populacji. Jedna z wynalazczyń owej techniki, Jennifer Doudna, wezwała nawet niedawno do wprowadzenia moratorium na takie sposoby edycji "linii zarodkowej", ze względu na potencjalnie katastrofalne konsekwencje.
Przypomnijmy, że kilkanaście miesięcy temu chiński naukowiec He Jiankui był szeroko krytykowany za edycję genów w ludzkich embrionach, mające uodpornić je na wirusa AIDS. Powodem był fakt, iż zmiany, których dokonał, mogły być przekazywane przez pokolenia z nieprzewidywalnymi konsekwencjami.
Szczególne obawy budzi tzw. gene drive (nadpisywanie genu, napęd genowy), czyli mechanizm inżynierii genetycznej polegający na zakodowaniu w DNA danego osobnika systemu edycji genomu CRISPR/CAS9 z ustawieniem go na edycję danego wariantu niepożądanego genu. Dzięki temu u potomków automatycznie (bez udziału genetyków) zachodzi nadpisywanie niepożądanego wariantu genu pożądanym.
Niepożądany wariant genu potomek może jednak otrzymać "w prezencie" od drugiego rodzica, który nie był poddany modyfikacjom. Gene drive pozwala więc złamać prawa dziedziczenia Mendla, które mówią, że połowę genów dominujących, potomek dostaje od jednego rodzica. Mówiąc w skrócie, gene drive w końcu doprowadzi do rozpowszechnienia się danego wariantu genu w całej populacji.
Biolog z Uniwersytetu Stanforda, Christina Smolke, jeszcze podczas panelu dotyczącego inżynierii genetycznej w 2016 r., ostrzegała, że mechanizm ten może mieć konsekwencje szkodliwe, a w skrajnych przypadkach przerażające. Napęd genowy jest bowiem w stanie mutować w trakcie swojej wędrówki przez pokolenia i zacząć wywoływać zaburzenia genetyczne, takie jak hemofilia lub anemia.
Jak czytamy w artykule opublikowanym w "Nature Reviews" przez badaczy z Uniwersytetu Kalifornijskiego w Riverside, nawet jeśli napęd działa zgodnie z planem w jednej populacji organizmu, ta sama cecha dziedziczna może okazać się szkodliwa, jeśli zostanie w jakiś sposób wprowadzona do innej populacji tego samego gatunku.
Niebezpieczeństwo polega także na tym, że naukowcy tworzą napędy genowe za zamkniętymi drzwiami i bez wzajemnej weryfikacji. Jeśli ktoś celowo lub nieumyślnie wprowadzi do genomu człowieka szkodliwy napęd genowy, np. taki, który zniszczy naszą odporność na grypę, może to oznaczać nawet koniec gatunku homo sapiens…
Kapitalizm inwigilacyjny
Wersję dystopii, której dawni autorzy science fiction raczej nie przewidywali, stanowi rzeczywistość Internetu, a zwłaszcza mediów społecznościowych - z wszystkimi szeroko opisywanymi ich konsekwencjami, dotyczącymi niszczenia ludzkiej prywatności, relacji i psychicznej integralności.
Świat ten malują dopiero nowsze artystyczne przedstawienia, np. to co mogliśmy obejrzeć w serialu "Black Mirror", w odcinku "Nosedive" z 2016 r. (4). Shoshana Zuboff, ekonomistka z Harvardu, nazywa tę rzeczywistość całkowicie uzależnionym od społecznościowych samopotwierdzeń i "zdeprywatyzowanym" do szczętu kapitalizmem inwigilacyjnym (surveillance capitalism), a zarazem koronnym dziełem Google’a i Facebooka.
Google, wg Zuboff, jest pierwszym wynalazcą surveillance capitalism. W dodatku nieustannie rozszerza swoją inwigilacyjną działalność, np. za pomocą niewinnych z pozoru projektów "inteligentnych miast". Przykładem - prowadzony przez Sidewalk Labs, spółkę siostrzaną Google’a, projekt "najbardziej innowacyjnej dzielnicy na świecie", Quayside w Toronto.
Google planuje wysysanie każdego, najdrobniejszego kawałka danych dotyczących życia mieszkańców Quayside, ich przemieszczania się, a nawet oddychania, za pośrednictwem wszechobecnych czujników monitorujących.
Trudno też wybrać dystopię internetową, w które nie ma mowy o Facebooku. Kapitalizm inwigilacyjny wynalazł bowiem może Google, ale to Facebook przeniósł go na zupełnie nowy poziom. Uczynił to dzięki społecznym i emocjonalnym mechanizmom wirusowym i bezwzględnemu śledzeniu nawet tych osób, które nie są użytkownikami platformy Zuckerberga.
Pilnowani przez AI, zanurzeni w VR, żyjący z UBI
Według wielu futurystów, przyszłość świata i techniki wytycza pięć akronimów - AI, AR, VR, BC i UBI.
Czytelnicy "MT" dość dobrze chyba wiedzą, czym są i na czym polegają trzy pierwsze. Znajomy okazuje się także czwarty, "BC", gdy uświadomimy sobie, że chodzi o blockchain. A piąty? UBI to skrót pojęcia universal basic income, czyli "powszechnego dochodu podstawowego" (5). Chodzi o postulowane co jakiś czas państwowe świadczenie, które miałoby przysługiwać każdemu człowiekowi, uwolnionemu w miarę rozwoju innych technik, zwłaszcza AI, od pracy.
Szwajcaria poddała nawet ten pomysł w zeszłym roku pod referendum, ale jego obywatele odrzucili go w obawie, że wprowadzenie gwarantowanego dochodu doprowadzi do zalania kraju przez imigrantów. UBI niesie za sobą również szereg innych niebezpieczeństw, w tym ryzyko utrwalenia obecnych nierówności społecznych.
Każda z rewolucji technologicznych kryjących się za wymienionymi skrótowcami (zobacz także: Róbmy swoje, a może wyjdzie rewolucja) - jeśli się upowszechni i rozwinie w przewidywanym kierunku - niesie za sobą ogromne konsekwencje dla ludzkości i naszego świata, w tym oczywiście potężną dawkę dystopii. Uważa się np., że blockchain może zastąpić czteroletnie cykle wyborcze i doprowadzić do przeprowadzania referendów w niezliczonych kwestiach.
Z kolei wirtualna rzeczywistość ma moc "wyłączenia" części ludzkości z rzeczywistego świata. Tak jak stało się np. z Koreanką Jang Ji-sung, która po śmierci córki w 2016 r. na nieuleczalną chorobę, spotyka się odtąd z jej awatarem w VR. Przestrzeń wirtualna generuje też nowe rodzaje problemów, a właściwie przenosi wszystkie stare znane problemy do "nowego" świata lub nawet wielu różnych światów. W pewnym stopniu widzimy to już w sieciach społecznościowych, w których zdarza się, że do depresji i samobójstw prowadzą zbyt małe liczby polubień pod wpisami.
Opowieści prorocze bardziej lub mniej
Historia tworzenia dystopijnych wizji mimo wszystko uczy też ostrożności w formułowaniu prognoz.
Ubiegły rok był czasem akcji słynnego filmowego arcydzieła science fiction Ridleya Scotta, "Łowca Androidów" z 1982 r. Można dyskutować o spełnieniu się lub nie wielu szczegółowych elementów, ale faktem niezaprzeczalnym jest, że najważniejsza przepowiednia, dotycząca istnienia w naszych czasach inteligentnych, humanoidalnych androidów, pod wieloma względami przewyższających ludzi, póki co nie stała się rzeczywistością.
Dużo więcej proroczych strzałów w dziesiątkę bylibyśmy skłonni przyznać "Neuromancerowi", czyli powieści Williama Gibsona z 1984 r., który spopularyzował pojęcie "cyberprzestrzeni".
Pojawiła się jednak w tamtej dekadzie książka nieco mniej znana (u nas prawie w ogóle, bo nie została przetłumaczona na polski), wieszcząca dzisiejsze czasy znacznie trafniej. Mowa o powieści "Islands in the Net" (6) Bruce’a Sterlinga z 1988 r., której akcja rozgrywa się w 2023 r. Przedstawia świat zanurzony w czymś podobnym do Internetu, znanym jako "sieć". Jest ona kontrolowana przez wielkie, międzynarodowe korporacje. "Wyspy w Sieci" są godne uwagi, ponieważ przewidują kontrolę, inwigilację i monopolizację rzekomo wolnego Internetu.
Ciekawa jest też antycypacja działań zbrojnych, prowadzonych za pomocą bezzałogowych statków powietrznych (dronów) przeciw piratom sieciowym/terrorystom. Operatorzy oddaleni o tysiące kilometrów przy bezpiecznych pulpitach - skąd my to znamy? W książce nie chodzi przy tym o niekończący się konflikt z islamskim terroryzmem, lecz o walkę z siłami przeciwstawiającymi się globalizacji. Świat "Islands in the Net" wypełniony jest w dodatku urządzeniami konsumenckimi, które wyglądają niezwykle podobnie do inteligentnych zegarków i zaawansowanego smart-obuwia sportowego.
Jest też inna książka z lat 80., która wprawdzie częściowo ukazuje wydarzenia brzmiące bardziej fantastycznie, ale nieźle ilustruje nasze współczesne dystopijne lęki. To "Software", opowieść Rudy’ego Ruckera, osadzona w roku 2020. Świat, stan społeczeństwa i targających nim konfliktów wydają się w niej niesamowicie podobne do tego, z czym mamy obecnie do czynienia. Są też w nim roboty, znane jako boppery, które zyskały samoświadomość i uciekły do miast na Księżycu. Ten element jeszcze nie zaistniał, ale bunt maszyn staje się już stałym refrenem czarnych prognoz.
Uderzająco w wielu aspektach trafne są również wizje naszych czasów w książkach Octavii Butler, zwłaszcza w "Przypowieści o siewcy" (1993). Jej akcja rozpoczyna się w 2024 r. w Los Angeles i rozgrywa w Kalifornii, spustoszonej przez powodzie, burze i susze spowodowane zmianami klimatycznymi. Rodziny z klasy średniej i robotniczej spotykają się w zamkniętych społecznościach, próbując uciec od świata zewnętrznego poprzez uzależniające leki i zestawy do wirtualnej rzeczywistości. Zaczynają się pojawiać nowe religie i teorie spiskowe. Karawana uchodźców wyrusza na północ, by uciec przed zapaścią ekologiczną i społeczną. Do władzy dochodzi prezydent posługujący się hasłem wyborczym "Make America Great Again" (to hasło Donalda Trumpa)...
Druga książka Butler, "Przypowieść o talentach", opowiada o tym, jak członkowie nowego kultu religijnego opuszczają Ziemię w statku kosmicznym, w celu skolonizowania Alpha Centauri.
***
Jaki wniosek wypływa z tego obszernego przeglądu przepowiedni i wizji sprzed kilku dekad, które dotyczą czasów nam znanych z codzienności?
Chyba taki, że dystopie urzeczywistniają się często, ale najczęściej jedynie częściowo.
