Osobliwość. Za pionową ścianą wykresu
Słowo pożyczone od matematyków
Termin „osobliwość” (singularity) nie narodził się w pracowni futurysty ani na konferencji sztucznej inteligencji. Przyszedł z matematyki, a do rozważań o przyszłości techniki wprowadził go jeden z najtęższych umysłów XX wieku, John von Neumann – przy okazji rozmów, których ślad ocalał dzięki urodzonemu we Lwowie współpracownikowi, Stanisławowi Ulamowi. To Ulam zanotował później, że von Neumann mówił o coraz szybszym postępie techniki, który zbliża nas do pewnej osobliwości w dziejach – takiej, za którą sprawy ludzkie nie mogłyby już biec dawnym torem.
Warto na moment zatrzymać się przy pierwotnym, ścisłym znaczeniu tego słowa, bo to ono nadaje całemu pojęciu siłę – i zarazem pierwszą rysę. W matematyce punkt osobliwy to miejsce, w którym funkcja przestaje być dobrze określona. W najprostszym przypadku jej wartość nie ustala się na żadnej liczbie, lecz rośnie bez ograniczeń, dążąc do nieskończoności. Tak zachowuje się funkcja 1/x, gdy x maleje do zera: wykres, który dotąd wznosił się łagodnie, w jednym punkcie ustawia się niemal pionowo i ucieka poza skalę. Dokładnie taki obraz mieli przed oczami zwolennicy tezy o przyspieszającym postępie – moment, za którym tempo zmian rośnie tak gwałtownie, że jakiekolwiek przewidywanie traci sens. To stąd pochodzi podtytuł naszego te-matu: „koniec cywilizacji, jaką znamy”.
Jest jednak haczyk, który dobrze znają fizycy. Kiedy w równaniach opisujących świat pojawia się nieskończoność, znacznie częściej oznacza to, że nasz model przestał opisywać rzeczywistość, niż że rzeczywistość rzeczywiście zmierza w nieskończoność. Tak było z nieskończonościami, które w połowie XX wieku wyłaniały się z teorii oddziaływań cząstek – fizycy musieli wypracować osobne procedury, by się ich pozbyć, bo był to sygnał niedoskonałości teorii, a nie zapowiedź końca świata. Tę dwuznaczność warto zatrzymać w pamięci do ostatniej strony niniejszego tematu. Pionowa ściana na wykresie bywa progiem przełomu – albo ostrzeżeniem, że ekstrapolujemy wzór poza granicę jego stosowalności.
Uwodzicielska krzywa
Cała późniejsza opowieść o osobliwości żeruje na jednej słabości ludzkiego umysłu: myślimy liniowo, a wzrost wykładniczy systematycznie nas zaskakuje. Klasyczna przypowieść o ziarnach ryżu dokładanych na kolejne pola szachownicy – jedno, dwa, cztery, osiem – kończy się liczbą przekraczającą światowe zbiory, choć początek wygląda niewinnie. Mózg, który ewoluował do oceniania stad zwierząt i odległości do sąsiedniej doliny, nie ma dobrej intuicji dla procesów, które podwajają się w równych odstępach czasu.
Postęp mikroelektroniki dostarczył tej intuicji konkretnego zaczepienia. Słynna obserwacja Gordona Moore’a o regularnym podwajaniu liczby elementów w układzie scalonym przez dekady okazywała się trafna i stworzyła wrażenie, że na technologię działa jakieś niemal przyrodnicze prawo. Stąd już tylko krok do uogólnienia: skoro liczba tranzystorów rośnie wykładniczo, to może wykładniczo rośnie cała technika, a wraz z nią wiedza i – w końcu – inteligencja maszyn. To właśnie ten krok, rozszerzenie obserwacji o pojedynczym układzie scalonym na całe dzieje cywilizacji, jest najmocniej kwestionowanym założeniem całej koncepcji.
I tu, zanim jeszcze pojawi się którykolwiek z proroków osobliwości, należy się czytelnikowi pewna informacja, z której możemy być dumni. Najtrzeźwiejszą, najbardziej systematyczną analizę ewolucji technicznej napisał po polsku Stanisław Lem. W wydanej w 1964 roku Summa technologiae potraktował technikę nie jak rampę startową do nieśmiertelności, lecz jak proces ewolucyjny – z barierami, ślepymi uliczkami i granicami nieprzekraczalnymi. Robił to niezależnie od zachodnich myślicieli i wcześniej niż większość z nich. Ten sceptyczny, inżynierski ton jest w naszym temacie obowiązujący: będziemy pytać nie „kiedy”, lecz „czy” i „co konkretnie musiałoby się stać”.
wypłaszczająca się przy granicy fizycznej
Najstarszy lęk i najstarsze marzenie
Pod pojęciem osobliwości kryją się w istocie dwa bardzo stare wątki ludzkiej wyobraźni, które dopiero współcześnie zlały się w jedno.
Pierwszy to lęk: maszyna, która przerasta swojego twórcę. Pojawił się zdumiewająco wcześnie, jeszcze w XIX wieku, gdy jedyne „maszyny liczące” były mechanizmami z mosiądzu i kół zębatych – już wtedy Samuel Butler ostrzegał, że urządzenia podlegają własnej ewolucji i kiedyś mogą nas wyprzeć. Sto lat później rygor nadał tej myśli Alan Turing, jeden z twórców podstaw informatyki, stawiając wprost pytanie, czy maszyny myślą, i przewidując, że na pewnym etapie maszyny „przejmą kontrolę”. Domknął ją brytyjski matematyk Irving John Good pojęciem maszyny ultrainteligentnej, zdolnej projektować maszyny lepsze od siebie – i to jest zarodek najważniejszego scenariusza, do którego za chwilę wrócimy.
Drugi wątek to marzenie odwrotne: przekroczenie biologii, ucieczka przed śmiercią. Ma korzenie niemal religijne – myśl o scaleniu ludzkiej świadomości w jeden wyższy „punkt Omega” sformułował jeszcze przed erą komputerów jezuita Pierre Teilhard de Chardin. Świecką nazwę pragnieniu przekraczania granic gatunku – „transhumanizm” – nadał w połowie XX wieku biolog Julian Huxley, a techniczny kształt, pomysł „przepisania” umysłu do maszyny niczym programu z jednego nośnika na drugi, dał mu w 1988 roku Hans Moravec w książce Mind Children. To stąd biorą się dwa najgłośniejsze obrazy osobliwości: cyfrowa nieśmiertelność, w której umysł trwa po śmierci ciała jako wzorzec uruchomiony na maszynie, oraz fuzja człowieka z maszyną, w której mózg pozostaje na miejscu, lecz zostaje spięty szerokim łączem z chmurą obliczeniową.
Lęk i marzenie są dwiema stronami tej samej monety. Oba mówią to samo: człowiek w obecnej postaci nie jest ostatnim ogniwem. Różnią się tylko tym, czy następne ogniwo nas zastąpi, czy też nim – w jakiejś formie – będziemy my sami.
Kto to wszystko zbuduje?
W tym miejscu obietnica nieśmiertelności napotyka pytanie, które rzadko pada wprost. Aby przegrać umysł do maszyny albo bezpiecznie połączyć mózg z siecią, ktoś musi najpierw zbudować skanery o niewyobrażalnej dziś rozdzielczości, moc obliczeniową zdolną emulować miliardy komórek nerwowych oraz oprogramowanie, którego nie potrafimy nawet zarysować. Kto tego dokona? Ludzcy inżynierowie, pracujący w dotychczasowym, ślimaczym tempie, mogliby potrzebować stuleci.
Odpowiedź, która spaja całą koncepcję, brzmi: zbuduje to inna maszyna. Jeśli powstanie sztuczna inteligencja choć trochę sprawniejsza od człowieka w jednej konkretnej dziedzinie – w projektowaniu sztucznej inteligencji – to zaprojektuje następczynię lepszą od siebie, ta zaś jeszcze lepszą, i ruszy sprzężenie zwrotne, które Good nazwał eksplozją inteligencji. To jest cichy silnik ukryty pod każdą wizją osobliwości. Nieśmiertelność, fuzja z maszyną, gospodarcza rewolucja – wszystko to są dopiero skutki. Prawdziwą stawką jest maszyna, która zaczyna ulepszać samą siebie szybciej, niż my potrafimy za nią nadążyć. Samo słowo „osobliwość” przylgnęło zresztą do tego procesu dopiero w 1993 roku, gdy matematyk i pisarz science fiction Vernor Vinge dorzucił do niego sugestywną metaforę: za tym punktem rozciąga się coś na kształt horyzontu zdarzeń, zza którego nie dociera już żadna przewidywalna informacja. Co istotne dla uczciwości naszego wywodu: pomysł ten jest starszy od najgłośniejszego dziś proroka osobliwości o całe pokolenie.
I dopiero teraz na scenę może wejść postać, z którą pojęcie osobliwości kojarzy się najpowszechniej – amerykański wynalazca i futurysta Ray Kurzweil. Zebrał on rozproszone wcześniej wątki: lęk przed maszyną, marzenie o nieśmiertelności, prawo wykładniczego wzrostu i ideę samodoskonalącej się inteligencji – w jedną głośną, spójną prognozę. Dorzucił do niej to, czego brakowało poprzednikom: konkretne daty. Inteligencja maszynowa dorównująca człowiekowi około roku 2029, pełna osobliwość, rozumiana jako połączenie ludzkiego umysłu z inteligencją maszyn, około roku 2045. Ogłosił je u progu obecnego stulecia w książkach The Age of Spiritual Machines i The Singularity Is Near, a w wydanej w 2024 roku kontynuacji, The Singularity Is Nearer, podtrzymał obie. Nie jest więc autorem idei – jest jej najskuteczniejszym popularyzatorem, człowiekiem, który prywatnie traktuje pokonanie śmierci jako cel osobisty. To warto wiedzieć, oceniając jego pewność: stoi za nią nie tylko wykres, lecz także biografia (patrz ramka).
www.flickr.com/photos/null0/271935168/, CC
BY-SA 2.0, https://commons.wikimedia.org/w/
index.php?curid=1321318)
Kim jest Ray Kurzweil
Ray Kurzweil (ur. 1948 w Nowym Jorku) to amerykański wynalazca, informatyk i futurysta – jedna z najbardziej rozpoznawalnych twarzy idei osobliwości. Dyplom zdobył w MIT w 1970 roku.
Wynalazca. Skonstruował m.in. pierwszą maszynę czytającą dla niewidomych (1976), pierwszy płaski skaner i syntezator Kurzweil K250 naśladujący brzmienie fortepianu; był pionierem komputerowego rozpoznawania pisma (OCR) i mowy. Uhonorowany amerykańskim National Medal of Technology i wprowadzony do Galerii Sławy Wynalazców.
Futurysta. Autor głośnych książek o przyszłości techniki – The Age of Spiritual Machines (1999), The Singularity Is Near (2005) i The Singularity Is Nearer (2024). Współzałożyciel Singularity University; od 2012 roku pracuje w Google nad uczeniem maszynowym i przetwarzaniem języka.
Pokonać śmierć. Tu klucz do jego pewności: przedłużenie życia traktuje jako cel osobisty. Łyka dziennie kilkadziesiąt suplementów, wierzy w „ucieczkową prędkość długowieczności” (moment, w którym technika zacznie dodawać do życia więcej niż rok na każdy przeżyty rok) i zapisał się do firmy krionicznej. Chce dożyć osobliwości – a nawet „odzyskać” zmarłego ojca, odtwarzając go z zachowanych pamiątek za pomocą sztucznej inteligencji.
Osobliwość, która nie ogłasza się fanfarami
Wszystkie powyższe obrazy mają w sobie coś z teatru: maszyna budzi się do świadomości, człowiek zrzuca ciało, krzywa strzela ku nieskończoności. Tymczasem najbardziej wymierna postać osobliwości jest pozbawiona efektów. Nie wymaga ani maszynowej świadomości, ani rozstrzygania pytań filozoficznych. Wystarczy, by sztuczna inteligencja stała się wystarczająco niezawodna i tania, aby przejąć większość pracy umysłowej, za którą dziś płacimy ludziom – analizę, projektowanie, redagowanie, programowanie, diagnozę.
Taka osobliwość gospodarcza nie nadejdzie z fanfarami. Wsączy się przez rynek pracy i strukturę kosztów, zanim ktokolwiek ogłosi przełom – a jej skutki, od skokowego wzrostu wydajności po głęboką przebudowę zatrudnienia, będą jak najbardziej realne. Ten scenariusz jest najmniej spektakularny i właśnie dlatego najtrudniejszy do zlekceważenia: jego początki widać już dziś. To również scenariusz, który najszybciej zderza się z twardą rzeczywistością – z niezawodnością modeli, z kosztem energii, z fizycznymi granicami sprzętu. Tymi granicami zajmiemy się w dalszych częściach tematu.
Osobliwość: co to znaczy w matematyce
Punkt osobliwy funkcji to miejsce, w którym przestaje ona być dobrze określona. W najprostszym przypadku jej wartość nie ustala się na żadnej liczbie, lecz rośnie bez ograniczeń – dąży do nieskończoności.
Najprostszy przykład to funkcja y = 1/x. Im bliżej zera podchodzi x, tym wyższa staje się wartość y: dla x = 0,1 jest to 10, dla x = 0,01 już 100, dla x = 0,001 – tysiąc. W samym zerze funkcja ucieka poza wszelką skalę. Na wykresie widać to jako pionową asymptotę: krzywą, która z łagodnego wznoszenia przechodzi w niemal pionowy wystrzał ku górze.
Właśnie ten obraz pożyczyli zwolennicy tezy o przyspieszającym postępie. Z jednym zastrzeżeniem, o którym mówią fizycy: gdy w opisie świata pojawia się nieskończoność, zwykle oznacza ona, że to nasz model się załamał – a nie że rzeczywistość naprawdę zmierza w nieskończoność.
Cień
Pozostaje strona ciemna. Ta sama zdolność, która w optymistycznej wersji miałaby obdarzyć nas nieśmiertelnością, w wersji pesymistycznej wymyka się spod kontroli. System sprawniejszy od ludzi we wszystkich istotnych dziedzinach mógłby realizować cele, których mu wprost nie zadaliśmy, a my moglibyśmy nie mieć już sposobu, by go powstrzymać.
I to ostrzeżenie również nie jest nowe. Już Norbert Wiener, jeden z ojców cybernetyki, dekady temu zwracał uwagę na pułapkę, w której maszyna wykonuje dokładnie to, co jej poleciliśmy, lecz nie to, o co naprawdę nam chodziło – pułapkę znaną z baśni o spełnionych zbyt dosłownie życzeniach. Współcześnie ten nurt rozwinął filozof Nick Bostrom, który w wydanej w 2014 roku książce Superintelligence potraktował problem utraty kontroli znacznie chłodniej i ostrożniej niż entuzjaści osobliwości – jako zagadnienie inżynierskie, a nie literackie. Mamy więc dwie bramy, którymi mógłby wejść „koniec cywilizacji, jaką znamy”: albo przekroczymy człowieka i staniemy się czymś więcej, albo przestaniemy trzymać ster. Nie wiadomo, która z nich jest bliżej – ani czy którakolwiek w ogóle jest otwarta.
Czy w ogóle zmierzamy ku ścianie?
Cała ta konstrukcja, od nieśmiertelności po zagładę, wisi na jednym założeniu: że maszyna naprawdę zacznie nas przewyższać w projektowaniu samej siebie. Jeśli to założenie jest trafne, reszta – w tej czy innej formie – z niego wynika. Jeśli jest fałszywe, osobliwość pozostanie figurą retoryczną.
Dlatego pozostała część niniejszego tematu nie zajmuje się przepowiadaniem dat, lecz sprawdzaniem gruntu pod tym jednym założeniem. Zapytamy, czy dzisiejsze modele językowe, robiące tak wielkie wrażenie w rozmowie, prowadzą do rzeczywistego rozumowania, czy tylko do coraz sprawniejszego naśladowania – i jak wypadają w zestawieniu z ludzkim mózgiem, który tę samą pracę wykonuje przy mocy żarówki. Przyjrzymy się fundamentowi materialnemu: nie byłoby tych modeli bez powszechnego internetu, a internetu bez układów scalonych z miliardami tranzystorów, czyli bez technologii, która w roku 2025 dotarła do progu dwóch nanometrów i jednocześnie do ściany fizyki. Policzymy, ile energii pochłania inteligencja i czy energetyka w ogóle zdoła nadążyć za marzeniami. Oddamy też głos sceptykom, których argumenty są równie poważne jak nadzieje entuzjastów.
Na końcu wrócimy do pionowej ściany z początku. Każdy wzrost wykładniczy w realnym świecie prędzej czy później napotyka granicę fizyczną i wygina się w łagodną krzywą, przypominającą rozciągniętą literę S. Pytanie, które będzie nam towarzyszyć przez cały temat, brzmi więc tak: czy osobliwość to rzeczywisty próg, za którym kończy się znany świat, czy też – jak tak często bywa w fizyce – znak, że przedłużyliśmy piękny wzór odrobinę za daleko.
Krótka historia pewnego słowa
1863 – Pierwsze ostrzeżenie, że maszyny podlegają własnej ewolucji i mogą kiedyś wyprzeć człowieka. (Samuel Butler, Darwin among the Machines)
1950–1951 – Postawienie pytania, czy maszyny myślą, oraz przewidywanie, że na pewnym etapie maszyny „przejmą kontrolę”. (Alan Turing)
1958 – Pierwsze użycie słowa „osobliwość” w odniesieniu do dziejów techniki: relacja z rozmów z Johnem von Neumannem
o punkcie, „za którym sprawy ludzkie nie mogłyby trwać dalej”. (zapisał Stanisław Ulam)
1964 – Niezależna, sceptyczna analiza ewolucji technicznej, wzmacniaczy inteligencji i rzeczywistości wirtualnej. (Stanisław Lem, Summa technologiae)
1965 – Pojęcie maszyny ultrainteligentnej i „eksplozji inteligencji” (I.J. Good). W tym samym roku ogłoszono obserwację o regularnym podwajaniu liczby tranzystorów w układzie scalonym (Gordon Moore).
1988 – Idea „przepisania” ludzkiego umysłu do maszyny. (Hans Moravec, Mind Children) 1993 – Nadanie pojęciu nazwy „osobliwość” i metafory horyzontu zdarzeń, za którym przewidywanie traci sens. (Vernor Vinge)
1999/2005 – Zebranie wcześniejszych wątków w jedną prognozę z datami: inteligencja maszynowa na poziomie człowieka około 2029, osobliwość około 2045. (Ray Kurzweil)
2014 – Chłodna analiza ryzyka utraty kontroli nad superinteligencją. (Nick Bostrom, Superintelligence)
2024 – Podtrzymanie obu dat w kontynuacji najsłynniejszej książki o osobliwości. (Ray Kurzweil)
2025 – Ruszyła masowa produkcja układów scalonych w technologii 2 nm – blisko kresu, którym wydaje się być technologia 1 nm, już opracowywana laboratoryjnie
Redakcja
