Czy wszechobecny monitoring nas ocali?
W kwietniu tego roku Bostrom wziął udział w konferencji TED w Vancouver w Kanadzie, aby opowiedzieć o swojej najnowszej publikacji "The Vulnerable World Hypothesis". Argumentuje w niej, że aby zapobiec zniszczeniu ludzkości przez technologię, którą sama może stworzyć, konieczny będzie masowy nadzór ze strony światowego rządu.
Bostrom obrazuje swój wywód, odwołując się do metafory gigantycznej urny wypełnionej kulami. Każda z nich reprezentuje jakąś ideę lub możliwą technologię. Kule występują w trzech różnych kolorach: białym (korzystnym), szarym (umiarkowanie szkodliwym) lub czarnym (niszczącym cywilizację). Ludzkość nieustannie wyciąga z tej urny kule i, jak uważa Bostrom, na szczęście nikt jeszcze nie sięgnął po czarną. "Jeszcze", podkreśla uczony. "Jeśli badania naukowe i rozwój techniczny będą kontynuowane", pisze Bostrom, "w końcu wyciągniemy tę czarną".
Jego zdaniem, aby temu zapobiec, potrzebujemy skuteczniejszego i zarazem globalnego rządu, który mógłby szybko zakazać rozwoju wszelkich technologii potencjalnie niszczących cywilizację. Narzędziem chroniącym przed przypadkowym powstaniem zagrożenia ma być masowa inwigilacja ze strony takiej władzy, np. polegająca na wyposażeniu każdego człowieka w naszyjniki "znaczniki wolności", które non stop rejestrują wszystko, co robimy. Dane przez nie gromadzone miałyby trafiać do "centrów wolności", gdzie systemy sztucznej inteligencji monitorowałyby i analizowały informacje, alarmując "oficerów wolności" w przypadku wyjęcia przez kogoś czarnej kuli.
Bostrom przyznał na konferencji TED, że zdaje sobie sprawę z minusów, jakie wiążą się z wprowadzeniem totalnego nadzoru. Mimo wszystko uważa jednak, że warto sięgnąć po takie rozwiązanie, bo zagrożenie związane z rozpowszechnieniem się szkodliwych dla ludzkości technologii, jest zbyt wielkie, abyśmy mogli sobie pozwolić na ryzyko.
Europa ma się przed tym bronić
Oczywiście poglądy Bostroma są niezbyt popularne i przeczą jaskrawo temu, co zwykle na temat upowszechniających się na świecie (najbardziej w Chinach) systemów monitoringu i nadzoru uważamy. Niedawno niezależna grupa ekspertów (HLEG), której zadaniem jest doradzanie Komisji Europejskiej w sprawach związanych ze sztuczną inteligencją, opublikowała swoje zalecenia dotyczące polityki i inwestycji.
Dokument zawiera ostrzeżenia przed wykorzystaniem AI do masowego nadzoru i tworzenia rankingów obywateli UE, takich jak np. chiński system kredytów społecznych. Eksperci wzywają do wprowadzenia całkowitego zakazu "masowej punktacji ludzi na bazie AI". Apelują również do rządów europejskich, by zobowiązały się do nieangażowania w ogólny nadzór nad ludnością wprowadzany dla celów bezpieczeństwa.
Jak piszą doradcy KE, choć może istnieć silna pokusa, by rządy poszczególnych państw "zabezpieczyły społeczeństwa" przez budowę wszechobecnego systemu nadzoru opartego na systemach AI, posunięcie się do ekstremalnych rozwiązań byłoby niezwykle niebezpieczne.
Grupa wzywa również do przeciwdziałania komercyjnemu śledzeniu jednostek i społeczeństw, sugerując, że UE powinna reagować i dbać o to, by obserwacja ludzi w sieci była prowadzona "zgodnie z prawami podstawowymi, takimi jak prawo do prywatności".
Korzyści z totalnego nadzoru?
Z drugiej strony, nie brakuje osób dostrzegających pozytywne aspekty inwigilacji na masową skalę. Nie sięgają przy tym po aż tak daleko idące argumenty, jak Bostrom. Wskazują np. na większe możliwości zapobiegania epidemiom i pandemiom. Inwigilacja może wykrywać na wczesnym etapie zarodki rozprzestrzeniających się chorób. Nadzór mógłby umożliwić szybszą kwarantannę i skuteczniejsze leczenie pandemii. Leki i lekarzy można wówczas skierować w odpowiednie miejsca, a osoby zakażone dałoby się szybko poinformować o stanie ich zdrowia, co ułatwiłoby skuteczniejsze leczenie.
Masowy nadzór w sposób oczywisty i już udowodniony pomaga w zabezpieczaniu przed terroryzmem, jak też w reagowaniu na katastrofy. Wyeliminowane zostałyby długie kolejki do skanerów na lotniskach, bo jeżeli nadzór identyfikuje zabronione przedmioty na bieżąco, to przeszukiwanie pasażerów jest stratą czasu. Skuteczne wykrywanie przestępstw i odstraszanie oznaczałoby, że ludzie nie mieliby powodu, aby zamykać swoje samochody lub drzwi domów.
Koncerty i imprezy na świeżym powietrzu nie wymagałyby już wysokich ogrodzeń, patroli bezpieczeństwa i ostrzeżeń. Można by je zastąpić wyraźnymi znakami wzdłuż granicy wydarzenia, ponieważ każdy uczestnik byłby identyfikowany i rozliczany bezpośrednio cały czas. Nawet ochrona praw autorskich byłaby uproszczona, gdyż monitoring wiedziałby od razu o każdym nieuprawnionym kopiowaniu filmu czy nagrania muzycznego.
Zwraca się też uwagę, że inwigilacja i zbieranie danych o społeczeństwie ułatwia prowadzenie badań naukowych. Nie trzeba organizować próbek badawczych, ani nikogo namawiać do udziału - wystarczy sięgnąć po dane z monitoringu. Masowy nadzór mógłby również uczynić życie wygodniejszym, eliminując potrzebę posiadania haseł dostępu, oczywiście pod warunkiem że algorytmy byłyby wystarczająco skuteczne.
Wszystko to w teorii brzmi nawet nieźle. Pomijając możliwość nadużyć ze strony administratorów takich totalnych systemów inwigilacji, trzeba by sobie jednak zadać pytanie, czy my jako ludzkość tego właśnie chcemy. A łatwa do przewidzenia odpowiedź brzmi, że nie.
Nick Bostrom może argumentować, że stawką jest nasze przetrwanie jako gatunku, ale jego pomysły sprawiają niepokojące wrażenie, jakby same były ową feralną "czarną kulą" wyciągniętą z urny.
Mirosław Usidus
