Tytuł oryginału

LIFE 3.0.

BEING HUMAN IN THE AGE OF ARTIFICIAL INTELLIGENCE

Copyright © 2017 by Max Tegmark

All rights reserved

Projekt okładki

Magdalena Palej

Zdjęcie na okładce

© SPL/Indigo Images

Redaktor serii

Adrian Markowski

Redakcja

Anna Kaniewska

Korekta

Małgorzata Denys

ISBN 978-83-8169-633-3

Warszawa 2019

Wydawca

Prószyński Media Sp. z o.o.

02-697 Warszawa, ul. Rzymowskiego 28

www.proszynski.pl

Dla zespołu FLI,

dzięki któremu wszystko stało się możliwe

Podziękowania

Jestem naprawdę wdzięczny wszystkim, którzy zachęcali mnie i pomagali napisać tę książkę, za wsparcie i inspirację trwającą lata, w tym mojej rodzinie, przyjaciołom, nauczycielom, kolegom i współpracownikom. Mojej Mamie za rozbudzanie ciekawości o ludzkiej świadomości i jej znaczeniu. Mojemu Tacie za ducha walki o uczynienie świata lepszym miejscem. Moim synom, Philipowi i Alexandrowi, za zademonstrowanie cudów ludzkiej inteligencji. Entuzjastom nauki i technologii na całym świecie, którzy przez lata będąc ze mną w kontakcie, zadawali pytania, przesyłali komentarze i zachęcali mnie do kontynuowania i publikacji pomysłów. Mojemu agentowi, Johnowi Brockmanowi, za wywieranie presji aż do momentu, gdy zgodziłem się napisać tę książkę. Bobowi Pennie, Jessemu Thalerowi i Jeremy’emu Englandowi za pomocne rozmowy o kwazarach, sfaleronach i termodynamice. Tym, którzy przekazali mi swe wrażenia o części rękopisu, w tym Mamie, mojemu bratu Perowi, Luisowi Bahetowi, Robowi Bensingerowi, Katerinie Bergström, Erikowi Brynjolfssonowi, Danielowi Chicie, Davidowi Chalmersowi, Nimie Deghani, Henry’emu Linowi, Elinowi Malmsköldowi, Toby’emu Ordzie, Jeremy’emu Owenowi, Lucasowi Perry’emu, Anthony’emu Romero, Nate’owi Soaresowi i Jaanowi Tallinnowi. Superbohaterom, którzy komentowali szkic całości książki, czyli Mei, Tacie, Anthony’emu Aguirre, Paulowi Almondowi, Matthew Gravesowi, Phillipowi Helbigowi, Richardowi Mallahowi, Davidowi Marble, Howardowi Messingowi, Luiño Seoane, Marinowi Soljačiciowi, mojemu wydawcy Danowi Frankowi i najbardziej Mei, mojej ukochanej muzie i życiowej towarzyszce za nieustające wsparcie i inspirację, bez których książka nigdy by nie powstała.

LIFE 3.0

Przejdź do rozdziału 1

Preludium

Opowieść o zespole Omega

Duszą firmy był zespół Omega. Podczas gdy reszta przedsiębiorstwa dzięki różnym komercyjnym zastosowaniom słabej sztucznej inteligencji przynosiła dochód, utrzymując jego działalność, zespół Omega zajmował się intensywnie badaniem tego, co zawsze było marzeniem dyrektora generalnego: stworzeniem silnej sztucznej inteligencji. Większość pozostałych pracowników postrzegała Omegi, jak ich pieszczotliwie nazywali, jako grupę marzycieli pozostających nieustannie dziesiątki lat od osiągnięcia celu. Chętnie jednak im dogadzali, ponieważ podobał im się prestiż, jaki firma uzyskiwała dzięki ich nowatorskiej pracy, oraz dlatego, że doceniali udoskonalone algorytmy, które tamci im okazjonalnie dostarczali.

Nie zdawali sobie jednak sprawy z tego, że członkowie Omegi, by ukryć tajemnicę, starannie wykreowali swój wizerunek. Byli bowiem bardzo bliscy przeprowadzenia najbardziej śmiałego planu w historii ludzkości. Charyzmatyczny dyrektor generalny wybrał ich nie tylko dlatego, że byli wybitnymi badaczami, ale także z powodu ich ambicji, idealizmu i silnego zaangażowania w pomoc ludzkości. Przypomniał im, że ich plan jest niezwykle niebezpieczny i gdyby potężne rządy dowiedziały się o nim, zrobiłyby praktycznie wszystko – łącznie z porwaniem – aby go unicestwić lub wykraść jego kody. Oni jednak znaleźli się tu z tego samego powodu co wielu czołowych fizyków świata, gdy przyłączyli się do projektu Manhattan, mającego na celu budowę broni jądrowej. Byli bowiem przekonani, że gdyby nie zrobili tego pierwsi, to mógłby tego dokonać ktoś o mniej idealistycznych pobudkach.

Zbudowana przez nich sztuczna inteligencja, nazwana Prometeuszem, zdobywała coraz większe możliwości. Chociaż jej zdolności poznawcze w wielu dziedzinach, na przykład umiejętności społeczne, nadal pozostawały daleko w tyle za ludzkimi zdolnościami, Omegi uparcie dążyły do wyspecjalizowania jej w jednym konkretnym aspekcie: programowaniu systemów sztucznej inteligencji. Badacze celowo wybrali taką strategię, ponieważ uwierzyli w argument o eksplozji inteligencji, przedstawiony przez brytyjskiego matematyka Irvinga Gooda w 1965 roku: „Niech ultrainteligentna maszyna będzie z definicji taką, która może daleko przewyższyć wszelką intelektualną aktywność dowolnego człowieka bez względu na jego zdolności. A ponieważ projektowanie maszyn jest jednym z tych intelektualnych działań, ultrainteligentna maszyna mogłaby zaprojektować jeszcze lepsze maszyny; bez wątpienia nastąpiłaby wówczas »eksplozja inteligencji«, a inteligencja człowieka pozostałaby daleko w tyle. A więc pierwszą ultrainteligentną maszyną będzie ostatni wynalazek, jaki człowiek kiedykolwiek stworzył, pod warunkiem że maszyna taka okaże się na tyle uległa, by powiedzieć nam, jak utrzymać nad nią kontrolę”.

Członkowie zespołu zdawali sobie jednak sprawę, że gdyby udało im się uruchomić to rekurencyjne samodoskonalenie, maszyna szybko stałaby się na tyle zdolna, że mogłaby sama nauczyć się wszystkich ludzkich umiejętności, które byłyby jej przydatne.

PIERWSZE MILIONY

Była godzina dziewiąta w piątek rano, kiedy postanowiono rozpocząć. Prometeusz został uruchomiony w specjalnie skonstruowanym klastrze komputerowym, umieszczonym w długich rzędach regałów w rozległej, klimatyzowanej sali, do której wstęp był ściśle kontrolowany. Ze względów bezpieczeństwa został on całkowicie odłączony od Internetu, ale zawierał lokalną kopię dużej części stron internetowych (Wikipedia, Biblioteka Kongresu, Twitter, wybór materiałów spośród następujących źródeł: YouTube, większość Facebooka itd.) wykorzystywanych jako dane służące mu do nauki1. Termin jego uruchomienia wybrano tak, aby rodziny i przyjaciele badaczy myśleli, że spędzają oni weekend w jakimś ustroniu na spotkaniu integracyjnym zorganizowanym przez firmę. Aneks kuchenny został zawalony mrożonkami do odgrzewania w mikrofalówkach i napojami energetycznymi, a członkowie zespołu byli gotowi do roboty.

Kiedy uruchomili Prometeusza, okazał się on nieco gorszy od nich w programowaniu systemów sztucznej inteligencji, ale nadrabiał ten brak tym, że był znacznie szybszy, wyrabiał tysiące roboczogodzin, podczas gdy ludzie w tym czasie pociągali red bulla. Do godziny 10.00 rano wykonał pierwszą przeróbkę samego siebie, wersję 2.0, która była nieco lepsza, ale wciąż nie dorównywała człowiekowi. Kiedy o godz. 14.00 członkowie Omegi uruchomili Prometeusza 5.0, byli zachwyceni, bo pobił wskaźniki ich wydajności, a tempo jego rozwoju wydawało się coraz większe. Po zapadnięciu nocy zdecydowali się uruchomić Prometeusza 10.0, aby rozpocząć drugą fazę planu: zarabianie pieniędzy.

Ich pierwszym celem był MTurk, Amazon Mechanical Turk. Po wprowadzeniu na rynek internetowy w 2005 roku stał się szybko rozwijającym się forum, na którym dziesiątki tysięcy osób na całym świecie rywalizowały anonimowo przez całą dobę o odpłatne wykonywanie ściśle określonych prac zwanych HIT-ami (Human Intelligence Tasks). Było to szerokie spektrum zadań, począwszy od transkrypcji nagrań dźwiękowych po klasyfikację obrazów i opisy stron internetowych. Wszystkie te zadania miały jedną wspólną cechę: jeśli wykonuje się je dobrze, to nikt się nie domyśli, że stoi za tym sztuczna inteligencja. Prometeusz 10.0 był w stanie dość dobrze realizować około połowy takich zadań. Dla każdej ich kategorii członkowie Omegi za pomocą Prometeusza zaprojektowali moduł sztucznej inteligencji, który wykonywał jedno konkretne zadanie i nic więcej. Następnie załadowywali taki moduł na Amazon Web Services, platformę programowania w chmurze, która mogła operować na tylu maszynach wirtualnych, ile ich wypożyczyli. Za każdego dolara, którego płacili działowi programowania w chmurze firmy Amazon, zarabiali ponad dwa dolary z jej działu MTurk. Amazon nie podejrzewał istnienia takiej niesamowitej możliwości dokonywania transakcji arbitrażowych we własnej firmie!

Aby ukryć ślady swojej działalności, kilka miesięcy wcześniej projektanci dyskretnie utworzyli tysiące fikcyjnych kont na MTurku, a zbudowane przez Prometeusza moduły przejęły następnie tożsamość ich posiadaczy. Klienci MTurka przeważnie płacili po mniej więcej ośmiu godzinach pracy, a wtedy członkowie Omegi reinwestowali pieniądze w czas obliczeniowy w chmurze i wprowadzali najnowszą wersję modułów stworzonych na bazie coraz doskonalszego Prometeusza. Ponieważ byli w stanie podwoić swoje dochody co osiem godzin, wkrótce zaczęli nasycać rynek zadań MTurka i zrozumieli, że nie mogą zarobić więcej niż jakiś milion dolarów dziennie bez zwracania na siebie uwagi. To jednak z nawiązką wystarczyło, aby sfinansować ich kolejny krok, i wyeliminowało potrzebę zwracania się do dyrektora finansowego z wnioskami o następny zastrzyk gotówki.

NIEBEZPIECZNE GRY

Oprócz przełomowych odkryć w dziedzinie sztucznej inteligencji jednym z ostatnich projektów, który członkom Omegi sprawił największą przyjemność, było zaplanowanie jak najszybszego zarobku po uruchomieniu Prometeusza. W istocie cała e-gospodarka była teraz do zagarnięcia. A może lepiej było zacząć od tworzenia gier komputerowych, muzyki, filmów lub oprogramowania, pisania książek bądź artykułów, handlu na giełdzie lub tworzenia wynalazków i ich sprzedawania? Chodziło im jednak o maksymalizację stopy zwrotu z inwestycji, a normalne strategie inwestycyjne były jedynie wykonywaną w zwolnionym tempie parodią tego, czego mogliby dokonać. Tam, gdzie zwykły inwestor mógł być zadowolony z dziewięciu procent zwrotu inwestycji w ciągu roku, ich inwestycje w MTurk przynosiły dziewięć procent zysku w ciągu godziny, dziennie doprowadzając do ośmiokrotnego powiększenia puli pieniężnej. Teraz, gdy już nasycili rynek MTurka, pojawiło się pytanie: co dalej?

Pierwszą myślą było łatwe i szybkie zarobienie dużych pieniędzy na giełdzie – wszak prawie wszyscy w pewnym momencie odrzucili lukratywną ofertę pracy nad stworzeniem sztucznej inteligencji dla funduszy hedgingowych, które dużo inwestowały w ten pomysł. Niektórzy pamiętali, że w filmie Transcendencja właśnie w ten sposób sztuczna inteligencja zarobiła pierwsze miliony. Jednak po zeszłorocznej katastrofie na giełdzie nowe regulacje dotyczące instrumentów pochodnych ograniczyły ich możliwości. Szybko zdali sobie sprawę, że nawet jeśli mogliby uzyskać znacznie lepszy zwrot niż inni inwestorzy, nie byliby w stanie zapewnić go sobie na poziomie, który mogliby osiągnąć ze sprzedaży własnych produktów. Kiedy jesteś posiadaczem pierwszej sztucznej superinteligencji pracującej dla ciebie, lepiej wychodzisz na inwestowaniu w swoje firmy niż w firmy innych! Chociaż mogą istnieć sporadyczne wyjątki (takie jak wykorzystanie nadludzkich zdolności Prometeusza do hakerstwa w celu uzyskania wewnętrznych informacji i wykupienia akcji, które mają wkrótce gwałtownie wzrosnąć), zespół Omegi uznał, że nie było to warte zwracania na siebie niepotrzebnej uwagi.

Kiedy jego członkowie skupili się na produktach, które mogliby rozwijać i sprzedawać, najpierw oczywistym wyborem wydawały się gry komputerowe. Prometeusz mógłby szybko stać się niezwykle kompetentny w projektowaniu atrakcyjnych gier. Dawałby sobie łatwo radę z kodowaniem, projektowaniem graficznym, techniką śledzenia promieni na zdjęciach i we wszystkich innych zadaniach niezbędnych do przygotowania finalnego produktu. Ponadto, po przeanalizowaniu wszystkich danych internetowych na temat ludzkich preferencji, wiedziałby dokładnie, co lubi każda z kategorii graczy, i mógłby osiągnąć nadludzką zdolność optymalizacji gry w celu uzyskania dochodów ze sprzedaży. The Elder Scrolls V: Skyrim, gra, podczas której wielu członków Omegi zmarnowało więcej czasu, niż miałoby ochotę do tego się przyznać, w pierwszym tygodniu 2011 roku przyniosła ponad 400 milionów dolarów przychodu, wszyscy byli zatem przekonani, że Prometeusza stać na równie niesamowite osiągnięcie jak to, czego dokonał w ciągu dwudziestu czterech godzin z jednym milionem dolarów z zasobów programowania w chmurze. Potem mogliby sprzedać grę online i wykorzystać Prometeusza, aby podszywał się pod ludzi zachwalających ją w blogosferze. Gdyby to przyniosło 250 milionów dolarów w ciągu tygodnia, podwajaliby swoje inwestycje osiem razy w ciągu ośmiu dni, co dałoby zwrot w wysokości 3 procent na godzinę – rezultat nieco gorszy niż start w MTurku, ale o wiele bardziej trwały. Członkowie zespołu doszli do wniosku, że tworząc każdego dnia zestaw coraz innych gier, będą mogli zarobić w krótkim czasie 10 miliardów dolarów, nie nasycając rynku gier.

Jednak specjalistka do spraw bezpieczeństwa cybernetycznego w ich zespole odradziła im realizację takiego planu. Zwróciła uwagę, że byłoby to niedopuszczalne ryzyko, Prometeusz bowiem mógłby się uwolnić i przejąć kontrolę nad własnym losem. Ponieważ badacze nie byli pewni, jak jego cele będą ewoluować podczas rekurencyjnego samodoskonalenia, postanowili przeprowadzić plan bezpiecznie i utrzymać Prometeusza zamkniętego („zapuszkowanego”) w taki sposób, aby nie mógł uciec do Internetu. Główny silnik Prometeusza pracujący w serwerowni miał fizyczne ograniczenie: po prostu nie połączono go z Internetem, a Prometeusz mógł jedynie wysłać wiadomości i dokumenty do komputera kontrolowanego przez członków Omegi.

Równocześnie uruchamianie jakiegokolwiek skomplikowanego programu stworzonego przez Prometeusza na komputerze podłączonym do Internetu wiązało się z ryzykiem: skoro członkowie Omegi nie mogli w pełni zrozumieć, co mógłby on zrobić, nie byli pewni tego, czy, na przykład, nie zacznie się sam rozprzestrzeniać online za pomocą stworzonego przez siebie wirusa. Podczas testowania oprogramowania, które Prometeusz napisał w celu rozpracowania MTurka, członkowie Omegi zabezpieczyli się przed takim rozwojem sytuacji, uruchamiając go tylko wewnątrz maszyny wirtualnej. Jest to program, który symuluje działanie komputera: na przykład wielu użytkowników komputerów Apple kupuje oprogramowanie do maszyn wirtualnych, które pozwala im na uruchamianie na maszynie wirtualnej programów pracujących w systemie Windows. Członkowie Omegi stworzyli własną maszynę wirtualną, zwaną Puszką Pandory, która symulowała ultrauproszczoną maszynę pozbawioną wszystkich bajerów, jakie zwykle kojarzą nam się z komputerami: bez klawiatury, bez monitora, bez głośników, bez łączności z Internetem. Podczas transkrypcji audio opracowywanych dla MTurka członkowie Omegi ustawili system w taki sposób, aby wszystko, co trafiało do Puszki Pandory, mogło być jednym pojedynczym plikiem audio, a wszystko, co mogło z niej wyjść – jednym dokumentem tekstowym, czyli transkrypcją. Takie prawa stosowane do oprogramowania wewnątrz Puszki Pandory są podobne do praw fizyki obowiązujących nas wewnątrz Wszechświata: oprogramowanie nie może opuścić Puszki Pandory, tak jak my nie możemy podróżować szybciej niż światło, bez względu na to, na jakim jesteśmy poziomie rozwoju. Poza tym pojedynczym wejściem i wyjściem oprogramowanie wewnątrz Puszki Pandory zostało skutecznie uwięzione w równoległym wszechświecie z własnymi zasadami obliczeniowymi. Członkowie Omegi ogarnięci byli tak wielkim strachem przed utratą kontroli nad Prometeuszem, że dodali również zabezpieczenie ograniczające czas działania niezaufanego kodu. Na przykład po każdym zakończeniu transkrypcji pliku audio cała zawartość pamięci Puszki Pandory zostawała automatycznie kasowana i program był ponownie instalowany. W ten sposób kiedy zaczynał następną transkrypcję, nie miał wiedzy na temat tego, co działo się poprzednio, i nie mógł się uczyć.

W czasie wykonywania projektu dla MTurka i wykorzystując chmurę Amazona, projektanci umieszczali wszystkie moduły stworzone przez Prometeusza w czymś w rodzaju wirtualnych pudełek, gdyż wejście i wyjście tego oprogramowania było bardzo proste. To jednak nie sprawdziłoby się w odniesieniu do gier komputerowych, których ze względu na skomplikowaną grafikę nie dałoby się umieścić w takiej wirtualnej maszynie, gra bowiem musi mieć dostęp do sprzętu komputera gracza. Znacznie rosło więc ryzyko tego, że jakiś łebski użytkownik dokona analizy kodu gry, odkryje Puszkę Pandory i zbada jej kod źródłowy. Obecnie ryzyko wykrycia uniemożliwiało wejście nie tylko na rynek gier komputerowych, lecz także na bardzo lukratywny rynek innego oprogramowania, wart setki miliardów dolarów.

PIERWSZE MILIARDY

Członkowie Omegi zawęzili swe poszukiwania do produktów, które były bardzo wartościowe, zawierały tylko technikę cyfrową (co umożliwiało ich szybką produkcję) i były łatwe do zrozumienia (na przykład teksty lub filmy, o których wiedzieli, że nie będą stwarzać ryzyka włamania do kodu). Ostatecznie postanowili założyć firmę medialną, która zaczęła działalność od animowanej rozrywki. Zanim jeszcze Prometeusz stał się sztuczną superinteligencją, do publikacji były już gotowe: strona internetowa, plan marketingowy i komunikaty prasowe – brakowało w nich tylko treści.

Mimo że Prometeusz stał się zadziwiająco zdolny już w niedzielę rano, czego dowiódł, stale zgarniając pieniądze od MTurka, jego zdolności intelektualne były nadal dość wąskie: został celowo zoptymalizowany do projektowania systemów sztucznej inteligencji i pisania oprogramowania, które wykonywało ogłupiające zadania dla MTurka. Był słaby na przykład w produkcji filmów – nie z jakichś głębszych powodów, ale po prostu tak samo jak James Cameron w wieku niemowlęcym, jest to bowiem umiejętność wymagająca czasu do nauki. Podobnie jak dziecko, Prometeusz mógł się dowiedzieć, czego chciał, na podstawie danych, do których miał dostęp. Podczas gdy James Cameron uczył się czytać i pisać w ciągu lat, Prometeusz nauczył się tego w piątek, kiedy to znalazł również czas na przeczytanie całej Wikipedii i kilku milionów książek. Trudniej było z kręceniem filmów. Pisanie scenariusza, który byłby interesujący dla człowieka, było równie trudne jak napisanie książki wymagającej szczegółowej wiedzy o ludzkim społeczeństwie i o tym, co dla ludzi jest zabawne. Przekształcenie scenariusza w ostateczny plik wideo oznacza konieczność symulowania głosów, produkcji przykuwających uwagę muzycznych ścieżek dźwiękowych, żmudnego śledzenia promieni symulowanych aktorów i złożonych scen, w których się oni poruszali, i tak dalej. W niedzielę z rana Prometeusz obejrzał dwugodzinny film w ciągu około minuty, obejmowało to również czytanie każdej z książek, na których opierał się scenariusz, a także wszystkich recenzji i ocen umieszczonych w Internecie. Członkowie Omegi zauważyli, że Prometeusz po szaleńczym maratonie kilkuset filmów zaczął dość dobrze przewidywać, jakiego rodzaju recenzje otrzyma film i jak zostanie przyjęty przez różnorodną widownię. Komentując wszystko, od fabuły i aktorstwa po szczegóły techniczne, takie jak oświetlenie i kąt kamery, w istocie nauczył się sam pisać recenzje filmów w sposób dowodzący ich rzeczywistego zrozumienia. Dla członków Omegi oznaczało to, że skoro Prometeusz tworzył własne filmy, wiedział już, co oznacza sukces.

Polecili mu więc skupić się najpierw na animacji, aby uniknąć kłopotliwych pytań o to, kim są symulowani aktorzy. W niedzielę wieczorem skrócili swój dziki weekend i przyciemniwszy światło, uzbrojeni w piwo i prażoną kukurydzę oglądali debiutancki film Prometeusza. Była to animowana komedia w duchu Krainy Lodu Disneya, w której do śledzenia promieni posłużył kod stworzony przez Prometeusza w chmurze Amazona za jeden milion dolarów dziennego zysku z MTurka. Kiedy film się zaczął, widzowie odkryli, że jest jednocześnie fascynujący i przerażający, bo został stworzony przez maszynę bez ludzkich wskazówek. Niebawem jednak śmiali się z gagów i wstrzymywali oddech w dramatycznych momentach. Niektórzy z nich tak wciągnęli się w tę fikcyjną rzeczywistość, że nawet trochę się popłakali podczas wzbudzającego emocje finału, zapominając, kim jest twórca tego filmu.

Członkowie Omegi zaplanowali uruchomienie swojej strony internetowej w piątek, dając Prometeuszowi czas na stworzenie większych zasobów treści i na robienie czegoś, co wzbudzało ich nieufność wobec niego: kupowanie reklam i rozpoczynanie rekrutacji pracowników do firm fasadowych, które założyli w ciągu ostatnich miesięcy. Aby ukryć ślady swej działalności, posłużyli się następującą oficjalną przykrywką: pewna spółka medialna (która nie miała związków z członkami Omegi) kupowała większość swoich treści od niezależnych producentów filmowych, zazwyczaj od firm rozpoczynających działalność w sektorze zaawansowanych technologii w regionach o niskich dochodach. Owi fikcyjni dostawcy mieli bardzo dogodną lokalizację, w tak odległych miejscach jak Tiruchirapalli czy Jakuck, do których nawet najdociekliwsi dziennikarze nie byliby skorzy przyjechać. Jedyni pracownicy, których tam zatrudniali, zajmowali się marketingiem i administracją i mieli każdemu odpowiadać, że ich zespół produkcyjny przebywa gdzie indziej i obecnie nie udziela wywiadów. Aby dopasować się do tej przykrywki, projektanci wybrali korporacyjne hasło: „Channeling the world’s creative talent” (Aktywowanie talentów twórczych na świecie) i określili firmę jako niezwykle zróżnicowaną dzięki stosowaniu najnowocześniejszych technologii w celu wzmocnienia pozycji ludzi kreatywnych, zwłaszcza w krajach rozwijających się.

Kiedy nadszedł piątek i ciekawi goście zaczęli przeglądać ich stronę, natykali się na coś, co przypominało internetowe serwisy rozrywkowe Netflix i Hulu, ale z pewnymi ciekawymi różnicami. Całe serie animacji, o których widzowie nigdy nie słyszeli, były nowe. Były też urzekające: większość z nich składała się z czterdziestopięciominutowych odcinków o zajmującej fabule, które kończyły się w taki sposób, że z chęcią oczekiwało się na kolejny. Były także tańsze niż produkcje konkurencji. Pierwszy odcinek każdej serii był darmowy i można było oglądać pozostałe za czterdzieści dziewięć centów z rabatami na zakup całej serii. Początkowo pojawiły się tylko trzy serie z trzema epizodami, ale codziennie dodawano nowe odcinki, a także nowe serie przeznaczone dla różnych kategorii odbiorców. W ciągu pierwszych dwóch tygodni działalności Prometeusza jego zdolności filmowe gwałtownie się poprawiły, nie tylko pod względem jakości filmu, ale również pod względem algorytmów symulacji postaci i śledzenia promieni, co znacznie zmniejszyło koszty przetwarzania w chmurze każdego nowego odcinka filmu. W rezultacie w ciągu pierwszego miesiąca członkowie Omegi wprowadzili na rynek dziesiątki nowych serii, koncentrując się na różnorodnych odbiorcach, od małych dzieci do dorosłych, jak również rozszerzyli działalność na wszystkie główne rynki języków obcych, dzięki czemu ich strona internetowa stała się bardziej międzynarodowa w porównaniu ze stronami konkurentów. Na niektórych komentatorach wrażenie wywarło to, że wielojęzyczna była nie tylko ścieżka dźwiękowa, lecz także same filmy wideo, na przykład, kiedy postać mówiła po włosku, mimika jej ust odpowiadała wypowiadanym włoskim słowom, towarzyszyła jej także charakterystyczna włoska gestykulacja. Choć Prometeusz był teraz doskonale przystosowany do tworzenia filmów z symulowanymi aktorami, którzy nie odróżnialiby się od prawdziwych ludzi, członkowie Omegi nie chcieli do tego dopuścić, aby nie zdradzać swego planu. Wyemitowali jednak wiele seriali, w których wystąpiły półrealistyczne animowane postacie ludzi, konkurujących z tradycyjnymi filmami i programami telewizyjnymi łączącymi grę aktorską z animacją.

Sieć okazała się całkiem uzależniająca i osiągnęła spektakularny wzrost widowni. Wielu fanów uznawało fabuły wraz z bohaterami za lepsze i nawet ciekawsze od tych z najdroższych hollywoodzkich wielkoekranowych produkcji i z radością przyjęło, że mogli oglądać je po znacznie przystępniejszych cenach. Zafascynowani agresywną reklamą (na którą członkowie Omegi mogli sobie pozwolić dzięki niemal zerowym kosztom produkcji), znakomitym przekazem medialnym i przekazywanym ustnie entuzjastycznym opiniom widzowie przyczynili się do tego, że w ciągu miesiąca od chwili pojawienia się na rynku światowe przychody Omegi gwałtownie wzrosły do 10 milionów dolarów dziennie. Po dwóch miesiącach były większe od dochodów Netflixa, a po trzech miesiącach osiągnęły ponad 100 milionów dolarów dziennie i jako jedna z największych światowych sieci medialnych mogli oni rywalizować z Time Warner, Disneyem, Comcastem i Foxem.

Ów rewelacyjny sukces wywołał wiele niepożądanej uwagi, w tym spekulacje na temat posiadania silnej sztucznej inteligencji, ale wykorzystując jedynie niewielki ułamek swych dochodów, członkowie Omegi przeprowadzili dość skuteczną kampanię dezinformacyjną. W urządzonym z ostentacją nowym biurze na Manhattanie świeżo wynajęci rzecznicy opracowali historię, na której opierała się ich przykrywka. Wynajęto też wielu ludzi mających uwiarygodnić ich działalność, w tym prawdziwych scenarzystów z całego świata, którzy zaczęli tworzyć nowe seriale, lecz żaden z nich nic nie wiedział o Prometeuszu. Zagmatwana międzynarodowa sieć podwykonawców sprawiła, że większość ich pracowników była przekonana, że inni w innym miejscu wykonują większość prac.

Aby zmniejszyć zagrożenie i nie tłumaczyć się z nadmiernego zajmowania czasu obliczeniowego w chmurze, zatrudnili również inżynierów w celu rozpoczęcia budowy potężnych obiektów komputerowych na całym świecie, należących do pozornie niepowiązanych ze sobą podstawionych firm. Chociaż rozliczały się one z miejscowymi władzami jako „zielone centra danych”, ze względu na zasilanie głównie energią słoneczną, w rzeczywistości koncentrowały się na obliczeniach, a nie na przechowywaniu danych. Prometeusz zaprojektował wszystko z dokładnością do najdrobniejszego szczegółu, wykorzystując tylko dostępny już sprzęt i optymalizując go w celu zminimalizowania czasu budowy. Ludzie, którzy budowali i prowadzili te centra, nie mieli pojęcia, co tam obliczano: myśleli, że zarządzali komercyjnymi chmurami obliczeniowymi podobnymi do tych, które prowadzą Amazon, Google i Microsoft, i wiedzieli tylko, że cała sprzedaż jest zarządzana zdalnie.

NOWE TECHNOLOGIE

W paru ciągu miesięcy dzięki nadludzkiemu planowaniu Prometeusza imperium biznesowe kontrolowane przez członków Omegi zaczęło się umacniać w kolejnych gałęziach światowej gospodarki. Analizując dokładnie dane z całego świata, Prometeusz już w pierwszym tygodniu przedstawił swoim projektantom szczegółowy plan wzrostu, który krok po kroku ulepszał i doskonalił, w miarę jak rozrastały się jego dane i zasoby komputerowe. Mimo że daleko mu było do wszechwiedzy, jego możliwości tak bardzo wykraczały poza możliwości człowieka, że członkowie Omegi postrzegali go jako idealną wyrocznię, rzetelnie udzielającą błyskotliwych odpowiedzi na wszystkie ich pytania.

Oprogramowanie Prometeusza zostało teraz tak zoptymalizowane, aby jak najlepiej wykorzystywać konstruowany przez ludzi sprzęt średniej klasy, na którym działał i którego – jak spodziewali się członkowie zespołu Omega – radykalnego udoskonalenia wkrótce dokonał. Obawiając się jego ucieczki, odmówili jednak budowania obiektów cybernetycznych, które Prometeusz mógł bezpośrednio kontrolować. Zamiast tego w wielu miejscach zatrudnili dużą liczbę naukowców i inżynierów światowej klasy i dostarczali im opracowywane przez Prometeusza raporty wewnętrzne z badań jako pochodzące od badaczy z innych miejsc. Raporty te szczegółowo opisywały nowe efekty fizyczne i nowe techniki produkcji, które ich inżynierowie wkrótce sprawdzali, zrozumieli i opanowali. Normalne ludzkie cykle badań i rozwoju (R&D) trwają oczywiście wiele lat, w dużej mierze dlatego, że wiążą się z wieloma długotrwałymi cyklami prób i błędów. Obecna sytuacja była jednak zupełnie inna: Prometeusz powziął już kolejne kroki, a więc czynnikiem ograniczającym było to, jak szybko ludzie mogli je zrozumieć i zbudować odpowiednie urządzenia. Dobry nauczyciel umożliwia studentom nabycie wiedzy naukowej znacznie szybciej, niż mogliby to zrobić, samodzielnie budując ją od podstaw, a Prometeusz ukradkiem robił to samo z badaczami. Ponieważ mógł dokładnie przewidzieć, ile czasu potrzeba ludziom, mającym do dyspozycji konkretne narzędzia, na zrozumienie i zbudowanie odpowiednich urządzeń, opracował najszybszą metodę rozwoju, opartą na nowych narzędziach, które można szybko zbudować i opanować i które byłyby najbardziej przydatne do tworzenia jeszcze bardziej zaawansowanych konstrukcji.

Zespoły inżynierów zachęcano w duchu kultury makerów do wykorzystywania własnych maszyn do konstruowania maszyn jeszcze lepszych. Ta samowystarczalność nie tylko pozwoliła zaoszczędzić pieniądze, ale także zmniejszyła ich podatność na przyszłe zagrożenia pochodzące z zewnątrz. W ciągu dwóch lat produkowali już znacznie lepszy sprzęt komputerowy niż gdziekolwiek indziej na świecie. Aby uniknąć wzmocnienia konkurencji zewnętrznej, technologia ta pozostawała utajniona i wykorzystywana była jedynie do unowocześnienia Prometeusza.

Świat zauważył jednak zadziwiający boom technologiczny. Firmy z całego świata wprowadzały na rynek rewolucyjne nowe produkty we wszystkich niemal dziedzinach. Nowo powstała południowokoreańska spółka wypuściła baterię, która magazynowała o połowę więcej energii niż ta stosowana w laptopach, miała o połowę od niej mniejszą masę i mogła zostać naładowana w ciągu minuty. Firma fińska zaczęła sprzedawać tani kolektor słoneczny o dwukrotnie większej wydajności, niż osiągały produkty konkurentów. Niemiecka firma oznajmiła, że masowo produkuje nowy typ nadprzewodzącego w temperaturze pokojowej drutu, który rewolucjonizował sektor energetyczny. Grupa biotechnologiczna z siedzibą w Bostonie ogłosiła drugą fazę badań klinicznych nad pierwszym skutecznym lekiem na odchudzanie niewywołującym skutków ubocznych. Tymczasem pogłoski sugerowały, że firma indyjska sprzedaje już coś podobnego na czarnym rynku. Przedsiębiorstwo z Kalifornii ripostowało, że prowadzi drugą fazę testu leku przeciwnowotworowego, który powoduje, że układ odpornościowy organizmu rozpoznaje i atakuje komórki wszystkich powszechnych mutacji nowotworów. Napływające wciąż przykłady skłaniały do myśli o nowym złotym wieku nauki. Co zaś najważniejsze, na całym świecie firmy cybernetyczne powstawały jak grzyby po deszczu. I choć żaden z botów nie osiągał ludzkiej inteligencji i większość z nich nie przypominała w niczym człowieka, to dramatycznie zakłóciły funkcjonowanie gospodarki, a w nadchodzących latach stopniowo zastąpiły większość pracowników w przemyśle wytwórczym, transporcie, magazynowaniu, handlu detalicznym, budownictwie, górnictwie, rolnictwie, leśnictwie i rybołówstwie.

Świat nie zauważył dzięki ciężkiej pracy doborowego zespołu prawników, że wszystkie te firmy były kontrolowane przez członków Omegi przez wielu pośredników. Za pośrednictwem różnych pełnomocników Prometeusz zalewał światowe urzędy patentowe sensacyjnymi wynalazkami, które stopniowo prowadziły do dominacji we wszystkich dziedzinach techniki.

Chociaż te destrukcyjne nowe firmy z jednej strony narobiły sobie potężnych wrogów wśród konkurencji, to z drugiej zdobyły jeszcze bardziej wpływowych przyjaciół. Charakteryzowała je wysoka opłacalność, ale pod hasłem „Inwestujemy w naszą społeczność” wydawały znaczną część zysków na zatrudnianie pracowników do projektów społecznych – często ludzi zwolnionych z firm, które ucierpiały na skutek ich działalności. Wykorzystano szczegółowe analizy opracowane przez Prometeusza, określające, jakie miejsca pracy są odpowiednie do danych lokalnych warunków, takie, które jak najmniejszym kosztem dawałyby maksymalną satysfakcję pracownikom i całej społeczności. W regionach o wysokim poziomie usług publicznych często chodziło o budownictwo społeczne, związane z kulturą i opieką socjalną, podczas gdy w biedniejszych regionach ich działalność obejmowała również uruchamianie i utrzymywanie szkół, obiektów opieki zdrowotnej, opieki dziennej, opieki nad osobami starszymi, tanich mieszkań, parków i podstawowej infrastruktury. Prawie wszędzie mieszkańcy uważali, że były to inwestycje, które już dawno temu należało poczynić. Lokalni politycy dostali hojne wsparcie i zadbano, by patrzyli na to przychylnym wzrokiem i zachęcali przedsiębiorstwa do inwestycji w społeczności lokalne.

ZDOBYWANIE WŁADZY

Członkowie Omegi założyli firmę medialną nie tylko po to, by sfinansować swoje wczesne przedsięwzięcia technologiczne, ale również po to, by zrealizować kolejny krok w ich odważnym planie przejęcia kontroli nad światem. W ciągu roku od swej premiery firma na całym świecie do swojej oferty programowej dodała znakomite kanały informacyjne. W przeciwieństwie do innych takich kanałów te zostały stworzone celowo, aby nie przynosić dochodu, i zostały zakwalifikowane jako usługa publiczna. W istocie nie było w nich żadnych reklam i kanały udostępniano bezpłatnie każdemu, kto miał połączenie internetowe. Reszta imperium medialnego była tak ogromną machiną przynoszącą tak wielkie pieniądze, że grupa z Omegi mogła wydawać o wiele więcej środków na swój serwis informacyjny, niż dokonał tego ktokolwiek w historii świata. Dzięki agresywnej rekrutacji i ofertom bardzo konkurencyjnych wynagrodzeń dla dziennikarzy i dziennikarzy śledczych na ekranach pokazywano niezwykłe talenty i niezwykłe osiągnięcia. Globalny serwis internetowy, który płacił każdemu, kto ujawniał coś wartego uwagi, od lokalnej korupcji po zdarzenia zapierające dech w piersiach, pozwalał zazwyczaj, aby to media Omegi pierwsze nadawały wiadomości z ostatniej chwili. Przynajmniej tak wierzyli ludzie, bo w istocie często owo pierwszeństwo wynikało z tego tylko, że Prometeusz dzięki monitorowaniu Internetu w czasie rzeczywistym odkrywał historie przypisywane dziennikarzom obywatelskim. Wszystkim filmowym serwisom informacyjnym towarzyszyły podcasty i artykuły drukowane.

Pierwszy etap strategii informacyjnej polegający na zdobyciu zaufania ludzi udał się znakomicie. Bezprecedensowe zasoby pieniężne umożliwiły niezwykle skrupulatne opracowywanie wiadomości lokalnych i regionalnych, przy czym dziennikarze śledczy często ujawniali skandale, które istotnie wzbudzały zainteresowanie widzów. Tam, gdzie społeczeństwo było silnie politycznie podzielone i przyzwyczajone do podawania tendencyjnych wiadomości, imperium Omegi obsługiwało różne frakcje polityczne, uruchamiając poświęcone im kanały informacyjne, rzekomo należące do różnych firm, i tym sposobem stopniowo zdobywało zaufanie takiej frakcji. Tam, gdzie to było możliwe, za pomocą pośredników kupowano istniejące już najbardziej wpływowe kanały, stopniowo je ulepszając przez usuwanie reklam i wprowadzanie własnych treści. W krajach, w których cenzura i ingerencja polityczna zagrażały tym wysiłkom, początkowo godzono się na to, czego od nich wymagał rząd, aby pozostać w biznesie, mając jednak na uwadze swój wewnętrzny slogan: „Prawda i tylko prawda, ale może nie cała prawda”. Prometeusz zwykle udzielał w takich sytuacjach znakomitych rad, wyjaśniając, których polityków należy ukazać w pozytywnym świetle (na ogół byli to skorumpowani lokalni działacze), a których można demaskować. Udzielał również nieocenionych wskazówek, za jakie sznurki pociągać, kogo przekupić i jak najlepiej tego dokonać.

Strategia ta odniosła ogromny sukces na całym świecie, a kanały sterowane przez członków Omegi stały się najbardziej wiarygodnymi źródłami informacji. Nawet w krajach, w których rządy do tej pory psuły im szyki, budowali reputację godnych zaufania, a wiele z ich doniesień rozpowszechniano pocztą pantoflową. Menedżerowie konkurencyjnych kanałów informacyjnych czuli, że ich walka o widza jest beznadziejna: jak można w końcu konkurować z kimś, kto ma większe fundusze i kto upublicznia swój produkt bezpłatnie? Wraz ze spadkiem oglądalności coraz więcej sieci decydowało się na sprzedaż kanałów informacyjnych – zazwyczaj takim konsorcjom, które później okazywały się kontrolowane przez członków Omegi.

Mniej więcej dwa lata po uruchomieniu Prometeusza, kiedy faza zdobywania zaufania została w dużej mierze zakończona, członkowie Omegi rozpoczęli drugą fazę swojej strategii informacyjnej: perswazję. Jeszcze zanim to nastąpiło, przenikliwi obserwatorzy zauważyli płynące z nowych mediów sugestie programu politycznego: wydawało się, że istnieje delikatny nacisk w kierunku centrum, bez odwoływania się do wszelkiego rodzaju ekstremizmu. Posiadana przez nich mnogość kanałów odwołująca się do różnych grup nadal prezentowała animozję między Stanami Zjednoczonymi a Rosją, Indiami i Pakistanem, różnymi religiami, frakcjami politycznymi i tak dalej. Jednak krytyka była nieco złagodzona, zazwyczaj skupiała się raczej na konkretnych kwestiach związanych z pieniędzmi i władzą niż na atakach personalnych, sianiu paniki i rozpowszechnianiu niczym niepopartych pogłosek. Gdy faza druga na dobre się już zaczęła, ten bodziec do łagodzenia starych konfliktów stał się bardziej widoczny, wraz z częstymi wzruszającymi historiami o trudnej sytuacji tradycyjnych adwersarzy przeplatanych reportażami śledczymi o tym, jak wiele głośnych konfliktów wywoływanych było przez osoby kierujące się chęcią zysku.

Komentatorzy polityczni zauważyli, że równolegle z tłumieniem konfliktów regionalnych pojawił się duży nacisk na ograniczenie zagrożeń globalnych. Na przykład lokalnie zaczynano nagle dyskutować o zagrożeniach związanych z wojną jądrową. W kilku filmach, które stały się przebojami sezonu, przedstawiano czarną wizję przypadkowego lub celowo sprowokowanego wybuchu wojny nuklearnej i jej skutku w postaci zimy nuklearnej, upadku infrastruktury i masowego głodu na świecie. Zgrabnie zredagowane programy dokumentalne podawały szczegółowe informacje o tym, co spowoduje zima nuklearna w każdym z krajów. Naukowcy i politycy opowiadający się za deeskalacją jądrową otrzymywali wystarczająco dużo czasu antenowego, by omówić działania, które można by podjąć w ramach badań finansowanych przez organizacje naukowe, sponsorowane dużymi darowiznami od firm z sektora nowych technologii. Na skutek tego pojawił się silny nacisk polityczny na obniżenie gotowości użycia pocisków rakietowych i na zmniejszenie arsenałów jądrowych. Zwrócono również na nowo uwagę mediów na problem globalnych zmian klimatu, często podkreślając niedawne rozwiązania technologiczne, osiągnięte dzięki inicjatywom Prometeusza, które umożliwiały ograniczanie kosztów wytwarzania energii odnawialnej. Zachęcano też rządy do inwestowania środków finansowych w tę nową infrastrukturę energetyczną.

Równolegle z przejęciem mediów członkowie Omegi wykorzystali Prometeusza do zrewolucjonizowania edukacji. Biorąc pod uwagę wiedzę i umiejętności każdej osoby, Prometeusz określał najszybszy sposób nauki każdego przedmiotu w taki sposób, który sprawiał, że osoby te stawały się bardzo zaangażowane i silnie zmotywowane do kontynuowania nauki. Wytwarzał także odpowiednio zoptymalizowane filmy wideo, materiały do czytania, ćwiczenia i inne narzędzia edukacyjne. W związku z tym firmy kontrolowane przez członków Omegi sprzedawały online kursy dotyczące praktycznie wszystkiego, dostosowane nie tylko pod względem językowym i kulturowym, ale również pod względem stopnia zaawansowania. Niezależnie od tego, czy dotyczyło to czterdziestoletniego analfabety, który chciał nauczyć się czytać, czy też doktora biologii poszukującego najnowszych informacji na temat immunoterapii nowotworowej, Prometeusz oferował doskonale dobrany do jego potrzeb kurs. Oferta ta niewiele przypominała dzisiejsze kursy online: dzięki wykorzystaniu talentów filmowych Prometeusza materiały wideo naprawdę wciągały w tematykę, dostarczając metafor, które silnie przemawiały do widza i sprawiały, że pragnął zdobycia większej wiedzy. Niektóre kursy sprzedawano dla zysku, ale wiele udostępniono nauczycielom na całym świecie w celu wykorzystania ich na lekcjach, udostępniano je też za darmo każdemu, kto chciał się czegokolwiek nauczyć.

Te edukacyjne superpomoce okazały się potężnymi narzędziami wykorzystywanymi w celach politycznych. Na bieżąco tworzono „ciąg perswazji” w postaci filmów wideo, które mogły wpłynąć na czyjeś poglądy lub motywowały do obejrzenia innego, powiązanego filmu. Na przykład gdy celem było rozładowanie napięcia między dwoma narodami, pokazywano niezależnie dokumentalne programy historyczne w obu krajach i w odmiennym świetle przedstawiano w nich źródła i przebieg konfliktu. Informacyjne przekazy historyczne o nastawieniu pedagogicznym wyjaśniały, kto po każdej ze stron sporu stawał się jego beneficjentem i jakie były techniki jego podsycania. Równocześnie w popularnych kanałach rozrywkowych zaczęły się pojawiać pozytywne postaci należące do tego drugiego narodu, podobnie jak w przeszłości przedstawiano w pozytywnym świetle wywodzące się z grup mniejszości seksualnych osoby broniące praw obywatelskich tychże mniejszości.

Niebawem komentatorzy polityczni zdali sobie sprawę z rosnącego poparcia dla programu politycznego koncentrującego się wokół siedmiu haseł:

1. Demokracji

2. Obniżenia podatków

3. Rządowych cięć wydatków socjalnych

4. Redukcji wydatków na wojsko

5. Swobodnego handlu

6. Otwartych granic

7. Prospołecznej działalności firm.

Mniej oczywisty był ich cel podstawowy: osłabienie wszystkich poprzednich struktur władzy na świecie. Pozycje od 2 do 6 miały zniszczyć władzę państwową, a demokratyzacja świata – dać imperium biznesowemu członków Omegi większy wpływ na wybór przywódców politycznych. Odpowiedzialne społecznie firmy jeszcze bardziej osłabiały władzę państwa, przejmując coraz większą część usług, które świadczyły (lub powinny świadczyć) rządy. Tradycyjna elita biznesowa została osłabiona tylko dlatego, że nie mogła konkurować na wolnym rynku z firmami wspieranymi przez Prometeusza i z tego powodu coraz bardziej zmniejszał się jej udział w światowej gospodarce. Tradycyjni opiniotwórczy liderzy należący do partii politycznych lub grup wyznaniowych nie mieli wszak mechanizmu perswazji umożliwiającego konkurowanie z imperium medialnym członków Omegi.

Tak jak w konsekwencji każdej daleko posuniętej zmiany, byli zwycięzcy i przegrani. Choć w większości krajów wyczuwało się optymizm związany z poprawą kształcenia, wzrostem poziomu usług społecznych i infrastruktury, z ustąpieniem konfliktów i wprowadzeniem przez lokalne firmy przełomowych technologii, które pojawiły się na całym świecie, nie wszyscy byli zadowoleni. Chociaż wielu pracowników zostało zatrudnionych w celu realizacji projektów społecznych, ci, którzy posiadali władzę i bogactwo, na ogół wiedzieli, że i tu nastąpią cięcia. Zaczęło się od sektora mediów i technologii, ale rozprzestrzeniało się praktycznie na wszystkie gałęzie. Redukcja konfliktów światowych doprowadziła do redukcji budżetów obronnych, co odbijało się na kondycji finansowej wykonawców projektów wojskowych. Rozwijające się nowe firmy zazwyczaj nie były notowane w obrocie publicznym, co uzasadniano tym, że akcjonariusze nastawieni na maksymalizację zysku blokowaliby swoje wydatki na projekty publiczne. W ten sposób światowy rynek akcji tracił na wartości, co zagrażało zarówno potentatom finansowym, jak i zwykłym obywatelom, którzy liczą na swoje fundusze emerytalne. Jakby kurczące się zyski spółek notowanych na giełdzie nie były wystarczającą katastrofą, to jeszcze firmy inwestycyjne na całym świecie zauważyły niepokojący trend: wszystkie ich dotychczas skuteczne algorytmy transakcyjne przestały działać, przynosząc mniejsze efekty niż proste fundusze indeksowe. Gdzieś tam ktoś je przechytrzał w ich własnej grze i wygrywał z nimi.

Chociaż wielu ludzi oparło się fali zmian, ich reakcja była zadziwiająco nieskuteczna, niemal jakby wpadli w dobrze zastawioną pułapkę. Ogromne zmiany następowały w tak oszałamiającym tempie, że trudno było je śledzić i opracowywać skoordynowaną reakcję. Ponadto nikt nie bardzo wiedział, czego należy żądać. Większość haseł tradycyjnej prawicy politycznej została przejęta, a obniżki podatków i poprawa warunków prowadzenia działalności gospodarczej w większości wypadków wspomagały jej konkurentów z sektora zaawansowanych technologii. Praktycznie każda gałąź tradycyjnego przemysłu głośno domagała się teraz ratunku, ale ograniczony budżet rządowy pozostawiał je osamotnione w beznadziejnej walce przeciw sobie nawzajem, podczas gdy media przedstawiały owe przedsiębiorstwa jako dinozaury poszukujące dotacji państwowych tylko dlatego, że nie były konkurencyjne. Tradycyjna lewica polityczna sprzeciwiała się wolnemu handlowi i rządowym ograniczeniom wydatków na cele socjalne, ale zachwycała się cięciami budżetu obronnego i zmniejszaniem ubóstwa. A co więcej, poprawa usług socjalnych świadczonych przez przedsiębiorstwa kierujące się idealistycznymi zasadami, a nie przez państwo, wyrwała jej teraz oręż z ręki. Sondaże prowadzone jeden po drugim wykazywały, że większość wyborców na całym świecie odczuwa poprawę jakości życia i że sytuacja na ogół zmierza w dobrym kierunku. Miało to proste matematyczne wyjaśnienie: przed Prometeuszem najuboższe 50 procent ludności Ziemi zarabiało tylko około 4 procent globalnego dochodu, co umożliwiło kontrolowanym przez członków Omegi firmom zdobycie jej serc (i głosów) dzięki dzieleniu się z nią zaledwie skromną częścią swych zysków.

KONSOLIDACJA

W rezultacie w każdym narodzie przytłaczającą większością głosów odnosiły zwycięstwa partie opierające się na siedmiu sloganach wysuniętych przez członków Omegi. W starannie zaplanowanych kampaniach partie te przedstawiały się jako centrum spektrum politycznego, ukazując prawicę jako chciwego, poszukującego subwencji sprawcę konfliktów społecznych i krytykując lewicę za dążenie do silnej rządowej kontroli i nakładania ogromnych obciążeń podatkowych hamujących innowacje. Prawie nikt nie zdawał sobie sprawy, że Prometeusz starannie wybrał kandydatów i umiejętnie pociągał za sznurki, aby zapewnić im zwycięstwo.

W miarę upływu czasu, gdy rządy poszczególnych krajów zaczęły podupadać, Sojusz w coraz większym stopniu zaczął odgrywać rolę rządu światowego. Budżety krajowe kurczyły się z powodu cięć podatkowych, podczas gdy budżet Sojuszu rósł kosztem budżetów rządów wszystkich państw. Na skutek takiego rozwoju wypadków rządy krajowe stawały się coraz bardziej zbędne i nieistotne. Sojusz zapewnił zdecydowanie najlepsze usługi socjalne, najlepszą edukację i infrastrukturę. Media zneutralizowały konflikty międzynarodowe do tego stopnia, że wydatki militarne stały się w dużej mierze zbędne, a rosnący dobrobyt wyeliminował większość przyczyn starych konfliktów, wynikających z konkurowania o skąpe zasoby. Kilku dyktatorów opierało się gwałtownie temu nowemu porządkowi świata i nie dali się przekupić, ale w końcu zostali obaleni w dobrze zorganizowanych zamachach stanu lub powstaniach.

Członkowie Omegi dokonali najbardziej dramatycznej przemiany w historii życia na Ziemi. Po raz pierwszy nasza planeta była zarządzana przez pojedynczy ośrodek władzy, wspomagany przez inteligencję tak silną, że mogła w ciągu miliardów lat podtrzymywać rozkwit życia na Ziemi, a nawet w najbliższym kosmosie – ale jaki konkretnie był jego plan?

* * *

Była to opowieść o zespole Omega. Reszta tej książki dotyczy kolejnej opowieści – dotąd jeszcze nienapisanej: o naszej własnej przyszłości, gdy będziemy dysponować sztuczną inteligencją. Jak według was ta opowieść powinna się rozwijać? Czy mogłoby się zdarzyć coś podobnego do historii członków zespołu Omega, a jeśli tak, czy chcielibyście, aby się to stało? Pomijając rozważania o nadludzkiej inteligencji, jak ma się ta opowieść rozpocząć? W jaki sposób w ciągu nadchodzącej dekady sztuczna inteligencja powinna według was wpływać na stosunki pracy, na prawo i na zbrojenia? Gdy patrzycie jeszcze dalej w przyszłość, jakie przewidujecie jej zakończenie? To jedna z tych opowieści o prawdziwie kosmicznym wymiarze, ponieważ ma dużo wspólnego z przyszłością życia w naszym Wszechświecie. I jest to opowieść, którą musimy sami napisać.

1 Dla uproszczenia założyłem w tej historii dzisiejszy poziom gospodarki i technologii, chociaż większość badaczy przypuszcza, że od sztucznej inteligencji na ludzkim poziomie dzielą nas co najmniej dziesięciolecia. Plan Omega powinien stać się jeszcze łatwiejszy do realizacji w przyszłości, o ile cyfryzacja gospodarki będzie nadal się rozwijać i coraz więcej usług będzie można zamówić online bez żadnych pytań.

Rozdział 1

Witajcie w Najważniejszej Rozmowie Naszych Czasów

Technologia, jak nigdy dotąd, umożliwia życiu rozkwit lub samozniszczenie.

Instytut Przyszłości Życia

Trzynaście i osiem dziesiątych miliarda lat po narodzinach nasz Wszechświat przebudził się i zdał sobie sprawę ze swego istnienia. Z niewielkiej niebieskiej planety maleńkie świadome istoty będące częścią tego Wszechświata zaczęły patrzeć przez teleskopy w kosmos, wielokrotnie odkrywając, że wszystko, co istniało, jest tylko małą częścią czegoś większego: Układu Słonecznego, Galaktyki i Wszechświata z ponad stu miliardami innych galaktyk pogrupowanych w skomplikowany sposób na gromady i supergromady. Chociaż ci samoświadomi badacze gwiazd nie zgadzają się w wielu sprawach, to zgodnie przyznają, że galaktyki swą pięknością wzbudzają w nich zachwyt.

Piękno oceniają oczy obserwatora, a nie prawa fizyki, zatem zanim nasz Wszechświat powstał – piękna nie było. To sprawia, że nasze kosmiczne przebudzenie staje się jeszcze wspanialsze i godne świętowania: przekształciło ono nasz Wszechświat z pozbawionej samoświadomości materii w żywy ekosystem, który skrywa w sobie refleksję nad sobą, nad pięknem, nad dążeniem do celu, nad sensem i nad wolą. Gdyby nasz Wszechświat nigdy się nie obudził, to według mnie byłoby to wydarzenie bezcelowe – gigantyczne marnotrawstwo przestrzeni. Jeśli zaś na stałe powróci on do snu z powodu jakiegoś kosmicznego kataklizmu lub niefortunnego zdarzenia, straci, niestety, sens istnienia.

Jednak sprawy mogą rozwinąć się jeszcze lepiej. Do tej pory nie mamy pojęcia, czy my, ludzie, jesteśmy jedynymi astronomami w kosmosie lub nawet pierwszymi, ale już o Wszechświecie wiemy, że ma potencjał, by się przebudzić o wiele pełniej niż dotąd. Być może jesteśmy jak pierwsza słaba iskierka świadomości, która pojawia się, kiedy o poranku zaczynamy wychodzić ze snu, jak przeczucie znacznie większej świadomości mającej nadejść po otwarciu oczu i całkowitym przebudzeniu. Być może życie rozprzestrzeni się w całym kosmosie i rozkwitać będzie przez miliardy lub biliony lat – i być może spowodują to decyzje, które podejmujemy w ciągu życia tu, na naszej małej planecie.

KRÓTKA HISTORIA ZŁOŻONOŚCI

Jak więc doszło do tego niesamowitego przebudzenia? Nie było to odosobnione wydarzenie, ale tylko jeden krok w trwającym 13,8 miliarda lat procesie, który czyni nasz Wszechświat coraz bardziej złożonym i interesującym i który rozwija się w coraz szybszym tempie.

Jako fizyk czuję się szczęśliwy, ponieważ spędziłem dużą część ostatniego ćwierćwiecza na poznawaniu naszej kosmicznej historii, a była to niesamowita podróż pełna odkryć. Od czasów kiedy byłem magistrantem, dzięki lepszym teleskopom, lepszym komputerom i lepszemu zrozumieniu zjawisk przeszliśmy od sporów o to, czy nasz Wszechświat ma 10, czy 20 miliardów lat, do dyskusji, czy ma on 13,7, czy 13,8 miliarda lat. My, fizycy, nadal nie jesteśmy pewni, co spowodowało Wielki Wybuch i czy to był naprawdę początek wszystkiego, czy tylko kontynuacja wcześniejszej fazy. Jednakże lawina precyzyjnych pomiarów sprawiła, że udało się nam dosyć dokładnie zrozumieć, co wydarzyło się od czasu Wielkiego Wybuchu, a więc, proszę, pozwólcie mi poświęcić kilka minut na podsumowanie 13,8 miliarda lat naszej kosmicznej historii.

Na początku było światło. W pierwszym ułamku sekundy po Wielkim Wybuchu cała przestrzeń, jaką teleskopy mogą w zasadzie obserwować („nasz obserwowalny Wszechświat”, czyli krótko po prostu „nasz Wszechświat”), była znacznie cieplejsza i jaśniejsza niż jądro naszego Słońca i szybko się rozrastała. Choć może to brzmieć spektakularnie, to jednak było też nudne w tym sensie, że Wszechświat nie zawierał niczego innego oprócz martwej, gęstej, gorącej i nudnie jednorodnej zupy cząstek elementarnych. Wszystko wyglądało niemal tak samo wszędzie, a jedyna interesująca struktura składała się z lekkich, losowo wyglądających fal dźwiękowych, które sprawiły, że w pewnych miejscach zupa stawała się o około 0,001 procent gęstsza. Te słabe fale powszechnie uważa się za tak zwane fluktuacje kwantowe, ponieważ zasada nieoznaczoności Heisenberga w mechanice kwantowej nie pozwala, by wszystko było kompletnie nudne i jednorodne.

Gdy Wszechświat rozszerzał się i chłodził, stawał się coraz ciekawszy, w miarę jak swe cząsteczki łączył w coraz bardziej złożone obiekty. W pierwszym ułamku sekundy silne oddziaływanie jądrowe skupiło kwarki w protony (jądra wodoru) i neutrony, których część w ciągu kilku minut zbudowała jądra helu. Około 400 tysięcy lat później oddziaływanie elektromagnetyczne stworzyło z tych jąder i elektronów pierwsze atomy. W miarę jak Wszechświat się powiększał, atomy te stopniowo schładzały się do postaci zimnego, ciemnego gazu. Ciemność tej pierwszej nocy trwała około 100 milionów lat. Gdy siła grawitacyjna, wzmacniając fluktuacje gazu, skupiła razem atomy i powstały pierwsze gwiazdy i galaktyki, pojawił się nasz kosmiczny świt. Pierwsze gwiazdy dzięki łączeniu wodoru w cięższe atomy, takie jak węgiel, tlen i krzem, zaczęły wytwarzać ciepło i światło. Kiedy te gwiazdy umarły, wiele utworzonych w nich atomów powróciło do kosmosu i z nich to sformowały się planety wokół gwiazd drugiej generacji.

W pewnym momencie grupa atomów stała się zorganizowana w złożony wzór, który mógł się zarówno utrzymać, jak i powielać. Wkrótce więc były już dwa egzemplarze, a ich liczba zaczęła się podwajać. Wystarczyło tylko czterdzieści podwojeń, aby osiągnąć bilion, a zatem ten pierwszy samopowielacz szybko stał się siłą, z którą należy się liczyć. Pojawiło się życie.

TRZY STADIA ŻYCIA

Wiadomo, że określenie, czym jest życie, wywołuje mnóstwo kontrowersji. Istnieje wiele konkurujących ze sobą definicji, a niektóre z nich zawierają tak bardzo specyficzne wymaganie jak budowa komórkowa, co może wykluczać z tego pojęcia zarówno przyszłe inteligentne maszyny, jak i cywilizacje pozaziemskie. Ponieważ nie chcemy ograniczać się w naszym myśleniu o przyszłości życia do gatunków, które dotychczas spotykaliśmy, określmy życie jako proces, który może zachować jego złożoność i umożliwiać replikację. To, co się replikuje, to nie materia (zbudowana z atomów), ale informacje (wykonane z bitów) określające sposób rozmieszczenia atomów. Kiedy bakteria wykonuje kopię swojego DNA, nie powstają nowe atomy, lecz zostaje skopiowana informacja dzięki nowemu zbiorowi atomów ułożonych według tego samego wzorca co oryginał. Innymi słowy, możemy myśleć o życiu jako o systemie samoreplikującym się i przetwarzającym informację określającą zarówno jego zachowanie (oprogramowanie), jak i konstrukcję.

Podobnie jak sam Wszechświat, życie stopniowo stawało się coraz bardziej złożone i interesujące2. Jak zaraz wyjaśnię, pomocna okaże się klasyfikacja form życia na trzy stadia zaawansowania: na Życie 1.0, Życie 2.0 i Życie 3.0. Te trzy stadia przedstawiłem na ilustracji 1.1.

Ilustracja 1.1. Trzy stadia życia: ewolucja biologiczna, ewolucja kulturalna i ewolucja technologiczna. Życie 1.0 w ciągu swego trwania nie jest zdolne do zmiany własnej postaci materialnej i sposobu przetwarzania informacji, ponieważ obie te cechy określa struktura DNA, a jej zmiana może zajść tylko na skutek ewolucji rozciągniętej na wiele pokoleń. Życie 2.0, przeciwnie, może dokonać zmian swego sposobu przetwarzania informacji: ludzie mogą nabywać nowych złożonych umiejętności – na przykład, uczyć się języków obcych, uprawiać sport i wykonywać różne zawody – i fundamentalnie zmieniać swój światopogląd i cele. Życie 3.0, które jeszcze nie istnieje na Ziemi, może diametralnie zmienić nie tylko swój sposób przetwarzania informacji, lecz także postać materialną, zamiast zdawać się na powolne zmiany ewolucyjne zachodzące na przestrzeni wielu pokoleń.

Wciąż otwarte pozostaje pytanie, jak, kiedy i gdzie po raz pierwszy w naszym Wszechświecie pojawiło się życie. Tutaj na Ziemi, na co istnieją mocne dowody, powstało ono około 4 miliardów lat temu. A niedługo po tym fakcie nasza planeta tętniła różnorodnością form życia. Te najbardziej udane wkrótce zaczęły rywalizować z resztą dzięki umiejętności reagowania w jakiś sposób na swoje otoczenie. Cybernetycy takie formy nazywają „inteligentnymi agentami”: czyli jednostkami, które za pomocą sensorów zbierają informacje o swoim środowisku, a następnie przetwarzając je, decydują, jakie działania podjąć w tym środowisku, aby osiągnąć zamierzony cel. Może to obejmować bardzo złożone przetwarzanie informacji, na przykład gdy wykorzystywane dane pochodzą od oczu i uszu i służą do podjęcia decyzji o tym, co w rozmowie należy powiedzieć. Może to również dotyczyć sprzętu i oprogramowania, które są dość proste.

Na przykład wiele bakterii ma czujnik mierzący stężenie cukru w cieczy, w której pływają i poruszają się za pomocą organu o kształcie śmigła zwanym flagellą. Struktury łączące czujnik z flagellą mogą realizować prosty, ale użyteczny algorytm: „Jeśli czujnik stężenia cukru poda niższą wartość niż kilka sekund temu, to odwróć obrót mojej flagelli tak, aby zmienić kierunek ruchu”.

Nauczyliście się mówić i zdobyliście wiele innych umiejętności. Bakterie natomiast nie są dobrymi uczniami. Ich DNA określa nie tylko budowę ich organów, na przykład flagelli i czujników stężenia cukru, ale także oprogramowanie kierujące przetwarzaniem danych z tych organów. Nigdy nie uczyły się pływać w kierunku wzrastającego stężenia cukru, bo algorytm ten od początku miały na stałe zakodowany w DNA. Oczywiście zachodził pewnego rodzaju proces uczenia się, ale nie postępował on w okresie życia konkretnej bakterii. Wręcz przeciwnie, nastąpiło to w czasie ewolucji poprzedzającej ten gatunek bakterii drogą obejmującego wiele pokoleń powolnego procesu prób i błędów, w którym dobór naturalny sprzyjał przypadkowym mutacjom DNA zwiększającym konsumpcję cukru. Niektóre z tych mutacji udoskonalały budowę flagelli i innych organów, a inne – ulepszały stosujący algorytm wyszukiwania cukru system przetwarzania informacji bakterii i podobne mu oprogramowanie.

Te bakterie są przykładem „Życia 1.0”: życia, w którym organy oraz oprogramowanie są raczej rozwijane niż projektowane. Natomiast my jesteśmy przykładem „Życia 2.0”: takiego, którego organy są rozwijane, ale oprogramowanie jest w dużej mierze zaprojektowane. Przez oprogramowanie rozumiem wszystkie algorytmy i wiedzę używane do przetwarzania informacji z naszych zmysłów i decydowania o tym, co należy zrobić – od umiejętności rozpoznawania znajomych, gdy ich widzimy, po sztukę chodzenia, czytania, pisania, liczenia, śpiewu i mówienia dowcipów.

Kiedy się urodziliśmy, nie byliśmy w stanie wykonać żadnego z tych zadań, całe to oprogramowanie zostało więc stworzone w naszych mózgach przez późniejszy proces nazywany uczeniem się. Choć w dzieciństwie program nauczania jest w dużej mierze opracowywany przez rodzinę i nauczycieli, którzy decydują o tym, czego mamy się uczyć, to w miarę dorastania stopniowo uzyskujemy więcej uprawnień do budowania własnego programu. Być może szkoła umożliwi wam wybór języka obcego: zainstalowanie we własnym mózgu modułu umożliwiającego posługiwanie się językiem francuskim, a może takiego, który pozwala na opanowanie języka hiszpańskiego? Czy chcecie nauczyć się grać w tenisa albo w szachy? A może zechcecie zostać szefami kuchni, prawnikami lub farmaceutami? Albo zapragniecie dowiedzieć się więcej o sztucznej inteligencji (AI) i przyszłości życia dzięki przeczytaniu książki na ten temat?

Ta zdolność Życia 2.0 do tworzenia własnego oprogramowania czyni je znacznie inteligentniejszym niż Życie 1.0. Wysoka inteligencja wymaga zarówno dużej liczby organów (zbudowanych z atomów), jak i oprogramowania (tworzonego z bitów). To, że większość naszych ludzkich organów rozwija się po urodzeniu (dzięki wzrostowi), jest bardzo użyteczne, ponieważ naszego ostatecznego rozmiaru nie ogranicza szerokość kanału rodnego matki. Podobnie użyteczne jest także to, że większość ludzkiego oprogramowania powstaje już po urodzeniu (dzięki nauce), ponieważ nabywana inteligencja nie ogranicza się jedynie do porcji informacji zawartej w DNA i przekazanej w momencie zapłodnienia, tak jak dzieje się w przypadku Życia 1.0. Teraz ważę mniej więcej dwadzieścia pięć razy tyle, co w momencie narodzin, a połączenia synaptyczne łączące neurony w moim mózgu mogą pomieścić około stu tysięcy razy więcej informacji niż DNA, z którym przyszedłem na świat. Synapsy w mózgu przechowują całą naszą wiedzę i umiejętności w mniej więcej 100 terabajtach informacji, podczas gdy DNA przechowuje jedynie jeden gigabajt informacji, a to zaledwie tyle, ile ma pobrany z sieci film. A więc jest fizycznie niemożliwe, aby dziecko rodziło się z perfekcyjną znajomością języka angielskiego i było gotowe do zdania egzaminu wstępnego do szkoły wyższej: nie może być mowy o tym, by informacje zostały wstępnie załadowane do jego mózgu, ponieważ przekazany mu w DNA przez rodziców główny moduł informacyjny nie ma odpowiedniej pojemności wystarczającej do przechowania tych wszystkich informacji.

Możliwość tworzenia oprogramowania sprawia, że Życie 2.0 jest nie tylko inteligentniejsze niż Życie 1.0, lecz także bardziej elastyczne. Jeśli środowisko ulega zmianom, wersja 1.0 może się przystosować do zmian tylko przez powolną ewolucję na przestrzeni wielu pokoleń. Natomiast Życie 2.0 może się niemal natychmiast dostosować do nowych wymagań dzięki aktualizacji oprogramowania. Na przykład bakterie często stykające się z antybiotykami mogą przez wiele pokoleń rozwijać oporność na leki, ale pojedyncza bakteria w ogóle nie zmienia swojego zachowania, natomiast osoba dowiadująca się, że ma alergię na orzeszki ziemne, natychmiast zmienia swoje nawyki żywieniowe, tak aby unikać z nimi kontaktu. Ta elastyczność sprawia, że Życie 2.0 zyskuje jeszcze większą przewagę na poziomie populacji: chociaż informacje zawarte w ludzkim DNA nie zmieniły się radykalnie w ciągu przeszłych pięćdziesięciu tysięcy lat, to te przechowywane w naszych mózgach, książkach i komputerach znacznie się rozrosły. Dzięki wytworzeniu modułu oprogramowania pozwalającego nam komunikować się za pomocą wyrafinowanego języka mówionego najbardziej użyteczne informacje przechowywane w mózgu jednej osoby mogą zostać skopiowane do innych mózgów, co pozwala im przetrwać nawet po śmierci mózgu pierwotnego. Z kolei moduł oprogramowania umożliwiający nam czytanie i pisanie pozwala przechowywać i udostępniać znacznie więcej informacji, niż ludzie zdolni są zapamiętać. Rozwijając oprogramowanie mózgu zdolne do tworzenia technologii (tj. dzięki studiowaniu dziedzin naukowych i inżynierii), za pomocą zaledwie kilku kliknięć umożliwiliśmy wielu ludziom na świecie dostęp do większości informacji.

Ta elastyczność pozwoliła Życiu 2.0 na zdominowanie Ziemi. Uwolniona z kajdan genetycznych sumaryczna ludzka wiedza rozwija się w coraz szybszym tempie, a każdy następny przełom: język mówiony, język pisany, druk, nowoczesna nauka, komputery, Internet itp., umożliwia jej dalszy rozwój. Ta coraz szybsza ewolucja kulturowa naszego wspólnego oprogramowania stała się dominującą siłą kształtującą przyszłość człowieka, sprawiając, że przedpotopowa powolna ewolucja biologiczna traci na znaczeniu.

Jednak pomimo dzisiejszych technologii wszystkie znane nam formy życia pozostają zasadniczo ograniczone ich materialną biologiczną postacią. Nikt nie może żyć przez milion lat, zapamiętać całej Wikipedii, zrozumieć wszystkich znanych nauk lub cieszyć się lotem kosmicznym bez statku kosmicznego. Nikt nie zdoła przekształcić w dużej mierze pozbawionego życia kosmosu w zróżnicowaną biosferę, która będzie rozkwitać przez miliardy lub tryliony lat, umożliwiając Wszechświatowi wykorzystanie jego potencjału i pełne przebudzenie. Wszystko to wymaga od życia, aby przeszło ostateczną aktualizację do Życia 3.0, które może stworzyć nie tylko swoje oprogramowanie, ale także formę materialną. Innymi słowy, Życie 3.0 jest panem swego losu, w końcu zostało w pełni uwolnione ze swych ewolucyjnych oków.

Granice między trzema stadiami życia są lekko rozmyte. Jeśli bakteria jest Życiem 1.0, a ludzie Życiem 2.0, to myszy można sklasyfikować jako Życie 1.1: mogą uczyć się wielu rzeczy, ale nie wystarcza im to do rozwinięcia języka lub wynalezienia Internetu. Ponadto, ponieważ brak im języka, to, czego się uczą, zanika w dużej mierze po ich śmierci i nie jest przekazywane następnym pokoleniom. Podobnie można dowodzić, że dzisiejszy człowiek powinien być traktowany jako Życie 2.1: możemy bowiem dokonywać drobnych modernizacji naszej materialnej postaci, takich jak wszczepianie sztucznych zębów, kolan i rozruszników serca, ale już nie tak głębokich zmian jak dziesięciokrotne powiększenie wzrostu lub tysiąckrotne zwiększenie mózgu.

Podsumowując, rozwój życia możemy podzielić na trzy stadia, odróżniające się pod względem umiejętności projektowania samego siebie przez życie:

• Życie 1.0 (etap biologiczny): rozwija swoją materialną postać i oprogramowanie na drodze ewolucji.

• Życie 2.0 (etap kulturalny): rozwija swoją materialną postać na drodze ewolucji, projektuje znaczną część swojego oprogramowania.

• Życie 3.0 (etap technologiczny): projektuje swoją postać materialną i oprogramowanie.

Po upływie 13,8 miliarda lat ewolucji kosmosu tu na Ziemi rozwój gwałtownie przyspieszył: Życie 1.0 powstało około 4 miliardów lat temu, Życie 2.0 (my, ludzie) pojawiło się około stu tysięcy lat temu, a wielu badaczy sztucznej inteligencji sądzi, że dzięki postępowi w ich dziedzinie Życie 3.0 może rozwinąć się w nadchodzącym stuleciu, być może jeszcze za naszej egzystencji. Co może się wydarzyć i co będzie to dla nas oznaczać? Oto temat tej książki.

KONTROWERSJE

To pytanie jest niezwykle kontrowersyjne, ponieważ badacze sztucznej inteligencji światowej klasy fundamentalnie nie zgadzają się co do swoich prognoz oraz ulegają emocjonalnym reakcjom, których zakres rozciąga się od pełnego optymizmu po poważne obawy. Nie ma nawet konsensusu co do krótkoterminowych prognoz na temat wpływu sztucznej inteligencji na gospodarkę, system prawny, zagadnienia militarne, a nieporozumienia ekspertów wzrastają, gdy poszerzamy horyzont czasowy i pytamy o sztuczną inteligencję na poziomie człowieka (AGI) – zwłaszcza o to, czy AGI, osiągając poziom ludzki, przekroczy go, umożliwiając pojawienie się Życia 3.0. Silna inteligencja może w zasadzie wykonać każde zadanie, także z dziedziny nauki, w przeciwieństwie do, powiedzmy, słabej inteligencji programu do gry w szachy.

Co ciekawe, kontrowersje wokół Życia 3.0 skupiają się wokół nie jednego, lecz dwóch odrębnych pytań: kiedy i co? Kiedy (jeśli kiedykolwiek) ona powstanie i co będzie oznaczać dla ludzkości? Ja widzę to tak: istnieją trzy różne szkoły filozoficzne, które trzeba traktować poważnie, ponieważ w każdej z nich jest kilku czołowych światowych ekspertów. Jak pokazano na ilustracji 1.2, nazywam ich odpowiednio cyfrowymi utopistami, technosceptykami i członkami ruchu na rzecz dobroczynnej sztucznej inteligencji. Pozwólcie, że przedstawię wam ich najbardziej elokwentnych mistrzów.

Ilustracja 1.2. Większość kontrowersji związanych z silną sztuczną inteligencją (która może dorównywać ludziom w każdym zadaniu poznawczym) koncentruje się wokół dwóch pytań: kiedy (jeśli kiedykolwiek) się to stanie i czy będzie to coś dobrego dla ludzkości. Technosceptycy i cyfrowi utopiści są zgodni co do tego, że nie powinniśmy się martwić, ale z bardzo różnych powodów: ci pierwsi są przekonani, że silna sztuczna inteligencja na poziomie człowieka (AGI) nie powstanie w przewidywalnej przyszłości, podczas gdy drudzy sądzą, że tak się stanie, i oczywiście jest to dobra rzecz. Ruch na rzecz dobroczynnej AI uważa, że troska jest uzasadniona i użyteczna, ponieważ badania i dyskusje nad bezpieczeństwem sztucznej inteligencji zwiększają teraz szanse na pozytywne skutki. Przeciwnicy postępu technicznego są przekonani o pojawieniu się złych skutków i przeciwstawiają się sztucznej inteligencji. Ta ilustracja częściowo została zainspirowana przez Tima Urbana.http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html)

Cyfrowi utopiści

Kiedy byłem dzieckiem, wyobrażałem sobie, że miliarderzy są nadęci i aroganccy. Kiedy po raz pierwszy spotkałem Larry’ego Page’a w Google w 2008 roku, całkowicie przełamał ten stereotyp. Ubrany swobodnie, w dżinsy i niezwykle typowo wyglądającą koszulę, wtopiłby się w tłum na pikniku w MIT. Jego przyjazny styl i sympatyczny uśmiech sprawiły, że rozmawiając z nim, nie czułem się onieśmielony, lecz wręcz zrelaksowany. 18 lipca 2015 roku wpadliśmy na siebie na przyjęciu w Napa Valley, zorganizowanym przez Elona Muska i jego ówczesną żonę Talulah, i rozpoczęliśmy rozmowę o skatologicznych zainteresowaniach naszych dzieci. Rekomendowałem mu klasykę gatunku The Day My Butt Went Psycho autorstwa Andy’ego Griffithsa, a Larry zamówił ją z miejsca. Usiłowałem wmówić sobie, że być może przejdzie on do historii jako najbardziej wpływowy człowiek. Mam nadzieję, że jeśli w ciągu mego życia nasz Wszechświat przejmie jakaś forma superinteligentnego życia cyfrowego, to stanie się tak za sprawą decyzji Larry’ego.

Skończyło się na wspólnym obiedzie wraz z naszymi żonami, Lucy i Meią, oraz dyskusji o tym, czy maszyny kiedyś staną się świadome, temacie, który zdaniem Larry’ego ma odwracać uwagę od istoty problemu. Późnym wieczorem, po koktajlach, doszło do długiej i ożywionej debaty między Larrym a Elonem na temat przyszłości sztucznej inteligencji i tego, co należy zrobić. Tuż przed świtem krąg widzów i kibiców się powiększał. Larry namiętnie bronił pozycji, którą ja nazywam cyfrową utopią, założeniem, że cyfrowe życie jest naturalnym i pożądanym kolejnym etapem kosmicznej ewolucji i że jeśli pozwolimy cyfrowym umysłom, by się uwolniły, zamiast starać się je zniewolić, to z pewnością będziemy mieć z tego pożytek. Larry’ego postrzegam jako najbardziej wpływowego przedstawiciela cyfrowej utopii. Przekonywał on, że jeśli życie będzie się kiedykolwiek rozprzestrzeniać w naszej Galaktyce i poza nią, co uważał za słuszne, to będzie musiało to zrobić w formie cyfrowej. Jego główne obawy dotyczyły tego, że paranoja w sprawie sztucznej inteligencji opóźni realizację cyfrowej utopii i/lub spowoduje przejęcie jej przez wojsko, co złamie zasadę Google’a „nie czyń zła”. Elon ciągle przeciwstawiał się Larry’emu i prosił go o wyjaśnianie szczegółów jego argumentów, na przykład dlaczego jest tak pewny, że cyfrowe życie nie zniszczy wszystkiego, co jest nam drogie. Larry od czasu do czasu oskarżał Elona o to, że jest „zwolennikiem gatunkowości”, traktującym niektóre formy życia jako gorsze tylko dlatego, że oparte są na krzemie, a nie na węglu. Do tych interesujących kwestii i argumentów powrócimy w rozdziale 4.

Mimo że tego ciepłego letniego wieczoru przy basenie przewaga była po stronie Larry’ego, to cyfrowy utopizm, którego tak elokwentnie bronił, ma i tak wielu wybitnych zwolenników. Specjalista w dziedzinie robotyki i futurysta Hans Moravec zainspirował całe pokolenie cyfrowych utopistów swą klasyczną książką Mind Children (Dzieci umysłu) z 1988 roku, a tradycja ta jest kontynuowana i udoskonalana przez wynalazcę Raya Kurzweila. Richard Sutton, jeden z pionierów subdyscypliny sztucznej inteligencji zwanej uczeniem ze wzmocnieniem, z pasją bronił cyfrowej utopii na konferencji w Portoryko, o której wam wkrótce opowiem.

Technosceptycy

Inna grupa wybitnych myślicieli nie martwi się też o AI, ale z zupełnie innego powodu: sądzą, że budowanie nadludzkiej AGI jest tak trudne, iż nie stanie się tak przez setki lat, i dlatego przejmowanie się tym teraz uważają za głupie. Myślę o tym jak o technosceptycyzmie, wymownie wyrażonym przez Andrew Ng: „Obawa przed pojawieniem się zabójczych robotów jest jak troska o przeludnienie na Marsie”. Andrew był szefem zespołu naukowego w Baidu, chińskim Google, i ostatnio powtórzył ten argument, kiedy rozmawiałem z nim na konferencji w Bostonie. Powiedział mi również, że uważa, iż troska o ryzyko związane ze sztuczną inteligencją jest szkodliwym rozpraszaniem uwagi, które może spowolnić jej rozwój. Podobne tezy wygłaszali inni technosceptycy, tacy jak Rodney Brooks, były profesor MIT i jeden z twórców robota odkurzacza Roomba i robota przemysłowego Baxter. Interesujące jest to, że chociaż cyfrowi utopiści i technosceptycy są tego samego zdania, że nie powinniśmy się martwić o sztuczną inteligencję, to jednak w niewielkim stopniu zgadzają się w innych sprawach. Większość utopistów uważa, że AGI na poziomie człowieka może pojawić się w ciągu najbliższych dwudziestu do stu lat, co technosceptycy odrzucają jako marzenie laika o gruszkach na wierzbie, często drwiąc z tej przepowiadanej osobliwości jako „zachwytu maniaka komputerowego”. Gdy w grudniu 2014 roku na uroczystości urodzinowej spotkałem Rodneya Brooksa, powiedział mi, że jest w stu procentach pewien, iż nie stanie się to za mojego życia. „Czy jesteś przekonany, że nie masz na myśli 99 procent?” – zapytałem go potem w e-mailu, na który odpowiedział: „Żadna słabizna na 99 procent. 100 procent. Po prostu się to nie zdarzy”.

Ruch na rzecz dobroczynnej sztucznej inteligencji

Kiedy w czerwcu 2014 roku spotkałem Stuarta Russella w paryskiej kawiarni, wydawał mi się kwintesencją brytyjskiego dżentelmena. Elokwentny, myślący, o łagodnym sposobie mówienia, ale z błyskiem śmiałości w oku, przypominał nowoczesne wcielenie Phileasa Fogga, mojego bohatera lat dziecinnych z klasycznej powieści Jules’a Verne’a W 80 dni dookoła świata. Chociaż był jednym z najsłynniejszych żyjących badaczy sztucznej inteligencji, współautorem standardowego podręcznika na ten temat, jego skromność i ciepło szybko mnie uspokoiły. Wyjaśnił mi, jak postęp w tej dziedzinie przekonał go, że pojawienie się AGI na poziomie ludzkim jest w tym stuleciu realne, i choć był pełen nadziei, dobry wynik nie był gwarantowany. Najpierw musieliśmy odpowiedzieć na kluczowe pytania, które były na tyle trudne, że powinniśmy je już badać, tak abyśmy mieli gotowe odpowiedzi w chwili, kiedy będziemy ich potrzebować.

Dzisiaj poglądy Stuarta są dość powszechne, a wiele grup na całym świecie prowadzi badania nad bezpieczeństwem sztucznej inteligencji, które on popiera. Jednak nie zawsze tak było. W artykule w „The Washington Post” rok 2015 został określony jako ten, w którym rozważania nad bezpieczeństwem sztucznej inteligencji zostały włączone do głównego nurtu badań. Wcześniej mówienie o ryzyku związanym ze sztuczną inteligencją było często błędnie rozumiane przez czołowych uczonych jako panikarstwo przeciwników postępu mające na celu zahamowanie postępu w tej dziedzinie. Jak dowiemy się w rozdziale 5, obawy podobne do żywionych przez Stuarta po raz pierwszy zostały wyrażone ponad pół wieku temu przez matematyków Alana Turinga i Irvinga J. Gooda, którzy podczas II wojny światowej łamali niemieckie kody. W ostatniej dekadzie badania nad tymi zagadnieniami prowadziła garstka niezależnych myślicieli, którzy nie byli profesjonalnymi badaczami sztucznej inteligencji, w tym Eliezer Yudkowsky, Michael Vassar czy Nick Bostrom. Ich praca miała niewielki wpływ na większość naukowców głównego nurtu zajmujących się tą dziedziną, którzy skupili się raczej na codziennych zadaniach związanych z udoskonalaniem systemów sztucznej inteligencji niż na rozważaniu długoterminowych konsekwencji sukcesu. Wiedziałem, kto ze znanych mi badaczy sztucznej inteligencji ma pewne obawy, że wielu wahało się je wyrażać ze strachu przed zaklasyfikowaniem ich jako panikarzy-technofobów.

Czułem, że ta sytuacja – polaryzacja stanowisk – wymaga zmiany, tak aby cała społeczność pracująca nad sztuczną inteligencją mogła połączyć swe siły i zyskać wpływ na to, jak stworzyć dobroczynną sztuczną inteligencję. Na szczęście nie byłem sam. Wiosną 2014 roku wraz z moją żoną Meią, moim przyjacielem fizykiem Anthonym Aguirre’em, magistrantką z Harvardu Victorią Krakovną i założycielem Skype’a, Jaanem Tallinnem, stworzyliśmy organizację non profit pod nazwą Future of Life Institute (Instytut Przyszłości Życia, FLI; http://futureoflife.org). Nasz cel był prosty: chcieliśmy działać na rzecz możliwie najlepszej przyszłości życia. W szczególności czuliśmy, że technologia, jak nigdy dotąd, nadaje życiu siłę do rozkwitu albo do samozniszczenia, a my woleliśmy to pierwsze.

15 marca 2014 roku odbyło się w naszym domu pierwsze spotkanie z niemal trzydziestoma studentami, profesorami i innymi myślicielami z okolic Bostonu – prawdziwa burza mózgów. Panowała powszechna zgoda co do tego, że chociaż powinniśmy zwrócić uwagę na biotechnologię, broń jądrową i zmiany klimatu, naszym pierwszym, głównym celem ma być włączenie do głównego nurtu badań nad bezpieczeństwem sztucznej inteligencji. Mój kolega z MIT fizyk Frank Wilczek, który zdobył Nagrodę Nobla za rozszyfrowanie tego, jak działają kwarki, zasugerował, że powinniśmy zacząć od napisania w jakimś dzienniku komentarza w celu zwrócenia uwagi publicznej na problem, co utrudniłoby jego zignorowanie. Dotarłem do Stuarta Russella (którego dotąd jeszcze nie spotkałem) i do mojego kolegi fizyka Stephena Hawkinga, którzy zgodzili się dołączyć do mnie i Franka jako współautorzy. Niestety, nasza publikacja została odrzucona przez „The New York Times” i wiele innych amerykańskich gazet, zamieściliśmy ją więc na moim blogu w „Huffington Post”. Ku mojemu zadowoleniu sama Arianna Huffington wysłała mi e-mail, w którym pisała: „Z zachwytem to zrobiłam! Damy to jako numer 1!”. Umieszczenie naszego tekstu na górze pierwszej strony wywołało falę medialnych relacji o bezpieczeństwie sztucznej inteligencji z udziałem Elona Muska, Billa Gatesa i innych liderów techniki, która trwała przez resztę roku. Jesienią ukazała się książka Nicka Bostroma Superinteligencja3 i jeszcze bardziej podsyciła narastającą debatę publiczną.

Kolejnym celem kampanii naszego instytutu (FLI) na rzecz pożytku ze sztucznej inteligencji stało się zgromadzenie czołowych naukowców zajmujących się tą dziedziną na konferencji, w czasie której można by wyjaśnić nieporozumienia, wypracować konsensus i konstruktywne plany współdziałania. Wiedzieliśmy, że trudno będzie przekonać tak znakomitych badaczy, by przybyli na konferencję organizowaną przez nieznanych im ludzi, zwłaszcza z uwagi na kontrowersyjny temat, bardzo się więc staraliśmy: zakazaliśmy mediom uczestnictwa, konferencję zlokalizowaliśmy w styczniu w nadmorskim kurorcie (w Portoryko), udział był darmowy (dzięki hojności Jaana Tallinna) i nadaliśmy jej najmniej alarmistyczną nazwę, jaką moglibyśmy wymyślić: „Przyszłość sztucznej inteligencji: szanse i wyzwania”. Co najważniejsze, nawiązaliśmy współpracę ze Stuartem Russellem, dzięki któremu mogliśmy stworzyć komitet organizacyjny złożony z przodujących badaczy tych zagadnień zarówno ze środowisk akademickich, jak i przemysłowych – w tym Demisa Hassabisa z Google DeepMind, który wykazał, że sztuczna inteligencja może pokonać ludzi nawet w go. Im lepiej poznawałem Demisa, tym bardziej zdawałem sobie sprawę z tego, że dąży on do uczynienia sztucznej inteligencji nie tylko potężną, lecz także pożyteczną dla ludzi.

Wynikiem tego było niezwykłe spotkanie umysłów (ilustracja 1.3). Do badaczy sztucznej inteligencji dołączyli czołowi ekonomiści, prawnicy, liderzy technologii (w tym Elon Musk) i inni myśliciele (w tym Vernor Vinge, który ukuł termin „technologiczna osobliwość” będący głównym tematem rozdziału 4). Wynik przerósł nasze najbardziej optymistyczne oczekiwania. Być może było to połączenie słońca i wina, a może po prostu nadszedł właściwy czas: mimo kontrowersyjnego tematu powstał niezwykły konsensus, skodyfikowany przez nas w liście otwartym, który został podpisany przez ponad osiem tysięcy osób, w tym najważniejszych specjalistów zajmujących się sztuczną inteligencją. W liście postulowaliśmy przedefiniowanie celu tego procesu. Owym celem nie powinno być tworzenie nieukierunkowanej sztucznej inteligencji, lecz inteligencji dobroczynnej. W liście wymieniono również szczegółową listę tematów badawczych, co do których uczestnicy są zgodni, że przyczynią się do osiągnięcia takiego celu. Ruch na rzecz dobroczynnej sztucznej inteligencji zaczął odtąd działać w głównym nurcie. Będziemy śledzić jego dalszy rozwój w następnych rozdziałach tej książki. 

CIĄG DALSZY DOSTĘPNY W PEŁNEJ, PŁATNEJ WERSJI

PEŁNY SPIS TREŚCI:

Podziękowania

LIFE 3.0

Preludium. Opowieść o zespole Omega

PIERWSZE MILIONY

NIEBEZPIECZNE GRY

PIERWSZE MILIARDY

NOWE TECHNOLOGIE

ZDOBYWANIE WŁADZY

KONSOLIDACJA

Rozdział 1. Witajcie w Najważniejszej Rozmowie Naszych Czasów

KRÓTKA HISTORIA ZŁOŻONOŚCI

TRZY STADIA ŻYCIA

KONTROWERSJE

BŁĘDNE WYOBRAŻENIA

DROGA PRZED NAMI

Rozdział 2. Materia staje się inteligentna

CZYM JEST INTELIGENCJA?

CZYM JEST PAMIĘĆ?

CZYM JEST OBLICZANIE?

CZYM JEST UCZENIE?

Rozdział 3. Najbliższa przyszłość: przełomy, błędy, prawodawstwo, broń i zatrudnienie

PRZEŁOMY

BŁĘDY A SOLIDNA SZTUCZNA INTELIGENCJA

PRAWODAWSTWO

UZBROJENIE

PRACA I PŁACA

SZTUCZNA INTELIGENCJA NA POZIOMIE CZŁOWIEKA?

Rozdział 4. Eksplozja inteligencji?

TOTALITARYZM

PROMETEUSZ PRZEJMUJE WŁADZĘ NAD ŚWIATEM

PRZEJĘCIA PO UWOLNIENIU

POWOLNE PRZEJĘCIE I SCENARIUSZE WIELOBIEGUNOWE

CYBORGI I WYSYŁANIE DANYCH

CO SIĘ RZECZYWIŚCIE STANIE?

Rozdział 5. Pokłosie: następne 10 000 lat

UTOPIA LIBERTARIAŃSKA

DOBROTLIWY DYKTATOR

UTOPIA EGALITARYSTYCZNA

STRAŻNIK

BÓG OPIEKUŃCZY

BÓG ZNIEWOLONY

ZDOBYWCY

POTOMKOWIE

DOZORCA W ZOO

1984

REGRES

SAMOZNISZCZENIE

A CZEGO WY CHCECIE?

Rozdział 6. Nasze kosmiczne wyposażenie: następny miliard lat i więcej

JAK NAJLEPIEJ WYKORZYSTAĆ ZASOBY

ZDOBYWANIE ZASOBÓW PRZEZ KOSMICZNE OSADNICTWO

JAK SZYBKO MOŻNA SIĘ PORUSZAĆ?

KOSMICZNE HIERARCHIE

PERSPEKTYWY

Rozdział 7. Cele

FIZYKA: ŹRÓDŁO CELÓW

BIOLOGIA: EWOLUCJA CELÓW

PSYCHOLOGIA: POGOŃ ZA CELAMI I BUNT PRZECIW NIM

INŻYNIERIA: ZLECENIE ZEWNĘTRZNE NA WYKONANIE CELU

PRZYJAZNA SZTUCZNA INTELIGENCJA: DOPASOWANIE CELÓW

ETYKA: WYBÓR CELÓW

CELE PODSTAWOWE?

Rozdział 8. Świadomość

KOGO TO OBCHODZI?

CZYM JEST ŚWIADOMOŚĆ?

W CZYM PROBLEM?

CZY ZAGADNIENIE ŚWIADOMOŚCI WYKRACZA POZA NAUKĘ?

EKSPERYMENTALNE WSKAZÓWKI CO DO ŚWIADOMOŚCI

TEORIE ŚWIADOMOŚCI

KONTROWERSJE WOKÓŁ ŚWIADOMOŚCI

JAK SZTUCZNA INTELIGENCJA MOGŁABY ODCZUWAĆ ŚWIADOMOŚĆ?

ZNACZENIE

Epilog. Opowieść o zespole FLI

NARODZINY FLI

PRZYGODA W PORTORYKO

WŁĄCZANIE BEZPIECZEŃSTWA SZTUCZNEJ INTELIGENCJI DO GŁÓWNEGO NURTU

ZASADY ROZWOJU SZTUCZNEJ INTELIGENCJI SFORMUŁOWANE W ASILOMAR

ŚWIADOMY OPTYMIZM

Bibliografia i źródła

2 Dlaczego życie staje się bardziej złożone? Ewolucja nagradza to życie, które jest na tyle złożone, że pozwala przewidywać i wykorzystywać regularności w jego otoczeniu, a więc w bardziej złożonym środowisku będzie ewoluowało życie bardziej złożone i inteligentne. Potem to mądrzejsze życie stworzy bardziej złożone środowisko dla konkurujących ze sobą form życia, które z kolei na skutek ewolucji staną się jeszcze bardziej złożone, tworząc ostatecznie ekosystem ekstremalnie złożonego życia.

3 Superinteligencja: scenariusze, strategie, zagrożenia, przeł. D. Konowrocka-Sawa, Wydawnictwo Helion, Gliwice 2016 (przyp. red.).