Tytuł oryginału: Nexus. A Brief History of Information Networks from the Stone Age to AI

Opieka redakcyjna: MICHAŁ KOWAL

Redakcja: ANETA TKACZYK

Korekta: EWA KOCHANOWICZ, ANNA POINC-CHRABĄSZCZ, JUSTYNA TECHMAŃSKA

Ilustracja na okładce: © Hector the carrier pigeon of Emperor Napoleon III, reproduced by courtesy of Tallandier/Bridgeman Images

Projekt okładki: © Suzanne Dean

Opracowanie graficzne według oryginału: MAREK PAWŁOWSKI

Redaktor techniczny: ROBERT GĘBUŚ

Copyright © 2024 by Yuval Noah Harari
All rights reserved
Copyright for the Polish translation by Justyn Hunia
Copyright for this edition by Wydawnictwo Literackie, 2024

Wydanie pierwsze

ISBN 978-83-08-07961-4

Wydawnictwo Literackie Sp. z o.o.
ul. Długa 1, 31-147 Kraków
bezpłatna linia telefoniczna: 800 42 10 40
księgarnia internetowa: www.wydawnictwoliterackie.pl
e-mail: ksiegarnia@wydawnictwoliterackie.pl
tel. (+48 12) 619 27 70

Konwersja: eLitera s.c.

Itzikowi, z wyrazami miłości,

i wszystkim, którzy kochają mądrość.

Ścieżką tysiąca marzeń podążamy ku rzeczywistości.

Prolog

Nazwaliśmy nasz gatunek homo sapiens – człowiek rozumny. Można jednak dyskutować, czy jesteśmy godni tego miana.

W ciągu ostatnich 100 tysięcy lat my, sapiensi[1*], niewątpliwie posiedliśmy potężne moce. Do spisania wszystkich naszych odkryć, wynalazków i podbojów potrzebowalibyśmy opasłych tomów. Ale moc sprawcza to nie mądrość i po 100 tysiącach lat odkryć, wynalazków i podbojów ludzkość zabrnęła w egzystencjalny kryzys. Stoimy na krawędzi ekologicznej katastrofy, do której możemy doprowadzić przez niewłaściwe wykorzystanie posiadanych mocy. Równocześnie jesteśmy pochłonięci tworzeniem nowych technologii, takich jak sztuczna inteligencja (AI), które mogą wymknąć się nam spod kontroli, zniewalając nas, lub wręcz unicestwiając. Mimo to ludzkość nie jednoczy się z myślą o stawieniu czoła tym wyzwaniom. Wręcz przeciwnie, rosną napięcia międzynarodowe, globalna współpraca staje się coraz trudniejsza, państwa rozbudowują arsenały broni ostatecznej zagłady, a nowa wojna światowa nie wydaje się już czymś niemożliwym.

Skoro my, sapiensi, mamy się za tak rozumnych, to dlaczego z takim uporem zmierzamy do autodestrukcji?

Chociaż zgromadziliśmy tak wielki zasób informacji o świecie, od cząsteczek DNA po odległe galaktyki, to w ogólnym rozrachunku nie wydaje się, by te wszystkie wiadomości dały nam odpowiedź na zasadnicze egzystencjalne pytanie: kim jesteśmy? Do czego powinniśmy dążyć? Na czym polega godziwe życie? Jak powinniśmy żyć? Choć mamy do dyspozycji zdumiewające ilości informacji, wciąż jesteśmy podatni na fantazje i złudzenia w takim samym stopniu jak nasi pradawni przodkowie. Nazizm i stalinizm to tylko dwa niedawne przykłady zbiorowego obłędu, który od czasu do czasu opanowuje nawet współczesne społeczeństwa. Bezsprzecznie człowiek dysponuje dziś o wiele większymi zasobami informacji i możliwościami niż w epoce kamienia, lecz nie oznacza to, byśmy jakoś szczególnie lepiej rozumieli samych siebie i swoją rolę we wszechświecie.

Dlaczego tak dobrze radzimy sobie ze zdobywaniem informacji i mocy sprawczych, ale znacznie gorzej przychodzi nam nabywanie mądrości? W dawnych czasach w wielu tradycjach wierzono, że jakaś fatalna wada naszej natury pcha nas do poszukiwania potęgi, z którą nie potrafimy się obchodzić. Grecki mit o Faetonie opowiadał o młodzieńcu, który odkrywa, że jest synem Heliosa, boga Słońca. Pragnąc udowodnić swoje boskie pochodzenie, Faeton domaga się przywileju powożenia rydwanem Słońca. Helios ostrzega Faetona, że żaden człowiek nie jest zdolny zapanować nad niebiańskimi rumakami ciągnącymi słoneczny pojazd. Po naleganiach Faetona bóg Słońca w końcu jednak ustępuje. Wzbiwszy się zawadiacko w niebo, Faeton rzeczywiście traci panowanie nad rydwanem. Słoneczny zaprzęg zbacza z drogi, wypala wszelką roślinność, zabija wielką liczbę istot i o mało nie obraca w popiół całej Ziemi. Interweniuje Zeus, rażąc Faetona piorunem. Zuchwały młodzieniec spada z nieba niczym gwiazda i staje w ogniu. Bogowie odzyskują panowanie nad niebem i ratują świat.

Dwa tysiące lat później, kiedy rewolucja przemysłowa stawiała pierwsze kroki, a maszyny zaczęły zastępować człowieka w wielu dziedzinach, Johann Wolfgang Goethe opublikował podobną opowieść ku przestrodze, zatytułowaną Uczeń czarnoksiężnika. W balladzie tej (która później weszła do kultury popularnej za sprawą filmu animowanego Walta Disneya z Myszką Miki w roli głównej) sędziwy czarnoksiężnik na jakiś czas opuszcza swoją pracownię, zostawiając ją pod opieką młodego ucznia, który ma wypełniać bieżące obowiązki, takie jak noszenie wody z rzeki. Uczeń postanawia ułatwić sobie życie i za pomocą jednego z zaklęć czarnoksiężnika sprawia, że to miotła nosi za niego wodę. Czeladnik nie wie wszakże, jak zatrzymać miotłę, która przynosi coraz więcej wody, co grozi zalaniem pracowni. W panice uczeń toporem przecina na pół zaczarowaną miotłę, lecz ku jego zdumieniu obie połowy zamieniają się w miotły. Teraz  d w i e  zaczarowane miotły zalewają wodą pracownię. Kiedy wraca stary czarnoksiężnik, uczeń błaga o pomoc: „Panie mistrzu ratuj! gwałtu! / [...] Duchy wywołałem, / Ani odejść chcą”[2*]. Czarownik natychmiast odczynia zaklęcie i zatrzymuje powódź. Lekcja dla ucznia – i dla ludzkości – jest jasna: nigdy nie przywołuj mocy, nad którymi nie potrafisz zapanować. Co te opowiadane ku przestrodze historie o Faetonie i uczniu czarnoksiężnika mówią nam w XXI wieku? My, ludzie, najwyraźniej postanowiliśmy nie słuchać zawartych w nich ostrzeżeń i przestróg. Wytrąciliśmy już z równowagi klimat Ziemi, zaprzęgliśmy też na swoje usługi miliardy zaczarowanych mioteł, dronów, chatbotów oraz innych algorytmicznych duchów, które mogą wymknąć się spod naszej kontroli i wywołać lawinę niezamierzonych konsekwencji.

Co w takim razie powinniśmy zrobić? Bajki nie dają żadnych podpowiedzi poza wskazówką, by czekać, aż uratuje nas jakiś bóg lub czarnoksiężnik. Rzecz jasna przesłanie to jest nader niebezpieczne – zachęca ludzi do zrzekania się odpowiedzialności i pokładania wiary w bogach. Co gorsza, usuwa z pola widzenia fakt, że bogowie i czarnoksiężnicy także są wynalazkiem człowieka – podobnie jak rydwany, miotły i algorytmy. To dążenie do tworzenia artefaktów wywołujących niezamierzone skutki nie rozpoczęło się wraz z wynalezieniem maszyny parowej czy sztucznej inteligencji – jego geneza sięga chwili, gdy wymyślono religie. Prorocy i teologowie wielokrotnie wywoływali potężne duchy, które miały nieść miłość i szczęście, lecz ostatecznie topiły świat we krwi.

Mit o Faetonie i poemat Goethego nie dostarczają pożytecznych rad, ponieważ błędnie postrzega się w nich sposób, w jaki ludzie zdobywają moc. W obu opowieściach ludzki bohater wchodzi w posiadanie ogromnych mocy, ale pycha i chciwość doprowadzają go do zguby. Wniosek jest taki, że nasze indywidualne niedostatki psychiczne skłaniają nas do tego, by robić niewłaściwy użytek z posiadanych mocy. W tej nazbyt uproszczonej analizie pomijany jest fakt, że ludzka potęga nigdy nie stanowi wyniku działań jednostki. Moc sprawcza i władza zawsze biorą się ze współpracy pokaźnej liczby ludzi.

O tym, że nadużywamy władzy i mocy nie decyduje zatem nasza jednostkowa psychika. W końcu oprócz chciwości, pychy i okrucieństwa ludzie mają też inne cechy – są zdolni do miłości, współczucia, pokory i radości. Owszem, wśród najgorszych przedstawicieli naszego gatunku niepodzielnie panują chciwość i okrucieństwo, które pchają zdeprawowane jednostki do niewłaściwego posługiwania się władzą i mocą. Ale dlaczego społeczeństwa decydują się powierzać władzę swoim najgorszym członkom? Przecież w 1933 roku większość Niemców nie była psychopatami. Dlaczego więc zagłosowali na Hitlera?

Nasza tendencja do uwalniania mocy, którymi nie jesteśmy w stanie władać, nie wynika z jednostkowych uwarunkowań psychicznych, tylko z wyjątkowego sposobu, w jaki nasz gatunek współpracuje w pokaźnych liczebnie grupach. Zasadniczą tezą tej książki jest to, że ludzie wchodzą w posiadanie ogromnych mocy, budując rozległe sieci współpracy, ale kształt tych sieci predysponuje ich do niemądrego pożytkowania wszelkich osiągnięć. Nasz problem jest więc problemem sieci.

Ujmując rzecz ściślej, jest to problem informacji. Informacja to spoiwo wiążące sieci. Przez dziesiątki tysięcy lat sapiensi budowali jednak i utrzymywali wielkie sieci, wymyślając i upowszechniając bajki, fantazje i zbiorowe złudzenia – na temat bogów, zaczarowanych mioteł, sztucznej inteligencji i wielu innych rzeczy. Podczas gdy pojedynczy człowiek zwykle jest zainteresowany poznawaniem prawdy o sobie i świecie, wielkie sieci wiążą ze sobą członków i tworzą porządek oparty na bajkach i fantazjach. W ten właśnie sposób dotarliśmy na przykład do nazizmu i stalinizmu. Były to wyjątkowo rozległe sieci, spajane przez wyjątkowo złudne idee. Jak głosi sławne dictum George’a Orwella, ignorancja to siła.

To, że reżimy nazistowski i stalinowski zbudowano na okrutnych fantazjach i wierutnych kłamstwach, nie oznaczało jeszcze, że były one czymś wyjątkowym w historii ani nie przesądziło z góry o ich upadku. Nazizm i stalinizm należały do najsilniejszych sieci kiedykolwiek stworzonych przez człowieka. Pod koniec 1941 roku i na początku 1942 państwa Osi były o krok od wygrania drugiej wojny światowej. Stalin ostatecznie wyszedł z tej wojny zwycięsko[1][3*], a w latach pięćdziesiątych i sześćdziesiątych XX wieku on i jego spadkobiercy mieli spore szanse na wygranie również zimnej wojny. W latach dziewięćdziesiątych zatriumfowały demokracje liberalne, ale dziś ich zwycięstwo wydaje się tymczasowe. W XXI wieku jakiś nowy reżim totalitarny może odnieść sukces tam, gdzie Hitler i Stalin ponieśli porażkę, tworząc wszechpotężną sieć, która uniemożliwi przyszłym pokoleniom wszelkie próby demaskowania jej kłamstw i zmyśleń. Nie powinniśmy zakładać, że sieci oparte na urojeniach są z góry skazane na niepowodzenie. Zapobieganie ich triumfowi będzie wymagało od nas ciężkiej pracy.

Naiwny pogląd na informację

Siłę sieci urojeniowych trudno sobie uzmysłowić z powodu rozpowszechnionego błędnego wyobrażenia na temat działania wielkich sieci informacyjnych w ogóle – zarówno tych opartych na urojeniach, jak i innych. To błędne rozumienie nazywam „naiwnym poglądem na informację”. Podczas gdy takie bajki jak mit o Faetonie czy Uczeń czarnoksiężnika przedstawiają nadmiernie pesymistyczne postrzeganie psychologii jednostki, naiwny pogląd na informację rozpowszechnia przesadnie optymistyczną wizję tworzonych przez człowieka sieci wielkoskalowych.

Ów naiwny pogląd głosi, że gromadząc i przetwarzając znacznie więcej informacji, niż są w stanie zgromadzić i przetworzyć pojedyncze osoby, wielkie sieci dają większą wiedzę w zakresie medycyny, fizyki, ekonomii i w wielu innych dziedzinach, co czyni sieć nie tylko potężną, ale także inteligentną. Zdobywając na przykład wiadomości na temat patogenów, koncerny farmaceutyczne i instytucje służby zdrowia mogą określać prawdziwe przyczyny wielu chorób, a to pozwala im opracowywać skuteczniejsze leki i podejmować mądrzejsze decyzje o ich stosowaniu. Pogląd ten zakłada, że wystarczająco duże ilości informacji wiodą do prawdy, a prawda z kolei wiedzie zarówno do mocy sprawczych, jak i mądrości. Ignorancja natomiast – jak się wydaje – prowadzi donikąd. Chociaż sieci oparte na urojeniach lub kłamstwie mogą się czasem pojawiać w momentach historycznego kryzysu, to w dłuższej perspektywie muszą przegrywać z bardziej rozumną i uczciwszą konkurencją. Instytucja służby zdrowia ignorująca doniesienia o patogenach czy gigant farmaceutyczny umyślnie rozsiewający dezinformację ostatecznie przegra z rywalem, który mądrzej wykorzystuje informacje. Naiwny pogląd na informację sugeruje zatem, że sieci oparte na urojeniach muszą być aberracjami i że od wielkich sieci zwykle można oczekiwać, że zrobią mądry użytek z mocy sprawczej/władzy.

Rzecz jasna w naiwnym poglądzie na informację uznaje się, że na drodze od informacji do prawdy wiele rzeczy może pójść nie tak. Gromadząc i przetwarzając dane, możemy popełniać nieumyślne omyłki. Powodowani chciwością lub nienawiścią aktorzy o złych intencjach mogą ukrywać istotne fakty lub próbować nas oszukać. W rezultacie czasami informacja prowadzi raczej do pomyłki niż do prawdy. Na przykład niekompletne dane, błędna analiza lub kampania dezinformacyjna mogą sprawić, że nawet eksperci mylnie zidentyfikują prawdziwą przyczynę takiej czy innej choroby.

Naiwny pogląd na informację zakłada jednak, że lekarstwem na większość problemów, jakie napotykamy podczas gromadzenia i przetwarzania informacji, jest gromadzenie i przetwarzanie jeszcze większej ilości informacji. Wprawdzie nigdy nie jesteśmy całkowicie zabezpieczeni przed błędami, lecz na ogół większa ilość informacji oznacza większą dokładność. Jeden lekarz, który usiłuje ustalić przyczynę epidemii, badając jednego pacjenta, ma mniejsze szanse powodzenia niż tysiące lekarzy zbierających dane na temat milionów pacjentów. A jeśli sami lekarze zmawiają się, by ukryć prawdę, oferowanie społeczeństwu i dziennikarzom śledczym szerszego dostępu do informacji medycznych w końcu doprowadzi do ujawnienia oszustwa. Zgodnie z tym poglądem im rozleglejsza jest dana sieć informacyjna, tym bliższa musi być prawdy.

Naturalnie, nawet jeśli dokładnie przeanalizujemy informacje i odkryjemy ważne prawdy, nie mamy żadnej gwarancji, że mądrze wykorzystamy otwierające się dzięki nim możliwości. Mądrość potocznie rozumie się jako „podejmowanie właściwych decyzji”, ale to, co jest „właściwe”, zależy od sądów wartościujących, które są swoiste dla jednostki, kultury i ideologii. Naukowcy, którzy odkryją nowy patogen, mogą opracować szczepionkę ratującą ludzi. Jeśli jednak naukowcy – lub ich polityczni przełożeni – uwierzą w rasistowską ideologię głoszącą, że niektóre rasy są gorsze i powinny zostać eksterminowane, nowa wiedza medyczna może zostać wykorzystana do budowy broni biologicznej zdolnej do zabijania milionów ludzi.

Również w tym wypadku naiwny pogląd na informację zakłada, że większa ilość informacji stanowi przynajmniej częściowe rozwiązanie problemu. W świetle tego stanowiska rozbieżność opinii o wartościach przy bliższym oglądzie okazuje się skutkiem albo braku informacji, albo celowej dezinformacji. W takim ujęciu rasiści to ludzie źle poinformowani, którzy po prostu nie znają faktów z biologii i historii. Uważają, że „rasa” jest wiarygodną kategorią biologiczną, i zostali poddani praniu mózgu z wykorzystaniem fałszywych teorii spiskowych. Panaceum na rasizm jest zatem dostarczanie ludziom większej liczby faktów biologicznych i historycznych. Wprawdzie może to trochę potrwać, ale na wolnym rynku informacji prędzej czy później zwycięży prawda.

Naiwny pogląd na informację jest oczywiście bardziej zniuansowany i przemyślany, niż dałoby się to wyjaśnić w kilku akapitach, ale jego naczelna zasada głosi, że informacja jest czymś z gruntu dobrym i im więcej informacji mamy, tym lepiej. Posiadając dostatecznie dużo informacji i czasu, siłą rzeczy musimy odkryć prawdę o wielu zjawiskach, od infekcji wirusowych po rasistowskie uprzedzenia, rozwijając w ten sposób nasze moce sprawcze oraz mądrość niezbędną do dobrego korzystania z tych mocy.

Naiwny pogląd na informację usprawiedliwia pęd do tworzenia coraz potężniejszych technologii informacyjnych i stanowi półoficjalną ideologię ery komputerów i internetu. W czerwcu 1989 roku, kilka miesięcy przed upadkiem muru berlińskiego i żelaznej kurtyny, Ronald Reagan oświadczył, że „Goliat totalitaryzmu zostanie szybko pokonany przez Dawida elektroniki” oraz że „największy z Wielkich Braci jest coraz bardziej bezradny wobec technologii komunikacyjnych. [...] Informacja jest dziś jak tlen. [...] Przenika przez mury zwieńczone drutem kolczastym. Przelatuje ponad granicami nafaszerowanymi minami-pułapkami i ogrodzeniami pod wysokim napięciem. Podmuchy ładunków elektronicznych przenikają przez żelazną kurtynę jak przez sito”[2]. W listopadzie 2009 roku Barack Obama wypowiedział się w tym samym duchu podczas oficjalnej wizyty w Szanghaju. Stwierdził: „Mocno wierzę w technologię, mocno wierzę w swobodny przepływ informacji. Myślę, że im swobodniej przepływa informacja, tym silniejsze staje się społeczeństwo”[3].

Przedsiębiorcy i korporacje często wyrażają podobnie huraoptymistyczne poglądy na temat technologii informacyjnych. Już w 1858 roku na łamach „The New Englander” autor artykułu wstępnego na temat wynalezienia telegrafu ogłosił: „Niepodobieństwem jest, aby wciąż pokutowały dawne uprzedzenia i wrogość, przyrząd ten został bowiem stworzony dla wymiany myśli między wszystkimi narodami ziemi”[4]. Niemal dwa wieki i dwie wojny światowe później Mark Zuckerberg oznajmił, że celem Facebooka „jest pomaganie ludziom w szerszym dzieleniu się, aby uczynić świat bardziej otwartym i ułatwiać porozumienie między ludźmi”[5].

W wydanej w 2024 roku książce The Singularity Is Nearer (Osobliwość jest jeszcze bliżej) wybitny futurolog i przedsiębiorca Ray Kurzweil analizuje historię technologii informacyjnych i dochodzi do wniosku, że „realia są takie, że niemal każdy aspekt życia ulega poprawie w wyniku wykładniczego postępu technologii”. Spoglądając wstecz na całą historię ludzkości, na takich przykładach jak wynalezienie prasy drukarskiej dowodzi on, że technologia informacyjna ze swej istoty wykazuje tendencję do tworzenia „pozytywnego sprzężenia zwrotnego, wywołującego postęp w niemal każdym aspekcie ludzkiego życia, od umiejętności czytania i pisania, edukacji, poziomu zamożności i warunków sanitarnych po zdrowie, demokratyzację i ograniczenie przemocy”[6].

Naiwny pogląd na informację został chyba najzwięźlej ujęty w deklaracji celów (mission statement) firmy Google: „Zorganizować światowe zasoby informacji i sprawić, aby były powszechnie dostępne i użyteczne”. Odpowiedź Google’a na przestrogę Goethego jest taka, że chociaż jeden uczeń, który wykradł sekretną księgę zaklęć swojego mistrza, może spowodować katastrofę, to gdy wielu uczniów uzyska nieograniczony dostęp do wszystkich informacji na świecie, ci nie tylko stworzą przydatne zaczarowane miotły, ale też nauczą się robić z nich mądry użytek.

Google kontra Goethe

Warto podkreślić, że w wielu wypadkach posiadanie większego zasobu informacji rzeczywiście umożliwiało ludziom lepsze rozumienie świata i mądrzejsze wykorzystywanie posiadanych mocy sprawczych. Spójrzmy na przykład na drastyczny spadek śmiertelności dzieci. Johann Wolfgang Goethe był najstarszy z siedmiorga rodzeństwa, ale tylko jemu i jego siostrze Cornelii dane było świętować siódme urodziny. Choroba zabrała ich brata Hermanna Jacoba w wieku sześciu lat, ich siostrę Catharinę Elisabeth w wieku czterech lat, kolejną siostrę Johannę Marię w wieku dwóch lat, brata Georga Adolfa w ósmym miesiącu życia, a ich piąty, nieznany z imienia brat urodził się martwy. Cornelia zmarła jednak z powodu choroby w wieku dwudziestu sześciu lat, tak że Johann Wolfgang pozostał jedynym żyjącym członkiem swojej rodziny[7].

Goethe doczekał się pięciorga własnych dzieci, z których wszystkie oprócz najstarszego syna Augusta zmarły w ciągu dwóch tygodni po narodzinach. Najprawdopodobniej przyczyną była niezgodność grup krwi Goethego i jego żony Christiane, w której wyniku po pierwszej udanej ciąży we krwi matki wytworzyły się przeciwciała skierowane przeciwko antygenom płodu. Przypadłość ta, zwana chorobą hemolityczną, jest dziś leczona tak skutecznie, że śmiertelność wynosi niecałe 2 procent, ale w latach dziewięćdziesiątych XVIII wieku przeciętna umieralność na tę chorobę wynosiła 50 procent, a dla czwórki młodszych dzieci Goethego oznaczała wyrok śmierci[8].

Ogółem w jego domu – w zamożnej niemieckiej rodzinie żyjącej pod koniec XVIII wieku – współczynnik przeżywalności dzieci wynosił, o zgrozo, 25 procent. Tylko troje z dwanaściorga dzieci dożyło wieku dorosłego. Ta zatrważająca statystyka nie była wyjątkiem. Szacuje się, że mniej więcej w czasie, gdy Goethe pisał Ucznia czarnoksiężnika, w 1797 roku, jedynie około 50 procent niemieckich dzieci osiągało wiek piętnastu lat[9] i całkiem możliwe, że podobnie przedstawiała się sytuacja w innych częściach świata[10]. W 2020 roku 95,6 procent dzieci na całym świecie dożyło piętnastych urodzin[11], a w Niemczech odsetek ten sięgnął 99,5 procent[12]. To epokowe osiągnięcie nie byłoby możliwe bez gromadzenia, analizowania i udostępniania ogromnych ilości danych medycznych, między innymi na temat grup krwi. Zatem w tym wypadku naiwny pogląd na informację okazał się słuszny.

Tyle że naiwny pogląd na informację nie ujmuje rzeczy całościowo, a historia epoki nowożytnej nie stała wyłącznie pod znakiem spadku śmiertelności dzieci. Na przestrzeni ostatnich pokoleń ludzkość doświadczyła największego w historii wzrostu zarówno pod względem ilości, jak i szybkości wytwarzania informacji. Każdy smartfon mieści dziś więcej informacji niż starożytna Biblioteka Aleksandryjska[13] i umożliwia posiadaczowi natychmiastowe łączenie się z miliardami innych ludzi na całym świecie. A jednak mimo tych wszystkich informacji krążących z prędkością zapierającą dech ludzkość nigdy nie znajdowała się tak blisko zagłady. Pomimo – a może z powodu – posiadania potężnego zasobu danych w dalszym ciągu emitujemy do atmosfery gazy cieplarniane, zanieczyszczamy rzeki i oceany, wycinamy lasy, niszczymy całe siedliska, przyczyniamy się do wyginięcia niezliczonych gatunków i zagrażamy ekologicznym podstawom istnienia naszego gatunku. W dodatku produkujemy coraz potężniejszą broń masowego rażenia, od bomb termojądrowych po wirusy zdolne do unicestwienia ludzkości. Nasi przywódcy mają nieograniczony dostęp do informacji o tych zagrożeniach, a mimo to zamiast współpracować z myślą o poszukiwaniu rozwiązań, małymi krokami zmierzają do globalnej wojny.

Czy posiadanie jeszcze większych zasobów informacji polepszyłoby sytuację, czy może raczej by ją pogorszyło? Wkrótce się o tym przekonamy. Liczne korporacje i rządy prześcigają się w rozwijaniu najpotężniejszej technologii informacyjnej w historii – sztucznej inteligencji. Niektórzy czołowi przedsiębiorcy twierdzą, że sztuczna inteligencja rozwiąże w końcu wszystkie problemy ludzkości. Przykładowo amerykański inwestor Marc Andreessen w 2023 roku opublikował esej zatytułowany Why AI Will Save the World (Dlaczego sztuczna inteligencja uratuje świat), nafaszerowany odważnymi tezami w rodzaju: „Mam dla państwa dobrą wiadomość – sztuczna inteligencja nie zniszczy świata, a wręcz może go ocalić” oraz „Sztuczna inteligencja może ulepszyć wszystko, na czym nam zależy”. Na końcu zaś napisał: „Rozwój i upowszechnianie się sztucznej inteligencji – a nie stanowią one bynajmniej ryzyka, którego powinniśmy się obawiać – to moralny obowiązek, jaki mamy wobec samych siebie, naszych dzieci i naszej przyszłości”[14].

Podejście to podziela Ray Kurzweil, który na kartach The Singularity Is Nearer przekonuje, że „sztuczna inteligencja to kluczowa technologia, która pozwoli nam zmagać się z naglącymi wyzwaniami, przed którymi stoimy, takimi jak zwalczanie chorób, ubóstwa, degradacji środowiska i przezwyciężanie wszystkich naszych ludzkich niedostatków. Urzeczywistnianie tej obietnicy nowych technologii to nasz moralny obowiązek”. Kurzweil jest w pełni świadomy potencjalnych zagrożeń, jakie niesie ze sobą ta technologia, i obszernie je analizuje, ale wierzy, że można im skutecznie przeciwdziałać[15].

Inni są bardziej sceptyczni. Nie tylko filozofowie i socjolodzy, ale też wielu czołowych ekspertów w dziedzinie sztucznej inteligencji i przedsiębiorców, takich jak Yoshua Bengio, Geoffrey Hinton, Sam Altman, Elon Musk i Mustafa Suleyman, ostrzegają opinię publiczną, że sztuczna inteligencja może zniszczyć naszą cywilizację[16]. W artykule z 2024 roku napisanym przez Bengia, Hintona i wielu innych ekspertów czytamy, że „niepowstrzymany postęp sztucznej inteligencji może ostatecznie doprowadzić do masowego wymierania istot żywych i biosfery oraz marginalizacji, a nawet wyginięcia ludzkości”[17]. W ankiecie przeprowadzonej w 2023 roku wśród 2778 naukowców zajmujących się sztuczną inteligencją ponad jedna trzecia stwierdziła, że istnieje co najmniej dziesięcioprocentowe prawdopodobieństwo, że rozwój zaawansowanej sztucznej inteligencji doprowadzi do tak negatywnych skutków, jak wyginięcie ludzkości[18]. W 2023 roku blisko trzydzieści państw – w tym rządy Chin, Stanów Zjednoczonych i Wielkiej Brytanii – podpisało „Deklarację z Bletchley” w sprawie sztucznej inteligencji, w której uznano, że „istnieje ryzyko poważnych, a nawet katastrofalnych szkód, umyślnych lub niezamierzonych, wynikających z najbardziej znaczących możliwości tych modeli sztucznej inteligencji”[19]. Nawet gdy sięgają po tak apokaliptyczne określenia, ekspertom i rządom nie chodzi o snucie hollywoodzkich wizji o zabójczych robotach grasujących po ulicach i strzelających do ludzi. Taki scenariusz jest mało prawdopodobny i tylko odwraca uwagę społeczeństw od realnych zagrożeń. Eksperci chcą raczej ostrzec przed dwoma innymi scenariuszami.

Po pierwsze, potężne moce sztucznej inteligencji mogą znacznie spotęgować obecne konflikty, dzieląc ludzkość ze szkodą dla niej samej. Tak jak w XX wieku podczas zimnej wojny żelazna kurtyna dzieliła rywalizujące ze sobą mocarstwa, tak w XXI wieku krzemowa kurtyna – zbudowana nie z drutu kolczastego, lecz z krzemowych chipów i kodów komputerowych – może uwikłać zantagonizowane mocarstwa w nowy globalny konflikt. Ponieważ wyścig zbrojeń na polu sztucznej inteligencji będzie skutkował powstawaniem coraz bardziej niszczycielskich rodzajów broni, nawet jedna iskra może wywołać katastrofalną pożogę.

Po drugie, możliwe, że krzemowa kurtyna postawi nie tyle jedną grupę ludzi przeciwko drugiej, ile raczej wszystkich ludzi przeciwko ich nowym władcom – modelom sztucznej inteligencji. Bez względu na to, gdzie mieszkamy, możemy zostać spętani siecią niezrozumiałych algorytmów, które będą zarządzać naszym życiem, przeobrażać naszą politykę i kulturę, a nawet przeprojektowywać nasze ciała i umysły, podczas gdy my nie będziemy już w stanie ogarniać rozumem kontrolujących nas sił, nie mówiąc już o ich powstrzymaniu. Jeśli sieci totalitarnej XXI wieku uda się podbić świat, prawdopodobnie będzie nią zawiadywała inteligencja pozaludzka, a nie śmiertelny dyktator. Ludzie, którzy za główne źródło totalitarnych koszmarów uważają Chiny, Rosję lub postdemokratyczne Stany Zjednoczone, opacznie rozumieją grożące nam niebezpieczeństwo. W rzeczywistości Chińczykom, Rosjanom, Amerykanom i wszystkim innym narodom zagrozi totalitarny potencjał inteligencji pozaludzkiej.

Zważywszy na skalę zagrożenia, sztuczna inteligencja powinna być przedmiotem zainteresowania wszystkich ludzi. Wprawdzie nie każdy może zostać specem od sztucznej inteligencji, lecz wszyscy powinniśmy pamiętać, że sztuczna inteligencja jest pierwszą technologią w historii, która może samodzielnie podejmować decyzje i generować nowe pomysły. Wszystkie wcześniejsze wynalazki zwielokrotniały możliwości człowieka, ponieważ bez względu na to, jak potężne było nowe narzędzie, decyzje w kwestii jego użycia zawsze należały do nas. Noże i bomby nie decydują, kogo zabiją. To bezwolne narzędzia, pozbawione inteligencji niezbędnej do przetwarzania informacji i podejmowania samodzielnych decyzji. Natomiast sztuczna inteligencja ma inteligencję potrzebną do autonomicznego przetwarzania informacji, a co za tym idzie – umożliwiającą zastępowanie ludzi w procesie decyzyjnym.

Sprawność w posługiwaniu się informacją pozwala także sztucznej inteligencji na niezależne generowanie nowych pomysłów w różnych dziedzinach, od muzyki po medycynę. Gramofony odtwarzały układaną przez nas muzykę, mikroskopy odkrywały tajemnice naszych komórek, lecz gramofony nie potrafiły komponować symfonii, a mikroskopy nie były w stanie wynajdywać nowych leków. Sztuczna inteligencja jest już zdolna samodzielnie tworzyć sztukę i dokonywać odkryć naukowych, a w ciągu następnych kilku dekad przypuszczalnie zyska nawet zdolność tworzenia nowych form życia, czy to przez pisanie kodu genetycznego, czy to przez generowanie nieorganicznego kodu ożywiającego istoty nieorganiczne.

Już dziś, w zaczątkowej fazie rewolucji sztucznej inteligencji, komputery podejmują za nas decyzje – to od nich zależy, czy otrzymamy kredyt hipoteczny, zostaniemy zatrudnieni na danym stanowisku bądź osadzeni w więzieniu. Zjawisko to będzie tylko zyskiwać na sile i przyspieszać, sprawiając, że coraz trudniej będzie nam rozumieć własne życie. Czy możemy ufnie zakładać, że algorytmy komputerowe będą podejmować mądre decyzje i tworzyć lepszy świat? To znacznie większe ryzyko niż wiara, że zaczarowana miotła będzie za nas nosić wodę. Stawką nie jest wyłącznie ludzkie życie. Sztuczna inteligencja może odmienić bieg historii naszego gatunku, a także tok ewolucji wszystkich form życia.

Zapraszamy do zakupu pełnej wersji książki

Przypisy[11*]

Prolog

[1] Sean McMeekin, Stalin’s War: A New History of World War II, Basic Books, New York 2021 (wyd. pol. Wojna Stalina. Nowa historia II wojny światowej, przeł. Arkadiusz Bugaj, Znak Horyzont, Kraków 2024).

[2] Reagan Urges „Risk” on Gorbachev: Soviet Leader May Be Only Hope for Change, He Says, „Los Angeles Times”, 13 czerwca 1989, www.latimes.com/archives/la-xpm-1989-06-13-mn-2300-story.html.

[3] White House, Remarks by President Barack Obama at Town Hall Meeting with Future Chinese Leaders, Office of the Press Secretary, 16 listopada 2009, obamawhitehouse.archives.gov/the-press-office/remarks-president-barack-obama-town-hall-meeting-with-future-chinese-leaders.

[4] Cyt. za: Evgeny Morozov, The Net Delusion: The Dark Side of Internet Freedom, Public Affairs, New York 2012.

[5] Cyt. za: Christian Fuchs, An Alternative View of Privacy on Facebook, „Information” 2011, vol. 2, no. 1, s. 140–165.

[6] Ray Kurzweil, The Singularity Is Nearer: When We Merge with AI, The Bodley Head, London 2024, s. 121–123.

[7] Sigrid Damm, Cornelia Goethe, Insel, Berlin 1988, s. 17–18; Dagmar von Gersdorff, Goethes Mutter, Hermann Bohlaus Nachfolger Weimar, Stuttgart 2004; Johann Wolfgang von Goethe, Goethes Leben von Tag zu Tag: Eine dokumentarische Chronik, t. 1, Artemis, Düsseldorf 1982, 1749–1775.

[8] Stephan Oswald, Im Schatten des Vaters. August von Goethe, C.H. Beck, Münich 2023; Rainer Holm-Hadulla, Goethe’s Path to Creativity: A Psycho-biography of the Eminent Politician, Scientist, and Poet, Routledge, New York 2018; Lisbet Koerner, Goethe’s Botany: Lessons of a Feminine Science, „History of Science Society” 1993, vol. 84, no. 3, s. 470–495; Alvin Zipursky, Vinod K. Bhutani, Isaac Odame, Rhesus Disease: A Global Prevention Strategy, „Lancet Child and Adolescent Health” 2018, vol. 2, no. 7, s. 536–542; John Queenan, Overview: The Fetus as a Patient: The Origin of the Specialty, [w:] Fetal Research and Applications: A Conference Summary, pod auspicjami Institute of Medicine (US) Conference Committee on Fetal Research and Applications, National Academies Press, Washington, D.C., www.ncbi.nlm.nih.gov/books/NBK231999/.

[9] John Knodel, Two and a Half Centuries of Demographic History in a Bavarian Village, „Population Studies” 1970, vol. 24, no. 3, s. 353–376.

[10] Saloni Dattani i in., Child and Infant Mortality, „Our World in Data” 2023, ourworldindata.org/child-mortality#mortality-in-the-past-around-half-died-as-children.

[11] Tamże.

[12] Most Recent Stillbirth, Child, and Adolescent Mortality Estimates, „UN Inter-agency Group for Child Mortality Estimation”, 13 marca 2024, childmortality.org/data/Germany.

[13] Według niektórych szacunków Biblioteka Aleksandryjska zawierała około 100 miliardów bitów informacji, czyli 12,5 gigabajtów. Zob. Douglas S. Robertson, The Information Revolution, „Communication Research” 1990, vol. 17, no. 2, s. 235–254. W 2020 roku przeciętny telefon z systemem Android był wyposażony w pamięć o pojemności 96 gigabajtów. Zob. Brady Wang, Average Smartphone NAND Flash Capacity Crossed 100GB in 2020, „Counterpoint Research”, 30 marca 2021, www.counterpointresearch.com/average-smartphone-nand-flash-capacity-crossed-100gb-2020/.

[14] Marc Andreessen, Why AI Will Save the World, Andreessen Horowitz, 6 czerwca 2023, a16z.com/ai-will-save-the-world/.

[15] Ray Kurzweil, The Singularity Is Nearer: When We Merge with AI, The Bodley Head, London 2024, s. 285.

[16] Andy McKenzie, Transcript of Sam Altman’s Interview Touching on AI Safety, LessWrong, 21 stycznia 2023, www.lesswrong.com/posts/PTzsEQXkCfig9A6AS/transcript-of-sam-altman-s-interview-touching-on-ai-safety; Ian Hogarth, We Must Slow Down the Race to God-Like AI, „Financial Times”, 13.04.2023, www.ft.com/content/03895dc4-a3b7-481e-95cc-336a524f2ac2; Pause Giant AI Experiments: An Open Letter, Future of Life Institute, 22 marca 2023, futureoflife.org/open-letter/pause-giant-ai-experiments/; Cade Metz, The Godfather of AI’ Quits Google and Warns of Danger, „New York Times’”, 1 maja 2023, www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html; Mustafa Suleyman, Michael Bhaskar, The Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma, Crown, New York 2023 (wyd. pol. Michael Bhaskar, Mustafa Suleyman, Nadchodząca fala. Sztuczna inteligencja, władza i najważniejszy dylemat ludzkości w XXI wieku, przeł. Justyn Hunia, Szczeliny, Kraków 2024); Walter Isaacson, Elon Musk, Simon & Schuster, London 2023.

[17] Yoshua Bengio i in., Managing AI Risks in an Era of Rapid Progress, „Science” 2024, vol. 384, issue 6698, s. 842–845.

[18] Katja Grace i in., Thousands of AI Authors on the Future of AI, (preprint, nadesłano w 2024), https://arxiv.org/abs/2401.02843

[19] The Bletchley Declaration by Countries Attending the AI Safety Summit, 1–2 November 2023, Gov.UK, 1 listopada 2023, www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023.

[1*] Rzeczownik sapiens/sapiensi stosuję zgodnie z konwencją zaproponowaną przez Autora w poprzednich książkach i zastosowaną w ich polskich przekładach (przyp. tłum.).

[2*] Tłum. K. Brodziński.

[3*] Przypisy znajdują się na s. 514–600.