Dane oryginału

It’s alive! Artificial intelligence from the logic piano to killer robots

Published by La Trobe Univeristy Press in conjunction with Black Inc.

Copyright © 2017 by Toby Walsh

All rights reserved

Przekład Witold Sikorski na zlecenie WITKOM Witold Sikorski

Projekt okładki polskiego wydania Alicja Żarowska-Mazur

Wydawca Łukasz Łopuszański

Redaktor prowadzący Jolanta Kowalczuk

Redaktor Małgorzata Kopczyńska

Korekta Małgorzata Warowny, Elwira Wyszyńska

Koordynator produkcji Anna Bączkowska

Skład wersji elektronicznej na zlecenie Wydawnictwa Naukowego PWN Marcin Kapusta / konwersja.virtualo.pl

Zastrzeżonych nazw firm i produktów użyto w książce wyłącznie

w celu identyfikacji

Copyright © for the Polish edition by Wydawnictwo Naukowe PWN SA

Warszawa 2018

eBook został przygotowany na podstawie wydania papierowego z 2018 r., (wyd. I)

Warszawa 2018

ISBN 978-83-01-20014-5

Wydawnictwo Naukowe PWN SA

tel. 22 69 54 321, faks 22 69 54 288

infolinia 801 33 33 88

e-mail: pwn@pwn.com.pl, reklama@pwn.pl

www.pwn.pl

CHWAŁA! TO ŻYJE!

Błyskawiczna podróż po historii i przyszłości AI – i dlaczego ma to znaczenie dla każdego z nas. Lektura obowiązkowa.

Sebastian Thrun

Stanford/Google/Udacity

Opowieść Toby’ego Walsha o tym, jak sztuczna inteligencja ewoluowała od marzeń Alana Turinga do wielkiej dzisiejszej siły technologicznej, jest ekscytująca, wnikliwa i wyrazista. Czy jego przewidywania dotyczące tego, jak AI zmieni w nadchodzących dekadach życie, które znamy, tak samo trafią w sedno? Ja bym nie obstawiał przeciwko niemu!

Henry Kautz

były prezes Association for the

Advancement of Artificial Intelligence, założyciel i dyrektor

Institute for Data Science, profesor uniwersytetu w Rochester

Wyczerpujący przegląd, unikający przesady i wyjaśniający, czego może dokonać AI, napisany przez eksperta/praktyka w tej dziedzinie.

Peter Norvig

dyrektor badań w Google i współautor książki

Artificial Intelligence: A Modern Approach

Słyszeliście wiele przesadnych informacji, to teraz poczytajcie o rzeczywistości przedstawionej przez jednego z najważniejszych badaczy w dziedzinie sztucznej inteligencji (AI). Elegancką prozą prof. Toby Walsh opisuje przeszłość, teraźniejszość i przyszłość AI – dochodząc do kuszących przewidywań dotyczących wpływu AI na medycynę, transport, rozrywkę i wiele innych dziedzin do roku 2050.

Oren Etzioni

prezes Allen Institute for Artificial Intelligence

PROLOG

Dla A i B

sprawiających, że moje życie jest takie ciekawe

Zaczynam od cytatu z roku 1950. Wtedy świat był znacznie prostszy niż dziś. Telewizja była czarno-biała. Odrzutowce nie woziły jeszcze pasażerów. Krzemowy tranzystor miał być dopiero wynaleziony. Na całym świecie było nie więcej niż tuzin komputerów[1]. Każdy z nich był wspaniałym połączeniem lamp próżniowych, okablowania tablic gniazd i kondensatorów wypełniającym cały pokój.

Dlatego tylko ktoś odważny mógł przewidywać: „Uważam, że pod koniec XX wieku wykorzystanie słów i opinii wykształconych ludzi zmieni się tak bardzo, że będzie można, bez napotkania sprzeciwu, mówić o maszynach myślących”[2]. Co za pomysł! Myślące maszyny. Czy maszyny naprawdę w najbliższej przyszłości będą potrafiły myśleć? A jeśli tak będzie, to ile czasu upłynie, zanim staną się lepsze od nas?

Ale zacznijmy od tego – kto wygłosił taką odważną przepowiednię? Czy miała ona duże znaczenie? Cóż, człowiek, który to powiedział, został uznany w 1999 roku przez tygodnik Time za jednego ze „100 najważniejszych ludzi XX wieku”[3]. Był on bez wątpienia jednym z najbardziej tajemniczych myślicieli tamtego wieku. Matematykiem. Bohaterem czasów wojny. Przede wszystkim jednak marzycielem. A jego marzenia nadal mają na nas ogromny wpływ, wiele lat po jego przedwczesnej śmierci.

W nagrodzonym Oscarem filmie opowiedziano historię o tym, jak istotna była jego rola w złamaniu kodu niemieckiej maszyny Enigma podczas II wojny światowej. Winston Churchill powiedział, że on i jego współpracownicy łamiący kody to „kury, które znosiły złote jaja, ale nigdy nie gdakały”. Zgodnie z opiniami większości historyków złamanie kodu Enigmy skróciło wojnę przynajmniej o dwa lata. I bez wątpienia ocaliło miliony ludzi. Ale myślę, że pod koniec XXI wieku autor przytoczonego cytatu nie będzie pamiętany przede wszystkim z powodu łamania kodów.

Po drodze do złamania kodu Enigmy stworzył on teoretyczne podstawy obliczeń komputerowych i pomógł w stworzeniu pierwszego zastosowanego w praktyce urządzenia obliczeniowego, bomby, które wykorzystywał do dekodowania niemieckich komunikatów[4]. Jego pomysły przenikają dzisiejszą informatykę. Zaproponował podstawowy i całkiem ogólny model komputera, model, o którym marzył, zanim jeszcze zbudowano pierwszy komputer[5]. W uznaniu tego wkładu jego imię nosi najbardziej prestiżowa nagroda w dziedzinie komputerów. Ale pomimo niezwykłego wpływu, jaki komputery mają na każdy aspekt naszego życia, wątpię, czy będzie on pamiętany za położenie kamienia węgielnego pod nauki komputerowe.

Miał też wielki wpływ na gałąź biologii zwaną morfogenezą. Ten wpływ wynika z jednego artykułu, „Biochemiczne podstawy morfogenezy”, który został opublikowany w jednym z najstarszych pism naukowych na świecie[6]. Inni autorzy prezentujący prace w tym czasopiśmie to takie ikony nauki, jak Karol Darwin (jego teoria ewolucji zmieniła spojrzenie na historię gatunków na Ziemi), Aleksander Fleming (odkrycie przez niego penicyliny ocaliło dziesiątki milionów ludzi) oraz James Watson, Francis Crick and Dorothy Hodgkin (którzy odkryli strukturę DNA, co nadało tempo rewolucji genetycznej). Artykuł ten przedstawił teorię na temat tworzenia się w naturze wzorców, tłumacząc, jak paski, kropki i spirale tworzone są w roślinach i zwierzętach. Artykuł ten jest obecnie bardzo często cytowany. Wątpię jednak, czy tworzenie wzorców jest tym, za co będzie on zapamiętany pod koniec XXI wieku.

Jest on też znaczącą postacią środowiska gejowskiego. W latach pięćdziesiątych XX wieku homoseksualizm był w Wielkiej Brytanii nielegalny. Wielu uważa oskarżenie go w 1952 roku o akty homoseksualne i zasądzoną chemiczną kastrację za przyczynę jego przedwczesnej śmierci i odrzucenia przez brytyjski establishment, mimo że tak pomógł podczas II wojny światowej[7]. W 2009 roku, po petycji publicznej, premier Gordon Brown formalnie przeprosił za to traktowanie. Cztery lata później królowa podpisała rzadko stosowany królewski akt łaski. Trudno się dziwić, że środowisko gejowskie traktuje go jak męczennika. Ale wątpię, czy pod koniec XXI wieku będzie on pamiętany z tych właśnie względów.

Za co więc będzie przede wszystkim pamiętany? Myślę, że za artykuł opublikowany w dość mało znanym czasopiśmie filozoficznym, Mind. Cytat na początku tego rozdziału pochodzi z tego artykułu. Przedtem czasopismo to było najbardziej znane dzięki publikacji artykułu „Co żółw powiedział Achillesowi”, którego autorem był Lewis Carroll. Dotyczył on paradoksu Zenona z Elei[8]. Artykuł, z którego pochodzi przytoczony cytat, jest dziś uznawany za najbardziej inspirujący w historii sztucznej inteligencji[9]. Przewiduje on przyszłość, w której maszyny myślą. Gdy nasz autor pisał ten artykuł, na świecie było nie więcej niż tuzin komputerów. Miały o wiele mniejszą moc obliczeniową niż smartfon, który większość z nas nosi dziś w kieszeni. Musiało być trudne do wyobrażenia, jaki wpływ na nasze życie będą miały komputery. A jeszcze trudniejsze było wyobrażenie sobie, że pewnego dnia mogą one same myśleć. A jednak artykuł przewiduje i próbuje obalić wszystkie najważniejsze argumenty, które stale podnoszono przeciwko możliwości powstania myślących maszyn. Wielu uważa autora tego artykułu za jednego z ojców dziedziny, jaką jest AI.

Jest to oczywiście Alan Mathison Turing, członek Royal Society, urodzony w 1912, zmarły z własnej ręki w roku 1954.

Przewiduję, że u schyłku wieku XXI Alan Turing będzie przede wszystkim pamiętany jako człowiek, który położył fundamenty dziedziny, która próbuje zbudować myślące maszyny. Maszyny te zmienią nasze życie w tak samo dramatyczny sposób, w jaki zmieniła je maszyna parowa na początku wieku industrializacji. Zmienią one sposób naszej pracy, zabawy, edukacji naszych dzieci, to, jak traktujemy ludzi chorych i starych, a w końcu, jak zostanie zapamiętany rodzaj ludzki. Będą to zapewne nasze najbardziej przekształcające życie twory. Powieści science fiction są pełne robotów, które myślą. Niedługo tym tropem podążą fakty naukowe.

Nasze życie pędzi w kierunku przyszłości wymarzonej w utworach science fiction. Kieszonkowe komputery, które nosimy codziennie przy sobie, mogą odpowiedzieć na najdziwniejsze pytania, zabawiać nas grami i filmami, poprowadzić do domu, gdy się zgubimy, znaleźć nam pracę lub partnera życiowego, zagrać piosenkę miłosną i natychmiast połączyć nas z przyjaciółmi na całym świecie. W zasadzie to, że są też telefonem, jest ich najmniej ciekawą cechą.

Oczywiście moje przewidywanie, że najważniejszą spuścizną Turinga będzie zainicjowanie dziedziny sztucznej inteligencji, rodzi kilka pytań. Czy Turing będzie pamiętany pod koniec tego wieku przez myślące maszyny? Czy przyszłość ta będzie dobra? Czy roboty przejmą wszystkie ciężkie i niebezpieczne prace? Czy gospodarka będzie kwitła? Czy będziemy mogli mniej pracować i dłużej cieszyć się wypoczynkiem? Czy też Hollywood ma rację i nasza przyszłość będzie trudna? Czy bogaci staną się bogatsi, a biedni biedniejsi? Czy wielu z nas straci pracę? A co gorsze, czy roboty przejmą władzę? Czy siejemy teraz ziarna naszego zniszczenia?

Ta książka stawia powyższe pytania i będzie przewidywać, dokąd prowadzi nas AI. W części I analizuję, czego możemy nauczyć się z przeszłości. Można zapewne lepiej zrozumieć, dokąd zabiera nas technika, jeśli wiemy skąd ona pochodzi. W części II analizuję, w jakim punkcie obecnie znajduje się AI i badam ryzyko oraz korzyści związane z budową myślących maszyn. Próbuję realistycznie ocenić, do czego ten ogromny wysiłek może doprowadzić. Idea budowy myślących maszyn jest bez wątpienia odważnym i ambitnym przedsięwzięciem, którego sukces będzie miał ogromny wpływ na społeczeństwo. Wreszcie w części III omawiam bardziej szczegółowo przyszłość AI. Czy niektóre dziwne przewidywania, które można znaleźć w książkach i w filmach, mogą się ziścić? Czy są zbyt fantazyjne? I dołożę „wisienkę na torcie” w postaci dziesięciu prognoz dotyczących osiągnięć AI do roku 2050. Niektóre mogą was zadziwić.

To są ekscytujące czasy dla tej dziedziny. W ciągu ostatnich pięciu lat miliardy dolarów kapitału ryzyka zasiliło firmy pracujące nad sztuczną inteligencją[10]. Gra idzie o duże stawki. Gigant komputerowy IBM wkłada miliard dolarów w swoje prace nad poznawczą platformą obliczeniową o nazwie Watson[11]. Toyota wydaje miliard dolarów na laboratorium badań nad autonomią. OpenAI, inicjatywa nakierowana na budowę bezpiecznej sztucznej inteligencji ogólnego zastosowania, wspierana jest kolejnym miliardem dolarów. SoftBank Vision Fund uruchomiony w październiku 2015, a wspierany przez Arabię Saudyjską, przeznacza około 100 miliardów na inwestycje w firmy technologiczne, które skupią się na AI oraz „Internecie rzeczy”. Również wielu innych graczy w dziedzinie technologii, w tym Google, Facebook i Baidu, inwestują wiele w sztuczną inteligencję. Jest to bez wątpienia bardzo podniecający okres na pracę w tej dziedzinie. Przy tak dużych pieniądzach, które do niej płyną, możliwe jest, że postęp w kierunku myślących maszyn przyśpieszy jeszcze bardziej.

PO CO CZYTAĆ TĘ KSIĄŻKĘ?

Komputery przekształcają dziś nasze życie w niesamowitym tempie. W wyniku tego istnieje znaczący globalny apetyt, aby dowiedzieć się więcej o sztucznej inteligencji. Wielu komentatorów przewiduje wspaniałe rzeczy. W maju 2016 roku główny dyrektor działu prognoz w Microsoft UK, Dave Coplin, wyraził to bezpośrednio: „Sztuczna inteligencja to najważniejsza technologia, nad którą pracują ludzie. Zmieni ona naszą relację z technologią. Uważam nawet, że zmieni ona to, jak odbieramy nasze człowieczeństwo”.

Miesiąc później prezes Google, Sundar Pichai, opisał, jak AI stanowi centralny element strategii Google’a. „Istotnym motywem […] stało się długoterminowe inwestowanie w systemy uczące się i AI […]. Patrząc w przyszłość […] będziemy przechodzić ze świata mobilności do świata AI”.

Jednak wielu komentatorów przewiduje, że AI niesie ze sobą wiele niebezpieczeństw do tego stopnia, że jeśli nie będziemy ostrożni, może przyśpieszyć koniec rasy ludzkiej. W roku 2014 Elon Musk ostrzegł słuchaczy na MIT, że „powinniśmy być bardzo ostrożni w kwestii sztucznej inteligencji. Jeśli miałbym zgadywać, co jest największym zagrożeniem dla naszej egzystencji, wymieniłbym właśnie to”. Musk jest przedsiębiorcą i seryjnym wynalazcą oraz inwestorem, znanym z utworzenia takich firm, jak PayPal, Tesla i SpaceX. Swoimi innowacjami wstrząsnął sektorem bankowym, przemysłem samochodowym i podróżami kosmicznymi, więc można się spodziewać, że wie co nieco o możliwości wstrząśnięcia światem przez technologie, zwłaszcza komputerowe. A Musk broni za pomocą pieniędzy swojej opinii, że AI stwarza poważne zagrożenie dla egzystencji rasy ludzkiej. Na początku roku 2015 ofiarował 10 milionów dolarów instytutowi zajmującemu się przyszłością życia (Future of Life Institute) na badania nad zapewnieniem bezpieczeństwa AI. Cóż, może 10 milionów dolarów to niewielka suma pieniędzy dla kogoś tak bogatego jak Musk, którego zasoby wynoszą około 10 miliardów dolarów, co stawia go wśród 100 najbogatszych ludzi świata. Ale potem podniósł tę kwotę 100 razy, oznajmiając, że będzie jednym z głównych inwestorów w projekt OpenAI warty miliard dolarów. Celem projektu jest zbudowanie bezpiecznej sztucznej inteligencji, a potem przekazanie jej światu jako otwartego kodu.

Po ostrzeżeniu Muska fizyk Stephen Hawking postawił na zagrożenia sztucznej inteligencji. Nie bez ironii Hawking powitał aktualizację oprogramowania swojego syntezatora mowy ostrzeżeniem, które zostało przekazane elektronicznym głosem tej technologii: „Rozwinięcie pełnej sztucznej inteligencji może oznaczać koniec rasy ludzkiej”.

Kilku innych znanych specjalistów od technologii, w tym Bill Gates z Microsoftu i Steve Wozniak (aka „Woz”) z Apple, przewidują niebezpieczną przyszłość dla AI. Ojciec teorii informacji, Claude Shannon, napisał w roku 1987: „Przewiduję czasy, gdy będziemy dla robotów tym, czym psy są dla ludzi […]. Głosuję na maszyny!”[12]. Nawet sam Alan Turing, w programie trzeciego programu BBC dał w 1951 roku ostrzegawczą przepowiednię:

Jeśli maszyny będą mogły myśleć, to mogą myśleć bardziej inteligentnie od nas, a gdzie my się wtedy znajdziemy? Jeśli nawet uda nam się utrzymać maszyny na właściwym miejscu, na przykład wyłączając w strategicznym momencie zasilanie, powinniśmy się czuć upokorzeni jako gatunek […]. To jest z pewnością coś, co może wzbudzać nasz niepokój.

Oczywiście nie każdy technokrata przejmuje się wpływem myślących maszyn na ludzkość. W styczniu 2016 Mark Zuckerberg z Facebooka skrytykował tego rodzaju obawy: „Myślę, że możemy zbudować AI tak, aby działała dla nas i pomagała nam. Niektórzy mają obawy – twierdzą, że AI to wielkie zagrożenie, ale wydaje się to dla mnie naciągane i jest znacznie mniej prawdopodobne niż katastrofy spowodowane rozpowszechnianiem się chorób, przemocy itp.” Andrew Ng, jeden z wiodących badaczy AI w chińskim internetowym gigancie Baidu, powiedział: „Obawy związane z AI przypominają te o przeludnieniu Marsa”. (Nie zapominajmy, że jednym z projektów Elona Muska jest zaludnienie Marsa…).

Komu więc mamy wierzyć? Jeśli osoby zajmujące się technologią, jak Musk i Zuckerberg, nie są zgodni, czy nie oznacza to, że jednak jest coś, czym powinniśmy się martwić? Obawy związane ze sztuczną inteligencją mają swoją historię. Jeden z największych wizjonerów przyszłości, pisarz science fiction Arthur C. Clarke, przepowiedział niebezpieczne konsekwencje sztucznej inteligencji już w roku 1968. Clarke ma niezwykłą historię trafnych prognoz przyszłych technologii. Przewidział wykorzystanie satelitów geosynchronicznych, globalną bibliotekę cyfrową (którą dziś okreś- lamy jako Internet), tłumaczenia maszynowe i wiele innych rzeczy. Ale komputer HAL 9000 w jego powieści 2001: Odyseja kosmiczna stanowił przykład słynnych konsekwencji przejmowania kontroli przez AI.

Zainspirowany przez Clarke’a i innych wizjonerów, zacząłem myśleć o sztucznej inteligencji już jako młodzieniec. I przez całe życie pracowałem w tej dziedzinie, starając się wdrożyć moje marzenia. Martwi trochę, gdy ludzie spoza dziedziny, zwłaszcza wybitni fizycy i odnoszący sukcesy przedsiębiorcy w zakresie techniki, przewidują, że AI spowoduje koniec ludzkości. Może osoby bliższe temu powinny włączyć się do tej debaty? A może jesteśmy zbyt zajęci tym, co robimy, aby zobaczyć ryzyko? I dlaczego pracujemy nad czymś, co może zniszczyć nasze własne istnienie?

Niektóre obawy związane ze sztuczną inteligencją pochodzą być może z głębokich części naszej psychiki. Obawy te pojawiają się w opowieściach takich jak mit o Prometeuszu, historia greckiego bóstwa, które dało ludziom dar ognia, co było stale przyczyną wielkiego dobra i wielkiego zła. Te same obawy są obecne we Frankensteinie Mary Shelley – że nasze twory pewnego dnia mogą nas skrzywdzić. To, że te obawy są stare, nie oznacza, że są bezpodstawne. Jest wiele wynalezionych przez nas technologii, które powinny dać nam do myślenia i tak się dzieje: bomby jądrowe, klonowanie, oślepiające lasery i media społeczne, to tylko niektóre z nich. Jednym z celów mojej książki jest pomoc w zrozumieniu, na ile powinniśmy się cieszyć, a na ile martwić tym, że nadchodzą myślące maszyny.

Część odpowiedzialności spoczywa na nas, naukowcach pracujących nad sztuczną inteligencją. Nie mówiliśmy o tym dostatecznie dużo, a często używaliśmy mylącego języka. Musimy lepiej przekazywać to, nad czym pracujemy i dokąd może to zaprowadzić społeczeństwo. To nasza odpowiedzialność jako naukowców. A szczególnie ważne jest, aby tak postępować, gdy, jak twierdzę w tej książce, większość zmian będzie dotyczyła kwestii społecznych, społeczeństwo zaś zmienia się znacznie wolniej niż technologie. Jak większość technologii, AI jest neutralna moralnie. Może prowadzić do dobrych lub złych skutków.

Jeden z problemów tej debaty stanowi fakt, że jest wiele mylnych koncepcji na temat sztucznej inteligencji. Mam nadzieję niektóre z nich wyjaśnić. Jednym z argumentów jest to, że ludzie, zwłaszcza spoza branży, mają tendencję do przeceniania możliwości sztucznej inteligencji dziś i w najbliższej przyszłości. Widzą, jak komputer gra w Go lepiej od człowieka, a ponieważ sami nie umieją grać w Go[13], wydaje im się, że komputer może wykonywać wiele innych inteligentnych zadań. Jednak program do gry w Go, podobnie jak inne dzisiejsze programy, to uczony głupiec. Potrafi dobrze wykonywać tylko jedną rzecz. Nie umie grać w inne gry, jak szachy czy poker. Aby komputer grał w inną grę, wymagałoby to znaczącego wysiłku ze strony człowieka. Nie jest tak, że pewnego razu wstanie i stwierdzi, że znudziło go wygrywanie z nami w Go, więc chce wygrać trochę pieniędzy, grając w pokera online. I nie ma żadnej szansy na to, aby obudził się pewnego dnia i zaczął myśleć o władzy nad światem. Komputer nie ma pragnień. Jest to program komputerowy, który może robić tylko to, do czego został zaprogramowany – w tym przypadku wyjątkowo dobrze grać w Go.

Z drugiej strony będę się upierał, że wszyscy nie doceniamy tego, co mogą przynieść długoterminowe zmiany w technologii. Smartfony mamy dopiero od dekady, a ogromnie przekształciły nasze życie. Pomyślcie o Internecie, który istnieje dwie dekady, a który zmienił niemal każdy aspekt naszego życia – a teraz pomyślcie, co mogą przynieść dwie następne dekady. Ze względu na mnożnikowy charakter wpływu technologii, kolejne dwadzieścia lat może przynieść jeszcze większe zmiany niż ostatnie dwadzieścia. Ludziom raczej słabo wychodzi zrozumienie długoterminowego ryzyka lub przewidywanie pojawienia się czarnych łabędzi[14]. Jeśli rozumielibyśmy dobrze procesy długoterminowe, przestalibyśmy kupować losy na loterię i oszczędzalibyśmy na wyższe emerytury. Zyski, jakie przynosi skumulowany wzrost, są trudne do zrozumienia dla naszego mózgu, który szuka przyjemności i unika bólu. Żyjemy chwilą.

Zanim przejdziecie do dalszych stron tej książki, muszę was ostrzec: przewidywanie przyszłości nie obejmuje naukowej dokładności. Duński fizyk Niels Bohr, laureat Nagrody Nobla, napisał: „Przewidywania są bardzo trudne, zwłaszcza kiedy dotyczą przyszłości”. Spodziewam się, że moje ogólnie zarysowane prognozy będą poprawne, ale z pewnością niektóre szczegóły będą błędne. Jednak podczas analizy tych pomysłów zrozumiecie, mam nadzieję, dlaczego ja i tysiące moich kolegów poświęciliśmy życie na pracę na ekscytującej drodze wiodącej nas do myślących maszyn. I mam nadzieję, że zrozumiecie, iż jest to ścieżka, którą z pewnością trzeba badać, jeśli mamy poprawiać jakość naszego życia na tej planecie. Jest kilka obszarów, w których rozwijanie sztucznej inteligencji stanowi imperatyw moralny, gdyż pozwoli ocalić wiele istnień.

A co najważniejsze mam nadzieję, że zastanowicie się, jak społeczeństwo powinno się zmieniać. Ostateczne przesłanie tej książki brzmi, że sztuczna inteligencja może prowadzić nas różnymi ścieżkami, dobrymi lub złymi, ale to społeczeństwo musi wybrać, którą ścieżkę wybrać i działać na rzecz tego wyboru. Jest wiele decyzji, które możemy przekazać maszynom. Ale powinniśmy przekazywać tylko niektóre – nawet jeśli maszyny będą podejmować je lepiej. Jako społeczeństwo musimy zacząć dokonywać wyboru, na ile mamy zaufać maszynom.

KTO POWINIEN PRZECZYTAĆ TĘ KSIĄŻKĘ?

Książka jest przeznaczona dla wszystkich zainteresowanych niebędących specjalistami w tej dziedzinie. Dla tych, którzy chcą zrozumieć, dokąd może nas doprowadzić sztuczna inteligencja. Czy są bardziej ekstrawaganckie przewidywania dotyczące myślących maszyn, które mogą się spełnić? Czy nastąpi osobliwość technologiczna? Czy powinniśmy się martwić tym, dokąd prowadzi nas AI? Jak wpłynie to na nas i nasze dzieci? I jak długo będziemy czekać na spełnienie niektórych prognoz? Aby nie przerywać toku wykładu, umieściłem bibliografię i uwagi techniczne na końcu książki. Można czytać tę książkę całkowicie je ignorując[15]. Jeśli jednak zechcecie bardziej wgłębić się w tę tematykę, uwagi te dadzą wam dodatkowe szczegóły i odskocznię do literatury.

Zaczynajmy więc.

CZĘŚĆ I
PRZESZŁOŚĆ AI

1
SEN O AI

Aby zrozumieć, dokąd zabiera nas sztuczna inteligencja, dobrze jest wiedzieć, skąd ona pochodzi i gdzie znajduje się dziś. Potem możemy zacząć badać przyszłość.

Rzeczywisty początek sztucznej inteligencji to rok 1956, gdy jeden z jej ojców założycieli, John McCarthy[1], zaproponował tę nazwę na słynnym spotkaniu dotyczącym projektów sztucznej inteligencji w Dartmouth, w New Hampshire[2]. W tej nazwie wybranej przez McCarthy’ego jest sporo niepoprawności. Samo pojęcie inteligencji nie jest zbyt dobrze zdefiniowane. A dodanie przymiotnika sztuczna przed jakimkolwiek pojęciem nigdy nie brzmi dobrze. Otwiera przestrzeń dla niezliczonych żartów o „naturalnej inteligencji” i „sztucznej głupocie”. Ale na dobre czy na złe utknęliśmy z tą nazwą. W każdym razie historia AI sięga o wiele dalej – nawet do czasów sprzed wynalezienia komputerów. Ludzie od wieków myśleli o maszynach, które mogą myśleć, oraz o sposobie modelowania myślenia.

PREHISTORIA AI

Jak wiele historii, ta też nie ma jasnego początku. Jest jednak niewątpliwie połączona z wynalazkiem logiki. Jednym z możliwych punktów początkowych może być trzeci wiek p.n.e., gdy Arystoteles określił dziedzinę logiki formalnej. Bez logiki nie byłoby dzisiejszych komputerów cyfrowych. A logika często była (i nadal jest) uważana za model myślenia, środek do określenia, jak rozumujemy i tworzymy argumenty.

Poza mechanicznymi maszynami do prowadzenia obliczeń ruchów ciał niebieskich i wykonywania innych podstawowych działań, ludzkość przez kolejne 2000 lat z kawałkiem nie dokonała postępu w kierunku myślących maszyn. Ale, trzeba uczciwie dodać, że nawet w najbardziej rozwiniętych krajach ludzie mieli wiele innych problemów, jak wojny, choroby, głód i przetrwanie w wiekach ciemnych.

Jedynym wyjątkiem był trzynastowieczny kataloński pisarz, poeta, teolog, mistyk, matematyk, logik i męczennik Ramon Llull[3]. Niektórzy uważają go za jednego z ojców komputerów. Odkrył on prostą logikę, która mogła mechanicznie zdefiniować wszystkie prawdy na dany temat. Była to wtedy jedna z pierwszych logicznych i mechanicznych metod tworzenia wiedzy. Jego idee nie były jednak szeroko uznawane w jego czasach, choć uważa się, że w znacznym stopniu wpłynęły na następnego bohatera naszej opowieści.

ZAJMIJMY SIĘ OBLICZENIAMI

Gdy zaczęła się rozwiewać intelektualna mgła panująca w średniowieczu, nasza historia zaczyna przyśpieszać. Jedną z wyróżniających się postaci jest tu Gottfried Wilhelm Leibniz[4]. Do jego istotnych dalekowzrocznych wkładów intelektualnych należał pomysł, że myśl ludzką można przedstawić za pomocą swego rodzaju obliczeń, a obliczenia te mogą pokazać błędy w rozumowaniu lub rozwiązać różnice w opiniach. Napisał: „Jedynym sposobem oczyszczenia naszego rozumowania jest sprawienie, aby było ono tak samo konkretne jak u matematyków, aby można było znaleźć błąd na pierwszy rzut oka. Wtedy dyskusje między różnymi ludźmi można sprowadzić do stwierdzenia: Policzmy to [calculemus], aby bez większych korowodów zobaczyć, kto ma rację[5]”.

Leibniz zaproponował prostą logikę do przeprowadzenia tego typu obliczeń. Wyobraził sobie „alfabet ludzkich myśli”, w którym każda podstawowa koncepcja była reprezentowana za pomocą unikatowego symbolu. Komputery są zaś maszynami, które działają na symbolach[6]. Abstrakcja Leibniza jest więc ważna, jeśli komputery mają „myśleć”. Uzasadnienie jest następujące. Wprawdzie komputery, zgodnie z propozycją Leibniza, jedynie manipulują symbolami, ale jeśli symbole te oznaczają podstawowe pojęcia, komputery mogą na ich podstawie wyprowadzić nowe pojęcia, a więc wykonać rozumowanie podobne do ludzkiego.

W podobnym okresie napotykamy innego filozofa, Thomasa Hobbesa, który położył inny fundament filozoficzny w dziedzinie myślących maszyn[7]. Podobnie jak Leibniz, Hobbes porównywał myślenie z obliczeniami. Napisał: „traktuję rozumowanie jak obliczenia […] a więc rozumowanie przypomina dodawanie i odejmowanie[8]. Przyrównanie rozumowania do obliczeń, jak to zrobili Leibniz i Hobbes, to pierwszy krok na drodze do budowy myślących maszyn. Choć mechaniczny kalkulator został wynaleziony nieco wcześniej, niż zaczęli o tym pisać Leibniz i Hobbes, to jednak zajęło ponad dwa wieki, zanim ktoś spróbował praktycznie zrealizować pomysł myślenia jako obliczeń[9].

Inny wybitny uczony, który pojawił się po odejściu w przeszłość ciemnych wieków, to René Descartes[10]. Sformułował on ważną ideę filozoficzną, która do dziś straszy podczas badań nad AI: Cogito ergo sum, co znaczy „Myślę, więc jestem”. Te trzy łacińskie wyrazy w elegancki sposób łączą myśl z istnieniem (człowieka). Odwracając to rozumowanie, możemy powiedzieć, że jeśli nie istniejemy, nie możemy myśleć[11]. Idea Descartesa stanowi więc wyzwanie dla samego pomysłu istnienia myślących maszyn. Są one pozbawione wielu specjalnych atrybutów, które łączymy z istnieniem, w tym przykładowo: emocji, etyki, świadomości i kreatywności. I jak zobaczymy, te właśnie cechy były przywoływane jako argumenty przeciwko możliwości istnienia maszyn, które myślą. Przykładowo, jeśli maszyny nie są świadome, nie mogą myśleć. A ponieważ maszyny nie są też kreatywne, to nie możemy mówić, że myślą. Wkrótce wrócimy do tej argumentacji.

BOOLE I BABBAGE

Nim pojawił się kolejny ważny gracz w naszej opowieści, minęło kolejnych dwieście lat. George Boole był matematykiem samoukiem[12]. Pomimo braku tytułu uniwersyteckiego został w 1849 roku mianowany na stanowisko profesora w Queen’s College, w hrabstwie Cork w Irlandii, na podstawie wielu artykułów z dziedziny matematyki, które opublikował w wolnym czasie, jaki mu pozostawał przy obowiązkach związanych z prowadzeniem szkoły. Stanowisko uniwersyteckie Boole’a na obrzeżach ówczesnego życia akademickiego dało mu swobodę formułowania idei, które okazały się znaczące dla rozwoju obliczeń komputerowych i dla marzeń o stworzeniu myślących maszyn. Boole zaproponował, aby logikę sformalizować za pomocą działań algebraicznych wykonywanych na dwóch wartościach: prawda i fałsz, włączone i wyłączone lub 0 i 1. Taka logika „boolowska” opisuje działania każdego dzisiejszego komputera; są to w rzeczywistości złożone maszyny do przetwarzania ciągów boolowskich zer i jedynek. Pomysły Boole’a w jego czasach nie zostały docenione, lecz nie będzie nadużyciem stwierdzenie, że był on ojcem dzisiejszych czasów informacji.

Boole miał jednak większe ambicje względem swojej logiki, które jeszcze bardziej wyprzedzały czasy, w których żył. Tytuł najważniejszej pracy na temat jego logiki daje nam pojęcie o tych celach: „Badania nad prawami myślenia” (An Investigation of the Laws of Thought). Boole nie tylko sformułował matematyczne podstawy logiki, lecz chciał także wytłumaczyć zasady ludzkiego myślenia. We wstępie do swojej pracy napisał:

Celem tej rozprawy jest zbadanie podstawowych praw tych działań umysłu, które są motorem rozumowania; aby wyrazić je za pomocą języka symbolicznego pochodzącego z algebry, a na tej podstawie ustanowić naukę Logiki i zbudować jej metody […] a wreszcie zebrać z różnych fragmentów prawdy, które odnajdą się podczas tych badań, pewne prawdopodobne oznaki związane z naturą i budową ludzkiego umysłu.

Boole nigdy w pełni nie zrealizował swoich ambicji. W tamtych czasach jego prace nie zostały w większości uznane i zmarł on przedwcześnie dziesięć lat później[13]. Ale nawet gdyby Boole nie znajdował się na obrzeżach akademickich w Cork, nie miał on maszyny, która pozwoliłaby zautomatyzować te marzenia.

Niesamowity jest fakt, że na dwa lata przed śmiercią Boole poznał kolejnego gracza w naszej opowieści, Charlesa Babbage’a. Zdarzyło się to na na Wielkiej Wystawie w Londynie w 1851 roku, gdzie obaj wielcy innowatorzy rozmawiali o „myślącej maszynie” Babbage’a. Kuszące jest wyobrażenie sobie, do czego mogliby dojść razem, gdyby Boole nie zmarł wkrótce potem. Charles Babbage był człowiekiem wszechstronnym: matematykiem, filozofem, wynalazcą i inżynierem[14]. Marzył o zbudowaniu mechanicznych komputerów. Choć nigdy mu się to nie udało, przez wielu jest uznawany za ojca programowanego komputera. Jego maszyna analityczna została zaprojektowana tak, aby programować ją za pomocą kart perforowanych.

Idea komputerów działających zgodnie z programem, który można zmieniać, jest podstawą możliwości komputerów. Na nasz smartfon można wprowadzić nowe apki, programy, o których nie marzył Steve Jobs ani żaden inny twórca smartfonów. W ten sposób może on pełnić wiele funkcji naraz: kalkulatora, notatnika, urządzenia monitorującego nasze zdrowie, nawigacji, aparatu, odtwarzacza filmów, a nawet (o czym czasem trudno pamiętać) telefonu. Jest to pomysł, który Turing rozwinął, proponując ogólny model obliczeniowy.

Komputer to uniwersalna maszyna, którą można zaprogramować tak, aby wykonywała wiele zadań. A programy komputerowe mogą nawet same się zmieniać. Ta zdolność stanowi podstawę dla marzeń o sztucznej inteligencji. Uczenie się wydaje się kluczem do naszej inteligencji. Jeśli komputer ma symulować proces uczenia się, to musi mieć jakiś sposób na to, aby modyfikować swój własny program. Program to tylko dane, a nimi można manipulować: pomyślcie o liczbach w swoim arkuszu kalkulacyjnym, literach w edytorze tekstów czy barwach na obrazie cyfrowym. Komputery mogą więc uczyć się wykonywania nowych zadań – to jest zmieniać program tak, aby wykonywał zadania, które nie były wcześniej zaprogramowane.

PIERWSZA PROGRAMISTKA

Z Babbage’em współpracowała Augusta Ada King, hrabina Lovelace[15]. Napisała wiele uwag opisujących i wyjaśniających szerszej publiczności analityczną maszynę Babbage’a. W uwagach tych napisała coś, co jest uważane za pierwszy program komputerowy. Babbage skupiał się na zdolności maszyny do wykonywania obliczeń numerycznych, tworzenia tablic astronomicznych i innych. Lovelace natomiast potrafiła marzyć o komputerach wykonujących o wiele więcej zadań niż tylko przetwarzanie liczb. Napisała, że wynalazek Babbage’a „może działać na innych elementach niż liczby […] a maszyna mogłaby komponować rozbudowane i naukowe utwory muzyczne, w dowolnym zakresie i złożoności”.

Pomysł ten wyprzedzał swoje czasy o sto lat. Skok myślowy Lovelace można zaobserwować w dzisiejszych smartfonach, które przetwarzają dźwięki, obrazy, filmy i wiele innych elementów poza liczbami. Była ona jednak także jednym z pierwszych krytyków sztucznej inteligencji, odrzucając pomysł o zbudowaniu myślących maszyn, które potrafią być kreatywne. „Maszyna analityczna nie rości sobie pretensji do tworzenia czegokolwiek”, pisała. „Może wykonać wszystko, co potrafimy jej nakazać. Może wykonywać analizy, ale nie ma mocy do przewidywania jakichkolwiek prawd i związków analitycznych”.

Pomysł ten – że jeśli komputery nie są kreatywne, to nie mogą być inteligentne – był tematem wielu debat. Turing omówił go w swoim inspirującym artykule w Mind. Powrócę wkrótce do tego argumentu, ale chcę wskazać na pewną refleksję związaną z zastrzeżeniami Lovelace. Pierwsza osoba, która pomyślała o programowaniu komputera – ktoś, kto potrafił myśleć o sto lat do przodu o komputerach manipulujących nie tylko liczbami – była jednocześnie bardzo sceptyczna wobec końcowego celu, czyli stworzenia myślących maszyn. To nie jest proste marzenie. Prowadzi ono do samego sedna naszego miejsca we wszechświecie. Czy jest coś, co czyni nas wyjątkowymi? Czy może jesteśmy także maszynami, tak jak nasze komputery? Odpowiedź na te pytania ostatecznie zmieni nasz sposób myślenia o nas samych. Grozi zmianą naszego położenia jako centrum wszystkiego, podobnie jak idea Kopernika, że Ziemia obraca się wokół Słońca, czy pogląd Darwina, że pochodzimy od małp.

Jedną z mniej znanych postaci w naszej opowieści jest żyjący w XIX wieku William Stanley Jevons[16]. Miał on istotny wkład w matematykę i ekonomię. Ale nas interesuje „logiczne pianino”, które wynalazł w 1870 roku, mechaniczny komputer, który potrafił rozwiązywać zagadki logiczne obejmujące do czterech decyzji prawda/fałsz – lub korzystając z języka algebry Boole’a, do czterech zmiennych przyjmujących wartości 0 lub 1. Jevons zbudował swoje pianino, aby pomagać w nauce logiki. Oryginalny egzemplarz pianina znajduje się do dziś w Muzeum Historii Nauki w Oksfordzie. Pianino logiczne w elegancki sposób mechanizuje niewielki fragment algebry Boole’a. Jego wynalazca napisał, że „jest oczywiste, że mechanizm ten potrafi zastępować część działań myślowych wymaganych do wykonywania dedukcji logicznej”[17].

Można więc powiedzieć, że Jevons zbudował prymitywną maszynę myślącą, choć wątpię, aby wyróżniona publiczność, która oglądała jej pokaz w Royal Society w roku 1870, zdawała sobie sprawę, jak bardzo pianina logiczne zmienią nasze życie. Był to przynajmniej jeden z pierwszych nieśmiałych kroków na drodze do zbudowania komputerów, a więc do implementacji sztucznej inteligencji. Niestety, podobnie jak kilku graczy z tej opowieści, Jevons zmarł przedwcześnie, a w nekrologu zamieszczonym w Timesie jego pianino nie zostało wymienione[18].

REWOLUCJA LOGICZNA

Nasza opowieść przenosi się teraz do początku XX wieku. Był to czas rewolucji w wielu dziedzinach: nauce, sztuce i polityce. Podstawy fizyki zostały naruszone przez Alberta Einsteina, Nielsa Bohra, Wernera Heisenberga i wielu innych, dzięki ich rewolucyjnym pomysłom dotyczących względności i mechaniki kwantowej. Podstawami sztuki wstrząsną impresjonizm i dadaizm, które odrzuciły klasyczną przeszłość. Mniej więcej w tym samym czasie podstawy matematyki oraz logiki, stanowiącej jedną z jej cegiełek, zostały także gwałtownie naruszone.

Jednym z największych matematyków tamtych czasów był David Hilbert[19]. W 1900 roku zidentyfikował 23 największe wyzwania stojące przed matematyką. Pisząc o tych problemach, stwierdził:

Kto z nas nie byłby szczęśliwy, gdyby udało mu się podnieść zasłonę, za którą kryje się przyszłość: spojrzeć na przyszły rozwój nauki i sekrety rozwoju w nadchodzących wiekach? Jaki będzie cel, do którego duch przyszłych generacji matematyków będzie zmierzał? Jakie metody, jakie nowe fakty odsłoni nowy wiek w szerokiej i bogatej przestrzeni myśli matematycznej?

Ta niemal poetycka wizja może stanowić dobre wprowadzenie do tej książki. Kilka z problemów Hilberta dotyczyło podstaw matematyki. W tamtym czasie wydawało się, że fundamenty matematyki pękają. Spójrzmy na coś tak matematycznie prostego jak zbiór. Zbiór to po prostu kolekcja obiektów: zbiór czarnych samochodów, zbiór srebrnych samochodów, zbiór samochodów albo srebrnych, albo czarnych, zbiór tych, które nie są ani czarne, ani srebrne, zbiór wszystkiego, co nie jest srebrnym samochodem. W roku 1874 niemiecki matematyk Georg Cantor zapisał podstawy formalne matematyki zbiorów[20]. Może się to wydawać dziwne jak na matematyka. Matematyka dotyczy obiektów takich, jak liczby i funkcje. Dlaczego ktoś miałby interesować się zbiorami? A jednak zbiory reprezentują różne obiekty matematyczne: liczby, funkcje, grafy, a także wiele innych egzotycznych obiektów badanych przez matematyków, jak rozmaitości, otoczenia i przestrzenie wektorowe[21].

Bertrand Russell, inny wielki matematyk tego okresu, dowiódł, że podjęta przez Cantora próba sformalizowania matematyki zbiorów była skazana na niepowodzenie przez paradoksy cykliczne[22]. Rozważmy jeszcze raz zbiór wszystkich srebrnych samochodów. Nie zawiera on sam siebie. Nazwijmy go zbiorem normalnym. Z drugiej strony rozważmy zbiór dopełniający, taki, który zawiera wszystko, co nie jest srebrnym samochodem. Ten zbiór zawiera sam siebie. Nazwijmy go zbiorem nienormalnym. Rozważmy teraz zbiór wszystkich zbiorów normalnych. Czy zbiór wszystkich zbiorów normalnych jest sam zbiorem normalnym? Jeśli jest normalny, to zawierałby się w zbiorze wszystkich zbiorów normalnych. Ale wtedy byłby nienormalny. Rozważmy więc alternatywę. Przypuśćmy, że zbiór wszystkich zbiorów normalnych sam jest nienormalny. Jeśli jest nienormalny, powinien zawierać się w sobie, czyli w zbiorze zbiorów normalnych. Ale to sprawia, że staje się zbiorem normalnym. Jest to słynny paradoks Russela: zbiór nie może być jednocześnie normalny i nienormalny. W dalszej części naszej opowieści zobaczymy inne podobne paradoksy cykliczne. Teoria zbiorów Cantora była tak pełna paradoksów, że niektórzy jego krytycy nazywali go „naukowym szarlatanem” lub „deprawatorem młodzieży”. Ale, jak dowodzi kolejny bohater naszej opowieści, nie jest to winą Cantora. Taka jest właśnie matematyka. Powoduje to podstawowe wyzwanie dla budowy myślących maszyn – przynajmniej takich, które wykorzystują do rozumowania logikę.

Odpowiadając na ten kryzys w samym sercu matematyki, Hilbert sformułował program działań, próbując umieścić matematykę na precyzyjnych podstawach logicznych. Program Hilberta, jak jest on nazywany, szuka małych zbiorów podstawowych faktów, czyli elementów składowych, na których zbudowana jest matematyka. Szuka również dowodu na to, że taka formalizacja matematyki nie zawiera żadnych paradoksów, które znajdują się w teorii zbiorów Cantora. Gdy mamy paradoksy, można udowodnić wszystko. Jeśli mamy zbudować myślące maszyny – maszyny, które poza innym działaniem mogą uprawiać matematykę – potrzebujemy takich elementów składowych.

KONIEC MATEMATYKI

W 1931 roku program Hilbert został rozbity na kawałki przez Kurta Gödla, jednego z najważniejszych logików w historii[23]. Zniszczył on program Hilberta za pomocą dwóch słynnych twierdzeń o niezupełności. Dowodzą one, że każda formalizacja matematyki, dostatecznie bogata, aby opisać coś tak prostego jak liczby całkowite, będzie ewidentnie niekompletna lub będzie zawierać paradoksy. Dalej mówią one, że każdy system matematyczny, który nie będzie zawierał paradoksów, będzie także zawierać prawdy matematyczne, których nie można udowodnić. Jest to właśnie ta niezupełność w twierdzeniach niezupełności Gödla.

Wyniki Gödla pogrążyły program Hilberta i na zawsze pozostawiły matematyków na dość chwiejnych podstawach. Cel, aby być w pełni matematycznym w opisie samej matematyki, jest niemożliwy do spełnienia. A to stawia głębokie filozoficzne wyzwanie dla marzeń o budowie myślących maszyn. Jeśli mielibyśmy zbudować takie maszyny, a one miałyby rozumować w sposób matematyczny, jak przekonywali nas Leibniz i Hobbes, to musimy dostarczyć im precyzyjnie sformalizowaną matematykę, na podstawie której będą mogły myśleć. Ale twierdzenie o niezupełności Gödla pokazuje, że nie możemy napisać precyzyjnych reguł dla matematyki, takich, które można by podać komputerowi, aby mógł wykonać całą matematykę.