© Copyright by Copernicus Center Press

© 2022 Gerd Gigerenzer

All rights reserved.

Tytuł oryginału

How to Stay Smart in a Smart World. Why Human
Intelligence Still Beats Algorithms

Redakcja

Kamila Byrtek

Projekt okładki i stron tytułowych

KavStudio

Skład i konwersja do ebooka

monikaimarcin.com

ISBN: 978-83-7886-708-1

Wydanie I

Kraków 2023

Wydawca: Copernicus Center Press Sp. z o.o.

pl. Szczepański 8, 31-011 Kraków

tel. (+48) 12 448 14 12, 500 839 467

e-mail: redakcja@ccpress.pl

www.ccpress.pl

Spis treści

Karta redakcyjna

Dedykacja

Wprowadzenie

I. LUDZKI ROMANS Z AI

1. Czy od prawdziwej miłości dzieli nas tylko jedno kliknięcie?

2. W czym AI najlepiej się sprawdza: zasada stabilnego świata

3. Jak maszyny wpływają na nasz sposób myślenia

4. Czy autonomiczne samochody już niebawem wyjadą na drogi?

5. Zdrowy rozsądek i AI

6. Jeden punkt danych może pokonać Big Data

II. GRA O WYSOKA STAWKĘ

7. Przejrzystość

8. Krokiem somnambulika do inwigilacji

9. Psychologia uzależniania użytkowników

10. Bezpieczeństwo i samokontrola

11. Prawda czy fałsz?

Podziękowanie

Przypisy

Bibliografia

Dla Atheny

Wprowadzenie

Tato, a gdy byłeś mały i nie było komputerów, to jak wchodziłeś do internetu?

– Siedmioletnie dziecko z Bostonu

Jeśli wszystko będą robić roboty, co my będziemy robić?

– Pięcioletni przedszkolak z Pekinu,

cytat za: Kai-Fu Lee, AI Superowers

Wyobraźmy sobie, że cyfrowy asystent robi wszystko lepiej niż my. Cokolwiek powiemy, on powie lepiej. Cokolwiek postanowimy, on nas poprawi. Gdy sporządzimy plan na kolejny rok, on poda doskonalszy. W pewnej chwili być może w ogóle zrezygnujemy z podejmowania samodzielnych decyzji. Odtąd sztuczna inteligencja bezbłędnie poprowadzi nasze finanse, zredaguje za nas wiadomości, wybierze nam partnera romantycznego i zaplanuje, kiedy powinny urodzić się nasze dzieci. Będą do nas przychodzić przesyłki z produktami, o których nawet nie wiedzieliśmy, że są nam potrzebne. Być może złoży nam wizytę pracownik socjalny, ponieważ cyfrowy asystent uznał, że nasze dziecko ma początki depresji. Ponadto, zanim jeszcze zaczniemy łamać sobie głowę nad tym, którego kandydata poprzeć w wyborach, asystent będzie już znał odpowiedź i w naszym imieniu zagłosuje. Jest tylko kwestią czasu, gdy firmy informatyczne przejmą kontrolę nad naszym życiem, a nasz wierny asystent przeobrazi się w autorytarną superinteligencję. Niczym stado owiec nasze wnuki w ufności lub strachu będą czekać na rozstrzygnięcia swego
nowego pana.

W ostatnich latach miałem spotkania na wielu popularnych wydarzeniach związanych ze sztuczną inteligencją (AI) i wielokrotnie się przekonywałem, jak rozpowszechniona jest bezwarunkowa wiara w potęgę algorytmów. Niezależnie od dziedziny, przedstawiciele firm informatycznych zapewniali słuchaczy, że maszyny będą wykonywać zadania w sposób dokładniejszy, szybszy i tańszy. Co więcej, ich zdaniem zastąpienie ludzi przez oprogramowanie przyniesie pozytywne skutki. W podobnym duchu formułowane są sądy, że Google zna swoich użytkowników lepiej niż oni sami i że AI może lub w nieodległej przyszłości będzie mogła przewidywać zachowania ludzi z niemal przerażającą dokładnością. Same firmy informatyczne chwalą się tą zdolnością, gdy proponują swoje usługi reklamodawcom, ubezpieczycielom i handlowcom. Mamy skłonność wierzyć w te zapewnienia. Taką niemal wszechwiedzę sztucznej inteligencji zakładają nawet pisarze, którzy snują katastroficzne wizje zdominowania ludzkości przez roboty, a także niektórzy zdecydowani krytycy przemysłu informatycznego, potępiający go jako złowrogi kapitalizm nadzoru i kontroli i drżący o przyszłość naszej wolności i godności[1]. Z tego właśnie powodu wielu obawia się Facebooka (obecnie przemianowanego na Metę) jako przerażającej orwellowskiej maszyny nadzoru i kontroli. Przypadki wycieku danych i skandal związany z Cambridge Analytica doprowadziły do spotęgowania tej obawy. Oparte na strachu czy uprzedzeniu rozumowanie pozostaje niezmienne i przebiega mniej więcej tak:

AI już pokonała najlepszych ludzkich szachistów i graczy w Go.

Moc obliczeniowa komputerów podwaja się co parę lat.

A zatem niedługo maszyny wszystko będą robić lepiej niż ludzie.

Nazwijmy to argumentem o wyższości AI nad ludzką inteligencją. Przewiduje on, że superinteligencja maszynowa zbliża się wielkimi krokami. Jego dwie przesłanki są poprawne, lecz wniosek – nieuprawniony.

W rzeczywistości większa moc obliczeniowa wystarcza do rozwiązania pewnych problemów, ale nie wszystkich. Jak dotąd zdumiewające zwycięstwa sztucznej inteligencji dotyczyły dobrze zdefiniowanych gier o ustalonych regułach, takich jak szachy czy Go. Podobne sukcesy zanotowała ona w rozpoznawaniu twarzy czy głosu, jeżeli warunki były względnie niezmienne. W stabilnym otoczeniu AI prześciga człowieka. Kiedy przyszłość niewiele się różni od przeszłości, wielkie ilości danych mogą być użyteczne. Jeśli jednak zdarzają się niespodzianki, znajomość nawet ogromnej liczby danych – które zawsze pochodzą z przeszłości – może nie być pomocna w przewidywaniu przyszłości. Algorytmy oparte na danych nie ostrzegły nas przed kryzysem finansowym z roku 2008 i zapowiadały łatwe zwycięstwo Hillary Clinton w wyborach na prezydenta USA w roku 2016.

W istocie wiele problemów, z którymi mamy do czynienia, nie ma charakteru dobrze zdefiniowanych gier, ale dotyczy sytuacji nacechowanych niepewnością, na przykład znalezienia prawdziwej miłości, przewidzenia, kto popełni przestępstwo, lub właściwego zareagowania na nagłe, nieoczekiwane zdarzenia. W takich przypadkach większa moc obliczeniowa i większa ilość danych niewiele zmieniają. Głównym źródłem niepewności są ludzie. Wyobraźmy sobie, jak skomplikowałyby się szachy, gdyby król mógł dla kaprysu pogwałcić zasady, w reakcji na co oburzona królowa opuściłaby szachownicę, puściwszy wcześniej z dymem wieże. Tam, gdzie występują ludzie, wiara w algorytmy może prowadzić do złudzenia pewności, które niechybnie prowadzi do nieszczęścia.

Zrozumienie, że złożone algorytmy zwykle odnoszą sukces w stabilnych sytuacjach, ale nie radzą sobie dobrze z niepewnością, stanowi egzemplifikację ogólnego tematu tej książki:

Inteligencja oznacza zdolność rozumienia potencjału i niebezpieczeństw technologii cyfrowych oraz determinację utrzymania kontroli w świecie wszędobylskich algorytmów.

Książkę tę napisałem, by pomóc czytelnikowi zrozumieć możliwości technologii cyfrowych takich jak AI, a także – co nawet ważniejsze – ich ograniczenia i niebezpieczeństwa. W czasie, gdy technologie te stają się coraz bardziej rozpowszechnione i dominujące, chciałbym wyposażyć czytelnika w strategie i metody zachowania kontroli nad swoim życiem tak, by nie został on rozjechany przez walec zmian. Czy powinniśmy beztrosko oddać programom komputerowym prawo podejmowania za nas osobistych decyzji? Zdecydowanie nie. Inteligencja nie oznacza pokładania ślepej ufności w technologii, ale nie oznacza także przejawiania względem niej chorobliwej nieufności. Chodzi o to, by zdawać sobie sprawę z rzeczywistych możliwości AI i wiedzieć, co jest tylko chwytem marketingowym i artykułem techno-religijnej wiary. Chodzi także o to, żeby opanować zdolność kontrolowania urządzenia, a nie być przez nie kontrolowanym.

Inteligencja, o której mowa, nie jest tym samym, co posiadanie kompetencji cyfrowych pozwalających wykorzystywać technologię. Programy kształcenia na całym świecie dążą do podniesienia kompetencji cyfrowych poprzez kupowanie tabletów i tablic interaktywnych do sal lekcyjnych i przyuczanie dzieci do ich wykorzystywania. Programy te jednak rzadko uczą dzieci rozumieć zagrożenia związane z technologiami cyfrowymi. Nic więc dziwnego, że większość osób, które od dziecka obyte są z technologiami cyfrowymi, nie umie odróżnić ukrytej reklamy od wiadomości i daje się zmylić przez wygląd strony internetowej. Na przykład badanie, w którym wzięło udział 3466 takich „cyfrowych tubylców”, wykazało, że 96 procent z nich nie wie, jak sprawdzić wiarygodność strony internetowej lub postów[2].

Inteligentny świat nie polega po prostu na wstawieniu do pokoju inteligentnego telewizora (smart TV), umawianiu się na randki online i tego rodzaju gadżetach. Jest to świat przeobrażony przez technologię cyfrową. Gdy uchyliły się drzwi do inteligentnego świata, wielu zaczęło sobie wyobrażać, że oto wkroczymy do raju, gdzie wszyscy będą mieli dostęp do drzewa prawdziwych wiadomości, które ostatecznie położy kres ciemnocie, kłamstwom i zepsuciu. Zostaną ujawnione fakty o zmianie klimatu, terroryzmie, uchylaniu się od płacenia podatków, wyzyskiwaniu biednych i gwałceniu godności ludzkiej. Zostaną wykryci i zmuszeni do dymisji niemoralni politycy i chciwi biznesmeni. Niemożliwe stanie się szpiegowanie obywateli i naruszanie prywatności przez rządy. Do pewnego stopnia marzenie to się ziściło, choć raj okazał się także nieco skażony. Jednak, przede wszystkim na naszych oczach odbywa się przeobrażenie społeczeństwa. Nie można powiedzieć, że świat staje się lepszy lub gorszy, gdyż zmienia się sam nasz sposób myślenia o dobru i złu. Na przykład jeszcze niedawno ludzie byli bardzo wrażliwi na punkcie wszelkich naruszeń prywatności i urządzali demonstracje przeciwko rządom i korporacjom, które próbowały ich nadzorować lub pozyskiwać ich dane osobowe. Aktywiści o różnych orientacjach politycznych, młodzi liberałowie i uznane organizacje wspólnie urządzali masowe protesty przeciwko spisowi powszechnemu w Niemczech w 1987 roku, obawiając się, że komputery nie zagwarantują anonimowości odpowiedzi, a gniewni ludzie obkleili Mur Berliński tysiącami niewypełnionych kwestionariuszy. W australijskim spisie powszechnym z 2001 roku ponad 70 tysięcy ludzi zadeklarowało, że są wyznawcami religii „Jedi” (z filmu Gwiezdne wojny), a w 2011 roku obywatele brytyjscy protestowali przeciwko pytaniom, które ich zdaniem za bardzo ingerowały w ich prywatność, takim jak pytanie o wyznanie[3]. Dzisiaj reagujemy wzruszeniem ramion na to, że nasz inteligentny dom przez dwadzieścia cztery godziny na dobę rejestruje, co robimy, nie wyłączając sypialni, a inteligentna lalka naszego dziecka nagrywa każdy powierzony jej sekret. Wrażliwość na punkcie prywatności i godności adaptuje się do technologii lub może nawet w ogóle stać się pojęciem z odległej przeszłości. Kiedyś marzono, że internet ofiaruje nam wolność; dzisiaj dla wielu wolność oznacza darmowy internet.

Od niepamiętnych czasów ludzie tworzą imponujące nowe technologie, z których jednak nie zawsze umieją mądrze korzystać. Jeśli chcemy czerpać rozliczne korzyści z technologii cyfrowej, powinniśmy się nauczyć myśleć w świecie, który próbuje myśleć za nas. Nie możemy sobie pozwolić na beztroskę, ale musimy być czujni i zachowywać kontrolę.

Zachowanie kontroli

Każdy, kto nie jest zupełnie lekkomyślny, czasami poświęca uwagę swemu bezpieczeństwu. Jakie nieszczęście z większym prawdopodobieństwem może nas spotkać w ciągu najbliższych dziesięciu lat?

• Zostaniemy zabici w zamachu terrorystycznym.

• Zostaniemy zabici przez kierowcę zajętego swoim smartfonem.

Jeśli czytelnik wybrał opcję zamachu terrorystycznego, to znajduje się w większości. Od czasu zamachów z 11 września 2001 roku, sondaże przeprowadzane w Ameryce Północnej i Europie wykazują, że ludzie uważają terroryzm za największe zagrożenie dla ich życia. W przypadku niektórych jest to największy ich lęk. Jednocześnie bez specjalnego zakłopotania większość ludzi przyznaje się do pisania lub czytania esemesów podczas prowadzenia samochodu. Przez dziesięć lat do roku 2020 w Stanach Zjednoczonych z rąk terrorystów, islamskich, prawicowych czy innych zginęło rocznie przeciętnie 36 osób[4]. W tym samym okresie ponad 3 tysiące osób rocznie zginęło w wypadkach spowodowanych przez roztargnionych kierowców – którzy często zajęci byli esemesami, czytaniem lub streamowaniem na swoich smartfonach[5]. Liczba ta odpowiada łącznej liczbie ofiar zamachów z 11 września, a dotyczy tylko jednego roku.

Większość Amerykanów boi się także zamachu terrorystycznego bardziej niż broni palnej, choć jest mniej prawdopodobne, że zostaną zabici przez terrorystę niż przez dziecko bawiące się bronią palną w ich własnym domu. Każdy, kto nie mieszka w kraju takim jak Afganistan lub Nigeria, ze znacznie większym prawdopodobieństwem może zginąć w wypadku samochodowym spowodowanym przez roztargnionego kierowcę, być może nawet siebie samego. Nietrudno zresztą zrozumieć dlaczego. Czas reakcji dwudziestolatka obsługującego telefon zwalnia do czasu reakcji siedemdziesięciolatka bez telefonu[6]. Zjawisko to określa się mianem „chwilowego starzenia się mózgu”.

Dlaczego ludzie piszą lub czytają esemesy podczas prowadzenia pojazdu? Być może nie zdają sobie sprawy z tego, jakie to niebezpieczne. Opierając się na badaniach, stwierdziłem jednak, że większość dobrze zdaje sobie z istnienia zagrożenia[7]. Nie chodzi o brak świadomości, ale o brak samokontroli. „Gdy nadchodzi wiadomość, po prostu muszę spojrzeć, choćby nie wiem co”, wyjaśnia pewien student. O samokontrolę coraz trudniej od czasu, gdy platformy internetowe wprowadziły notyfikacje, polubienia i inne sztuczki psychologiczne mające na celu przekierowanie uwagi użytkowników z tego, co się dzieje dookoła, na zawartość ich stron. A przecież można by uniknąć tylu nieszczęść, gdyby ludzie byli w stanie pokonać odruch sprawdzania telefonu, gdy powinni uważać na drogę. Dotyczy to nie tylko młodych osób. „Nie piszcie do bliskich esemesów, kiedy wiecie, że oni w danej chwili prowadzą samochód”, powiedziała wstrząśnięta matka, która znalazła swoją ciężko ranną córkę na oddziale intensywnej terapii, z poranioną twarzą i bez jednego oka, po tym, jak wysłała dziecku „durny esemes”[8] . Smartfon jest wspaniałym wynalazkiem, ale wymaga, by mądrze korzystali z niego myślący ludzie. W tym przypadku zdolność zachowania kontroli nad technologią służy ochronie osobistego bezpieczeństwa naszego i naszych bliskich.

Nadzór i kontrola nad masami stanowi problem, jest problemem, a nie rozwiązaniem

Jedną z przyczyn tego, że boimy się bardziej zamachu terrorystycznego niż kierowcy ze wzrokiem utkwionym w ekran smartfona, jest znacznie większa uwaga mediów i polityków poświęcona terroryzmowi niż roztargnionym kierowcom. W celu chronienia swoich obywateli rządy na całym świecie eksperymentują z systemami kontroli opartymi na rozpoznawaniu twarzy. Systemy są niezawodne w przypadku rozpoznawania twarzy w kontekście laboratoryjnym, gdy wykorzystywane są fotografie z dokumentów, aplikacji o pracę czy inne dobrze oświetlone zdjęcia przedstawiające głowy ludzi w podobnych ustawieniach. Czy jednak są dokładne w świecie rzeczywistym? Blisko miejsca, gdzie mieszkam, przeprowadzono taki test.

Wieczorem 19 grudnia 2016 roku dwudziestoczteroletni islamski terrorysta uprowadził wielką ciężarówkę i wbił się nią w zatłoczony berliński rynek bożonarodzeniowy, pełny turystów i miejscowych delektujących się kiełbaskami i grzanym winem, zabijając dwanaście osób i raniąc czterdzieści dziewięć. Rok później niemieckie ministerstwo spraw wewnętrznych zainstalowało systemy rozpoznawania twarzy na jednym z berlińskich dworców kolejowych, aby przetestować dokładność tych urządzeń w rozpoznawaniu podejrzanych. Po rocznym okresie pilotażowym ministerstwo w komunikacie dla prasy obwieściło z dumą dwa wyniki: osiemdziesięcioprocentową dokładność trafień, co oznacza, że na dziesięciu podejrzanych systemy poprawnie identyfikowały ośmiu, a błędnie dwóch; oraz współczynnik fałszywych alarmów wynoszący 0,1 procent, co oznacza, że tylko jeden na tysiąc przechodniów został omyłkowo wzięty za podejrzanego. Minister uznał system za wielki sukces i głosił, że ogólnokrajowy nadzór jest wykonalny i pożądany.

Oświadczenie to wywołało burzliwą dyskusję. Jedni wyrażali przekonanie, że zapewnienie większego bezpieczeństwa usprawiedliwia dodatkowy nadzór, podczas gdy drudzy bali się, że kamery zaczną w którymś momencie pełnić funkcję „teleekranów” z powieści George’a Orwella Rok 1984. Nikt jednak nie kwestionował dokładności systemu[9]. Zamiast opowiadać się po jednej ze stron w tej emocjonalnej debacie, zastanówmy się nad tym, co by się stało, gdyby takie systemy rozpoznawania twarzy zostały szeroko zaimplementowane. Każdego dnia przez dworce kolejowe Niemiec przewija się około dwanaście milionów pasażerów. Pomijając kilkuset poszukiwanych podejrzanych, są to normalni ludzie zdążający do pracy lub podróżujący dla przyjemności. Robiący wrażenie niski wskaźnik fałszywych wyników pozytywnych wynoszący 0,1 procent przekłada się na prawie 12 tysięcy przechodniów dziennie, którzy zostaliby fałszywie zidentyfikowani jako podejrzani. Każdy z nich musiałby zostać zatrzymany, przeszukany na okoliczność posiadania broni lub narkotyków i być może aresztowany do czasu potwierdzenia tożsamości[10]. Należałoby poświęcić dodatkowe zasoby policyjne na dokładne badanie tych niewinnych obywateli zamiast na efektywne zapobieganie przestępstwom, co oznacza, że taki system w rzeczywistości skutkowałby obniżeniem bezpieczeństwa. Ostatecznie powstałby system nadzoru ograniczający wolność jednostki i na dodatek szkodzący życiu społecznemu i gospodarczemu.

Rozpoznawanie twarzy może być przydatne, lecz do innego celu: identyfikacji danej osoby, a nie masowego przesiewania. Po stwierdzeniu dokonania przestępstwa na stacji metra lub przejechania przez samochód na czerwonym świetle nagranie wideo może pomóc w identyfikacji sprawcy. W takiej sytuacji wiemy, że osoba ta popełniła przestępstwo. Natomiast gdy badamy każdego na dworcu, nie wiemy, czy te osoby są podejrzanymi. Większość nie jest, co – podobnie jak w przypadku masowych badań przesiewowych w medycynie – prowadzi do wielkiej liczby fałszywych alarmów. Funkcja rozpoznawania twarzy sprawdza się za to doskonale, wykonując zadanie nazywane uwierzytelnianiem. Dzięki niej możemy odblokować telefon, po prostu patrząc w ekran. Inaczej niż sprawca uciekający w metrze, patrzymy wprost w oko kamery, trzymając ją blisko twarzy, i nie poruszamy się; praktycznie zawsze to my staramy się odblokować aparat. W tej sytuacji powstaje bardzo stabilny świat: należymy do niego tylko my i nasz telefon. Rzadko zdarzają się błędy.

Gdy zamierzamy dyskutować o zaletach i wadach systemów rozpoznawania twarzy, musimy rozróżnić trzy możliwe sytuacje: wiele z wieloma, jeden z wieloma i jeden z jednym. W trakcie analizy przesiewowej wiele osób jest porównywanych z wieloma innymi osobami znajdującymi się w bazie danych; w identyfikacji jedna osoba jest porównywana z wieloma; z kolei w uwierzytelnianiu jedna osoba jest porównywania z jedną inną osobą. Im mniejsza niepewność – jak w identyfikacji, ale nie w masowym przesiewaniu – tym wyższa sprawność systemu. Przypomnijmy sobie wdarcie się tłumu w styczniu 2021 roku do Kapitolu Stanów Zjednoczonych, gdzie systemy rozpoznawania twarzy szybko zidentyfikowały niektórych uczestników, którzy zdołali wtargnąć do gmachu. Ogólna konstatacja jest taka, że sztuczna inteligencja nie jest dobra ani zła, a jest po prostu bardziej użyteczna w pewnych zadaniach, a mniej użyteczna w innych.

Powyższe rozumowanie ma wiele wspólnego z naszymi obawami co do zagrożenia prywatności. Na ogół niepokoi nas możliwość masowego nadzoru sprawowanego przez rządy, a nie identyfikacja sprawców i uwierzytelnianie. Okazuje się, że masowy nadzór jest tym, w czym systemy rozpoznawania twarzy najbardziej zawodzą. Zrozumienie tego kluczowego zagadnienia pomaga nam chronić wolności indywidualne, które cenimy w zachodnich demokracjach, przed rządami zainteresowanymi nadzorowaniem własnych obywateli.

„Nie mam nic do ukrycia”

Fraza ta przewija się często w dyskusjach dotyczących mediów społecznościowych, które gromadzą wszelkie dane osobowe, jakie tylko wpadną w ich ręce. Wypowiadają ją zazwyczaj użytkownicy, którzy wolą płacić swoimi danymi niż pieniędzmi. I fraza ta może być nawet prawdziwa w odniesieniu do tych z nas, którzy prowadzą spokojne życie bez szczególnych kłopotów zdrowotnych, nigdy nie narobili sobie wrogów i nie są skłonni do zabierania głosu w obronie praw obywatelskich zagrożonych przez rząd. Rzecz nie sprowadza się jednak do ukrywania czegoś ani do swobody publikowania bez opłat zdjęć ślicznych kotów. Firmom informatycznym jest obojętne, czy mamy coś do ukrycia, czy nie. Ponieważ nie płacimy za ich usługi, muszą one stosować psychologiczne sztuczki, które sprawią, że będziemy spędzać z ich aplikacjami jak najwięcej czasu. Nie jesteśmy klientami; klientami są reklamodawcy, którzy płacą firmom informatycznym za nieustanne przyciąganie naszej uwagi. Wielu z nas nie potrafi się rozstać ze smartfonem, nie dosypia z powodu swego nowego partnera w łóżku, z trudem znajduje czas na inne zajęcia i niecierpliwie czeka na kolejny zastrzyk dopaminy, jakiego dostarcza każdy nowy „lajk”. Jia Tolentino tak w „New Yorkerze” opisała swoje zmagania z telefonem komórkowym: „Noszę ze sobą wszędzie ten telefon, jakby to był zbiornik z tlenem. Wpatruję się w niego, gdy robię śniadanie i gdy wynoszę śmieci, rujnując to, za co najbardziej lubię pracę w domu – poczucie kontroli, względny spokój”[11]. Inni przejmują się, gdy jakaś obca osoba napisze zgryźliwy komentarz o ich wyglądzie lub inteligencji. Jeszcze inni dryfują w kierunku grup
ekstremistycznych, które padają łatwym łupem fake newsów i mowy nienawiści.

Ludzkość dzieli się na tych, którzy nie za bardzo przejmują się tym, że technologia cyfrowa na nich oddziałuje, i tych, którzy – jak Tolentino – są przekonani, że wprowadza ich ona w uzależnienie podobne do tego, jakiego doświadcza nałogowy hazardzista niezdolny do myślenia o niczym innym niż o graniu. Niemniej, możliwa jest technologia, a w szczególności media społecznościowe, które nie będą okradać ludzi z wolnego czasu i snu. To nie media społecznościowe jako takie sprawiają, że się uzależniamy, ale model biznesowy oparty na spersonalizowanej reklamie. To grzech pierworodny, z którego biorą początek wszystkie szkody, jakie odnoszą użytkownicy.

Darmowa kawiarnia

Wyobraźmy sobie, że pewna kawiarnia pozbyła się całej konkurencji przez to, że oferuje darmową kawę, wskutek czego nie mamy innego wyboru niż umawiać się właśnie tam. Podczas gdy rozkoszujemy się miłymi rozmowami z przyjaciółmi, zamontowane w stołach podsłuchy i kamery dokładnie monitorują nasze konwersacje i rejestrują, z kim siedzimy. W pomieszczeniu jest także pełno sprzedawców, którzy płacą za naszą kawę, ale nieustannie nam przerywają, proponując zakup spersonalizowanych produktów i usług. W istocie klientami kawiarni są ci sprzedawcy, a nie ty i twoi przyjaciele. Na takiej zasadzie funkcjonują platformy takie jak Facebook[12].

Platformy mediów społecznościowych mogłyby funkcjonować w zdrowszy sposób, gdyby były oparte na modelu biznesowym prawdziwej kawiarni lub stacji telewizyjnej, radiowej czy innej instytucji, gdzie klient płaci za dobra, z których chce korzystać. W 1998 roku Sergey Brin i Larry Page, młodzi założyciele firmy Google, nawet krytykowali wyszukiwarki internetowe oparte na reklamach jako nieuchronnie faworyzujące bardziej reklamodawców niż klientów[13]. Wkrótce jednak, ulegając presji inwestorów, ustąpili i zbudowali największy istniejący model spersonalizowanej reklamy. W tym modelu biznesowym towarem jest nasza uwaga. Rzeczywistymi klientami są firmy umieszczające na stronach internetowych swoje reklamy. Im więcej ludzi widzi reklamy, tym więcej płacą reklamodawcy, co prowadzi do tego, że marketingowcy mediów społecznościowych przeprowadzają ciągłe eksperymenty, które mają na celu maksymalizację czasu, jaki spędzamy na ich stronach, i wzbudzenie w nas chęci jak najszybszego powrotu. Dobrym przykładem jest odruch sięgania po telefon podczas prowadzenia samochodu. Krótko mówiąc, istotą tego modelu biznesowego jest przejęcie kontroli nad czasem i uwagą użytkowników w najwyższym możliwym stopniu.

By służyć reklamodawcom, firmy informatyczne w każdym momencie zbierają dane o tym, gdzie jesteśmy, co robimy i jakie strony przeglądamy. Na podstawie naszych zwyczajów budują one coś w rodzaju awatara nas samych. Gdy reklamodawca zamieszcza reklamę, powiedzmy najnowszego pistoletu lub drogiej pomadki do ust, reklama ta jest pokazywana tym internautom, którzy z największym prawdopodobieństwem w nią klikną. Na ogół reklamodawcy płacą firmie informatycznej za każdym razem, gdy internauta kliknie w reklamę, lub za każde wyświetlenie. Aby zatem zwiększyć prawdopodobieństwo kliknięcia w reklamę lub jej zobaczenia, podejmuje się wszelkie możliwe działania w celu skłonienia nas do pozostania na stronie jak najdłużej. Polubienia, notyfikacje i inne sztuczki psychologiczne służą temu, by nas uzależnić od korzystania ze smartfona – o każdej porze dnia i nocy. Tak więc to nie nasze dane są sprzedawane, ale nasza uwaga, czas i sen.

Gdyby Google czy Facebook opierały się na modelu usługi za opłatą, zabiegi te nie byłyby konieczne. Armie inżynierów i psychologów, którzy przeprowadzają eksperymenty nad tym, jak przykuć nas do ekranów, mogłyby pracować nad bardziej użytecznymi innowacjami technologicznymi. Media społecznościowe nadal gromadziłyby określone dane służące udoskonaleniu rekomendacji tak, by lepiej odpowiadały naszym określonym potrzebom, ale nie miałyby już motywacji do zbierania innych zbytecznych informacji, takich jak dane mogące wskazywać na to, czy cierpimy na depresję, mamy raka lub jesteśmy w ciąży. Zniknąłby bowiem główny powód, dla którego są gromadzone – spersonalizowana reklama. Przykładem firmy, która już zastosowała taki model usługi za opłatą, jest Netflix[14]. Z perspektywy użytkowników małą niedogodnością byłoby to, że musielibyśmy co miesiąc uiszczać niewielką kwotę, by korzystać z mediów społecznościowych. Jednak dla mediów społecznościowych wielką przewagą zyskowniejszego planu płacenia danymi jest to, że ludzie znajdujący się na szczycie struktury należą obecnie do światowej elity bogactwa i władzy.

Nie dać się zdominować przez technologię

Przykłady te dają pierwszą wskazówkę co do tego, jak można nie dać się zdominować przez technologię. Jeśli chcemy oprzeć się pokusie odczytania wiadomości, gdy prowadzimy pojazd, musimy umieć zachować kontrolę nad technologią. Możliwości i ograniczenia systemów rozpoznawania twarzy pokazują, że ta technologia sprawdza się w dość stabilnych sytuacjach, takich jak odblokowanie telefonu lub kontrola graniczna, gdzie zdjęcie paszportowe jest porównywane ze zdjęciem wykonanym na miejscu. Gdy jednak przesiewamy twarze w trudnych do przewidzenia warunkach codziennej rzeczywistości, sztuczna inteligencja sobie nie radzi, bo wszczyna zbyt wiele fałszywych alarmów, co może prowadzić do ogromnych problemów (masy niewinnych osób musiałyby być zatrzymywane i przeszukiwane). Wreszcie problemy powodowane przez media społecznościowe – utrata czasu, snu i zdolności koncentracji na skutek uzależnienia – nie są winą mediów społecznościowych jako takich, ale zastosowanego planu biznesowego płacenia danymi. Do pokonania tych poważnych problemów nie wystarczy zmiana ustawień prywatności ani wprowadzenie państwowej regulacji treści internetowych. Problemy należy rozwiązać u ich źródła przez zmianę całego modelu biznesowego. Rządy muszą zdobyć się na odwagę polityczną niezbędną w celu ochrony ludzi, których reprezentują.

Można by sądzić, że pomoc w rozumieniu możliwości i zagrożeń technologii cyfrowej powinna być podstawowym celem wszystkich systemów edukacyjnych i rządów. Tak jednak nie jest. Nie wspomina się o tym nawet w dokumencie „Kluczowe zagadnienia transformacji cyfrowej w ramach G20” Organizacji Współpracy Gospodarczej i Rozwoju z 2017 roku ani w „Białej księdze w sprawie sztucznej inteligencji” wydanej w 2020 roku przez Komisję Europejską[15]. Programy te skupiają się na innych ważnych zagadnieniach, między innymi tworzeniu hubów innowacyjności, infrastruktury cyfrowej, dobrego ustawodawstwa i zwiększeniu zaufania ludzi do sztucznej inteligencji. Nic więc dziwnego, że większość „cyfrowych tubylców” nie potrafi odróżniać faktów od fake’ów i wiadomości od reklamy.

Rozwiązanie tych problemów wymaga czegoś więcej niż rozwijania infrastruktury i regulacji. Potrzebny jest czas na refleksję i przeprowadzenie solidnych badań. Czy zdarzyło się czytelnikowi, że musiał długo czekać na infolinii, zanim ktoś się odezwał? Być może adres lub algorytm predykcyjny wskazał, że jesteśmy klientem małowartościowym. A czy czytelnik zauważył, że pierwszy wynik w wyszukiwaniach Google’a nie jest najbardziej użyteczny? Prawdopodobnie za pierwszy wynik reklamodawca najwięcej zapłacił[16]. Czy czytelnik zdaje sobie sprawę z tego, że jego ukochany inteligentny telewizor rejestruje jego prywatne rozmowy odbywające się w salonie lub sypialni?[17]

Jeśli wszystko to nie jest dla kogoś nowością, trudno mu będzie zrozumieć, że dla większości ludzi jest. Niewiele osób zdaje sobie sprawę z tego, że algorytmy określają ich czas oczekiwania lub analizują, co nagrywają ich inteligentne telewizory, z czego potem odnoszą korzyść nieznane im instytucje. Jak wykazują badania, około 50 procent dorosłych użytkowników nie rozumie, że początkowe wyniki wyszukiwania internetowego są w rzeczywistości reklamami, a nie najbardziej adekwatnym lub popularnymi wynikami[18]. Zresztą reklamy są nawet oznaczone jako sponsorowane, lecz na przestrzeni lat coraz bardziej upodobniły się do naturalnych wyników wyszukiwania (to znaczy do nie-reklam). Od 2013 roku reklamy Google’a nie mają już specjalnego kolorowego tła, a zamiast tego wprowadzona została żółta ikonka „Ad” [„Reklama”]; w roku 2020 żółty kolor usunięto, a słowo „Ad” zaczęło się wyświetlać na czarno, żeby nie dało się go łatwo odróżnić od naturalnych wyników wyszukiwania. Reklamodawcy płacą za każde kliknięcie w ich reklamę, dlatego jeśli użytkownicy błędnie sądzą, że pierwsze wyniki są najbardziej adekwatne, jest to dobre dla interesów Google’a.

Jak powiedziałem, wielu szefów firm i polityków odnosi się z nadmiernym entuzjazmem do Big Data i digitalizacji. Entuzjazm nie oznacza jednak jeszcze zrozumienia. Wydaje się, że wielu nadgorliwych proroków nie ma pojęcia, o czym mówi. Według badania przeprowadzonego wśród 400 dyrektorów w osiemdziesięciu dużych firmach notowanych na giełdzie 92 procent z nich nie posiada żadnego istotnego lub potwierdzonego doświadczenia w zakresie digitalizacji[19]. Podobnie, kiedy Mark Zuckerberg został wezwany do złożenia zeznań przed członkami amerykańskiego Senatu i Izby Reprezentantów w sprawie najnowszej kontrowersji związanej z naruszeniem prywatności na Facebooku, największe wrażenie zrobiły nie jego przygotowane odpowiedzi, ale to, jak amerykańscy politycy mało wiedzą na temat nieprzejrzystego sposobu działania mediów społecznościowych[20]. Gdy zasiadałem w Radzie Doradczej do Spraw Konsumenckich przy niemieckim Ministerstwie Sprawiedliwości i Ochrony Konsumentów, zajmowaliśmy się tym, jak sprawowany jest nadzór nad tajnymi algorytmami firm przygotowujących oceny potencjalnych kredytobiorców (ratingi kredytowe) przez instytucje odpowiedzialne za ochronę danych, których rolą jest dbanie o to, by algorytmy dawały wiarygodne wskaźniki zdolności kredytowej, wolne od dyskryminacji ze względu na płeć, rasę lub inne indywidualne cechy. Gdy największa firma przygotowująca ratingi kredytowe przedstawiła swój algorytm, władze przyznały, że nie dysponują wystarczającą wiedzą informatyczną i statystyczną do przeprowadzenia jego oceny. Ostatecznie firma sama przyszła władzom z pomocą, wyznaczając ekspertów, którzy napisali raport, a nawet opłacając ich honoraria[21]. Wydaje się, że brak wiedzy jest regułą, a nie wyjątkiem w naszym świecie inteligentnych technologii. Musimy to jak najszybciej zmienić.

Paternalizm technologiczny

Paternalizm (od łacińskiego słowa pater oznaczającego ojca) jest poglądem, według którego pewna wybrana grupa ma prawo traktować innych ludzi jak dzieci, które powinny dobrowolnie poddać się jej autorytetowi. Historycznie paternalizm usprawiedliwiano w ten sposób, że panująca grupa została wybrana przez Boga, stanowi arystokratyczną elitę, posiada tajemną wiedzę lub niebywałe bogactwo. Ci, którzy podlegają jej władzy, uważani są za istoty niższe, gdyż na przykład są płci żeńskiej, mają odmienny kolor skóry, są ubodzy lub niewykształceni. W XX wieku paternalizm znalazł się w odwrocie po tym, jak ogromna większość ludzi uzyskała w końcu szansę na nauczenie się czytania i pisania, a rządy przyznały zarówno mężczyznom, jak i kobietom wolność słowa i poruszania się, a także prawo głosowania w wyborach. Dzięki tej rewolucji, której gorliwi zwolennicy byli wtrącani do więzienia, a nawet oddawali swoje życie, następne pokolenia – w tym nasze – mogły wziąć sprawy w swoje ręce. W XXI wieku jednak jesteśmy świadkami narodzin nowego paternalizmu korporacji, które wykorzystują maszyny do przewidywania i manipulowania zachowaniami ludzi, niezależnie od tego, czy oni się na to zgadzają, czy nie. Jego prorocy ogłaszają nawet nadejście nowego Boga – wszystkowiedzącej superinteligencji, znanej jako AGI (artificial general intelligence, sztuczna inteligencja ogólnego rodzaju), która ma przewyższyć ludzki mózg pod każdym względem. Do czasu jej nadejścia mamy podporządkować się jej prorokom[22].

Technokratyzm jest przekonaniem, że wszelkie problemy społeczne można rozwiązać przez zastosowanie odpowiedniego algorytmu. Paternalizm technologiczny stanowi jego naturalną konsekwencję – rządy algorytmów. Nie musi opierać się na fikcyjnej superinteligencji; oczekuje od nas tylko tego, że pozwolimy korporacjom i rządom rejestrować to, gdzie przebywamy, co robimy i z kim się kontaktujemy, sekunda po sekundzie, a także że zaufamy, iż dzięki tym zapisom świat stanie się lepszy. Według słów byłego szefa Google’a Erica Schmidta: „Naszym celem jest doprowadzenie do tego, by użytkownicy Google’a mogli zadawać pytania w rodzaju: Co powinienem zrobić jutro? lub Jaka praca będzie dla mnie najlepsza?”[23]. Niemała liczba popularnych pisarzy usiłuje wzbudzić nasz respekt przed paternalizmem technologicznym, opowiadając historie, które co najmniej oszczędnie gospodarują prawdą[24]. Co bardziej zaskakujące, nawet niektórzy wybitni badacze nie widzą granic zastosowań AI i twierdzą, że ludzki mózg to jedynie niezbyt doskonały komputer i tam, gdzie tylko się da, należy zastępować ludzi przez algorytmy[25]. AI powie nam, co mamy robić, a my powinniśmy tylko słuchać i wykonywać polecenia. Musimy tylko trochę poczekać, aż AI bardziej się rozwinie. Co zastanawiające, nigdy nie mówi się, że również ludzie powinni bardziej się rozwinąć.

Pisząc tę książkę, chciałem, by czytelnicy otrzymali realistyczny pogląd na to, co może osiągnąć sztuczna inteligencja, i jak jest ona wykorzystywana do wywierania na nas wpływu. Nie potrzebujemy nowego paternalizmu; było go zbyt wiele w minionych stuleciach. Niepotrzebna nam jest jednak również technologiczna panika, przy okazji upowszechniania się każdej przełomowej technologii. Kiedy wynaleziono pociągi, lekarze ostrzegali pasażerów przed możliwą śmiercią z powodu braku powietrza[26].Upowszechnienie radia zrodziło obawy, że nadmierne słuchanie może wyrządzać krzywdę dzieciom, które potrzebują wytchnienia, a nie jazzu[27]. Zamiast strachu lub zachwytów, świat cyfrowy potrzebuje lepiej poinformowanych i krytycznych obywateli, którzy pragną zachować kontrolę nad swoim życiem.

Książka ta nie stanowi akademickiego wprowadzenia do AI lub jej poddziedzin, takich jak uczenie maszynowe lub Big Data. Mówi ona o naszych doświadczeniach ze sztuczną inteligencją: zaufaniu, zawodach, zrozumieniu, uzależnieniu oraz osobistych i społecznych przeobrażeniach. Została napisana dla szerokiego kręgu odbiorców jako przewodnik po wyzwaniach świata technologii i korzysta z wyników moich własnych badań między innymi nad podejmowaniem decyzji w warunkach niepewności, jakie prowadziłem w Instytucie Rozwoju Ludzkiego im. Maxa Plancka. Na kartach tej książki nie ukrywam moich osobistych poglądów na temat wolności i godności ludzkiej, lecz staram się trzymać ściśle faktów i pozwalam czytelnikowi wyrobić sobie własne opinie. Jestem głęboko przekonany, że ludzie nie są tak głupi i niezdolni do funkcjonowania jak często się zakłada – o ile tylko pozostają aktywni i korzystają z własnego mózgu, który rozwinął się w skomplikowanym procesie ewolucyjnym. Niebezpieczeństwo, że ludzie uwierzą w negatywną narrację o wyższości AI nad ludzką inteligencją i biernie pozwolą władzom lub maszynom „optymalizować” swoje życie na ich zasadach, staje się każdego dnia coraz poważniejsze i to ono szczególnie zmotywowało mnie do napisania tej książki. Podobnie jak moje poprzednie książki Gut Feelings i Risk Savvy, Zdrowy umysł w sieci algorytmów jest żarliwym wezwaniem do zachowania naszego wywalczonego w ciężkich zmaganiach dziedzictwa wolności osobistej i demokracji.

Obecnie mamy i w najbliższej przyszłości nadal będziemy mieli do czynienia z konfliktem dwóch systemów – autokratycznego i demokratycznego – który przypomina czasy zimnej wojny. W odróżnieniu jednak od tamtej epoki, w której broń jądrowa pozwalała utrzymać jakąś równowagę między obiema potęgami, technologia cyfrowa może łatwo przechylić szalę na korzyść systemów autokratycznych. Mieliśmy tego przykłady w czasie pandemii COVID-19, gdy niektórym autokratycznym państwom udało się zahamować rozprzestrzenianie wirusa za pomocą systemów ścisłej cyfrowej kontroli.

Nie będę w stanie omówić wszystkich aspektów związanych z rozległą dziedziną digitalizacji, ale przedstawię wybór tematów, które wyjaśniają ogólne zasady mające szersze zastosowanie, takie jak zasada stabilnego świata i błąd teksańskiego strzelca wyborowego omówione w rozdziale 2 oraz zasada przystosowania do AI i błąd rosyjskiego czołgu omówione w rozdziale 4. Jak czytelnik mógł zauważyć, posługuję się terminem AI, sztuczna inteligencja, w szerokim sensie, obejmującym wszelkie rodzaje algorytmów, które wykonują zadania ludzkiej inteligencji, ale tam, gdzie to konieczne, będę uwzględniał niezbędne różnice.

Każda kultura musi prowadzić rozmowę o przyszłym świecie, w którym ludzie pragnęliby żyć. Trudno spodziewać się jednej odpowiedzi. Istnieje jednak ogólne przesłanie, które daje się zastosować do wszelkich wizji. Pomimo – albo właśnie z powodu – innowacji technologicznej bardziej niż kiedykolwiek musimy polegać na naszych mózgach.

Zaczniemy od zagadnienia bliskiego sercu każdego – poszukiwania prawdziwej miłości – oraz od tajnych algorytmów, które są tak proste, że każdy jest w stanie je zrozumieć.

I

LUDZKI ROMANS Z AI

Nasz problem nie polega na tym, że zaczynają powstawać „inteligentne maszyny”, ale na tym, że ludzkość głupieje.

 – Astra Taylor

1. Czy od prawdziwej miłości dzieli nas tylko jedno kliknięcie?

Dzielenie miłości z innymi ludźmi to chyba najtrudniejsze z naszych zadań, sprawa ostateczna, ostatnia próba i sprawdzian, a także praca, tak iż wszelkie inne zajęcia to tylko przygotowanie do niej.

– Rainer Maria Rilke, Listy do młodego poety, s. 72

Umawiamy się na randki tylko po to, żeby inni wiedzieli, że jesteśmy atrakcyjni. Ludzie ciągle o tym piszą w internecie. To jest tak jak ze zdjęciami z całowaniem.

– Sophia, trzynastolatka z New Jersey,

cytat za: Nancy Jo Sales, American Girls

Beatlesi śpiewają, że pieniądze nie kupią miłości, ale czy mogą ją dać algorytmy? Za kilkaset dolarów można wykupić półroczną subskrypcję w serwisach randkowych operujących na całym świecie. Portale te chwalą się tym, że stosują tajemne algorytmy miłosne, które potrafią skojarzyć nas z idealnym partnerem. Każdego roku miliony pełnych nadziei klientów, zarówno młodych, jak i starszych, korzysta z serwisów randkowych lub mobilnych aplikacji randkowych, atendencja jest wzrostowa[1]. Mimo tej popularności wiele osób nie zdaje sobie sprawy z tego, że za doborem potencjalnych romantycznych partnerów stoją algorytmy[2].

AI ZNAJDUJE NAM MIŁOŚĆ

Ze strony internetowej uśmiecha się do nas atrakcyjna młoda kobieta z rozwianymi włosami. Obok niej stoi młody przystojny mężczyzna ze starannie przyciętym trzydniowym zarostem i równie błogim spojrzeniem. Blisko ich twarzy widnieje nazwa jednego z największych serwisów randkowych – Parship. Za jego pomocą miliony singli w Londynie, Paryżu, Berlinie, Meksyku, Wiedniu i Amsterdamie wyrusza na poszukiwanie prawdziwej miłości i trwałego szczęścia[3]. Podobnie jak EliteSingles, OkCupid i wiele innych serwisów randkowych Parship jest poważną agencją świadczącą usługi samotnym osobom poszukującym partnera życiowego. Przyciąga ona osoby mające nadzieję, że pewnego dnia nie będą już musiały umawiać się na randki. W przeciwieństwie do Tindera i podobnych aplikacji randkowych, których użytkownicy dowiadują się tylko czegoś o wyglądzie i miejscu zamieszkania potencjalnych randkowiczów, Parship korzysta z algorytmu dobierającego partnerów na podstawie osobowości i zainteresowań. Jego strona internetowa i postery reklamowe epatują tym samym sloganem:

Co 11 minut zakochuje się jeden singiel.

Oferta wydaje się nad wyraz atrakcyjna: rejestrujesz się, wnosisz opłatę i czekasz 11 minut! Od szczęścia dzieli cię tylko jedno kliknięcie. Miliony ludzi zarejestrowało się w nadziei, że będą jedną z tych osób, które szybko się zakochały.

Pomyślmy jednak przez chwilę. Co 11 minut jeden singiel się zakochuje. Byłaby to świetna wiadomość, gdyby serwis miał tylko stu klientów. Parship ma jednak miliony klientów. Przyjrzyjmy się temu dokładniej. Jedna osoba zakochująca się co jedenaście minut daje około sześć osób na godzinę, co przekłada się na 144 dziennie – zakładając, że single są aktywni na stronie internetowej w dzień i w nocy. W przeliczeniu na cały rok dostajemy 52 560 zakochanych klientów (144 × 365). Oznacza to, że jeśli serwis ma milion klientów, tylko około 5 procent singli zakochuje się w ciągu jednego roku. Gdyby klienci szukali prawdziwej miłości przez dziesięć lat, około połowa mogłaby liczyć na to, że ją znajdzie. Gdyby zaś serwis miał więcej niż milion klientów, średni czas oczekiwania byłby dłuższy. Innymi słowy, musielibyśmy liczyć się z tym, że będziemy szukać (i opłacać subskrypcję) do starości – w takim przypadku to rzeczywiście pieniądze przyniosłyby nam miłość. Ten prosty rachunek uświadamia nam, jak w rzeczywistości skuteczny jest algorytm dobierania partnerów, który się kryje za przekonującym hasłem reklamowym.

Rozumiemy już, co oznacza „co jedenaście minut”. A jak ma się sprawa drugiej części sloganu: „jeden singiel się zakochuje”? Ostatecznie para powstanie tylko wtedy, gdy spotkają się dwie osoby. Okazuje się, że co jedenaście minut jakiś użytkownik rezygnuje, a na pytanie o przyczynę klika opcję „zakochałam/łem się”. Nie wiemy, czy jednak chodziło o prawdziwą miłość, czy użytkownik znalazł ją w internecie, czy poza nim, czy też była to tylko wygodna wymówka, by przestać płacić za subskrypcję.

Oceny klientów pozostają w zgodzie z tym pobieżnym rachunkiem. Gdy zebrano 1500 ocen pięciu serwisów randkowych, z których korzystają Niemcy, między innymi Parship, żaden z nich nie otrzymał średniej oceny dobrej. Tylko 7,7 procent klientów stwierdziło, że ich poszukiwania zostały uwieńczone sukcesem; reszta zrezygnowała lub w dalszym ciągu szukała[4].

Czy od prawdziwej miłości dzieli nas tylko jedno kliknięcie?

W innych krajach i na innych portalach internetowych spotykamy porównywalne prawdopodobieństwo w przypadku podobnych serwisów, które są skierowane do singli z wykształceniem wyższym, mieszkających w Nowym Jorku, Toronto czy Seulu. Na przykład serwis randkowy EliteSingles podaje w swoich reklamach, że w 2018 roku miał 381 000 nowych członków w każdym miesiącu i że dzięki niemu co miesiąc 1000 singli znajduje miłość[5]. Jeszcze raz liczby robią wrażenie – tylu uszczęśliwiony ludzi! Pozostaje jednak pytanie o to, jakie jest rzeczywiste prawdopodobieństwo znalezienia miłości. Jeśli dane są poprawne, oznaczają one mniej więcej jednego uszczęśliwionego singla na 381 miesięcznie, co daje około jednego na 30 rocznie, czyli 3 do 4 procent. Jest to porównywalne do 5 procent otrzymanych w rachunkach dla Parshipa. Te obliczenia dają szacunkowe liczby oparte na danych dostarczonych przez same serwisy internetowe. Aby nabrać większej pewności, sprawdziłem jeszcze jeden portal randkowy. Jdate (skierowany do żydowskich singli) informuje, że ma setki tysięcy członków na całym świecie i że „dzięki jego usługom setki randkowiczów znajdują swoje bratnie dusze każdego tygodnia”[6]. Jeśli połączymy ze sobą te dwie liczby, otrzymamy około jednej bratniej duszy na 1000 singli tygodniowo, co przekłada się na około 52 na 1000 rocznie i daje to znów prawdopodobieństwo w przybliżeniu równe 5 procent rocznie. Wydaje się, że ten długi czas oczekiwania harmonizuje Z jedną z „pozytywnych historii” przytaczanych w reklamie portalu: Ryan, który spędził piętnaście lat, skrolując i klikając w twarze, w końcu dzięki serwisowi znalazł swą bratnią duszę[7].

Algorytmy miłosne mogą oddawać trzy rodzaje usług: dostarczają informacji o dostępnych osobach, umożliwiają komunikowanie się z nimi oraz znalezienie prawdziwej miłości. Dzięki informacji o dostępnych osobach klienci spotykają potencjalnych partnerów, których inaczej prawdopodobnie by nie poznali. Jest to szczególnie cenne dla osób, które prowadzą społecznie lub fizycznie odizolowane życie, albo nie spełniają bieżących norm społecznych, na przykład dla osób z niepełnosprawnością lub wyznających surowe zasady religijne. Inną usługą jest możliwość komunikacji za pośrednictwem komputera, zanim dojdzie do spotkania twarzą w twarz. W połączeniu z informacją o dostępnych singlach stanowi największą zaletę randek internetowych. Informacja o większej liczbie potencjalnych partnerów ma jednak swoją drugą, negatywną stronę, gdy prawdopodobieństwo znalezienia prawdziwej miłości jest tak niewielkie, jak właśnie się przekonaliśmy. Doświadczenie dwudziestu dwóch nieudanych randek, zamiast tylko jednej, może działać na nas deprymująco przez samą liczbę porażek i nadmiar wyboru. Autorzy pewnego przeglądu badań dotyczących serwisów randkowych dochodzą do wniosku, że „nic nie wskazuje na to, by stosowane przez portale randkowe algorytmy matematyczne rzeczywiście były skuteczne – by prowadziły do powstawania romantycznych związków w jakiś sposób lepszych od tych, jakie tworzą się dzięki innym środkom kojarzenia partnerów”[8].

W celu weryfikacji tych wyników nawiązałem kontakt z kilkoma cieszącymi się dobrą reputacją dużymi internetowymi agencjami randkowymi. Ostatecznie przecież niektóre agencje randkowe – między innymi eHarmony, perfectMatch i Chemistry – utrzymują, że wykorzystują rozbudowane, „naukowe” algorytmy, choć standardowe metody naukowe nie wykazały, by były one niezawodne i skuteczne[9]. Na pytanie o rzeczywistą liczbę opłacających subskrypcję klientów, wskaźniki skuteczności oraz to, jak są one wyznaczane, otrzymywałem uprzejme, lecz stanowcze odmowy udzielenia informacji[10].

Zostawmy jednak same internetowe agencje randkowe. Czy pary, które poznały się w internecie – w mediach społecznościowych, chatroomach, agencjach randkowych lub w inny sposób – rozpadają się rzadziej i czy są bardziej zadowolone ze swoich związków niż pary, które poznały się poza na żywo? Klasyczne reprezentatywne badanie obejmujące ponad 19 000 Amerykanów i Amerykanek pozostających w związku małżeńskim wykazało, że ci z nich, którzy poznali partnera w internecie, doświadczyli mniejszej liczby rozpadów małżeństw niż ci, którzy poznali partnera na żywo, a także wyrażali nieco wyższy poziom zadowolenia ze swojego małżeństwa. Warto zaznaczyć, że ci, którzy poznali partnera za pośrednictwem internetowych agencji randkowych wykorzystujących algorytmy miłosne, nie deklarują wyższego poziomu zadowolenia w porównaniu do tych, którzy poznali partnera na innych portalach internetowych[11]. Niemniej według najnowszych badań przeprowadzonych w Stanach Zjednoczonych prawdopodobieństwo rozpadu związku (zarówno małżeńskiego, jak i niemałżeńskiego) jest wyższe dla par, które poznały się w internecie, a reprezentatywne badania przeprowadzone w Niemczech i Szwajcarii nie wykazały istotnej różnicy poziomu zadowolenia ze związku u par, które poznały się w internecie i poza internetem[12]. Te wyniki są niejednoznaczne, ale kilka badań jednoznacznie wskazuje na to, że proporcja par, które poznały się w Internecie, jest wyższa wśród osób homoseksualnych, oraz że randki internetowe sprzyjają poznawaniu się osób wywodzących się z różnych środowisk pod względem edukacji, rasy lub narodowości, co wciąż może być barierą poza internetem[13]. Wydaje się jednak, że ta większa różnorodność wynika głównie z tego, że pary poznające się w internecie są na ogół młodsze.

Nie ma więc wciąż ostatecznej odpowiedzi na pytanie, czy poszukiwanie partnera w internecie prowadzi do większego zadowolenia i mniejszej liczby rozpadów związku niż poszukiwanie partnera poza internetem. Biorąc wszystko pod uwagę, można powiedzieć, że jeśli nie należymy do 5 procent szczęśliwców, równie dobrze moglibyśmy przeznaczyć czas i pieniądze na spotkania z współpracownikami po pracy, wyjścia na imprezy, podróże, wyprowadzanie psa lub uczestnictwo w lokalnej wspólnocie internetowej, w której spotykają się osoby podzielające nasze osobiste zainteresowania – wszystko to stanowi szybszą drogę do szczęścia. Strzała Amora może nas trafić w nieoczekiwanych miejscach.

JAK DZIAŁAJĄ ALGORYTMY MIŁOSNE?

Algorytmy miłosne objęte są tajemnicą. Podobnie jak algorytmy oceny wiarygodności kredytowej, prognozowania przestępstw i klasyfikacji stron internetowych są one własnością prywatną. Każda agencja wykorzystuje inne algorytmy. Dlatego trudno dowiedzieć się, jak dokładnie działają. Niemniej znamy podstawową procedurę, która stanowi jedną z najprostszych wersji algorytmu. Klienci serwisów randkowych wypełniają ankietę dotyczącą wyznawanych przez nich wartości, ich zainteresowań i osobowości. Taka ankieta może składać się z ponad stu pytań. Odpowiedzi służą do utworzenia profilu klienta[14]. Rozważmy prosty przykład dwóch profili obejmujących tylko trzy cechy (ilustracja 1.1). Adam pragnie mieć dzieci, lubi być w centrum zainteresowania i nie przepada za gotowaniem. Ewa również pragnie mieć dzieci, nie lubi być w centrum zainteresowania i również nie przepada za gotowaniem.

Cecha | Adam | Ewa
Pragnie dzieci | Tak | Tak
Centrum uwagi | Tak | Nie
Gotowanie | Nie | Nie

Ilustracja 1.1

Dwa profile o trzech cechach.

Pierwszą zasadą, według której obliczane jest to, czy Adam i Ewa sobie odpowiadają, jest podobieństwo. W przypadku pragnienia dzieci podobieństwo ma ogromne znaczenie. Najprostszy algorytm po prostu obliczałby, ile razy osoby się zgadzają, czyli w tym przypadku dwa na trzy razy, czyli dwie trzecie. Samo podobieństwo nie jest jednak wystarczające. Oprócz niego ma znaczenie także dopełnianie się. Na przykład Adam lubi być w centrum uwagi. Być może nie przypadnie mu do gustu partnerka, która ma takie samo upodobanie, co prowadziłoby do wiecznych kłótni o to, kto przyciągnie więcej spojrzeń. Partnerka dopełniająca, to znaczy taka, która nie lubi być w centrum uwagi, pasowałaby lepiej do Adama. Podobnie, jeśli oboje partnerów nie znosi gotowania, mamy podobieństwo, ale nie będą oni zbyt dobrze dopasowani. Aby mieć pewność, czy klient pragnie podobnego czy dopełniającego partnera, niektóre agencje umieszczają w ankietach pytania dotyczące oczekiwań w stosunku do idealnego partnera.

Jest w końcu jeszcze trzecia zasada – doniosłość. Nie wszystkie cechy są jednakowo ważne. Niektóre serwisy randkowe same oceniają doniosłość, podczas gdy inne proszą klientów o podanie, jak ważna jest dla nich dana cecha: nieważna, mało ważna, dość ważna i tak dalej. Algorytm potrzebuje jednak liczb jako danych wejściowych, a nie odpowiedzi słownych. Aplikacja randkowa OkCupid, jedna z niewielu, które dostarczają podstawowych informacji o swoim algorytmie, przelicza odpowiedzi w następujący sposób: cecha nieważna = 0, mało ważna = 1, dość ważna = 10, bardzo ważna = 50, niezbędna = 250[15]. Możemy teraz połączyć ze sobą wszystkie trzy zasady i określić, w jakim stopniu Ewa zadowala Adama (ilustracja 1.2).

Cechy | Idealna partnerka Adama | Ewa | Doniosłość dla Adama | Punkty
Pragnie dzieci | Tak | Tak | 10 | 10/10
Centrum uwagi | Nie | Nie | 50 | 50/50
Gotowanie | Tak | Nie | 1 | 0/1

Ilustracja 1.2

Punkt widzenia Adama. W jakim stopniu Ewa zadowala Adama? Odpowiedź: 60 na 61 możliwych punktów, czyli 98 procent, co jest znakomitym wynikiem.

Jeśli chodzi o pierwsze dwie cechy, Ewa odpowiada idealnej partnerce Adama. Ponieważ doniosłość tych cech wynosi dla niego odpowiednio 10 i 50, otrzymany wynik to 60 na 60 punktów. To, że Ewa nie lubi gotować, jest mało ważne dla Adama, więc otrzymuje ona 0 na 1 możliwy punkt pod względem tej trzeciej cechy. W sumie Ewa otrzymuje 60 na 61 możliwych punktów, co stanowi około 98 procent.

W taki sam sposób algorytm oblicza, w jakim stopniu Adam zadowala Ewę (ilustracja 1.3). Adam pragnie mieć dzieci, podobnie jak idealny partner Ewy. Ponieważ dzieci są niezbędne dla Ewy, podobieństwo to daje 250 na 250 możliwych punktów. Pod względem dwóch pozostałych cech nie ma jednak zgodności. Algorytm oblicza ogólny wynik 250 na 310 możliwych punktów, co stanowi 81 procent.

Cechy | Idealny partner Ewy | Adam | Doniosłość dla Ewy | Punkty
Pragnie dzieci | Tak | Tak | 250 | 250/250
Centrum uwagi | Nie | Tak | 50 | 0/50
Gotowanie | Tak | Nie | 10 | 0/10

Ilustracja 1.3

Punkt widzenia Ewy. W jakim stopniu Adam zadowala Ewę? Odpowiedź: 250 na 310 możliwych punktów, czyli 81 procent, co nie jest już tak dobrym wynikiem.

Na koniec algorytm oblicza sumaryczny stopień zgodności między Adamem i Ewą jako średnią uzyskanych przez nich wyników, co dawałoby 89,5 procent w naszym przykładzie[16].

W rzeczywistości określanie stopnia zgodności profili jest bardziej skomplikowane, lecz podstawowa logika pozostaje ta sama. Branych jest pod uwagę więcej cech i mogą mieć one charakter ilościowy, jak na przykład wiek i dochody. Podobieństwo zwykle ma znaczenie w przypadku hobby i wyznawanych wartości, podczas gdy dopełnianie się jest zaskakująco często pożądane w przypadku wykształcenia i wieku, zwłaszcza u par heteroseksualnych. Kobiety korzystające z serwisów randkowych i mieszkające w Bostonie, Chicago, Nowym Jorku i Seattle pragną mężczyzn o wyższym od swojego poziomie wykształcenia: im wyższym, tym lepiej. Ale mężczyźni mieszkający w tych samych miastach nie pragną bardziej wykształconych kobiet. Najczęściej wolą kobiety z licencjatem, a kobiety powyżej tego poziomu wykształcenia (a więc z magisterium lub doktoratem) uważają za mniej atrakcyjne. Najbardziej pożądany wiek dla kobiety to osiemnaście lat, podczas gdy dla mężczyzny około pięćdziesięciu lat[17]. Tę zdumiewającą rozbieżność można obserwować także u klientów serwisu OkCupid. Dla kobiet najatrakcyjniejszymi mężczyznami są ci, którzy mają mniej więcej tyle samo lat co one, z dokładnością do dwóch lub trzech lat. Przeciętny mężczyzna jednak zawsze woli kobiety w wieku dwudziestu lub nieco powyżej dwudziestu lat, niezależnie od wieku jego samego[18]. Tacy mężczyźni nigdy nie dorastają. Ich upodobania odpowiadają podstawowej zasadzie psychologii ewolucyjnej: mężczyzn pociągają cechy wskazujące na wysoką płodność, takie jak młodość i gładka skóra, podczas gdy kobiety zwracają większą uwagę na cechy pozwalające ocenić, czy mężczyzna jest w stanie utrzymać rodzinę, takie jak majątek i wykształcenie.

Widzimy więc, że nie jest tak trudno zrozumieć zasady, według których działają algorytmy dopasowujące profile, nawet jeśli ich szczegóły są objęte klauzulą tajności. Ogólnie biorąc, algorytm przekształca liczbowe dane wejściowe na liczbowy wynik, na przykład profile na prawdopodobieństwo dopasowania.

Profil to nie osoba

Skoro algorytmy miłosne wykorzystują profile, podobieństwo, dopełnianie się i doniosłość, dlaczego nie potrafią szybko znaleźć idealnego partnera na całe życie? Gdy rozumiemy te cztery zasady, możemy realistycznie ocenić, co algorytmy te potrafią, a czego nie potrafią zrobić. Zacznijmy od profili. Podczas spotkania twarzą w twarz „dane” są bogate i złożone: uśmiech i gest, poczucie humoru odzwierciedlające się w błysku oczu, brzmienie głosu, sposób zadawania pytań, wytężona lub powierzchowna uwaga, z jaką dana osoba nas słucha. Następnie mamy dotyk i zapach, które bywają istotnymi czynnikami zgodności, szczególnie dla kobiet[19]. Natomiast profile oparte są nie na rzeczywistej interakcji, ale na odpowiedziach udzielonych w ankiecie. Profil nie jest osobą; jest on autoprezentacją, niekoniecznie oddającą prawdziwe zainteresowania i wartości. Nawet jeśli profil wykorzystuje „cechy osobowościowe”, algorytm czerpie je z takich autoprezentacji. Na przykład niektóre portale pytają o to, czy opisują nas przymiotniki takie jak „seksowny” lub „niepozorny”, lub o to, jak bardzo jesteśmy „racjonalni”, „apodyktyczni” lub „egocentryczni”. Jakiej udzielilibyśmy odpowiedzi? Niewiele osób potrafi zdobyć się na realizm i szczerość, kiedy poszukuje idealnego partnera. Czy przyznamy się do tego, że lubimy wylegiwać się na kanapie i nie mamy specjalnych zainteresowań, gdy pytają nas o sposób spędzania wolnego czasu? Albo czy zdradzimy, że jesteśmy doskonałymi tancerzami, co mogłoby onieśmielić wielu kandydatów? Dlatego też podawane zainteresowania i cechy osobowości niezbyt nadają się do przewidywania romantycznych związków[20]. Podobne wnioski można wyciągnąć z szybkich randek[21]. To, co ludzie deklarują na temat swoich preferencji, nie zgadza się z tym, jakich dokonują wyborów[22].

Rozważmy teraz zasady podobieństwa i dopełniania się. Istnieje powiedzenie, że swój ciągnie do swego, a także inne powiedzenie, że przeciwieństwa się przyciągają. Niezależnie od tego, jaka jest prawda, algorytmy miłosne są w stanie porównywać podobieństwo i dopełnianie się jedynie na podstawie profilów osób, a nie ich rzeczywistego zachowania. Okazuje się, że jest to zasadnicze ograniczenie. Przegląd 313 badań laboratoryjnych i obserwacyjnych dotyczących tego zagadnienia wykazał coś niezwykłego: jeśli osoby się nie znają, większe podobieństwo ich profili (postaw i cech osobowości) wyraźnie zwiększa ich wzajemny pociąg. Jednakże praktycznie zanika on po krótkiej interakcji, trwającej parę minut lub godzin, gdy osoby spotykają się twarzą w twarz[23]. Oznacza to, że podobieństwo profili rzeczywiście powoduje początkowo wzajemny pociąg, ale wydaje się bez znaczenia dla prawdziwego związku. Może to również wyjaśniać, dlaczego ludzie uważają wysoki współczynnik zgodności za rzecz pożądaną u partnera i dlaczego jednocześnie okazuje się on mieć niewielki udział w znalezieniu prawdziwej miłości. Istotnie badanie obejmujące 23 tysiące osób pozostających w związku małżeńskim z Australii, Niemiec i Wielkiej Brytanii wykazało, że stopień zadowolenia ze związku ma bardzo mało wspólnego z tym, jak podobne są profile cech osobowości partnerów[24]. Większy związek ze stopniem zadowolenia ze związku ma własna osobowość jednostki, na przykład to, czy jest ona zgodna, sumienna lub stabilna emocjonalnie. Niektóre osoby zepsują każdy związek, bez względu na to, jak bardzo odpowiedni jest partner. Internetowe serwisy randkowe, takie jak eHarmony, przyjmują do wiadomości to odkrycie i odrzucają klientów, których zdrowie emocjonalne budzi
wątpliwości[25].

W końcu rozważmy zasadę doniosłości. Czytelnik może się zastanawiać, dlaczego OkCupid posługuje się liczbami od 1 do 250. Jak wspomnieliśmy, przyczyna leży w tym, że algorytmy wymagają liczb, by mogły obliczać współczynnik zgodności. Podobnie jak inne algorytmy, również i algorytmy miłosne przyjmują na wejściu liczby i przekształcają je w wynik liczbowy. Portale randkowe, jak na przykład OkCupid, przypisują intuicyjnie wartości liczbowe stwierdzeniom klientów o doniosłości cech albo starają się je oszacować na podstawie danych. W tym drugim przypadku serwis potrzebowałby wiarygodnych danych na temat kombinacji profili, które prowadzą do trwałych związków. Nie znam portali, które poświęcałyby czas na śledzenie dalszych losów użytkowników i systematycznie zbierałyby takie dane statystyczne. Ustalone liczby opierają się ponadto na założeniu, że przeprowadzana przez użytkowników ocena doniosłości jest stabilna. Tymczasem niektóre opinie mogą się zmienić w trakcie trwania związku, na przykład gdy zaczynamy doceniać zainteresowania i wartości partnera, do których wcześniej nie przykładaliśmy wagi. To, czy liczby te oddają prawdziwą doniosłość, pozostaje zatem sprawą niejasną.

Można więc powiedzieć, że największą zaletą platform randkowych jest dostarczanie informacji o potencjalnych partnerach, a nie to, że pozwalają znaleźć prawdziwą miłość. Ta może się pojawić dopiero, gdy osoby spotykają się twarzą w twarz. Autoprezentacja w profilach i zasady podobieństwa, dopełniania się i doniosłości obliczone na podstawie tych profili stanowią fundament algorytmów kojarzenia par, ale niekoniecznie są głównym składnikiem udanego związku. Może to wyjaśniać, dlaczego algorytmy miłosne często zawodzą. Jak jednak zobaczymy w następnym rozdziale, istnieje także bardziej ogólny powód: w przeciwieństwie do szachów znalezienie prawdziwej miłości jest grą pełną niepewności, a z nią algorytmy słabo sobie radzą.

GDY SPOSÓB UWODZENIA DOPASOWUJE SIĘ DO OPROGRAMOWANIA

Można by sądzić, że algorytmy są „neutralnym” narzędziem ułatwiającym kontakt z najlepszymi partnerami romantycznymi. Tak jednak nie jest. W miarę jak algorytmy stają się coraz popularniejsze się w naszym świecie, zaczynają bardziej wpływać na nasze wartości – nawet wtedy, gdy nie działają zbyt dobrze. Dotyczy to także sposobów uwodzenia. Na przykład praktycznie nie są już możliwe randki w ciemno; partnerzy wcześniej sprawdzą swoje profile w mediach społecznościowych. Tak jak inne technologie, algorytmy zmieniają nasze zachowania i ostatecznie także nasze pragnienia. Oprogramowanie może choćby zamienić uwodzenie w problem optymalnego wyszukiwania i zmniejszyć stopień zaangażowania.

A może znajdę jeszcze kogoś lepszego

Jest taka historia o młodej kobiecie, która znalazła mężczyznę swoich marzeń i teraz leżą oboje w łóżku. Gdy ten wychodzi na chwilę do łazienki, ona mechanicznie sięga po telefon, otwiera Tindera i zaczyna przeglądać profile innych mężczyzn. Zapytana, co robi, nie umie wyjaśnić swego zachowania. Po prostu nie mogła się pohamować. Tego rodzaju historie stanowią ilustrację tego, jak oprogramowanie przejmuje kontrolę nad naszym życiem.

Łatwy dostęp do wielu partnerów może zamienić szczęśliwego zadowalacza w zawsze niespokojnego optymalizatora. Zadowalacz jest terminem pochodzącym z teorii decyzji, w kontekście randek oznaczającym osobę, która wybiera partnera zadowalającego. W tym celu musi ona wypracować kryterium akceptacji (poziom swoich aspiracji), wybrać pierwszego partnera, który je spełnia, i zaprzestać dalszych poszukiwań. Zaprzestanie poszukiwań stanowi warunek niezbędny do zaangażowania się w szczęśliwy, trwały związek. Natomiast optymalizator poszukuje absolutnie najlepszego partnera i nie jest gotowy na kompromisy. Ponieważ jednak jest wiele ryb w oceanie i nie można przewidzieć, jakie alternatywy się pojawią, optymalizacja prowadzi do rozczarowania i kultury „oczekiwania na kogoś lepszego”. Nawet gdyby przypadkiem optymalizator trafił na najlepszego partnera (o ile taka osoba istnieje), nie wiedziałby o tym i w dalszym ciągu poszukiwałby kogoś lepszego, jawnie lub skrycie. Sprzyjają takiemu zachowaniu te portale randkowe, które nie ograniczają liczby kandydatów wyświetlanych w jednym dniu. Natomiast zadowalacz natychmiast zrezygnowałby z korzystania z serwisu randkowego i zaangażowałby się w poważny związek.

A jednak w interesie samych agencji randkowych leży, by klienci korzystali z ich usług jak najdłużej. Zyski byłyby niewielkie, gdyby każdy znajdował prawdziwą miłość w jedenaście minut i rezygnował. Dlatego agencje bardziej podkreślają możliwość kontaktu z potencjalnymi partnerami niż szansę na znalezienie prawdziwej miłości. Dostęp do wielkiej liczby potencjalnych partnerów powoduje, że użytkownicy korzystają z aplikacji w podobny sposób, jak klienci w supermarketach przebierający wśród setek rodzajów musztard i dżemów. Dlatego wielu użytkowników traktuje swoje profile randkowe, jakby to były opisy produktów w sklepie internetowym, i pozbywa się innych produktów za pomocą przesunięcia palcem. W ich świecie prawdziwa miłość oznacza niekończące się poszukiwanie najlepszej okazji.

Optymalizuj swój profil, a nie siebie

Na początku tego rozdziału pojawiły się słowa trzynastoletniej Sophie z New Jersey, która przedstawia swój pogląd na temat randek. Wiele dziewcząt w jej wieku spędza długie godziny na rywalizacji w mediach społecznościowych, a potem na internetowym rynku seksualnym, zarządzając swoimi selfie i reputacją. „Czuję się tak, jakby ktoś podstępnie kazał mi gromadzić lajki”, Sophie wyjaśnia[26]. Autoprezentacja nie jest oczywiście niczym nowym, lecz media cyfrowe dostarczają wygodnych narzędzi pozwalających na edytowanie swojego ja. Psycholog Robert Epstein opisał swoją randkę z pewną kobietą, którą poznał w Internecie[27]. Gdy w końcu zobaczył tę kobietę w kawiarni, w ogóle nie przypominała osoby ze zdjęć, jakie umieszczała w internecie. Pracowała w marketingu i sądziła, że dobrą strategią będzie publikowanie zdjęć, które przyciągną „klientów”. Potem Epstein zauważył, że poprzednie zdjęcia zastąpiła zdjęciami jeszcze innej kobiety.

Esencją reklamy jest wygląd i podstęp, które mają przyciągać uwagę. W swoich profilach internetowych ludzie kłamią na temat wieku, stanu cywilnego, dochodów, wzrostu i wagi ciała. Badacze z Uniwersytetu Cornella przeprowadzili pomiary wzrostu i wagi użytkowników, a potem porównali otrzymane liczby z profilami internetowymi. Badane osoby mierzyły przeciętnie o 2,5 centymetra mniej i ważyły o 2,5 kilograma więcej, niż twierdziły w internecie[28]. Co więcej, rozbieżność była tym większa, im osoby były niższe i im więcej ważyły. Pewne badanie dotyczące ponad 5 tysięcy użytkowników serwisów randkowych z Bostonu i San Diego wykazało, że kobiety między 20 a 30 rokiem życia podawały wagę ciała średnio około 2,5 kilograma niższą, niż wynosi odpowiednia waga wśród wszystkich kobiet z tego przedziału wiekowego, a różnica ta zwiększała się do 8,5 kilograma dla kobiet między 30 a 40 rokiem życia oraz do 9,5 kilograma dla kobiet w przedziale wieku od 40 do 50 lat[29]. Nie stwierdzono podobnych rozbieżności w przypadku wagi ciała u mężczyzn. Ponadto kobiety szczególnie często podają swój wiek jako 29, 35 lub 44 lata[30]. Natomiast mężczyźni często zawyżają swoje dochody. Można to łatwo wyjasnić. Gdy mężczyźni twierdzą, że zarabiają 250 tysięcy dolarów rocznie, w porównaniu do mniej niż 50 tysięcy dolarów rocznie, otrzymują trzy razy więcej odpowiedzi od kobiet. Mężczyźni kłamią także na temat swego stanu cywilnego: prawdopodobnie jeden na ośmiu mężczyzn poszukujących pary jest żonaty[31]. Badacze, którzy mierzyli wzrost i wagę użytkowników, posługiwali się twardymi faktami, by ustalić skalę oszustwa. Nawet jednak w ankietach ponad połowa amerykańskich użytkowników otwarcie przyznawała się do zamieszczania kłamstw na swoich profilach randkowych, co stanowi liczbę wyższą niż u ich brytyjskich odpowiedników[32].

Wydaje się, że niektóre internetowe serwisy randkowe same uciekają się do podstępów. Podają, że mają więcej klientów niż w rzeczywistości i twierdzą, że są oni bardzo zadowoleni[33]. Bezpośrednie pytania o prawdziwe liczby agencje po prostu zbywają milczeniem.

Kobiece boty

Do niejednego z nas zwróciła się zrozpaczona wdowa z Somalii, by przechować swój wielomilionowy spadek na naszym bezpiecznym koncie bankowym. Jeśli odpowiemy, możemy wkrótce otrzymać prośbę o wysłanie pieniędzy na pokrycie kosztów celnych i podatkowych w zamian za obietnicę wynagrodzenia w wysokości 10 milionów dolarów. Wielu z nas także otrzymało e-mail z informacją, że wygraliśmy 250 tysięcy dolarów w zagranicznej loterii. Można by sądzić, że żaden rozumny człowiek nie da się nabrać na taki trik. A jednak niektóre osoby pozwalają się zaślepić nadziei. Jak wyjaśnia jedna z brytyjskich ofiar: „Taka suma pieniędzy skłania do marzeń, a nikt nie chce być odarty z marzeń”[34]. Dawniej poszukiwanie potencjalnych ofiar wymagało wielkiego nakładu pracy, ale obecnie narzędzia sztucznej inteligencji stosowane przez Facebooka ułatwiają zadanie. Podobnie jak w przypadku wszelkich reklam, algorytmy uczenia maszynowego Facebooka pozwalają na identyfikowanie użytkowników, którzy najchętniej klikną na oszukańczą reklamę. Firmy trudniące się takim procederem, po zakamuflowaniu treści swoich ogłoszeń płacą Facebookowi przeciętnie 44 tysiące dolarów w postaci opłat reklamowych, a potem inkasują około 79 tysięcy dolarów od ofiar[35]. Tylko w Wielkiej Brytanii co roku około miliona dorosłych osób pada ofiarą oszustw marketingowych i ogółem traci około 3,5 miliarda funtów[36].

Oszustwo „na romans”

Większość ludzi jednak opiera się tym pokusom, ponieważ takie wiadomości pochodzą od nieznajomych. Aby więc poszerzyć krąg potencjalnych ofiar, międzynarodowe grupy przestępcze zwracają się do użytkowników stron randkowych, których celem jest przecież łączenie w pary osób, które się wcześniej nie znały. Zakładają fałszywe profile, zazwyczaj z wyretuszowanymi, ukradzionymi zdjęciami, podając się najchętniej za oficerów, inżynierów lub atrakcyjnych modeli czy modelki. Następnie oszuści próbują nawiązać romantyczną relację w internecie, deklarują ofierze swoją miłość i proszą o zmianę metody komunikacji ze strony randkowej na komunikator lub e-mail, by relacja stała się bardziej prywatna. Podczas tego etapu oswajania wiele ofiar się zakochuje[37]. Po kilku tygodniach lub miesiącach, gdy rodzi się zaufanie i uczucie, przestępcy najpierw proszą o małe kwoty pieniężne, a potem o coraz większe. Intryga może obejmować innych przestępców z grupy, którzy, podając się za lekarzy, informują ofiarę o tym, że ukochany został zabrany do szpitala i potrzebne są pieniądze na opłacenie rachunków medycznych. Gra się kończy, gdy ofiara odkrywa oszustwo lub zostaje pozbawiona wszystkich pieniędzy. Według FBI ofiary tracą przeciętnie 14 tysięcy dolarów[38]. Internetowe oszustwa randkowe są obecnie bardzo pospolite, a wiele ofiar zbyt się wstydzi, by o nich opowiadać. Łatwo jednak wykryć oszustwo. Gdy nasz internetowy ukochany zaczyna prosić o pieniądze, niezależnie od powodu, można się domyślić, o co chodzi. Jeśli przeszukamy internet i znajdziemy zdjęcie tej osoby pojawiające się pod innym nazwiskiem, wszystko jest jasne. Istnieje prosta reguła pozwalająca uniknąć złamanego serca i pustego rachunku bankowego: nigdy nie wysyłajmy pieniędzy do kogoś, kogo poznaliśmy w internecie i nie spotkaliśmy osobiście.

Poza stratą finansową ofiary doświadczają także utraty relacji. Dla większości z nich utrata obiektu uczuć jest czymś bardziej dotkliwym. Jak wyjaśniła pewna ofiara: „Rozmawiasz z takim mężczyzną tak długo i pewnego dnia odkrywasz, że to było oszustwo. Ale jak można tak po prostu o wszystkim zapomnieć? Uczucia nie zmieniają się tak szybko”. Wiele z tych osób wstydzi się i jest zdruzgotanych tym, że padły ofiarą oszustwa: „To coś w rodzaju mentalnego gwałtu. Pomyśleć, że udało im się wniknąć do mojego umysłu. Boże, jak mogłam być tak głupia!”[39].

Technologicznym odpowiednikiem tych ludzkich oszustów są boty. Boty są autonomicznymi agentami informatycznymi zdolnymi do podejmowania decyzji bez ludzkiej interwencji. Złośliwe boty wykorzystują ludzi w przeciwieństwie do dobrotliwych botów, takich jak boty zajmujące się edycją na Wikipedii lub przeczesujące internet, których zadaniem jest wspieranie ludzkich użytkowników. Rozważmy przykład kanadyjskiego internetowego serwisu randkowego Ashley Madison, który został założony z przestępczą intencją i był reklamowany sloganem „Życie jest krótkie. Pozwól sobie na romans”. Nie zdziwi nikogo, że portal cierpiał na brak kobiecych użytkowników. Model biznesowy polegał na tym, że męscy użytkownicy wnosili opłatę, jeśli chcieli rozpocząć rozmowę z kobietą. Kiedy hakerzy wykradli wszystkie dane dotyczące klientów – w tym e-maile, imiona i nazwiska, adresy i fantazje seksualne – okazało się, że serwis randkowy Ashley Madison „zatrudniał” ponad 70 tysięcy „kobiecych” botów, które rozesłały ponad 20 milionów fałszywych wiadomości do męskich użytkowników[40]. Hakerzy zagrozili, że upublicznią te dane, jeśli Ashley Madison natychmiast nie zaprzestanie działalności. Gdy portal randkowy odmówił, hakerzy wrzucili do sieci dane osobiste 32 milionów klientów, także tych, którzy wpłacili 19-dolarową opłatę za skasowanie konta, co było jeszcze jedną fałszywą usługą. „Teraz moje małżeństwo legnie w gruzach”, powiedział mężczyzna z Kentucky, który przez lata korzystał z serwisu, by zdradzać swoją żonę[41]. Innych oburzyło tylko to, że potencjalne partnerki okazały się fałszywe. Około 1200 adresów e-mailowych miało rozszerzenie .sa, które wskazuje na klientów z Arabii Saudyjskiej, gdzie za cudzołóstwo grozi kara śmierci.

Wpadłaś mi w oko

Najbardziej nieoczekiwaną stroną tej smutnej historii jest to, że same serwisy randkowe wykorzystują oszustów do zachęcania klientów, by wykupywali subskrypcje. Amerykańska Federalna Komisja Handlu wytoczyła sprawę serwisowi internetowemu Match o to, że posługiwał się fałszywymi ogłoszeniami wyrażającymi zainteresowanie romantyczne w celu oszukania setek tysięcy klientów[42]. Match jest właścicielem portali Match.com, Tinder, OkCupid, PlentyOfFish i innych stron randkowych.

Przypuśćmy, że szukamy „tego kogoś”. Większość serwisów internetowych pozwala na założenie profilu bez żadnych opłat, a potem możemy wykupić subskrypcję. Możemy więc się zarejestrować, gdyż to nic nie kosztuje, i zobaczyć, co się stanie. Przypuśćmy dalej, że nasz profil szybko przyciąga zainteresowanie i otrzymujemy wiadomość od serwisu randkowego, że ktoś do nas napisał (ilustracja 1.4). Niestety, ponieważ nie wykupiliśmy subskrypcji, nie możemy odpowiedzieć. Postanawiamy zatem wykupić subskrypcję i odpisać tej osobie. Okazuje, że za późno, gdyż profil jest obecnie „niedostępny”. A to pech! Czekaliśmy tak długo, a powinniśmy byli od razu zapłacić. Być może przegapiliśmy okazję spotkania „tego kogoś”.

Ilustracja 1.4

„Wpadłaś mu w oko”. Wiadomość wysyłana do użytkowników, którzy założyli za darmo profil na serwisie randkowym, z zamiarem nakłonienia ich do wykupienia subskrypcji. Jedynie pod warunkiem wniesienia opłaty będą mogły odpisać do osoby, która wyraziła zainteresowanie. Federalna Komisja Handlu wytoczyła proces serwisowi randkowemu Match, który jest właścicielem match.com, Tindera i innych stron randkowych, ponieważ Match wiedział o tym, że wiele z tych wiadomości pochodziło od oszustów, skoro oznaczył ich konta jako niewiarygodne. Niemniej przekazywał te wiadomości, choć co prawda tylko do klientów bez subskrypcji – w celu nakłonienia ich do jej wykupienia. Źródło: Federal Trade Commission, FTC Sues Owner of Online Dating Service [Federalna komisja handlu pozywa właściciela internetowego serwisu randkowego].

Nie ma jednak powodu do niepokoju, gdyż być może tak nie jest. Miliony zainteresowanych „oczu” są w rzeczywistości oszustami, którzy mają nadzieję na to, że oszukają cię „na romans”. Zdaniem Federalnej Komisji Handlu serwis randkowy doskonale zdawał sobie sprawę z tego, że chodzi o oszustów i oznaczał ich konta jako niewiarygodne, ale mimo to przekazywał wiadomości po to, by wzbudzić zainteresowanie niepłacących użytkowników i nakłonić ich do wykupienia subskrypcji. W ten sposób serwisy randkowe wykorzystywały oszustów do zwiększenia liczby subskrypcji, wprowadzając w błąd własnych klientów i czerpiąc zyski z przestępstwa. I podstęp ten się udawał. Według raportu Federalnej Komisji Handlu w ciągu dwóch lat około 500 tysięcy zaciekawionych klientów nabyło subskrypcję do 24 godzin od otrzymania fałszywej wiadomości takiej jak „Wpadłaś mu w oko”. Ci, którzy otrzymali rozczarowującą wiadomość „kontakt niedostępny”, w rzeczywistości powinni sobie pogratulować. Match stara się uniemożliwiać nawiązywanie kontaktu z oszustami, ale tylko w przypadku użytkowników z subskrypcją. W stosunku do użytkowników bez subskrypcji oszuści byli wykorzystywani jako przynęta. Wyjaśnia to, dlaczego często klienci stwierdzają, że liczba powiadomień o zainteresowaniu szybko maleje od momentu wykupienia subskrypcji.

Aranżowane małżeństwa wchodzą do sieci

We współczesnych społeczeństwach zachodnich randki dotyczą dwóch zainteresowanych jednostek. Małżeństwo zazwyczaj zawiera się na końcu. Jednak nie we wszystkich kulturach odbywa się to w ten sposób. W tradycyjnym systemie indyjskim to rodzice dokonują wyboru. Najpierw jest małżeństwo, potem seks, a dopiero na końcu miłość.

Indyjski Instytut Zarządzania w Bangalore, z jego wypielęgnowanymi ogrodami, stanowi idylliczne środowisko do zdobywania wiedzy. Jego motto brzmi: „Niech nauka przyniesie nam oświecenie”. Gdy prowadziłem tam wykłady w zimowej szkole podejmowania decyzji, nawiązałem znajomość z Sanjeyem, młodym profesorem. Opowiedział mi o swoim poszukiwaniu prawdziwej miłości. W tradycyjnym systemie indyjskim rodzina przyszłej panny młodej lub pana młodego poszukuje kandydata lub kandydatki do małżeństwa. W epoce cyfrowej ogłoszenia matrymonialne pojawiają się zwykle na portalach internetowych, podobnie jak na Zachodzie, ale często zamieszcza je rodzina, a nie jednostka. W typowym ogłoszeniu znajdziemy wiek i wzrost młodej kobiety lub młodego mężczyzny oraz następujące informacje: ich zawód i dochód, oczekiwany dochód partnera lub partnerki, zawód ich ojca, ich kastę oraz czy wymagany jest posag. Z nadesłanych odpowiedzi rodzina wybiera od trzech do sześciu potencjalnych partnerów. Następnie rodzina wybiera jednego z kandydatów i aranżuje spotkanie w restauracji, gdzie młodzi ludzie spotykają się po raz pierwszy i mają okazję ze sobą porozmawiać – w obecności rodziców. Po powrocie do domu rodzice pytają dzieci, czy zaakceptowałyby kandydatkę lub kandydata jako partnera życiowego. Jeśli oboje młodzi ludzie się zgadzają, rozpoczynają się przygotowania do ślubu. Gdy jedno z nich odrzuca drugie, wtedy proces zostaje powtórzony z następnym kandydatem z listy.

Sanjeyowi nie podobała się ta procedura. Ale nie dlatego, jak można by sądzić, że chciał, by wszystko wyglądało w bardziej zachodni sposób i by miał większy wybór. Otóż wolał nie mieć w ogóle żadnego wyboru. Poprosił swoich rodziców, by zdecydowali za niego, ufając ich doświadczeniu i po prostu mając nadzieję, że wybiorą dla niego atrakcyjną, miłą żonę. Na moje pytanie, dlaczego nie chciał zobaczyć przynajmniej kilku kobiet, wyjaśnił, że nie chciał ranić uczuć żadnej z nich przez odrzucenie. Zdumiało mnie to oświadczenie, tak niepodobne w duchu do bezceremonialnego odrzucania kandydatów w internecie dosłownie przez przesunięcie palcem. Sanjey poślubił kobietę wybraną przez swoich rodziców i oboje powiedzieli mi, że od tamtej pory zdążyli się zakochać w sobie i od lat są szczęśliwi. W świecie Tindera dostęp do wielu kandydatów jest czymś dobrym. W świecie Sanjeya dostęp do wielu kandydatów oznacza, że trzeba kogoś odrzucić i zranić jego uczucia.

Dla większości ludzi na Zachodzie zaufanie rodzicom i ich doświadczeniu jest czymś niepojętym, a nawet irracjonalnym. Jak jednak Sanjey i inni badacze w Indyjskim Instytucie Zarządzania grzecznie zauważyli, dla nich z kolei jest dziwne, że Amerykanie i Europejczycy uważają za racjonalne poszukiwanie partnera przez przypadkowe spotkania na dyskotece, gdzie nikt nikogo prawie nie słyszy i zapewne każdy już wypił jednego. Czy przyszłość należy do małżeństw aranżowanych przez rodziców, czy do małżeństw z miłości? Jest jeszcze trzecia opcja: coraz większa wiara we wszechmoc sztucznej inteligencji może położyć kres obu systemom.

Szczyt wygody: niech sztuczna inteligencja aranżuje nasze małżeństwa

Marzymy o autonomicznych samochodach, ponieważ mają być bezpieczniejsze od ludzkich kierowców. Co wobec tego powiemy o algorytmach wybierających partnerów? Argumentacja przemawiająca za jednymi i drugimi jest podobna. Prawie wszystkie wypadki kończące się śmiercią wynikają z ludzkiego błędu: jazdy po pijanemu, pod wpływem narkotyków, w stanie zmęczenia lub rozproszenia spowodowanego przez korzystanie z telefonu komórkowego. Autonomiczne samochody mogłyby chronić ludzi przed swymi własnymi błędami. Podobnie połowa wszystkich pierwszych małżeństw i dwie trzecie drugich w Stanach Zjednoczonych kończy się rozwodem, co prowadzi do żalu i rozgoryczenia wyborem niewłaściwego partnera oraz do emocjonalnie trudnych sytuacji związanych z dziećmi. Dlaczego miejsca kierowcy nie mógłby zająć algorytm, który przeciwdziałałby dokonywaniu błędnych decyzji przez ludzi? Autonomiczna sztuczna inteligencja kojarzyłaby ze sobą właściwe osoby, zanim wpakują się w problemy.

Pewien filozof sztucznej inteligencji radzi: „Tam, gdzie to możliwe, powinniśmy podporządkować się wyrokom superinteligencji”[43]. Według tej wizji racjonalnego wyboru właściwą postawą jest zaufanie algorytmowi, a nie sobie lub rodzinie, w kwestii wyboru partnera romantycznego. W skrajnej postaci oznaczałoby to, że autonomiczna sztuczna inteligencja aranżuje małżeństwa bez jakiegokolwiek ludzkiego udziału. Jedyne, co musielibyśmy zrobić, to pojawić się w wyznaczonym miejscu.

Tego rodzaju sztuczna inteligencja pozostaje naukową fikcją, ale takie scenariusze istnieją. Odcinek brytyjskiego serialu telewizyjnego Czarne lustro (tytuł serialu nawiązuje do zgaszonego ekranu smartfona) zatytułowany Hang the DJ [tytuł taki sam w polskim tłumaczeniu – przyp. tłum.] przenosi nas w przyszłość, w której relacje romantyczne przestają być przedmiotem indywidualnego wyboru. W tym świecie algorytm miłosny wskazuje osoby, które wejdą ze sobą w związek, i wszyscy bez wahania stosują się do decyzji algorytmu. Co więcej, każdy związek ma swoją datę ważności, po której osiągnięciu kochankowie dobrowolnie się rozstają. Po rozstaniu algorytm kojarzy każdą jednostkę z nowym partnerem – dopóki nie upłynie kolejna data ważności.

Już dzisiaj niektórzy twierdzą, że algorytmy są w stanie przewidzieć osobowość lepiej niż ludzie[44]. Czy nie byłoby szaleństwem odrzucać wskazania sztucznej inteligencji? Dla niektórych ludzi stosowanie się do jej pouczeń mogłoby być szczytem wygody: nie trzeba byłoby flirtować, nie byłoby obawy odrzucenia, niczyje uczucia nie zostałyby nigdy zranione. Wszystko byłoby zoptymalizowane i nie trzeba byłoby tracić czasu ani pieniędzy na szukanie partnera na własną rękę lub przez agencję randkową. Dla innych osób – takich jak ja – wizja taka stanowi najstraszniejszy koszmar romantyczny. Para bohaterów odcinka Czarnego lustra, w którym wszyscy posłusznie wykonują polecenia sztucznej inteligencji, postanowiła odzyskać kontrolę nad swoim życiem. Ludzie ci zakochują się w sobie i wbrew woli algorytmu ze sobą pozostają. Lecz ta romantyczna para jest wyjątkiem.

Przypisy

Wprowadzenie

[1] Na przykład w swej wpływowej analizie kapitalizmu inwigilacji Shoshana Zuboff zakłada, jak się wydaje, tę zdolność jako ogólnie biorąc rzeczywistą, jak wtedy, gdy pisze o „monitorowaniu i kształtowaniu zachowań ludzi z bezprecedensową dokładnością” („SurveillanceCapitalism”, s. 17) lub pisze, że „kapitaliści inwigilacji wiedzą o nas wszystko” (Wiek kapitalizmu inwigilacji, s. 11).

[2] Breakstone et al., „Students’ Civic Online Reasoning”. Zob. także McGrew et al., „Can Students Evaluate Online Sources?”; Wineburg, McGrew, „Lateral Reading”, oraz rozdz. 11.

[3] Rogers, „Census in Pictures”.

[4] National Consortium for the Study of Terrorism, Responses to Terrorism, Global Terrorism Overview.

[5] Centers for Disease Control and Prevention, „Transportation Safety”.

[6] Britt, „Drivers on Cell Phones”.

[7] ERGO, Risiko-Report.

[8] https://www.youtube.com/watch?v=t7911kgJJZc.

[9] Na przykład szef niemieckiego związku zawodowego policjantów, argumentując za masową inwigilacją, przekonywał, że odsetek wyników fałszywie pozytywnych w wysokości 0,1 procent jest tak niski, że „można go zaakceptować jako praktycznie niezauważalny”. Oświadczenie dla prasy dostępne jest tutaj: https:// www.bmi.bund.de/SharedDocs/pressemitteilungen/DE/2018/10/gesichtserkennung-suedkreuz.html.

[10] Dyskusję zaostrzał brak zrozumienia ryzyka. Na przykład pewien komentator na Twitterze słusznie zauważył, że 0,1 procent fałszywych alarmów w połączeniu z niskim odsetkiem podejrzanych oznacza, że zdecydowana większość identyfikacji była fałszywa. Aby lepiej to zrozumieć, przypuśćmy, że 500 podejrzanych można spotkać na stacjach kolejowych, z czego system poprawnie identyfikuje 400 (80 procent). Zatem na 400 poprawnych wyników pozytywnych przypada 12 tys. wyników fałszywie pozytywnych, co oznacza, że około 97 procent wszystkich pozytywnych klasyfikacji jest błędnych. W reakcji na to posłanka do Parlamentu Unii Europejskiej zaczęła bronić tego systemu, tweetując: „Komuś zabrakło umiejętności matematycznych: współczynnik błędu w wysokości 0,1 procent oznacza 99,9 procent trafień, gdy system jest optymalnie stosowany. Czego chcieć więcej”. Posłanka błędnie sądziła, że współczynnik fałszywych alarmów w wysokości 0,1 procent oznacza, że 99,9 procent wszystkich klasyfikacji jest poprawnych. Gdy zwrócono jej uwagę na ten błąd, upierała się, że zna się na rachunku prawdopodobieństwa, ale to i tak nie ma znaczenia, gdyż liczy się przede wszystkim prewencyjne i edukacyjne oddziaływanie systemów rozpoznawania twarzy. Politycy potrzebują lepszego rozumienia ryzyka – a także pokory, by umieli przyznawać się do błędu.

[11] Tolentino, „What It Takes, to Put Your Phone Away”, s. 71.

[12] Jak głosi powiedzenie: „Jeśli nie płacisz za produkt, sam jesteś produktem”. Mówiąc dokładniej, produktem są przewidywania nas dotyczące. Historia o kawiarni została zainspirowana przez interesującą rozmowę o tym, jak inwigilują nas korporacje. Zob. https:// idlewords.com/talks/internet_with_a_human_face.htm.

[13] Brin, Page, „Anatomy of a Large-Scale Hypertextual Web Search Engine”. Historię tego, jak założyciele Google’a – z pomocą błyskotliwego kanadyjskiego matematyka, którego niechęć do reklamy była nawet większa niż Page’a – stworzyli ostatecznie najpotężniejszą platformę opartą na reklamie, opowiada Wu w książce Attention Merchants.

[14] Różne firmy, w tym Mozilla i Google Contributor, eksperymentują również z mikropłatnościami (Melendez, „Mozilla and Creative Commons”). Netflix także pragnie nakłonić nas do jak najdłuższego oglądania, by utrzymać wysoką liczbę subskrypcji, a nie by zaspokoić reklamodawców. Niektóre platformy oferują opcję płacenia za ograniczenie liczby reklam, lecz nieliczne gwarantują zaprzestanie śledzenia klientów, którzy wnoszą opłaty. Na przykład platformy biznesowe takie jak LinkedIn i Xing oferują opcję premium, która pozwala na dostęp do danych innych użytkowników (np. informacji o osobach odwiedzających naszą stronę), ale nie chronią naszych danych.

[15] Zagadnienie podniesienia kompetencji użytkowników omawiane jest w raporcie Komisji Europejskiej (Lewandowsky et al., Technology and Democracy). Zagrożeniami cyfrowymi dla dzieci zajmują się prywatne organizacje takie jak DQ Institute (Chawla, „Need for Digital Intelligence”).

[16] Ściśle mówiąc, miejsca reklamowe są sprzedawane na aukcji oferentom, dla których algorytm wylicza najwyższy zwrot dla firmy informatycznej, co zależy zarówno od oferty, jak i od oczekiwanej liczby użytkowników, którzy zobaczą reklamę lub w nią klikną. Reklamodawcy płacą Google’owi za kliknięcia, dlatego Google niewątpliwie pragnie, abyśmy klikali w reklamy.

[17] https://www.samsung.com/hk_en/info/privacy/smarttv/; Fowler, „You Watch TV”.

[18] https://www.searchenginewatch.com/2016/04/27/do-50-of-adults-really-not -recognise-ads-in-search-results/.

[19] Kawohl, Becker, Verfügen Deutsche Vorstände.

[20] „What to Make of Mark Zuckerberg’s Testimony”,„The Economist”.

[21] Rada Doradcza ds. Konsumenckich przy Federalnym Ministerstwie Sprawiedliwości i Ochrony Konsumentów. Fakt, że kontrola ocen zdolności kredytowej opierała się na raportach powstałych na zlecenie samych agencji kredytowych, został ujawniony przez dziennikarzy bawarskiego nadawcy publicznego Bayerischer Rundfunk.

[22] Zob. np. Inicjatywę 2045 (http://2045.com/ideology/). Niektórzy autorzy marzą o tym, by mogli wgrać swój mózg do tej ogromnej inteligencji, gdy się pojawi, i w ten sposób osiągnąć nieśmiertelność.

[23] Daniel, Palmer, „Google’s Goal”.

[24] Przesadne stwierdzenia dotyczące algorytmów nieoparte na dowodach można znaleźć na przykład w Yuval Noah Harari, Homo Deus. Podaję więcej przykładów w rozdziale 11.

[25] Z wachlarzem opinii można zapoznać się w Brockman, Possible Minds. Kahneman („Comment”, s. 609) stawia także pytanie, czy AI będzie ostatecznie zdolna robić wszystko, co robią ludzie: „Czy pozostanie coś, co jest zarezerwowane tylko dla człowieka? Szczerze mówiąc, nie widzę powodów, by stawiać granice temu, do czego będzie zdolna AI”. Dalej: „Tam, gdzie to możliwe, powinniśmy zastępować ludzi przez AI” (s. 610).

[26] Gigerenzer, Risk Savvy..

[27] Na temat cyklów strachu zob. Orben, „Sisyphean Cycle”.

Rozdział 1

[1] Anderson et al., „Upsides and Downsides”.

[2] Grzymek, Puntschuh, What Europe Knows and Thinks.

[3] Parship wydaje około 100 mln euro rocznie na reklamy telewizyjne, internetowe i billboardowe, na których profesjonalne modelki i modele pozują na singli. Theile, „Parship-Chef”.

[4] Deutsches Institut für Service-Qualität, „Kundenbefragung”.

[5] https://www.elitesingles.com.

[6] Cytowane w Finkel et al., „Online Dating”, s. 24.

[7] https://www.jdate.com/en/jlife/success-stories/shlomit-ryan.

[8] Finkel et al., „Online Dating”, s. 3.

[9] Epstein, „Truth About Online Dating”. Personel eHarmony przedstawił artykuł badawczy stwierdzający, że osoby, które poznały się przez eHarmony, są szczęśliwsze w małżeństwie niż te, które poznały się w inny sposób. Porównano jednak nowo zaślubione pary, które poznały się przez eHarmony (średni czas od ślubu: sześć miesięcy), z parami w grupie kontrolnej, które miały staż małżeński przekraczający średnio dwa lata. Artykuł nie przeszedł naukowego procesu recenzyjnego ani nie został opublikowany. Można się domyślić dlaczego.

[10] Gdy na przykład zwróciłem się do ElitePartner z prośbą o wywiad do tej książki, poproszono mnie o wcześniejsze wysłanie pytań. Przedstawiłem dziesięć pytań. Powiedziano mi, że nie odpowiedzą na połowę z nich, takich jak to, ilu nowych, płacących subskrypcję użytkowników dołącza każdego roku lub ilu użytkowników zakochuje się każdego roku. Wciąż oczekuję odpowiedzi na pozostałą połowę. Można wątpić w wiarygodność statystyk upublicznianych przez agencje randkowe; nierealistyczne twierdzenia przemysłu matrymonialnego analizowała Zoe Strimpel w „Matchmaking Industry”.

[11] Cacioppo et al., „Marital Satisfaction”.

[12] Danielsbacka et al., „Meeting Online”; Potarca, „Demography of Swiping Right”; Paul, „Online Is, Better than Offline”.

[13] Potarca, „Demography of Swiping Right”; Thomas, „Online Exogamy”; Brown, „Couples Who Meet Online”.

[14] Tinder również używa algorytmu, który jednak nie opiera się na profilach. Algorytm Tindera przyznaje każdemu użytkownikowi ocenę atrakcyjności opartą na tym, ile otrzymał przesunięć i od kogo.

[15] https://www.youtube.com/watch?v=m9PiPlRuy6E.

[16] Dla uproszczenia stosuję tutaj średnią arytmetyczną. Algorytm OKCupid oblicza średnią geometryczną, w której wartości są mnożone, a następnie wyciągany jest pierwiastek kwadratowy.

[17] Bruch, Newman, „Aspirational Pursuit of Males”.

[18] Rudder, Dataclysm.

[19] Buss, Evolutionary Psychology.

[20] Finkel et al., „Online Dating”, s. 30.

[21] Joel et al., „Is Romantic Desire Predictable?”

[22] Todd et al., „Different Cognitive Processes”. Zob. także Finkel et al., „Online Dating”.

[23] Montoya et al., „Is Actual Similarity Necessary”.

[24] Dyrenforth et al., „Predicting Relationship, Life Satisfaction”.

[25] Finkel et al., „Online Dating”, s. 44.

[26] Sales, American Girls.

[27] Epstein, „Truth About Online Dating”.

[28] Hancock et al., „Truth About Lying”.

[29] Hitsch et al., „Matching, Sorting in Online Dating”.

[30] Epstein, „Truth About Online Dating”.

[31] Epstein, „Truth About Online Dating”.

[32] Anderson, „Ugly Truth About Dating”.

[33] Epstein, „Truth About Online Dating”.

[34] Lea et al., Psychology of Scams, s. 42.

[35] Facebook zakazuje wprowadzającej w błąd reklamy, ale oszuści wykorzystują technikę o nazwie „przebieranie”, która polega na tym, że roboty Facebooka widzą nieszkodliwą treść, niepodobną do prawdziwych wiadomości czytanych przez ofiarę (Kayser-Bril, „Facebook Enables Automated Scams”).

[36] Office of Fair Trading, Wielka Brytania, Impact of Mass Marketed Scams.

[37] Whitty, Buchanan, „Online Dating Romance Scam”.

[38] Suarez-Tangil et al., „Automatically Dismantling Online Data Fraud”.

[39] Whitty, Buchanan, „Online Dating Romance Scam”.

[40] Tsvetkova et al., „Even Good Bots Fight”.

[41] Brown, „24 Victims of the Ashley Madison Hack”.

[42] Federal Trade Commission, „FTC Sues Owner of Online Dating Service”.

[43] Bostrom, Superintelligence, s. 211.

[44] Youyou et al., „Computer-Based Personality Judgments”.