Tytuł oryginału:
CODEPENDENT. Living in the Shadow of AI

Wydawca, redaktor prowadzący SZYMON LANGOWSKI

Redakcja GABRIELA NIEMIEC

Korekta MICHAŁ TRUSEWICZ, ANNA GĄDEK

Projekt okładki NICOLETTE SEEBACK RUGGIERO

Adaptacja projektu okładki AGNIESZKA SKŁODOWSKA

Projekt typograficzny i łamanie GRZEGORZ KALISIAK

Koordynatorka produkcji ALEKSANDRA KANICKA

Grafika na okładce © Bjorn Oberg/Shutterstock.com

Copyright © 2024 by Madhumita Murgia
Copyright for the Polish translation © by Michał Lipa 2025
Copyright © by Wydawnictwo PORT
imprint Wydawnictwa Marginesy 2025

Warszawa 2025
Wydanie pierwsze

ISBN 978-83-68380-16-3

Wydawnictwo PORT
imprint Wydawnictwa Marginesy
ul. Mierosławskiego 11A
01-527 Warszawa
tel. 48 22 663 02 75
kontakt@wydawnictwoport.pl

www.wydawnictwoport.pl

Konwersja: eLitera s.c.

Wprowadzenie

Nieco ponad dekadę temu, gdy dopiero zaczynałam przygodę z dziennikarstwem, zaciekawiły mnie cyfrowe obiekty określane niewinnie brzmiącym mianem cookies, czyli ciasteczka.

Wydawało mi się, że wiem, czym one są: umieszczonymi na moim urządzeniu fragmentami kodu, za pomocą których firmy internetowe identyfikują mnie i zbierają informacje o moich zachowaniach w sieci. Pojawiały się one za każdym razem, gdy wyświetlałam na telefonie lub komputerze jakąś stronę internetową, i domagały się zgody na pozostawienie za sobą śladu w postaci cyfrowych okruszków. Postanowiłam sprawdzić, dokąd on prowadzi.

Podczas pracy nad artykułem na ten temat dla magazynu „Wired”[1] wkroczyłam do oszałamiającego cyfrowego labiryntu, z którego wciąż jeszcze nie wydostałam się w pełni. Trafiłam do szemranego świata „brokerów danych” – tajemniczych firm gromadzących informacje na temat naszego cyfrowego życia i budujących na ich podstawie nadające się do sprzedaży profile, z których można się dowiedzieć, kim jesteśmy dzisiaj i kim staniemy się w przyszłości. Ostatecznie doszłam znacznie dalej, zgłębiając modele biznesowe najwyżej wycenianych firm technologicznych na świecie, zaliczanych do pojemnej kategorii Big Tech. Czerpią one zyski z tego samego rodzaju działalności: przekształcania naszego cyfrowego życia w skłębione chmury danych na sprzedaż.

Zanim jednak poszłam tym tropem, nie byłam do końca przekonana, czy chcę poświęcić kilka miesięcy na pisanie o zbiorach danych statystycznych. Chciałam, żeby ta historia była dla mnie bardziej namacalna – by obraz wyłaniający się z danych miał konkretne kształty. Dlatego postanowiłam zbadać profil osoby, którą dobrze znam: mój własny.

W tym celu nawiązałam kontakt z niewielkim start-upem z sektora zaawansowanych technologii, firmą Eyeota, która pokazała mi krok po kroku, jak wydobyć z przeglądarki internetowej informacje na mój temat, gromadzone przez podmioty zewnętrzne, a następnie je dla mnie rozszyfrowała.

Dobrze pamiętam tamto popołudnie, gdy w mojej skrzynce mailowej wylądował sporządzony przez Eyeotę mój kompletny zanonimizowany profil, zawierający między innymi ponaddwunastostronicowy raport na mój temat, sporządzony przez firmę ratingową Experian, najwyraźniej prowadzącą również działalność w dziedzinie obrotu danymi.

Analitycy z Experiana zaliczyli mnie do kategorii „błyskotliwa młoda osoba” – jednej z 64, którymi posługiwała się wówczas ta firma – oznaczającej młodych przedstawicieli wolnych zawodów, zajmujących mieszkania w dużych miastach.

Profil dotyczył 26-letniej Brytyjki azjatyckiego pochodzenia, zatrudnionej w branży medialnej i zamieszkałej w północno-wschodnim Londynie. Opisywał jej nawyki związane z oglądaniem telewizji (raczej treści dostępne na żądanie niż zwykła kablówka), preferencje żywieniowe (kuchnia tajska i meksykańska), a także ulubione zajęcia wieczorne i weekendowe. Zawierał również szczegółową analizę wydatków tej osoby, przeznaczonych głównie na posiłki w restauracjach i podróże, a nie na meble i samochody.

Profil sporządzony przez Eyeotę wyszczególniał także wszystkie wyjazdy urlopowe tej kobiety w poprzednim roku oraz zawierał informacje o zaplanowanej na najbliższą przyszłość podróży samolotem. Sformułowano w nim sugestię, że ta osoba nie ma dzieci ani kredytu hipotecznego i zwykle robi zakupy spożywcze w sklepie sieci Sainsbury’s (ale tylko dlatego, że mija go w drodze z pracy do domu). Autor przypuszczał również, że korzysta ona z pomocy sprzątaczki, która wchodzi do mieszkania pod jej nieobecność.

Oprócz opisu codziennych zajęć raport zawierał krótki fragment dotyczący „liberalnych poglądów” tej kobiety, w tym jej aspiracji zawodowych, sympatii politycznych oraz cech osobowości (optymistyczna, ambitna, niezbyt skłonna zmieniać zdanie pod wpływem innych osób).

Pamiętam, że przez ponad godzinę wczytywałam się zszokowana w tę charakterystykę osoby łudząco podobnej do mnie. Oczywiście dane nie odzwierciedlały rzeczywistości w stu procentach – brakowało wielu szczegółów, które sprawiają, że ja to ja – ale było jasne, że na podstawie danych wyekstrahowanych z mojej przeglądarki za pomocą ciasteczek udało się stworzyć mój rozpoznawalny cyfrowy cień.

Tekst, który opublikowałam w „Wired” w 2014 roku, ukazywał kulisy funkcjonowania branży generującej miliardy dolarów przychodu z działalności polegającej na zbieraniu, łączeniu w pakiety i sprzedawaniu szczegółowych profili opartych na naszych zachowaniach w sieci i poza nią – takich jak ten, który otrzymałam. Jak się okazało, trafiłam na trop lukratywnego biznesu czerpiącego zyski ze wszystkiego, co robimy w internecie.

Zaczęłam więc rozbierać na czynniki pierwsze strukturę tej kwitnącej branży. Szybko się przekonałam, że za każdym razem, gdy mam do czynienia z jakimś produktem internetowym – usługami takimi jak Mapy Google, Uber, Instagram czy płatność bezstykową kartą kredytową – moje kroki są rejestrowane przez „ciasteczka”. Jeśli połączy się te pozornie niewinne strzępki informacji z publicznie dostępnymi danymi, na przykład z ewidencji działalności gospodarczej czy rejestrów sądowych, a także informacjami na temat moich zakupów internetowych czy bieżącej lokalizacji, można stworzyć dość szczegółowy obraz mnie, zaczynając od płci i wieku, a kończąc na niuansach mojej osobowości i tego, w jaki sposób podejmuję decyzje.

Życie każdego człowieka – w tym moje i twoje – jest nieustannie przetwarzane w takie pakiety danych na sprzedaż. Staliśmy się produktami.

Kiedy dziesięć lat temu zajrzałam przelotnie za kulisy rodzącej się dopiero odmiany kapitalizmu, opartej na dyskretnej i wnikliwej obserwacji wszystkich obywateli, poczułam fascynację ilością danych, które generujemy poprzez sam fakt życia w nowoczesnym świecie, i tym, jak są one wykorzystywane.

Od tamtego momentu zajmuję się zawodowo opisywaniem różnych, nie tylko finansowych, aspektów działalności przedsiębiorstw zbudowanych na fundamencie tych zbiorów danych: gigantów takich jak Google, Meta i Amazon, zajmujących się rafinacją danych pozostawianych na ich platformach przez miliardy ludzi z całego świata. Firmy te nauczyły się eksplorować oceany danych i zarabiać na wykorzystywaniu ich w celu tworzenia spersonalizowanych rekomendacji, treści, reklam i produktów – przeznaczonych dla konkretnych grup odbiorców.

Na tym podłożu wyrosła nowa technologia, o której istnieniu dowiedziałam się w 2014 roku: sztuczna inteligencja. W ciągu ostatnich kilku lat definicja tego pojęcia ewoluowała i wielokrotnie się zmieniała, ale w istocie oznacza ono złożone oprogramowanie statystyczne służące do wyszukiwania schematów w obszernych zbiorach danych dotyczących realnego świata.

Gwałtowny rozkwit tej technologii w ostatnich latach był uwarunkowany trzema czynnikami: lawinowym wzrostem ilości dostępnych danych na temat ludzkich zachowań i ludzkiej kreatywności, dostępnością coraz potężniejszych układów scalonych potrzebnych do ich przetwarzania oraz konsolidacją sił kilku największych firm technologicznych, które były skłonne przeznaczyć znaczne zasoby na przyspieszenie jej rozwoju.

Giganci technologiczni, tacy jak Google i Meta, zaczęli stosować algorytmy maszynowego uczenia się w celu jak najbardziej precyzyjnego kierowania reklam, dzięki czemu wartość każdej z tych firm osiągnęła poziom biliona dolarów. Amerykańska psycholożka społeczna i filozofka Shoshana Zuboff nazwała ten lukratywny model biznesowy – polegający na monetyzacji danych osobowych – „kapitalizmem inwigilacyjnym”.

Brytyjski artysta James Bridle napisał z kolei w jednym ze swoich esejów: „Firmy te zarabiają pieniądze na ingerowaniu we wszystkie aspekty naszego codziennego życia, także w jego najbardziej intymne i twórcze sfery: nasze sekretne pasje, nasze prywatne rozmowy, nasze wizerunki i nasze marzenia”[2].

●

Żyjemy dziś w cieniu automatycznych systemów zbudowanych na fundamencie naszych danych, a ich wewnętrzne mechanizmy wpływają na kształt naszych osobistych więzi, dynamikę władzy w miejscu pracy i nasze relacje z państwem. Opieramy się na technologii algorytmicznej, tak jak kiedyś opieraliśmy się na sobie nawzajem, a styl życia ludzi na całym świecie powoli się do niej dostosowuje.

Kiedy otwierasz Mapy Google, aby wyznaczyć trasę porannego biegu w miejscu, w którym spędzasz wakacje, kiedy wywołujesz Alexę, rezerwujesz Ubera lub samojezdną taksówkę Waymo, za każdym razem masz do czynienia z jakąś formą sztucznej inteligencji. Treści w kanałach społecznościowych i reklamy dotyczące wakacyjnych wyjazdów golfowych lub odzieży dziecięcej są adresowane do ciebie z jej wykorzystaniem. Kiedy starasz się o pożyczkę w banku, to ona sprawdza twoją zdolność kredytową. O tym, jaką cenę zapłacisz za ubezpieczenie domu lub samochodu, decyduje sztuczna inteligencja. To ona coraz częściej analizuje wyraz twojej twarzy i wypowiedzi podczas rozmowy kwalifikacyjnej. Możliwe zresztą, że sam jej użyłeś do napisania podania o pracę. A jeśli kiedykolwiek wejdziesz w styczność z wymiarem sprawiedliwości, to sztuczna inteligencja może zdecydować o tym, czy wyjdziesz z aresztu za kaucją, czy trafisz do więzienia.

Oprogramowanie oparte na sztucznej inteligencji pomaga specjalistom w podejmowaniu decyzji dotyczących między innymi diagnoz medycznych, opieki społecznej, udzielania kredytów hipotecznych i pożyczek, a także zatrudniania i zwalniania pracowników. Naukowcy zajmujący się chemią, biologią, genetyką i innymi dziedzinami nauk ścisłych korzystają z niego w celu przyspieszenia badań naukowych[3].

W ciągu ostatniego roku byliśmy świadkami narodzin nowej odmiany AI: generatywnej sztucznej inteligencji, czyli oprogramowania zdolnego do tworzenia tekstów, obrazów oraz materiałów dźwiękowych i filmowych, które często trudno odróżnić od rezultatów pracy człowieka. Generatywna sztuczna inteligencja jest zbudowana na fundamencie ludzkiej kreatywności, szkolona na zdigitalizowanych książkach, gazetach, blogach, fotografiach, dziełach sztuki, muzyce, filmach z YouTube’a, postach z Reddita, obrazach z serwisu Flickr i przeogromnych zasobach anglojęzycznego internetu. Pochłania tę wiedzę i jest w stanie generować własne, wypaczone wersje ludzkich dzieł, zachwycając nas swoją zdolnością do remiksowania i przerabiania tego, co sami stworzyliśmy.

Wielu z nas kojarzy dziś sztuczną inteligencję z usługą o nazwie ChatGPT – stroną internetową, która potrafi udzielać szczegółowych odpowiedzi na zapytania sformułowane w języku naturalnym. To nasze pierwsze bezpośrednie zetknięcie z tą technologią, o tyle bardziej spektakularne, że AI może teraz „rozmawiać” z nami, używając naszego własnego sposobu komunikacji: mowy ludzkiej.

To doniosła zmiana w naszych relacjach z maszynami. Skoro nowa odmiana sztucznej inteligencji może wyrażać się za pomocą słów oraz obrazów, a do tego jest szkolona na podstawie naszych dokonań naukowych i twórczych, może z łatwością manipulować naszymi nastrojami i emocjami, a także zdecydowanie bardziej przekonująco niż do tej pory podpowiadać nam, co mamy myśleć i jak się zachowywać.

W ciągu ostatniej dekady nieraz już widziałam, jak sztuczna inteligencja podstępnie wkracza w nasze życie. Przystępując do pisania tej książki, chciałam znaleźć przykłady rzeczywistych interakcji człowieka z tą technologią, które dobitnie pokazywałyby konsekwencje naszego uzależnienia od automatycznych systemów. Szybki rozwój generatywnej sztucznej inteligencji sprawił, że potrzeba ta stała się oczywista i pilna. Od kilkunastu miesięcy obserwujemy rosnący wpływ technologii takich jak ChatGPT na ludzi: na naszą pracę, edukację dzieci i twórczość. Niemniej sztuczna inteligencja wpływa także na inne ważne aspekty funkcjonowania społeczeństw: opiekę zdrowotną, ochronę bezpieczeństwa publicznego, systemy zabezpieczenia społecznego i działania wojenne. To wywołuje dalekosiężne skutki i trwałe zmiany społeczne. Wpływa na kształt doświadczenia bycia człowiekiem. O tym właśnie jest ta książka.

●

Podczas pracy w magazynie „Wired” stałam się zagorzałą entuzjastką nowoczesnych technologii. Gdy codziennie pisze się o modyfikowaniu DNA, latających samochodach, drukowaniu baz księżycowych na drukarkach 3D oraz możliwości połączenia mózgu z maszyną, nie sposób nie ulec fascynacji ludzką pomysłowością i stopniem zaawansowania naszych wynalazków. Zauroczyli mnie również sami innowatorzy: szaleni wynalazcy, zuchwali przedsiębiorcy i irracjonalni marzyciele.

Kiedy zatem przystępowałam do gromadzenia materiałów do tej książki, spodziewałam się znaleźć historie o tym, jak sztuczna inteligencja rozwiązuje przytłaczające nas problemy, podejmuje onieśmielające wyzwania i w spektakularny sposób polepsza ludzki los. W końcu wiele lat temu nauczyłam się wierzyć, że wszystkie nowoczesne technologie niosą ze sobą taką obietnicę.

Wybrani przeze mnie bohaterowie tej opowieści pozornie nie mają ze sobą nic wspólnego: lekarka z indyjskiej prowincji, kurier dowożący posiłki w Pittsburghu, afroamerykański inżynier, mieszkająca w Sofii uchodźczyni z Iraku, brytyjska poetka, argentyńska urzędniczka, samotna matka z Amsterdamu, chińska aktywistka na wygnaniu oraz ksiądz z Rzymu. Kiedy jednak zaczęłam łączyć te indywidualne wątki, dostrzegłam, że splatają się w spójny wzór. W jego centrum może się znaleźć każdy z nas.

Każda z tych historii może dotyczyć ciebie albo mnie. Systemy oparte na sztucznej inteligencji będą w coraz większym stopniu wpływały – o ile jeszcze tego nie robią – na nasze zdrowie, pracę i finanse, na życie naszych dzieci i rodziców, sposób korzystania z usług publicznych, a także zakres naszych swobód obywatelskich.

Chciałam zadawać proste pytania odnoszące się do ludzkich odczuć. Jak to jest, kiedy się „rozmawia” z komputerem? Czy mamy wybór między kontaktem z człowiekiem a interakcją z maszyną? Jakie uczucia towarzyszą wprowadzaniu w czyn doniosłej życiowej decyzji podjętej za pomocą aplikacji? Co trzeba wiedzieć, żeby zaufać sztucznej inteligencji? Skąd wiadomo, kiedy jej nie ufać?

W poszukiwaniu odpowiedzi trafiłam do odległej wioski w Indiach i na przedmieścia Filadelfii, odwiedziłam północną Argentynę i zawitałam do Nairobi. W każdym z tych miejsc miałam okazję zaobserwować, w jaki sposób wszechobecne automatyczne systemy kształtują życie różnych społeczności. Wszystkie opisane osoby doświadczają niezamierzonych konsekwencji oddziaływania sztucznej inteligencji na ludzkie poczucie własnej wartości, kształt relacji rodzinnych, funkcjonowanie społeczności oraz rozwój kultury. Mam nadzieję, że na bazie ich doświadczeń zdołamy sformułować odpowiedź na podstawowe pytanie: jak sztuczna inteligencja wpływa na samą istotę bycia człowiekiem.

●

Mozaika historii, które ułożyły się w dość mroczny wzór, wystawiła jednak na próbę mój optymizm w kwestii nowoczesnych technologii.

Z rozmysłem skupiłam się na ludziach spoza Doliny Krzemowej – żyjących w dużym oddaleniu od tego ośrodka technologicznej władzy, a mimo to odczuwających skutki wdrażania rozwiązań opartych na sztucznej inteligencji. Odkrywając jedna po drugiej ich historie, nie mogłam jednak ignorować faktu, który coraz bardziej rzucał się w oczy: że władza jest skupiona w rękach kilku firm, trzymających wszystkie karty[4].

Gdy zaczęłam drążyć kwestię tej dysproporcji, trafiłam na książkę Nicka Couldry’ego i Ulisesa A. Mejiasa The Costs of Connection (Koszty połączenia) oraz zaproponowane przez nich pojęcie kolonializmu danych. Przedmiotem opisywanego przez nich kolonialnego zaboru jest dziś ludzkie życie, konwertowane na nieprzerwane strumienie informacji. W tym niekończącym się przepływie danych autorzy dostrzegają historyczne analogie do dawnego kolonializmu. Nierówności będące pozostałością dawnych podbojów wciąż bowiem rosną, a ekstrakcja danych ze społeczeństwa jest niczym innym jak nową formą grabieży i ucisku.

Couldry zwraca uwagę na los „pracowników aplikacji” – ludzi dorywczo świadczących usługi za pośrednictwem takich narzędzi jak Uber, Deliveroo czy DoorDash[1*] – których źródło utrzymania i poziom życia zależą od podejmowanych przez algorytmy decyzji dotyczących między innymi rozdzielania zleceń, wysokości wynagrodzeń i kontynuowania współpracy z poszczególnymi osobami. „To prawdziwa tyrania” – powiedział podczas rozmowy ze mną. „Są tu do rozstrzygnięcia kwestie moralne odnoszące się do granic, które musimy utrzymać, żeby wciąż mieć coś z życia. Pracownicy w Brazylii, Indiach, Chinach cały czas się z tym zmagają. Ten problem nabrzmiewa nawet w Stanach Zjednoczonych, choć z perspektywy San Francisco może jeszcze tego nie widać”.

Takie ujęcie tematu było dla mnie objawieniem. Powoli zaczęłam dostrzegać, co łączy opisywane przeze mnie osoby – jak na obrazie z polaroida, powoli wyłaniającym się z mglistych zarysów i nabierającym barw oraz ostrości. Moim oczom ukazał się schemat obejmujący uwikłanych w algorytmy, pozornie niemających ze sobą nic wspólnego ludzi z różnych miejsc i stref czasowych – schemat w gruncie rzeczy przewidywalny i opisywany przez niewielką, lecz stale rosnącą grupę naukowców z różnych stron świata. Nazwiska niektórych osób zajmujących się tą tematyką od samego początku były mi znane: Timnit Gebru, Joy Buolamwini, Kate Crawford, Meredith Whittaker, Virginia Eubanks[5] i Safiya Umoja Noble[6]. Wszystkie były kobietami i specjalizowały się w badaniu ogromnych szkód, jakie sztuczna inteligencja wyrządza marginalizowanym grupom społecznym.

Czytając ich prace i sięgając po cytowane źródła, odkryłam grupę autorek mniej znanych ogółowi odbiorców. Były to głównie kolorowe kobiety spoza posługującego się angielszczyzną świata zachodniego: Paola Ricaurte[7] z Meksyku, prowadząca badania w Etiopii Abeba Birhane, Urvashi Aneja z Indii oraz latynoamerykańskie naukowczynie Milagros Miceli i Paz Peña. Wszystkie one widziały na własne oczy, jak dyskryminacja i nierówności społeczne wpływają destrukcyjnie na ich społeczności, a wiele z nich żyje na co dzień w miejscach opisanych w tej książce.

W swoich pracach nieraz dochodziły do takich samych wniosków jak piszący o kolonializmie danych Couldry i Mejias. Systemy, których skalę można bez przeszkód zwiększać w nieskończoność, są budowane z myślą o korzyściach dla ogółu i zazwyczaj faktycznie działają dla dobra większości ludzi, lecz kosztem pewnych grup – zwykle osób i społeczności już wykluczonych, bytujących na mglistych obrzeżach społeczeństwa i walczących o to, by je dostrzeżono i usłyszano. Na przykładzie losów ludzi opisanych w tej książce mogłam się przekonać, jak bardzo szkodliwy wpływ wywierają systemy oparte na sztucznej inteligencji na kobiety, osoby ciemnoskóre, migrantów i uchodźców, mniejszości religijne, biednych i wykluczonych, a to nie jest kompletna lista poszkodowanych.

Istoty ludzkie i niekończące się łańcuchy kodu komputerowego są połączone relacją współzależności. Brak wiedzy o zasadach funkcjonowania systemów sztucznej inteligencji uniemożliwia nam zorientowanie się, gdzie coś działa niewłaściwie i wyrządza szkody ludziom, zwłaszcza najbardziej bezbronnym. Z drugiej strony systemy pozbawione wiedzy o ludzkiej naturze, preferencjach etycznych, historii i istocie człowieczeństwa nie będą w stanie właściwie nas wspierać.

●

Siła modeli maszynowego uczenia się wynika z możliwości wykrywania relacji statystycznych, które często są niedostrzegalne dla człowieka. One same – a nie tworzący je ludzie – określają swoje metody postępowania i sposoby podejmowania decyzji. Dlatego modele te często nazywa się czarnymi skrzynkami. Ta cecha sprawia, że są rzekomo bardziej obiektywne niż ludzie, ale ich rozumowanie jest często nieprzejrzyste i sprzeczne z ludzką intuicją, nawet w ocenie ich twórców.

Na przykład autorzy algorytmów do diagnozowania zakażeń covidem użyli jako grupy kontrolnej obszernej bazy zdjęć rentgenowskich przedstawiających zwykłe zapalenie płuc – jak się okazało, pochodzących od dzieci w wieku od jednego do pięciu lat. W rezultacie stworzone modele nauczyły się odróżniać płuca dzieci od płuc dorosłych, a nie płuca dotknięte covidem od płuc zajętych zwykłym zapaleniem[8]. Systemy tego typu są tajemniczymi bytami o nieznanych ścieżkach rozumowania.

Nie dość, że automatyczne systemy są nieprzeniknione od strony technicznej, to jeszcze ludzie, na których życie mają one największy wpływ, rzadko zdają sobie sprawę z tej tajemniczości. Sposób, w jaki wprowadzono algorytmy do naszego społeczeństwa, spowodował erozję indywidualnej autonomii człowieka, ale także zmniejszył siłę i decyzyjność instytucji reprezentujących nasze interesy, a zatem doprowadził do transfiguracji całego społeczeństwa.

Osobom świadomym tego, że jakieś algorytmy podejmują decyzje wpływające na ich życie, zwykle odmawia się wiedzy o wewnętrznym działaniu systemów (z punktu widzenia prywatnych firm – stanowiącym ich własność intelektualną), a ślepa wiara instytucji publicznych w skuteczność oprogramowania lub zwykła niewiedza urzędników utrudniają tym ludziom dochodzenie sprawiedliwości. Gdy komputer czegoś nam odmawia, wpadamy w błędne koło.

Utrata poczucia autonomii i kontroli sprawia, że trudniej wziąć odpowiedzialność za własne postępowanie. Trudno też przypisać winę i wymierzyć karę osobom lub korporacjom, które przerzucają odpowiedzialność na oprogramowanie korzystające ze sztucznej inteligencji. W końcu maszyny nie da się postawić przed sądem.

W latach 80. XX wieku stanfordzki psycholog Albert Bandura uznał poczucie własnej skuteczności – przekonanie o tym, że mamy kontrolę nad własnymi działaniami i ich konsekwencjami – za wrodzoną cechę ludzkiej natury i nieodłączny czynnik ewolucji naszego gatunku. Jak mówił, człowiek kształtuje swoje okoliczności życiowe i otoczenie społeczne, a nie jest wyłącznie ich wytworem[9].

Bandura dowodził, że ludzie wywierają wpływ na otoczenie na trzy sposoby: osobiście, przez przedstawicieli oraz jako kolektyw. W ogólnym sensie przedstawicielami są osoby posiadające specjalistyczną wiedzę lub zasoby – jak lekarze, funkcjonariusze aparatu przymusu lub członkowie wybieralnych władz – wskazane przez nas, by wypowiadać się w naszym imieniu, natomiast kolektyw dysponuje wspólną pulą wiedzy i środków nacisku, by kształtować lepszą przyszłość dla wszystkich swoich członków.

Filozofowie uważają, że w ostatecznym rozrachunku wolność człowieka zależy od siły poczucia własnej skuteczności – od zdolności postrzegania podejmowanych działań i odczuwanych pragnień jako własnych, a także przekonania o posiadanej swobodzie kreowania zmian. Systemy sztucznej inteligencji w mniejszym lub większym stopniu na wiele różnych sposobów naruszają to poczucie, wywołując w nas wrażenie osłabienia własnej sprawczości, a w skrajnych przypadkach – nawet utraty wolnej woli.

Jako społeczeństwo znaleźliśmy się więc w kłopotliwym położeniu. Sposób zarządzania sztuczną inteligencją i innymi algorytmami statystycznymi w nadchodzących latach będzie miał ogromny wpływ na nas wszystkich. Brakuje nam jednak narzędzi do kontrolowania nadchodzących zmian. Nie do końca nawet rozumiemy, na czym ten wpływ będzie polegał. Nie potrafimy zdecydować, jakie wartości moralne chcemy zakodować w tych systemach. Nie możemy dojść do porozumienia w kwestii tego, jakie mechanizmy kontrolne chcemy narzucić systemom AI. Kolektywnie zrzekamy się własnego autorytetu moralnego na rzecz maszyn.

Paradoksalnie systemy sztucznej inteligencji doprowadziły jednak nieoczekiwanie do wzmocnienia kolektywnego poczucia sprawstwa. Kiedy bowiem ludzie poczuli się ograbieni z indywidualnej zdolności do kierowania własnym postępowaniem i własną uwagą, zdali sobie sprawę z nieodłącznych cech zautomatyzowanych systemów (takich jak nieprzejrzystość, brak elastyczności, nieustanna zmienność i brak uregulowania) i zaczęli łączyć się w grupy, by walczyć z maszynami o odzyskanie poczucia człowieczeństwa.

Refleksja nad triumfalnym pochodem sztucznej inteligencji umożliwia dostrzeżenie dysproporcji sił i ruch w stronę przywrócenia równowagi. Mam nadzieję, że doświadczenia ludzi opisanych w tej książce wyrwą nas z objęć lęku i skłonią do odzyskania poczucia własnej skuteczności i szacunku do samych siebie. W końcu czy bez tego wciąż jeszcze będziemy ludźmi?

Zapraszamy do zakupu pełnej wersji książki

Przypisy

Wprowadzenie

[1] Madhumita Venkataramanan, My Identity for Sale, „Wired”, 30 października 2014, https://www.wired.co.uk/article/my-identity-for-sale (dostęp: 20 grudnia 2024).

[2] James Bridle, The Stupidity of AI, „The Guardian”, 16 marca 2023, https://www.theguardian.com/technology/2023/mar/16/the-stupidity-of-ai-artificial-intelligence-dall-e-chatgpt#:~:text=They_enclosed_our_imaginations_in,new_kinds_of_human_connection (dostęp: 20 grudnia 2024).

[3] Hanchen Wang i in., Scientific Discovery in the Age of Artificial Intelligence, „Nature” 2023, vol. 620, no. 7972, s. 47–60, https://doi.org/10.1038/s41586-023-06221-2 (dostęp: 20 grudnia 2024).

[4] Meredith Whittaker, The Steep Cost of Capture, „Interactions” 2021, vol. 28, no. 6, s. 50–55, https://doi.org/10.1145/3488666 (dostęp: 20 grudnia 2024).

[5] Virginia Eubanks, Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor, St Martin’s Press, New York 2018.

[6] Safiya Noble, Algorithms of Oppression: How Search Engines Reinforce Racism, NYU Press, New York 2018.

[7] Paola Ricaurte, Data Epistemologies, The Coloniality of Power, and Resistance, „Television & New Media” 2019, vol. 20, no. 4, s. 350–365, https://doi.org/10.1177/1527476419831640 (dostęp: 20 grudnia 2024).

[8] Michael Roberts i in., Common Pitfalls and Recommendations for Using Machine Learning to Detect and Prognosticate for COVID-19 Using Chest Radiographs and CT Scans, „Nature Machine Intelligence” 2021, vol. 3, no. 3, s. 199–217, https://doi.org/10.1038/s42256-021-00307-0 (dostęp: 20 grudnia 2024).

[9] Albert Bandura, Toward a Psychology of Human Agency, „Perspectives on Psychological Science” 2006, vol. 1, no. 2, s. 164–180, https://doi.org/10.1111/j.1745-6916.2006.00011.x (dostęp: 20 grudnia 2024).

[1*] Deliveroo i DoorDash to firmy pośredniczące w zamawianiu i dostarczaniu jedzenia (przyp. tłum.).