Dominika Kozłowska

Rozmawiajmy o algorytmach

WOJNA W UKRAINIE POSTAWIŁA PRZED SPOŁECZNOŚCIĄ międzynarodową pilne wyzwania związane z przestrzeganiem praw człowieka i pociągnięciem zbrodniarzy wojennych do odpowiedzialności. Nie powinno nam to jednak przesłaniać dyskusji o przyszłości praw człowieka w kontekście procesów technologicznych. W manifeście Jeder Mensch (Każdy człowiek) Ferdinand von Schirach, niemiecki adwokat i pisarz, proponuje dodanie sześciu nowych praw do Karty Praw Podstawowych Unii Europejskiej. Są to: 1) prawo do czystego środowiska, 2) prawo do cyfrowego samostanowienia, 3) zakaz nadmiernego wykorzystywania algorytmów, 4) prawo do prawdy, 5) zakaz oferowania towarów wytworzonych z naruszeniem praw człowieka, 6) prawo dostępu do sądów europejskich w przypadku systemowego łamania praw człowieka. Celem tego manifestu jest w pierwszej kolejności przemyślenie, jakie rzeczywiście prawa aktualnie posiadamy i w jakich obszarach niezbędna jest większa ochrona. W Niemczech ta niewielka książeczka przez wiele tygodni nie schodziła z listy bestsellerów tygodnika „Der Spiegel”. Również w innych krajach postulaty te zyskują oddźwięk i stają się punktem wyjścia do ogólnospołecznej dyskusji. Artykuły 2. i 3. są niezwykle ciekawym uzupełnieniem dla problemów poruszonych w październikowym Temacie Miesiąca.

W kontekście politycznym szczególne kontrowersje wywołują oparte na algorytmach i pozostawione w sieci dane użytkowników reklamy odwołujące się np. do określonych skłonności, uprzedzeń lub lęków społecznych, z czym mieliśmy do czynienia podczas poprzednich wyborów prezydenckich w Stanach Zjednoczonych lub w trakcie kampanii poprzedzającej referendum ws. brexitu. Podobnie, jak metody wpływania na działanie mózgu lub wykorzystujące przejściowe stany umysłu (np. złość, smutek), stosowane nie w interesie danej osoby, lecz w celu osiągnięcia określonych korzyści przez nadawcę reklamy.

Równie istotna debata dotyczy przejrzystości, weryfikowalności i wolności od dyskryminujących schematów algorytmów stosowanych w coraz większych obszarach życia publicznego (sądy, policja, usługi społeczne i zdrowotne). W tym kontekście pojawiają się np. postulaty, że państwo powinno publikować kody źródłowe wykorzystywanych algorytmów, jeśli ich stosowanie może się wiązać z negatywnymi konsekwencjami dla obywateli. Kryteria ich działania i wagi przypisywane przez nie poszczególnym danym w procesie uczenia maszynowego muszą być zrozumiałe. Z kolei weryfikowalność oznacza również wdrożenie procedur umożliwiających sprawdzanie decyzji podjętych za pomocą zautomatyzowanych procedur.

Wydarzenia ostatnich lat ujawniły z całą mocą, jak niezbędną funkcję dla zachowania demokracji i pokoju pełnią dziś opinia publiczna oraz niezależne elity złożone z zaangażowanych obywateli. Umiejętność rozumienia skomplikowanych zjawisk i procesów kształtujących naszą nową rzeczywistość jest sprawą decydującą o przyszłości naszego życia. Żadna książka, ani najmądrzejsze nawet artykuły nie zmienią naszej rzeczywistości, ale być może zrobią to ludzie, którzy je czytają. — Z

ul. Tadeusza Kościuszki 37, 30-105 Kraków
tel. (12) 61 99 530, fax (12) 61 99 502
e-mail: miesiecznik@znak.com.pl
www.miesiecznik.znak.com.pl

redakcja: Mateusz Burzyk (sekretarz redakcji), Michał Jędrzejek, Ewelina Kaczmarczyk, Karol Kleczka, Ilona Klimek, Dominika Kozłowska (redaktor naczelna), Janusz Poniewierski, Agnieszka Rzonca, Henryk Woźniakowski

zespół: Michał Bardel, Wojciech Bonowicz, Halina Bortnowska, Bohdan Cywiński, Bartłomiej Dobroczyński, Tomasz Fiałkowski, Tadeusz Gadacz, ks. Michał Heller, Jerzy Illg, Piotr Kłodkowski, Maria Makuch, Janina Ochojska-Okońska, abp Grzegorz Ryś, Władysław Stróżewski, Karol Tarnowski, Łukasz Tischner, Stefan Wilkanowicz

współpraca: Ewa Bolińska- Gostkowska, Andrzej Brzeziecki, Marta Duch-Dyngosz, Monika Gałka, Krzysztof Kornas, Dobrosław Kot, Elżbieta Kot, Daniel Lis, Artur Madaliński, Marek Maraszek, Anna Marchewka, Anna Mateja, Andrzej Muszyński, Małgorzata Nocuń, Urszula Pieczek, ks. Eligiusz Piotrowski, Marcin Wilk, Edyta Zielińska, Marcin Żyła

projekt graficzny pisma: Władysław Buchner, Rafał Buchner

dyrektor artystyczny: Władysław Buchner

fotoedycja: Marcin Kapica

korekta: Barbara Gąsiorowska, Magdalena Wołoszyn-Cępa

ilustracje portretowe: Patrycja Podkościelny

promocja i reklama:
tel. (12) 61 99 530
e-mail: miesiecznik@znak.com.pl

prenumerata:
tel. (12) 61 99 561
e-mail: prenumerata@znak.com.pl

Redakcja nie zwraca tekstów niezamówionych oraz zastrzega sobie prawo ich redagowania i skracania. Redakcja nie odpowiada za treść zamieszczanych ogłoszeń. Rozpowszechnianie redakcyjnych materiałów publicystycznych bez zgody wydawcy jest zabronione.

Na zlecenie Woblink

woblink.com

plik przygotował Karol Ossowski

Temat Miesiąca

Historia nieludzkiej przyjaźni

■ Alicja Vikander w filmie Ex machina (2015)
fot. Capital Pictures/East News

Jeszcze do niedawna rzeczywistość zapośredniczona przez komputerowe algorytmy wydawała się scenariuszem rodem z science fiction. Dziś nie możemy się bez nich obejść: pozwalają czuć się zrozumianym, oferują rozrywkę i pomoc w robieniu zakupów czy sprzątaniu domu.

Do rewolucyjnej przemiany doprowadziło upowszechnienie Internetu i mediów społecznościowych. Skrócił się dzięki temu dystans do źródeł wiedzy, rozwinęły się nasze możliwości poznawcze, lecz jednocześnie pogłębiły się istniejące podziały, a tzw. bańki społecznościowe budują nam wypaczony obraz świata. Maszynowe uczenie się preferencji udostępnianych w sieci przez użytkowników przekłada się zarówno na nasze wybory konsumenckie, jak i decyzje polityczne. Związek z algorytmami to historia skomplikowanej przyjaźni, która jak każda relacja zmienia nas samych.

Co zyskaliśmy dzięki algorytmom? W jakim stopniu wpływają one na nasz światopogląd? Kiedy technologia dyskryminuje, a kiedy wyzwala? Czym przyciąga nas TikTok?

Odpowiadają:
Jan Jęcz, Michał R. Wiśniewski, Ewa Drygalska, Łukasz Lamża i Dominika Słowik

Życie codzienne z algorytmami

Jan Jęcz

Algorytmy to po prostu zestaw instrukcji krok po kroku, które należy wykonać w sposób dość mechaniczny, aby osiągnąć pożądany rezultat. Towarzyszą nam od zarania ludzkości – ale dziś oplatają całe nasze życie. Czy powinniśmy się tego bać?

Gdy na początku XXI w. zacząłem żeglować po internecie, wciąż jeszcze przypominał raczej archipelag niż świat wielkich platform-kontynentów. Dryfując na falach wyników wyszukiwarki Google, odwiedzałem atol gier LEGO i wyspy angielskiego futbolu. Nie interesowały mnie przyczyny, dla których pożądane przeze mnie strony unosiły się na powierzchni, inne zaś leżały zatopione w głębinach piątej czy piętnastej strony rezultatów. Najważniejsze było, że ktoś nawigował mnie do celu.

Na przełomie pierwszej i drugiej dekady XXI w. internet zaczął ulegać „platformizacji”, a ja znalazłem się w epicentrum ruchów tektonicznych. W nowych światach panowały nowe zasady. Zamiast dostarczać autorskie treści, platformy dystrybuowały wytwory kreatywności swoich użytkowników. Nowo powstała branża speców od mediów nazwanych społecznościowymi oferowała recepty na wiralność, gwarancje, że posty rozprzestrzeniać się będą po całym internecie. Pozornie nowoczesne panacea w składzie miały jednak raczej chleb z pajęczyną. Logika platform pozostawała tajemnicą. Systemy rekomendujące filmy na YouTube znikąd wzbogacały polszczyznę o frazy pokroju „daj kamienia” czy „jestem hardkorem”. Po wielkiej emigracji ze swojskiej Naszej Klasy na facebookową obczyznę kwitnąć zaczęły kariery wyrosłe na zasięgach podarowanych przez niewidzialną rękę wolnego postingu, mechanizmy zarządzające widocznością postów. A wolne szczeliny platformowych interfejsów niczym chwasty porastały reklamy, niepokojąc dokładnością, z jaką odzwierciedlały potrzeby i zachcianki.

Choć wiele z tych spraw niepokoiło, chciałem być częścią szumnie zapowiadanej „rewolucji web 2.0”. Ujścia twórczych popędów i popularności szukałem, głównie śmieszkując. Tworzone i współtworzone przeze mnie facebookowe profile radziły sobie nieźle, żarty z pozytywizmu (Pozytywistyczna wibracja) oraz mariaże polskiego malarstwa z rodzimym rapem (Sztuka Rymotwórcza) okazały się nośnymi konceptami. Kierowany ciekawością i ambicją, chciałem poznać arkana wiralności, czarować zasięgi, zrozumieć ukrytą logikę portali społecznościowych. Zacząłem uczyć się nazywać siły, których machinacje czułem dotąd podświadomie: algorytmy, profilowanie, kapitalizm nadzoru.

To historia mało spektakularna. Długo rozważałem, czy nie zacząć hitchcockowsko, od dojmującej opowieści o jednej z ofiar algorytmicznej dyskryminacji czy katastrofie wywołanej podjętą przez automat decyzją. Koncentracja na tych historiach może jednak tworzyć wrażenie, że bycie poddanym działaniu algorytmów to coś wyjątkowego, co przydarza się nielicznym. Chciałbym przeciwstawić się tej narracji. Nie trzeba dramatycznego olśnienia rodem z drogi do Damaszku czy filmów sióstr Wachowskich, by zdać sobie sprawę, że algorytmy wpisały się w rytm naszego życia.

Od Babilonu do Deep Blue

Zanim zaczniemy odcyfrowywać algorytmy, warto je najpierw „odcyfrowić”. Umieścić w szerszym planie, wykraczającym daleko poza powstanie internetu. „Algorytmy towarzyszą nam od zarania dziejów i istniały na długo przed tym, jak ukuto specjalne słowo do ich opisania – piszą we wstępie do książki A History of Algorithms: From the Pebble to the Microchip (Historia algorytmów. Od otoczaka do mikroczipa) jej autorzy. – Algorytmy to po prostu zestaw instrukcji krok po kroku, które należy wykonać w sposób dość mechaniczny, aby osiągnąć jakiś pożądany rezultat. (...) Babilończycy stosowali je do rozstrzygania zagadnień prawnych, nauczycielom łaciny służyły do prawidłowego stosowania gramatyki, a we wszystkich kulturach wykorzystywano je do przewidywania przyszłości, podejmowania decyzji o leczeniu czy przygotowywania posiłków. Każdy z nas używa dziś algorytmów tego czy innego rodzaju, często nieświadomie, gdy postępuje zgodnie z przepisem, korzysta z wzorów do robienia na drutach lub obsługuje domowe gadżety”.

Przez tysiące lat role w rozwijaniu nauki nazywanej dziś algorytmiką odegrali najwięksi matematycy w historii – od Euklidesa po Eulera. Wydaje się jednak, że najważniejszym wydarzeniem było pojawienie się na scenie dramatu aktora, by użyć określenia Brunona Latoura, „nieludzkiego”, a mianowicie komputera. Powszechnie przyjmuje się, że wprowadził go tam w 1936 r. Alan Turing, choć pamiętać należy także o XIX-wiecznych prekursorach: Charlesie Babbage’u, autorze koncepcji maszyny różnicowej, oraz Adzie Lovelace, pionierce programowania.

Dla Turinga komputerem był… człowiek. Miał on obsługiwać maszynę służącą do wykonywania algorytmów. Matematyk dopuszczał jednak, że w przyszłości czynnik ludzki może okazać się zbędny, a maszyna będzie obsługiwała siebie sama. Jak piszą autorzy A History of Algorithms: „Maszyna Turinga jest (…) formalizacją intuicyjnej idei tego, co robimy podczas wykonywania algorytmu obliczeniowego”. Abstrakcyjny początkowo koncept stał się kamieniem węgielnym dla rozwoju nie tylko algorytmiki, ale informatyki w ogóle. Wpływ angielskiego naukowca na współczesne algorytmy sięga jednak dużo głębiej. Jak wykazuje Paweł Łupkowski w pracy Turing’s 1948 „Paper Chess Machine” Test as a Prototype of the Turing Test („Papierowa maszyna szachowa” Turinga jako prototyp dla testu Turinga), eksperymenty Turinga z algorytmem do gry w szachy stanowiły wstęp do rozważań nad ideą sztucznej inteligencji i sformułowania słynnego testu Turinga. Polega on na rozmowie człowieka sędziego z maszyną. Jeśli ten pierwszy nie potrafi stwierdzić, czy ma do czynienia z istotą ludzką, maszyna przechodzi test. Sytuację gry w szachy z algorytmem uznać można za jego pierwowzór.

W 2012 r., z okazji 100. rocznicy urodzin Turinga, ze zrekonstruowaną wersją jego algorytmu noszącego nazwę „Turochamp” zmierzył się Garri Kasparow. Nie był to pierwszy raz, gdy rosyjski arcymistrz toczył pojedynek z nieludzkim przeciwnikiem. W 1997 r. stanął twarzą w ekran z superkomputerem Deep Blue. Przegrana „reprezentanta ludzkości” była wielkim wydarzeniem medialnym. Jak pisze Hannah Fry, autorka książki Hello world. Jak być człowiekiem w epoce maszyn, moment ten wyznaczył „początek epoki algorytmów”.

■ Decydująca partia pojedynku szachowego Gariego Kasparowa z komputerem Deep Blue, cały mecz maszyna wygrała 3,5 do 2,5, Nowy Jork, 11 maja 1997 r.
fot.Stan Honda / AFP / East News

Cyfrowy moment dziejowy

O tym, że żyjemy w tej epoce, nie świadczy bynajmniej sama możliwość obcowania z coraz potężniejszymi algorytmami komputerowymi. Rozwój technologii idzie w parze z bezprecedensowymi zmianami społecznymi, które czynią nasze czasy wyjątkowymi.

Po pierwsze, wyjątkowa jest skala ingerencji algorytmów w codzienność. Jak pisze Fry: „Algorytmy, niewidzialne fragmenty kodu tworzące konstrukcję i mechanikę współczesnej ery maszyn (…), stanowią część naszej nowoczesnej infrastruktury na równi z mostami, budynkami i fabrykami” (tłum. S. Musielak). Zaprzęgnięcie maszyn do wykonywania złożonych zadań czyni liczne procesy sprawniejszymi, wydajniejszymi, dostępniejszymi, łatwiejszymi. Potężne algorytmy ułatwiają naukowczyniom dokonywanie naukowych odkryć, a melomanom amatorom – odkrywanie melodii w typie tych, które już słyszeli. Nawigują kontenerowce na Oceanie Indyjskim i konsumentów do najbliższej indyjskiej knajpy. Pomagają budować domy i profile ludzi na podstawie ich danych behawioralnych. Algorytmy, parafrazując pierwsze prawo technologii Kranzberga, nie są ani dobre, ani złe, nie są też neutralne – z pewnością jednak są wszędzie.

Po drugie, wyjątkowa jest intensywność i samodzielność ingerencji algorytmów w nasz świat. Dziś nie tylko wspierają w podejmowaniu decyzji, ale też same ich dokonują. „Mowa tu zwłaszcza o algorytmach, które obracają najbardziej chodliwym towarem naszych czasów, a mianowicie: danymi – pisze Hannah Fry. – O algorytmach, które za cichym przyzwoleniem decydentów śledzą nas w internecie i gromadzą o nas informacje, ingerują w naszą prywatność i nas profilują – a wszystko po to, żeby subtelnie oddziaływać na nasze zachowania”. Efekty w pełni algorytmicznych deliberacji widzimy np., gdy na Facebooku wyświetla się nam reklama sklepu z AGD, w którym dzień wcześniej szukaliśmy ratujących przed skwarem wiatraków. Rozpatrując oferty reklamodawców i analizując nasze dane, mechanizm podjął decyzję, czym zapełnić przestrzeń na treści sponsorowane. Są jednak i bardziej dramatyczne przykłady. W projekcie Algorytmy traumy Fundacja Panoptykon opisywała historię młodej matki, której automaty Facebooka wyświetlały posty żerujące na jej lęku o zdrowie dziecka. Nikt nie zlecił algorytmom, by prześladowały kobietę – same nauczyły się, że taka taktyka najlepiej posłuży realizacji nadrzędnego celu: maksymalizacji zysków firmy.

Docieramy w ten sposób do trzeciego argumentu za wyjątkowością naszych czasów w sposobie wykorzystania algorytmów. Dopiero współcześnie stały się narzędziem nowego porządku ekonomicznego, „który uznaje ludzkie doświadczenie za darmowy surowiec do ukrytych handlowych praktyk wydobycia, prognozowania i sprzedaży” (tłum. A. Unterschuetz). Tak Shoshana Zuboff, autorka Wieku kapitalizmu inwigilacji, definiuje ukuty przez siebie termin „kapitalizm inwigilacji”. Opisana przez harwardzką profesorkę na ponad 800 stronach logika ekonomiczna nie mogłaby zaistnieć, gdyby nie rozwój potężnych algorytmów zdolnych kolekcjonować i przetwarzać ogromne ilości danych. Jej praca doczekała się interesujących krytyk, w tym książkowej, autorstwa Cory’ego Doctorowa, zatytułowanej How to Destroy Surveillance Capitalism (Jak zniszczyć kapitalizm nadzoru), a w dyskursie funkcjonują też inne ciekawe koncepcje, jak „kapitalizm platformowy” Nicka Srnicka. W środowisku badaczek cyfrowej gospodarki panuje jednak konsensus co do znaczenia algorytmów.

„Kapitalizm nadzoru korzysta z wielu technologii, ale nie jest tożsamy z żadną z nich – tłumaczy Zuboff. – (…) Wytwarza algorytmy i się na nich opiera, ale nie jest tym samym co algorytmy. Wyjątkowe imperatywy ekonomiczne kapitalizmu nadzoru to właśnie bycie władcami marionetek, którzy zza kurtyny kierują maszynami i inicjują ich działania”. Atmosfera tajemnicy jest roztaczana z zamysłem. Służy temu choćby pełen metafor język używany przez przedstawicieli przedsiębiorstwa czy też podkreślanie w komunikacji złożoności oferowanych produktów.

Szczególne strategie utajniania dotyczą stosowanych przez cyfrowe przedsiębiorstwa algorytmów. Frank Pasquale, autor książki The Black Box Society. The Secret Algorithms that Control Money and Information (Społeczeństwo czarnych skrzynek. Tajne algorytmy, które kontrolują pieniądze i informacje), opisuje w niej trzy główne rodzaje działań służących trzymaniu algorytmicznych czarnych skrzynek zamkniętych na klucz. Utajnianie rzeczywiste polega na stawianiu fizycznych lub cyfrowych barier dostępu do ich sekretów. Utajnianie prawne to tworzenie barier umowami i ustawami. Wreszcie zaciemnianie zawiera w sobie wszystkie praktyki podejmowane wówczas, gdy czarnej skrzynce grozi otwarcie – od bagatelizowania jej zawartości po chowanie kluczowych informacji w stosach dokumentacji.

To problem, bo bez przejrzystości algorytmów jesteśmy zdani na ich łaskę i niełaskę. Jak przypomina Pasquale, „(…) władza coraz częściej sprawowana jest algorytmicznie. Decyzje, które niegdyś opierały się na ludzkiej refleksji, są dziś wykonywane automatycznie”.

Jako będący do dziś w użytku pierwowzór współczesnych czarnych skrzynek wskazuje mechanizmy określania zdolności i wiarygodności kredytowej. Dyskryminacja kredytobiorców była problemem już w rzeczywistości analogowej. Wpisana w chroniony kod przetwarzający błyskawicznie ogromne ilości danych i rozstrzygający tysiące spraw, stała się zagrożeniem na niespotykaną wcześniej skalę. Zautomatyzowane uprzedzenia kosztują rzesze ludzi własny dom czy samochód, kształtując ich przyszłość.

Mroczne wnętrza czarnych skrzynek

Władzę sprawują także prywatne przedsiębiorstwa. Kontrolując narzędzia wyszukiwania i dystrybucji treści, nadzorują przepływy informacji. Znane jest choćby zjawisko baniek filtrujących, powodowanego przez algorytmy efektu zamykania nas w obrębie już znanych i odpowiadających nam źródeł wiadomości. Dominacją w obszarze reklamy wywierają wpływ na handel, usługi, a nawet politykę. Nic więc dziwnego, że – według danych Wesleyan Media Project – w ostatnich wyborach prezydenckich w USA obaj kandydaci wydali na cyfrowy marketing ponad 150 mln dolarów, zaś sam Trump – więcej niż na jakiekolwiek inne medium. Cyfrowi giganci kształtują także kulturowe trendy, narracje i dyskursy. Algorytm TikToka wskrzesza popularność muzycznych hitów sprzed lat i tworzy wciąż nowe, a Twitterowa sekcja trendów nie tylko odzwierciedla temat dnia, ale i decyduje, co nim jest. A wszystko to platformy starają się czynić w największym sekrecie.

Mimo to w ostatnich latach na ich temat, krytycznie, mówi się coraz więcej. Jak do tego doszło? Wskazówką może być przytoczony już cytat z Hannah Fry o algorytmach jako elemencie infrastruktury. W artykule zatytułowanym The Ethnography of Infrastructure (Etnografia infrastruktury) Susan Leigh Star zwraca uwagę, że ten asamblaż niezbędnych do funkcjonowania społeczeństwa elementów – wodociągów, sieci elektrycznych, dróg itd. – jest ze swej natury niewidzialny, niedostrzegalny. Nie jest to jednak stan permanentny. „Normalnie niewidoczna jakość działającej infrastruktury staje się widoczna, gdy dochodzi do jej uszkodzenia: pada serwer, most zostaje podmyty, następuje przerwa w dostawie prądu” – pisze Star.

Dalsza część miesięcznika dostępna w wersji pełnej

Społeczeństwo ♦ Świat

Dostępne w wersji pełnej

FELIETON

Dostępne w wersji pełnej

WSPOMNIENIE

Dostępne w wersji pełnej

Idee

Dostępne w wersji pełnej

STACJA: LITERATURA

Dostępne w wersji pełnej

Ludzie ♦ Książki ♦ Zdarzenia

Dostępne w wersji pełnej