Nagłówki w mediach krzyczą do nas, że w starciu z wszechwładną technologią nie mamy szans. Dowiadujemy się co rusz, że jesteśmy tylko zbiorem algorytmów, potrzebnym wielkim korporacjom do wzbogacania się, że autorytarne rządy przy pomocy narzędzi IT będą śledzić każdy nasz ruch i dystopia 1984 roku stanie się faktem. Nasze decyzje wyborcze już nie są nasze, tylko panów i pań z Cambridge Analityki, którzy na podstawie naszego profilu psychologicznego pokazali nam reklamy, jakie skutecznie zniechęciły nas do głosowania na Hillary Clinton lub zachęciły do zagłosowania na tak w sprawie Brexitu. Wtóruje temu narracja, że zaraz wszyscy staniemy się zbędni na rynku pracy. Nieważne, jak skomplikowane zadania wykonujesz i jaką wiedzę posiadasz ‒ zastąpi cię AI albo maszyny. No cóż, weźmy głęboki oddech i przyjrzyjmy się, na ile ta nadciągająca apokalipsa jest realna.

Czy technologia faktycznie zepsuła politykę?

Jeżeli chodzi o politykę, trudno się upierać, że “Internet jest nową epoką w kwestiach manipulacji”. Tymiński nie potrzebował kampanii w social mediach, tylko czarnej teczki, żeby namieszać w ważnych wyborach prezydenckich. Rządy autorytarne i bez technologii doskonale sobie radziły z kontrolą swoich obywateli, choćby poprzez szeroką siatkę donosicieli (np. ocenia się, że w strukturach Stasi było około 100 000 agentów, plus dodatkowo szacuje się, że służby wykorzystywały informacje od 500,000 do 2,000,000 tajnych współpracowników, Stasi miało mieć “teczki” dotyczące około 6 000 000 osób). 

Czy to znaczy, że technologia nie zmieniła naszego życia i nie dołożyła swojego kamyczka do i tak już świetnie się mającej manipulacji politycznej? Nie. Natomiast nie należy też popadać w panikę i twierdzić, że teraz to już naprawdę koniec świata i nie ma ucieczki. I nie chodzi tu tylko o to, że technologia ma również swoją jasną stronę, a ma. Tak jak kilka lat temu narracja była hurraoptymistyczna i mówiła, że technologia wybawi nas od zła wszelkiego, tak teraz została stłumiona przez szalejące niczym koronawirus czarnowidztwo. A prawda jest taka, że technologia jest tworzona przez ludzi i to ludzie z niej korzystają. I to od nas zależy, co z nią zrobimy.

Fakt, że technologię tworzą ludzie, ma również inny aspekt, tym ciekawszy, że często pomijany, przysłonięty przez narrację pokazującą technologię jako absolutnie wszechwładną. Ludzie popełniają błędy. Co więcej w przypadku technologii czasem trudno zorientować się na czas, że król jest nagi. Każdy laik jest w stanie spojrzeć na przykład na wydrukowaną do góry nogami książkę i stwierdzić, że coś tu nie gra. Przy zaawansowanych technologicznie rozwiązaniach przedstawianych przez ludzi, którzy mówią w bardzo skomplikowany sposób i często nie zachęcają do zadawania pytań, nie jest to już takie proste. Czasami prowadzi to do mniej lub bardziej imponujących katastrof.

Facebook chciwy, ale niezbyt mądry gigant

Najciekawszym przykładem jest chyba sytuacja z wyborami w Stanach Zjednoczonych w 2016 roku, która stała się niejako symbolem potęgi Facebooka jako wszechwładnego narzędzia, które może odmienić dawno już podobno przesądzone wyniki. Zostawmy na boku fakt, że na taki a nie inny wynik wyborów miała wpływ frustracja amerykańskiego społeczeństwa tamtejszą klasą polityczną i udowodniony w raporcie Roberta Mullera czynny udział Rosji. Natomiast to, co często umyka w tej dyskusji, a na czym warto się skupić, to to, że zamieszanie związane z rolą Facebooka w tamtych wyborach to nie był wynik przemyślanej strategii tej marki, a dziur w jej ochronie danych użytkowników. Ten brak dbałości oczywiście był również spowodowany chęcią zarabiania jak największych pieniędzy, nieskończoną wiarą w swoje możliwości, ale też zwyczajnym niedopilnowaniem tematu i brakiem chęci przyjęcia do wiadomości, jak poważny jest problem. 

To samo dotyczyło zresztą historii o wiele poważniejszej, czyli ludobójstwa w Myanmarze. To kraj, w którym Facebook odniósł imponujący sukces biznesowy. Spośród 53 milionów mieszkańców, 20 milionów to użytkownicy aplikacji, a słowa “Facebook” i “Internet” są synonimami. To, czego Facebook nie zrobił, to to, że nie zareagował w porę (mimo licznych sygnałów) na szerzenie nienawiści przez buddyjskich ekstremistów wobec mniejszości muzułmańskiej Rohingya. Dopiero po tym, jak 25 tysięcy zostało zamordowanych, a dalsze 700 tysięcy było zmuszonych do opuszczenia kraju, korporacja zablokowała konta powiązane z Tatmadaw, czyli myanmarskim wojskiem, które było jednym z głównych inicjatorów i wykonawców ludobójstwa. Dopiero też wtedy organizacja zdecydowała się na zatrudnienie stu moderatorów treści, mówiących w lokalnym języku. Zresztą sporo decyzji podjętych przez Facebook podczas prób ratowania sytuacji było zwyczajnie błędnych i sprzecznych z zaleceniami organizacji broniących praw człowieka i ekspertów do sytuacji lokalnej.

Wpływ Facebooka na gospodarkę, politykę i życie codzienne jest olbrzymi ‒ temu nikt nie przeczy ‒ natomiast nie wynika on z omnipotencji jego programistów i strategów. Często wynika z błędnych decyzji, niewystarczającej dbałości, chęci zysku ponad wszystko i ‒ co ważniejsze ‒ zwyczajnie wynika ze znalezienia się w sytuacji, która przerasta możliwości jej twórców. Całkiem nieźle podsumował to komik Trevor Noah, mówiąc, że “żyjemy w szalonych czasach, skoro spodziewamy się, że Mark Zuckerberg, który stworzył stronę oceniającą, czy studentki w jego college’u są seksowne, czy nie, jest w stanie uchronić integralność wyborów w Stanach Zjednoczonych. To tak, jak spodziewać się po gościu, który stworzył Tindera, że w razie czego uratują nas przed asteroidą, która ma nadlecieć i zniszczyć ziemię”.

Aplikacje, które rozwiązują stwarzają problemy

Innym przykładem rozwiązań technologicznych, które nie działają tak, jak powinny, jest aplikacja, która została stworzona, żeby skutecznie i szybko zliczyć głosy  oddane w Iowa ‒ pierwszym stanie, w którym odbyły się prawybory prezydenckie w Stanach Zjednoczonych w tym roku. Głosowanie w Iowa jest bardzo istotne w amerykańskim ekosystemie wyborczym. Osoby, które starają się o kandydaturę z ramienia partii (w tym roku to Demokraci, z ramienia Republikanów Trump będzie starał się o reelekcję), inwestują olbrzymią ilość zasobów w tym stanie, prowadząc tam przez kilka miesięcy intensywne kampanie wyborcze. Jest to pierwszy test tego, na ile te starania są faktycznie skuteczne. W tym roku zdecydowano, że ‒ przy już tradycyjnych ‒ komplikacjach z liczeniem głosów ma pomóc aplikacja mobilna. Nie zadziałało właściwie nic: aplikacja miała błędy w działaniu, nie były przeprowadzone szkolenia z jej instalacji i użytkowania wśród osób, które miały na niej pracować, nie było przygotowane zaplecze do skutecznej pomocy technicznej. W rezultacie cały świat mógł oglądać, jak zagubieni prezenterzy telewizyjni zamiast pokazać wyniki w specjalnie przygotowanych studiach, pokazywali odbiorcom na ekranach okrągłe zera. Problemy z raportowaniem wyników przeciągnęły się zresztą na następne dni, powodując mnóstwo chaosu w próbie zrozumienia, kto właściwie wygrał te prawybory (ostatecznie ogłoszono, że Pete Buttigieg, z drobną przewagą nad Bernim Sandersem, ale rzetelność tego wyniku jest raczej wątpliwa). I to wszystko zadziało się w jednym z najpotężniejszych (również technologicznie) światowych supermocarstw. Można? Można.

Czy wszystkich nas czeka bezrobocie?

Rynek pracy faktycznie mocno się zmienia, ale w miejscu starych zawodów powstają nowe. Stałym elementem miejskich przejść podziemnych stały się serwisy naprawiające smartfony. Coraz więcej organizacji (nawet tych stosunkowo niewielkich) decyduje się na zatrudnianie kolejnych specjalistów i specjalistek od marketingu internetowego. SEO specialist, SEM specialist, social media specialist itd. są na pokładzie wszystkich większych korporacji, agencji digitalowych i domów mediowych. Digitalizacja wszystkiego, razem z innymi procesami społecznymi, będzie wymuszać od ludzi częste przekwalifikowywania się, ale i ten proces ‒ o ile będzie dobrze i mądrze wspierany przez rządy i biznes ‒ nie musi być przecież katastrofą.

Czy technologia umie sprzedawać?

Faktycznie typ wpływu na konsumenta przyjmuje nowe wymiary. Przekazy marketingowe są budowane w coraz bardziej spersonalizowany sposób, na podstawie bardzo prywatnych informacji, które mniej lub bardziej świadomie udostępniamy. Nikt temu nie przeczy. Z drugiej strony nie oznacza to, że takie metody wpływu weszły na wcześniej niezagospodarowany grunt. Do manipulacji naszymi decyzjami zakupowymi digital nie był specjalnie potrzebny; w latach 90. nikt w Polsce nie znał słowa “viral”, ale każdy wiedział, że “dłuższe życie każdej pralki to Calgon”.

Innym przykładem tego, jak źle stworzona lub wykorzystana technologia może utrudnić życie, są doświadczenia każdej i każdego z nas. Ile razy trafiliśmy na aplikację z fatalnym UX-em (User Experience opisuje to, na ile dane rozwiązanie technologiczne jest łatwe w obsłudze dla użytkownika, np. czy łatwo w nim odnaleźć menu itp.)? Ile razy nie dało się czegoś poprawnie zainstalować? Ile razy trafiamy na reklamy kompletnie do nas niedopasowane, mimo teoretycznej wszechwiedzy, jaką algorytmy mają na nasz temat? Nie wspominając już o wyskakujących reklamach, które grają muzyczkę, wyskakują na środek ekranu i nie da się ich zamknąć.

Takie rozwiązanie nie jest też skuteczne pod względem biznesowym. Między innymi to nadmiar reklam i ich nachalność doprowadziły do sytuacji, w której Polska jest jednym z tych krajów, w których adblock jest instalowany najczęściej. Nie jest to wiedza tajemna w środowisku związanym z reklamą w Internecie, ale mimo to wciąż zdarza się trafić na komunikat reklamowy, który uniemożliwia przeczytanie artykułu lub ma ukryty guzik zamykania. Pointa z tego jest taka, że chociaż istnieją dobre praktyki, to nie oznacza, że każdy potrafi lub chce ich użyć. Należy też pamiętać, że dobre praktyki mają to do siebie, że po kilku latach okazuje się, iż nie były jednak takie dobre. Przez kilka lat funkcjonował model planowania i rozliczania reklam w systemie “last click”, który zupełnie nie uwzględnia ścieżki użytkownika i tego, że ludzie mają zwyczaj klikać nie w pierwszy komunikat marketingowy, który spotykają, tylko dopiero po obejrzeniu kilku typów reklam decydują się na kliknięcie i faktyczny zakup produktu.

Marketing polityczny w Internecie również nie sprzeda wszystkiego (i każdego). Właśnie przekonał się o tym boleśnie Mike Bloomberg, miliarder, który zainwestował około 528 000 000 dolarów w kampanię tylko po to, żeby w upokarzający sposób odpaść z prawyborów w Stanach Zjednoczonych. Olbrzymia część tej kwoty to wydatki na marketing w sieci. Nie pomogło to, że wydawał 1 000 000 dolarów dziennie tylko na samą kampanię na Facebooku (jak się okazuje, jednak nie jest to wszechpotężne narzędzie), albo to, że w samej Kalifornii wydał 78 000 000 dolarów na reklamę w Internecie (Joe Biden, który zdobył w tym stanie 2. miejsce, za Berniem Sandersem, wydał ‒ dla porównania ‒ tylko 4 000 dolarów). Nie pomogła kontrowersyjna strategia (pominął kilka pierwszych stanów, pierwsze głosowanie, w którym wystawił swoją kandydaturę, to tak zwany Super Wtorek). Nie pomógł też sam kandydat ‒ podczas dwóch debat z udziałem wszystkich pozostałych w grze kandydatów wypadł bardzo źle. Zwłaszcza Elizabeth Warren bezlitośnie wypunktowała mu fatalną w skutkach rasistowską politykę “Stop and frisk”, którą wprowadził jako burmistrz Nowego Jorku, oraz liczne zarzuty związane z dyskryminacją i molestowaniem kobiet. Okazuje się, że jednak nie da się kupić w Internecie zwycięstwa w wyborach, jeżeli pozostałe elementy układanki są do niczego. 

Czy AI to doskonały urzędnik?

Jeżeli chodzi o działanie algorytmów w administracji publicznej i lokalnej, również zdarzają się wpadki. Przykładem tego może być sytuacja we Wrocławiu, gdzie stworzono oprogramowanie, które miało pomóc w rekrutacji dzieci do żłobków. Liczba błędów w oprogramowaniu i jego wdrożeniu sprawiła, że system zamiast pomóc, tylko skomplikował sprawę. Algorytm błędnie kwalifikował dzieci do grup wiekowych, a władze dolały oliwy do ognia, nie informując we właściwy sposób i we właściwym czasie zagubionych rodziców.

Jak nie dać się onieśmielić i oszukać przez mit omnipotentnej technologii?

Jako Fundacja zrealizowaliśmy (razem z organizacjami pozarządowymi z Czech, Gruzji, Węgier, Serbii i Słowacji) projekt dedykowany przeciwdziałaniu chaosowi, który jest spowodowany brakiem odpowiedniej wiedzy i rozwiązań prawnych związanych z wykorzystywaniem algorytmów w administracji lokalnej i ogólnokrajowej: “alGOVrithms – STATE of PLAY”.  Przygotowaliśmy raport oraz listę rekomendacji, która w konkretny i jasny sposób pokazuje, jaka powinna być droga implementacji oprogramowania i co trzeba zrobić, żeby błędów uniknąć.

Jeżeli chodzi o rekomendację dla każdej i każdego z nas, to przede wszystkim przestańmy wierzyć we wszechmoc i bezbłędność rozwiązań technologicznych. Technologię tworzą ludzie, a ludzie popełniają błędy. Po drugie ‒ pytajmy. Kwestie związane z technologią nie są proste dla laików i niekiedy zrozumienie tego, jak dane rozwiązania IT zostały zrobione, wymaga olbrzymiej wiedzy technicznej. Natomiast już zrozumienie tego, co ma nam dane rozwiązanie dać, jak działa i jak mamy się nim posługiwać, powinno być proste i jeżeli ktoś nam czegoś nie potrafi wytłumaczyć albo twierdzi, że i tak nie zrozumiemy, to powinno być to dla nas poważnym ostrzeżeniem.