Fundacja ePaństwo, wspólnie z partnerami z Czech (KohoVolit.eu), Gruzji (Institute for Development of Freedom of Information), Serbii (CRTA), Słowacji (KohoVolit.eu) i Węgier (K-Monitor), przeprowadziła badanie dotyczące wykorzystywania algorytmów w procesie podejmowania decyzji przez władze publiczne. 14 maja w Warszawie podczas konferencji prasowej zaprezentowany zostanie raport z badania (Marzyciele i Rzemieślnicy, Bracka 25, III piętro, godz. 10.30). Ujawniona skala zjawiska wskazuje, że dyskusja nad wpływem narzędzi technologicznych w relacjach państwo-obywatel musi być kontynuowana.

Mimo dyskusji nad zagrożeniami związanymi z wpływem algorytmów na prawa człowieka, w Polsce nie opracowano całościowej polityki gwarantującej bezpieczeństwo ich wdrażania, a wiedza na temat ich funkcjonowania pozostaje niejawna.

Wszystkie państwa biorące udział w badaniu wprowadziły już narzędzia technologiczne mające wpływ na prawa i obowiązki obywateli. Algorytmy funkcjonują w wielu obszarach działalności państwa, m.in. w kontroli prędkości i wystawianiu mandatów, przydzielaniu sędziów i innych urzędników publicznych do konkretnych spraw, dystrybucji świadczeń socjalnych, wykrywania oszustw skarbowych czy nawet wstępnego wyboru wykonawców w zamówieniach publicznych.

Nie tylko obywatele, ale i sami sędziowie mają problem z dostępem do informacji na temat funkcjonowania losowych systemów przydzielania ich do spraw, a dodatkowo – jak ustaliła Fundacja ePaństwo – polski system zawiera błędy. Podobne sytuacje występują również w Serbii, Słowacji, Gruzji i w Czechach, gdzie algorytmy wykorzystuje się m.in. do preselekcji oferentów w zamówieniach publicznych.

Często, wyłącznie firmy, które opracowały narzędzia dla instytucji publicznych mają pełną wiedzę o ich funkcjonowaniu i nie podlegają zewnętrznej kontroli w zakresie poprawności działania algorytmów. Na Słowacji i Węgrzech odmówiono nam udostępnienia algorytmów z uwagi na ochronę tajemnicy przedsiębiorstwa lub ze względu na ochronę praw autorskich.

Polskie Ministerstwo Finansów poinformowało, że system teleinformatyczny automatycznie blokujący podejrzane przepływy finansowe (STIR) należy do zewnętrznego podmiotu, a umowa na jego wykonanie jest dokumentem prywatnym.  

W żadnym z badanych państw nie wyznaczono instytucji, która koordynuje wdrażanie i nadzoruje automatyczne podejmowanie decyzji. Wyłącznie w Serbii dokonano niezależnego audytu działania algorytmu losującego sędziów w ramach projektu UE, ale jego wyniki pozostają niedostępne.

W żadnych z badanych przypadków nie wykryliśmy, by urzędnicy odpowiedzialni za wdrażanie systemów rozważali etyczne podstawy takich rozwiązań. Nie istnieją systemy instytucjonalne i prawne, które wyraźnie wskazują kto jest odpowiedzialny za działanie algorytmów, a ewentualne problemy z ich funkcjonowaniem, w tym wpływ na prawa obywateli, poddane są kontroli sądowej na warunkach ogólnych.

Przedstawiliśmy rekomendacje, które powinny być niezwłocznie wdrożone w krajach regionu. Wraz z rozwojem tego typu narzędzi i wykorzystywaniem w nich elementów sztucznej inteligencji, opisane w raporcie problemy jeszcze się pogłębią. Należy m.in. wprowadzić:

  • politykę wdrażania systemów automatycznego podejmowania decyzji określającą m.in. jak największą przejrzystość działania narzędzi i nadzór nad ich wdrażaniem,  
  • ocenę skutków wprowadzenia algorytmów na wzór Oceny Skutków Regulacji, w której instytucja wdrażająca wykaże m.in. niezbędność stosowania narzędzia, jego wpływ na prawa obywateli, określenie ryzyk i sposoby ewaluacji,
  • mechanizmy niezależnej kontroli funkcjonowania algorytmów,
  • prawne gwarancje przeciwdziałania dyskryminacji przez algorytmy i skuteczne środki ochrony prawnej.

 

Raport (w jęz. ang) oraz szczegółowe rekomendacje (w jęz. pol i ang.) dostępne będą na stronie: https://epf.org.pl/en/projects/algovrithms/.

RSVP: 13 maja do godziny 12 na adres marta.skotnicka@epf.org.pl

 

 

Program konferencji prasowej

Maszyny w służbie państwa. Jak algorytmy wpływają na życie obywateli i obywatelek w Polsce i wybranych krajach regionu.

14 maja 2019 r.

Godz. 10.30

Marzyciele i Rzemieślnicy

Bracka 25, III piętro Domu Towarowego Bracia Jabłkowscy

10.30-10.50 Otwarcie konferencji i prezentacja wyników raportu alGOVrithms – The State of Play

Krzysztof Izdebski, Dyrektor programowy Fundacji ePaństwo

10.50-11.30 Omówienie wyników raportu i propozycji rekomendacji. Dyskusja

  • Maciej Groń, dyrektor Departamentu Polityki Międzynarodowej, Ministerstwo Cyfryzacji
  • Katarzyna Szymielewicz, prezeska Fundacji Panoptykon
  • dr Sebastian Szymański, Wydział Artes Liberales UW, Przewodniczący Komisji Etycznej zespołu d/s Narodowej Strategii Sztucznej Inteligencji, Ministerstwo Cyfryzacji
  • Magdalena Siwanowicz, radca prawny, Fundacja ePaństwo

Prowadzenie: Krzysztof Izdebski

11.30-12.00 Dyskusja z uczestnikami i uczestniczkami spotkania

12.00 Zakończenie

 

The project is co-financed by the Governments of Czechia, Hungary, Poland and Slovakia through Visegrad Grants from International Visegrad Fund. The mission of the fund is to advance ideas for sustainable regional cooperation in Central Europe.