FOR ENGLISH SEE BELOW
Projekt "Technologie informacyjne w polityce publicznej. Krytyczna analiza profilowania bezrobotnych w Polsce”, finansowany przez Narodowe Centrum Nauki (2016/23/B/HS5/00889)
Współczesne państwo coraz częściej wykorzystuje nowoczesne technologie informacyjne (IT) do automatyzowania procesu podejmowania decyzji. Instytucje publiczne gromadzą dane o wielu wymiarach naszego życia, a IT pozwalają przetwarzać te informacje na niespotykaną wcześniej skalę. IT są wykorzystywane przy projektowaniu polityki publicznej w oparciu o – zdawałoby się – naukowe przesłanki i metody. Z cyfryzacją państwa i automatyzacją wiążą się jednak zagrożenia, które w tym projekcie staraliśmy się uchwycić, analizując specyficzny przypadek algorytmu profilowania bezrobotnych używanego w latach 2014 -2019 do pomiaru potencjału zatrudnieniowego osób bezrobotnych i wspomagania decyzji dotyczących dystrybucji aktywnych programów rynku pracy w powiatowych urzędach pracy (PUP).
Podstawowym celem projektu było uzyskanie ugruntowanej empirycznie wiedzy o procesie tworzenia algorytmu profilowania, zasadach jego działania oraz sposobach wykorzystania w praktyce administracyjnej, a także działaniach podejmowanych przez państwowe organy kontrolne. Wyniki tego badania pozwoliły uwidocznić szereg wyzwań, jakie dla demokratycznego państwa prawa niesie wykorzystanie tego rodzaju IT w polityce publicznej. Spośród nich wymienić należy:
- złudzenie neutralności i naukowego charakteru algorytmu przy jego wątpliwej jakości metodologicznej (zob. np. Sztandar-Sztanderska et al. 2021) i istotnym znaczeniu założeń normatywnych i wartości dla kształtu, jaki przyjął algorytm (Sztandar-Sztanderska, Zieleńska 2020),
- brak zinstytucjonalizowanych zabezpieczeń, pozwalających na kontrolę jakości algorytmów oraz przeciwdziałanie wykluczeniu i dyskryminacji oraz innym niepożądanym konsekwencjom,
- wzmocnienie wizerunku grup docelowych polityki społecznej jako osób, które należy poddać kontroli i zdyscyplinować, a nie sprawczych obywateli, posiadających określone w przepisach prawa i obowiązki (w tym prawo do odwołania od decyzji), z którymi powinno się konsultować wdrażane rozwiązania, a także zakres potrzebnych im usług publicznych (Scott et al. 2022, Sztandar-Sztanderska, Zieleńska 2018, Godlewska-Bujok 2020, zob. też O’Neil 2017, Eubanks 2017)
- podejmowanie ważnych decyzji politycznych dotyczących kryteriów dystrybucji usług publicznych w sposób zakulisowy i uprawomocnienie braku jawności tych zasad oraz stojących za tymi zasadami przesłanek,
- przesunięcie ważnych decyzji politycznych w ręce anonimowych i nierozliczalnych aktorów biorących udział w planowaniu, projektowaniu i wdrażaniu algorytmu i systemu teleinformatycznego (zob. też Bovens, Zouridis 2002)
- rozproszenie odpowiedzialności za decyzje podejmowane przy zastosowaniu IT między Ministra ds. pracy zamawiającego i wprowadzającego algorytm jako część systemu teleinformatycznego, oraz powiatowe urzędy pracy odpowiedzialne za nadawanie profilu (Sztandar-Sztanderska, Zieleńska 2022).
Projekt miał charakter interdyscyplinarny, łączył jakościowe i ilościowe metody badawcze, a także uwzględniał perspektywę różnych aktorów. W części dotyczącej procesu tworzenia algorytmu profilowania przeprowadziliśmy analizę przepisów i dokumentów formalnych oraz indywidualne wywiady pogłębione z aktorami zaangażowanymi w projektowanie instrumentu i proces legislacyjny oraz przedstawicielami instytucji publicznych, które mogłyby dokonywać oceny zgodności zasad działania IT z prawem (NIK, RPO, GIODO). Analizie poddaliśmy też samą technologię oraz procedury statystyczne, porównując polski wariant profilowania z modelami stosowanymi za granicą. W ostatniej części przeprowadziliśmy reprezentatywne badanie ilościowe z pracownikami PUP oraz pogłębione studia przypadku w czterech celowo dobranych powiatach.
W Repozytorium Otwartych Danych udostępniamy:
- kwestionariusz profilowania (w polskiej i angielskiej wersji językowej), który był podstawą zaimplementowanego algorytmu
- przepisy, które stanowiły podstawę prawną dla wprowadzenia algorytmu.
Zbiór będzie aktualizowany o kolejne dane.
Project: Information technologies in public policy. Critical analysis of the profiling the unemployed (funding National Science Centre, Poland 2016/23/B/HS5/00889)
The contemporary state relies increasingly on information technologies (IT) that automate decision-making. Public institutions collect data on many aspects of our lives, such as paid work, family or health condition. IT enables the processing of that information on a scale not encountered before. In result, it is becoming an inherent part of policy-making process and it is often believed to be scientific as it uses statistical models and algorithms that are difficult for the general public to understand. No matter how sophisticated IT appears to be, the automation of the state also entails risks, which we have tried to point out in this project, by analysing a specific example of IT that was applied in the Polish public employment services (PES, in Polish: powiatowe urzędy pracy) between 2014–2019 to measure the 'employability' of the unemployed persons and inform decision-making on the distribution of active labour market policies by the PES.
The primary objective of the project was to obtain empirically grounded knowledge on the development process of the profiling algorithm, the principles of its operation, the ways in which it was used in administrative practice by frontline staff in PES and the ways in which it was assessed by state control bodies (e.g. ombudsman, audit office). The results of this research provided insights into the new risks emerging from the use of automated decision-making systems in public policy for democracy and the rule of law. Among these are:
- the illusion of the neutrality of the algorithm, which in reality was inspired by a set of specific values and normative assumptions about the division of responsibility between the state and the citizens (Sztandar-Sztanderska, Zieleńska 2020)
- the illusion of the scientific nature of the algorithm, which in fact was methodologically flawed (Sztandar-Sztanderska et al. 2021)
- the lack of institutionalised safeguards to control the quality of the algorithms and to counteract exclusion and discrimination and other undesirable social and political consequences of the algorithm used to inform decision-making,
- the dissemination of a negative image of social policy target groups, portraying the unemployed as persons that should be subject to control and discipline, rather than being consulted during the development of IT and treated as subjects endowed with rights set out in the law (including the right to appeal decisions) set out in the law (Scott et al. 2022, Sztandar-Sztanderska, Zieleńska 2018, Godlewska-Bujok 2020, see also O’Neil 2017, Eubanks 2017)
- the behind-the-scenes making of important political decisions on the criteria for the distribution of public services,
- the lack of transparency of the algorithmic rules of distribution of public services and the rationale behind these rules,
- the shift of decision-making power towards anonymous and unaccountable actors participating in the planning, designing and implementing the algorithm (see also Bovens, Zouridis 2002),
- the diffusion of responsibility for IT-enabled decisions between the Minister of Labour ordering and implementing the algorithm as part of the IT system and the IT system, and local PES agencies responsible for profiling (Sztandar-Sztanderska, Zieleńska 2022).
The research was interdisciplinary, combining qualitative and quantitative methods and taking into account the perspectives of different actors. In the part concerning the development of the profiling algorithm, we conducted an analysis of regulations and formal documents, as well as individual in-depth interviews with actors involved in the design of the algorithm and the legislative process, and with representatives of control bodies that could assess the compliance of IT principles with the law. We also analysed the algorithm itself and the statistical model, comparing them with profiling models used in other countries. Finally, we conducted a representative quantitative survey of PES employees and in-depth case studies in 4 selected local PES.
In the Open Data Repository we make available:
- the profiling questionnaire (in Polish and English), which was the basis for the algorithm
- the legislation that formed the legal basis for the implementation of the algorithm.
The dataset will be updated with further data.