Application of Automated Decision-Making Systems in Public Administration

Celem tej pracy jest przybliżenie sposobów wykorzystania systemów zautomatyzowanego podejmowania decyzji (systemów ADM) w administracji publicznej. W sektorze publicznym coraz częściej spotyka się ze stosowaniem systemów zautomatyzowanego podejmowania decyzji. Wciąż brakuje jednak odpowiednich regulacji, gwarantujących wystarczającą ochronę przed negatywnymi skutkami stosowania takich systemów. Coraz częstsze powszechne wykorzystanie systemów ADM może być źródłem potencjalnych problemów związanych z ich użyciem. Wskazanymi kwestiami problematycznymi są stronniczość algorytmów, brak gwarancji odpowiedniej jawności w zakresie funkcjonowania tych systemów, brak ustandaryzowanych procedur ewaluacji wdrażanych systemów i ograniczona możliwość zakwestionowania decyzji podjętych przy wspomaganiu takim systemem. W pracy znajdują się również przykłady zastosowania systemów ADM w Polsce, Francji i Holandii, jak i orzecznictwo w ich sprawach. Osobną kwestią poruszoną w pracy są propozycje możliwych rozwiązań, mających zniwelować występowanie negatywnych skutków. Dotyczą one m.in wprowadzenia regulacji w zakresie procesu tworzenia systemów ADM, opracowania metodologii ich testowania, a także zaproponowania kryteriów, które powinny być brane pod uwagę przy ich ewaluacji jak i rekomendacji zagwarantowania ich jawności.

The purpose of this work is to address the use of automated decision-making systems (ADM systems) in public administration. The use of automated decision-making systems is becoming increasingly common in the public sector. However, there are not enough adequate regulations to guarantee sufficient protection against the negative consequences of using such systems. The increasingly widespread use of ADM systems may give rise to potential problems caused by them. The highlighted problematic issues are the bias of the algorithms, the lack of guarantees of adequate transparency regarding the operation of such systems, the lack of standardized procedures for the evaluation of implemented systems, and the limited possibility of questioning decisions made with the assistance of such systems. The work also includes examples of the use of ADM systems in Poland, France, and the Netherlands, as well as court rulings in their cases. A separate issue addressed in the work is proposals for possible solutions to offset the occurrence of negative effects. They concern, among other things, the introduction of regulations on the process of creating ADM systems, the development of a methodology for testing them, as well as proposals of the criteria that should be taken into account in their evaluation, and also recommendations to guarantee the transparency of ADM systems.