Utlåtande om bedömningspromemorian om allmän förvaltningslagstiftning som gäller automatiserat beslutsfattande (TAS 296/2020, given 31.8.2020)

Justitieministeriet bad jämställdhetsombudsmannen lämna ett utlåtande om bedömningspromemorian om allmän förvaltningslagstiftning som gäller automatiserat beslutsfattande (Oikeusministeriön julkaisuja, Selvityksiä ja ohjeita 2020:14).

Jämställdhetsombudsmannen konstaterade att behovet av allmän förvaltningslagstiftning som gäller automatiserat beslutsfattande är uppenbart. Det är viktigt att bereda den lagstiftning som gäller ett nytt beslutssystem omsorgsfullt. Jämställdhetsombudsmannen ansåg att det är särskilt viktigt att se till att automatiskt beslutsfattande inte leder till diskriminering som är förbjuden enligt jämställdhets- eller diskrimineringslagen. Jämställdhetsombudsmannen anser att säkerställandet av icke-diskriminering och främjandet av jämlikhet och jämställdhet bör beaktas i beredningen i lika hög grad som till exempel dataskyddet.

Jämställdhetsombudsmannen konstaterade att automatiskt beslutsfattande medför risk för diskriminerande beslut. Till exempel om bedömningen av en omständighet som är beroende av prövning baserar sig på statistisk information, kan antaganden om individer göras med stöd av förbjudna diskrimineringsgrunder avseende kön etc. utan att beakta individuella omständigheter. Statistikbaserat beslutsfattande medför också risk för indirekt diskriminering, om till synes neutrala kriterier de facto klassificerar individer på basis av till exempel kön, ålder eller ursprung.

Risken för diskriminerande beslut ökar, ju mer prövning beslutsfattandet förutsätter. Enligt jämställdhetsombudsmannen bör automatiskt beslutsfattande utnyttjas endast i situationer där lagen inte ger myndigheter prövningsrätt i beslut. Jämställdhetsombudsmannen är på samma linje som den lösning i promemorian, enligt vilken automatiskt beslutsfattande endast är möjligt i situationer där avgörandet automatiskt kan härledas ur lagstiftningen och kända entydiga fakta, och där beslutsfattandet inte involverar prövningsrätt. Jämställdhetsombudsmannen ansåg att en sådan avgränsning av tillämpningen är nödvändig för att minimera de risker för diskriminering som automatiskt beslutsfattande medför.

Jämställdhetsombudsmannen var också på samma linje med den föreslagna utgångspunkten, enligt vilken automatiskt beslutsfattande med stöd av allmän lagstiftning endast kan basera sig på beslutsregler som en myndighet definierat på förhand och som är förenliga med lagstiftningen, och inte till exempel på artificiell intelligens. Enligt jämställdhetsombudsmannen skulle även detta minska risken för diskriminerande beslut.

Jämställdhetsombudsmannen ansåg att det är viktigt att beakta diskrimineringsförbudet även när myndigheter utvecklar automatiska system för beslutsfattande och definierar de regler som beslutsfattandet baserar sig på. Jämställdhetsombudsmannen var på samma linje som förslaget, enligt vilket de beslutsregler som används i automatiska system för beslutsfattande bör godkännas genom uttryckliga beslut. Dessutom biföll jämställdhetsombudsmannen förslaget, enligt vilket myndigheter är skyldiga att beskriva de regler som är tillämpliga i automatiskt beslutsfattande och enligt vilka ärenden väljs att avgöras automatiskt. Jämställdhetsombudsmannen ansåg att sådana bestämmelser främjar beslutssystemens transparens, vilket är centralt bland annat med tanke på övervakningen av diskriminering och eventuellt konstaterande av diskriminering i efterhand.

Jämställdhetsombudsmannen konstaterade att det är viktigt att se till att myndigheter snabbt kan ingripa i oegentligheter i automatiskt beslutsfattande. På denna punkt är myndigheternas egenkontroll en bra metod. I efterhandstillsynen gäller det att se till att även utomstående respons på beslutssystem kan handläggas effektivt och relevanta åtgärder vidtas. Dessutom vore det bra att utreda om det finns skäl att skapa ett separat tillsynssystem utöver myndigheternas egenkontroll och sedvanliga rättsskyddsmedel.

26.10.2020