Využití algoritmů při profilování v trestním řízení a důsledky pro lidská práva

Kód výsledku v IS VaVaI

<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F68378122%3A_____%2F18%3A00498409" target="_blank" >RIV/68378122:_____/18:00498409 - isvavai.cz</a>

Výsledek na webu

—

DOI - Digital Object Identifier

—

Jazyk výsledku

čeština

Název v původním jazyce

Využití algoritmů při profilování v trestním řízení a důsledky pro lidská práva

Popis výsledku v původním jazyce

Algoritmy nahrazují činnosti, které dříve vykonávali lidé. Jednou z těchto činností je soudní rozhodování založené na algoritmech. Obecně se předpokládá, že algoritmické rozhodování, na rozdíl od toho lidského, postrádá předsudky a předpojatosti. Tento předpoklad je problematický ve dvou momentech. Za prvé, algoritmus rozhoduje podle předem stanovených kritérií a hodnot. Tyto hodnoty určují lidé, kteří mohou mezi předem stanovená kritéria zahrnout ta, která odpovídají jejich předsudkům. Za druhé, některé algoritmy mohou mít schopnost učit se, což znamená, že vygenerované výsledky jsou přizpůsobeny předchozím výsledkům, které byly v minulosti upřednostněny. Uživatelé mohou mít možnost zvolit výsledky, které odpovídají jejich názoru, které však mohou být založeny na předsudcích. Ve Spojených státech a také v některých evropských zemích již soudy používají algoritmus k posouzení, zda je pravděpodobné, že obviněný (resp. odsouzený) spáchá v budoucnosti jiný trestný čin. Soudce nerozhoduje na základě okolností případu a individuálních charakteristik obviněného. Soudce rozhoduje místo toho na podkladě profilu. Profily pachatelů jsou sestaveny na základě osobních údajů pachatelů, přičemž některé z těchto údajů mohou mít povahu biometrického údaje. Algoritmické rozhodování založené na profilování vyvolává obavy ze zásahu do práv obviněného v soudním řízení, konkrétně zákazu diskriminace a právu na spravedlivý proces.

Název v anglickém jazyce

The Use of Algorithms for Profiling in Criminal Proceedings and Implications for Human Rights

Popis výsledku anglicky

Algorithms are replacing activities that have previously been performed by humans. One of these activities is judicial decision making based on algorithms. It is generally assumed that algorithmic decision making, as opposed to the human decision making, is free from prejudice and bias. This assumption is problematic in two ways. Firstly, the algorithm decides according to pre-specified criteria and values. These values are chosen by humans who may include among the predefined criteria the criteria that correspond to their prejudices and preconceptions. Secondly, some algorithms may have their own learning ability, which means that the generated results are adapted to the previous ones to which were given preference in the past. The users may have the possibility to choose precedents that correspond with their point of view, which may be based on prejudice. In the United States and also in some European countries an algorithm is already being used by courts to assess whether or not it is likely that the accused (or condemned) will commit another crime in the future. The judge does not decide based on the circumstances of the case and individual characteristics of the accused. The judge decides instead on the basis of a profile. The profiles are based on personal data of the offender. Some of those data have a character of biometric data. The algorithmic decision making based on profiling raises concerns about the rights of the accused in the judicial proceedings, namely the prohibition of discrimination and the right to a fair trial.

Druh

J_ost - Ostatní články v recenzovaných periodicích

CEP obor

—

OECD FORD obor

50501 - Law

Projekt

<a href="/cs/project/GA16-26910S" target="_blank" >GA16-26910S: Biometrické údaje a jejich zvláštní právní ochrana</a><br>

Návaznosti

P - Projekt vyzkumu a vyvoje financovany z verejnych zdroju (s odkazem do CEP)

Rok uplatnění

2018

Kód důvěrnosti údajů

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Název periodika

Časopis pro právní vědu a praxi

ISSN

1210-9126

e-ISSN

—

Svazek periodika

26

Číslo periodika v rámci svazku

2

Stát vydavatele periodika

CZ - Česká republika

Počet stran výsledku

30

Strana od-do

229-258

Kód UT WoS článku

—

EID výsledku v databázi Scopus

—