Artificial intelligence decision-making: legal aspects and limits of protection against discrimination
The result's identifiers
Result code in IS VaVaI
<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F00216208%3A11220%2F25%3A10504933" target="_blank" >RIV/00216208:11220/25:10504933 - isvavai.cz</a>
Result on the web
<a href="https://verso.is.cuni.cz/pub/verso.fpl?fname=obd_publikace_handle&handle=NUMpTmuKec" target="_blank" >https://verso.is.cuni.cz/pub/verso.fpl?fname=obd_publikace_handle&handle=NUMpTmuKec</a>
DOI - Digital Object Identifier
—
Alternative languages
Result language
čeština
Original language name
Rozhodování umělou inteligencí: právní aspekty a limity ochrany před diskriminací
Original language description
Příspěvek analyzuje, jak algoritmické systémy využívané v náboru a řízení pracovníků mohou generovat diskriminační účinky i bez lidského úmyslu. Identifikuje tři hlavní mechanismy: (i) zaujatost v tréninkových datech, (ii) proxy diskriminaci prostřednictvím zdánlivě neutrálních indikátorů a (iii) netransparentnost rozhodování (black box) spojenou s absencí účinného lidského přezkumu. Text zasazuje problematiku do platného rámce GDPR (zejména čl. 22), do nařízení o umělé inteligenci (AI Act), které kvalifikuje HRsystémy jako vysoce rizikové, a do konstrukce nepřímé diskriminace dle antidiskriminačního zákona. Ukazuje limity tradiční soudní ochrany a nastiňuje procesní řešení z pohledu zaměstnavatele. De lege ferenda navrhuje zvážit sdílené či obrácené důkazní břemeno a právní domněnky diskriminačního účinku u nepřezkoumatelných rozhodnutí.
Czech name
Rozhodování umělou inteligencí: právní aspekty a limity ochrany před diskriminací
Czech description
Příspěvek analyzuje, jak algoritmické systémy využívané v náboru a řízení pracovníků mohou generovat diskriminační účinky i bez lidského úmyslu. Identifikuje tři hlavní mechanismy: (i) zaujatost v tréninkových datech, (ii) proxy diskriminaci prostřednictvím zdánlivě neutrálních indikátorů a (iii) netransparentnost rozhodování (black box) spojenou s absencí účinného lidského přezkumu. Text zasazuje problematiku do platného rámce GDPR (zejména čl. 22), do nařízení o umělé inteligenci (AI Act), které kvalifikuje HRsystémy jako vysoce rizikové, a do konstrukce nepřímé diskriminace dle antidiskriminačního zákona. Ukazuje limity tradiční soudní ochrany a nastiňuje procesní řešení z pohledu zaměstnavatele. De lege ferenda navrhuje zvážit sdílené či obrácené důkazní břemeno a právní domněnky diskriminačního účinku u nepřezkoumatelných rozhodnutí.
Classification
Type
J<sub>ost</sub> - Miscellaneous article in a specialist periodical
CEP classification
—
OECD FORD branch
50501 - Law
Result continuities
Project
—
Continuities
S - Specificky vyzkum na vysokych skolach
Others
Publication year
2025
Confidentiality
S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů
Data specific for result type
Name of the periodical
Obchodní právo
ISSN
1210-8278
e-ISSN
—
Volume of the periodical
34
Issue of the periodical within the volume
10
Country of publishing house
CZ - CZECH REPUBLIC
Number of pages
8
Pages from-to
4-11
UT code for WoS article
—
EID of the result in the Scopus database
—