Regulace rizik a etické výzvy umělé inteligence v kontextu nařízení AI Act

Kód výsledku v IS VaVaI

<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F00216208%3A11240%2F24%3A10488951" target="_blank" >RIV/00216208:11240/24:10488951 - isvavai.cz</a>

Výsledek na webu

<a href="https://verso.is.cuni.cz/pub/verso.fpl?fname=obd_publikace_handle&handle=fToo-o115J" target="_blank" >https://verso.is.cuni.cz/pub/verso.fpl?fname=obd_publikace_handle&handle=fToo-o115J</a>

DOI - Digital Object Identifier

<a href="http://dx.doi.org/10.5817/AI2024-2-7" target="_blank" >10.5817/AI2024-2-7</a>

Jazyk výsledku

čeština

Název v původním jazyce

Regulace rizik a etické výzvy umělé inteligence v kontextu nařízení AI Act

Popis výsledku v původním jazyce

Článek se zabývá riziky a etickými výzvami spojenými s používáním systémů umělé inteligence (AI) v rámci nově přijatého nařízení o umělé inteligenci (AI Act), které představuje závazný právní rámec Evropské unie pro jejich vývoj a implementaci. Systémy AI se stávají klíčovými nástroji v mnoha oblastech společnosti, včetně zdravotnictví, veřejné správy a bezpečnosti, avšak jejich rychlá expanze vyvolává závažné etické otázky, například v oblasti spravedlnosti, transparentnosti a ochrany základních práv. AI Act reaguje na tato rizika zavedením regulací zaměřených na zajištění odpovědnosti a předcházení neetickým praktikám ze strany systémů AI. Článek se zaměřuje na identifikaci a rozdělení klíčových rizik, povinnosti poskytovatelů a etické aspekty, které mohou při využívaní technologií AI přinášet významné etické implikace pro jednotlivce i společnost, včetně ohrožení soukromí, nepředvídatelných dopadů na pracovní trh či prohlubování sociálních nerovností. V závěru článku jsou navržena doporučení pro další rozvoj a implementaci AI s cílem maximalizovat její přínos pro společnost a minimalizovat její negativní důsledky.

Název v anglickém jazyce

Regulating risks and ethical challenges of ArtifIcial Intelligence in the context of the AI Act

Popis výsledku anglicky

The article addresses the risks and ethical challenges associated with using artificial intelligence (AI) systems within the context of the recently enacted AI Act, which establishes a binding legal framework of the European Union for their development and deployment. AI systems are becoming essential tools across various sectors of society, including healthcare, public administration, and security. However, this rapid expansion raises significant ethical concerns, particularly regarding fairness, transparency, and the protection of fundamental rights. The AI Act addresses these risks by introducing regulations to ensure accountability and prevent unethical practices by AI systems. The article focuses on identifying and categorizing key risks, the responsibilities of AI providers, and the major ethical challenges, which may pose signifi-cant ethical implications for individuals and society, including threats to privacy, unpredictable impacts on the labor market, and exacerbating social inequalities. In the concluding section, recommendations are provided for further development and implementation of AI to maximize its societal benefits while minimizing potential negative consequences.

Druh

J_ost - Ostatní články v recenzovaných periodicích

CEP obor

—

OECD FORD obor

60301 - Philosophy, History and Philosophy of science and technology

Projekt

—

Návaznosti

I - Institucionalni podpora na dlouhodoby koncepcni rozvoj vyzkumne organizace

Rok uplatnění

2024

Kód důvěrnosti údajů

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Název periodika

Anthropologia Integra

ISSN

1804-6657

e-ISSN

1804-6665

Svazek periodika

15

Číslo periodika v rámci svazku

2

Stát vydavatele periodika

CZ - Česká republika

Počet stran výsledku

9

Strana od-do

7-15

Kód UT WoS článku

—

EID výsledku v databázi Scopus

—