Umělá inteligence – nové výzvy z pohledu osobních údajů

Kód výsledku v IS VaVaI

<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F61989592%3A15220%2F25%3A73635789" target="_blank" >RIV/61989592:15220/25:73635789 - isvavai.cz</a>

Výsledek na webu

<a href="https://www.ilaw.cas.cz/upload/web/files/pravnik/issues/2025/4/4_Mach_347-360_4_2025.pdf" target="_blank" >https://www.ilaw.cas.cz/upload/web/files/pravnik/issues/2025/4/4_Mach_347-360_4_2025.pdf</a>

DOI - Digital Object Identifier

—

Jazyk výsledku

čeština

Název v původním jazyce

Umělá inteligence – nové výzvy z pohledu osobních údajů

Popis výsledku v původním jazyce

V roce 2023 jsme zažili vzestup umělé inteligence (AI) a její rozšíření k masovému používání uživateli po celém světě. Umělá inteligence však také přináší významné výzvy v oblasti ochrany osobních údajů,tak jako všechny předchozí výrazné změny v oblasti moderních technologií. Celosvětově lze sledovat dvapřístupy k AI v souvislosti s ochranou osobních údajů, jeden přístup reprezentují zejména Spojené státy americké a druhý přístup reprezentuje zejména Evropská unie. USA se zaměřují zejména na inovace a flexibilitu,zatímco EU klade důraz na ochranu soukromí a bezpečnost nad technologický posun. Předkládaný příspěvekse zaměří na ochranu uživatelů při užívání umělé inteligence a na konkrétní rizika ochrany osobních údajůu AI zahrnující neoprávněný přístup k citlivým datům, zneužití dat pro sledování a profilování uživatelů a nedostatečnou transparentnost algoritmů. V souvislosti s riziky užívání AI se příspěvek zaměří na nařízenístanovující harmonizovaná pravidla pro umělou inteligenci EU, tzv. AI Act, publikovaný EU. Ten by měl představovat komplexní rámec pro regulaci AI, který zahrnuje povinnosti pro vývojáře a uživatele AI, s cílemminimalizovat rizika a zajistit etické využití AI. Příspěvek se na konci bude zabývat tím, zda AI Act efektivnězajišťuje ochranu uživatelů v souvislosti s AI.

Název v anglickém jazyce

Artificial Intelligence – New Challenges from the Perspective of Personal Data Protection

Popis výsledku anglicky

In 2023, we witnessed the rapid rise of artificial intelligence (AI) and its expansion into widespread, everyday use by people around the world. Like every major technological shift before it, AI also brings significant challenges in the field of personal data protection. Globally, two dominant approaches to AI and privacy can be observed: one represented primarily by the United States, and the other by the European Union. The U.S. approach emphasizes innovation and flexibility, while the EU prioritizes privacy and security over technological progress.This paper focuses on the protection of users when interacting with AI and examines specific privacy risks associated with AI systems, including unauthorized access to sensitive data, misuse of data for monitoring and profiling users, and insufficient transparency of algorithms. In connection with these risks, the paper analyzes the EU’s recently published regulation establishing harmonized rules for artificial intelligence, known as the AI Act. The Act is intended to serve as a comprehensive regulatory framework for AI, introducing obligations for both developers and users with the aim of minimizing risks and ensuring the ethical use of AI. The paper concludes by assessing whether the AI Act effectively ensures user protection in the context of AI technologies.

Druh

J_SC - Článek v periodiku v databázi SCOPUS

CEP obor

—

OECD FORD obor

50501 - Law

Projekt

—

Návaznosti

S - Specificky vyzkum na vysokych skolach

Rok uplatnění

2025

Kód důvěrnosti údajů

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Název periodika

Právník - Teoretický časopis pro otázky státu a práva

ISSN

0231-6625

e-ISSN

—

Svazek periodika

164

Číslo periodika v rámci svazku

4

Stát vydavatele periodika

CZ - Česká republika

Počet stran výsledku

14

Strana od-do

347-360

Kód UT WoS článku

—

EID výsledku v databázi Scopus

2-s2.0-105006712380