Ethical and legal issues of AI in war and humanitarian law

Result code in IS VaVaI

<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F00216208%3A11220%2F25%3A10514053" target="_blank" >RIV/00216208:11220/25:10514053 - isvavai.cz</a>

Result on the web

—

DOI - Digital Object Identifier

—

Result language

čeština

Original language name

Etické a právní otázky AI ve válečném a humanitárním právu

Original language description

Rozmach umělé inteligence (AI) v oblasti ozbrojených konfliktů představuje jednu z nejzásadnějších výzev pro mezinárodní právo ve 21. století. Zavádění autonomních zbraňových systémů (AWS) a podkategorie LAWS (z angl. Lethal Autonomous Weapon Systems), tedy zbraní schopných samostatně vyhledat a zasáhnout cíl i bez přímého lidského rozhodnutí, s sebou nese jak proměnu budoucích ozbrojených konfliktů, tak zejména závažné etické a právní otázky. K jejich řešení je ale potřebné zhodnotit současný stav a správně tyto otázky v kontextu válečného a mezinárodního práva identifikovat.V rovině etiky je klíčovým problémem otázka autonomie strojů ve vztahu k odpovědnosti. Lze vůbec připustit, aby algoritmus jako bezemoční entita rozhodoval o lidském životě bez vědomé účasti člověka? Někteří vidí řešení v &quot;human-in-the-loop&quot; konceptu, který spočívá v zapojení člověka do celého rozhodovacího cyklu. V praxi však může dojít k okleštění na pouhý formální status konceptu - tedy, že přítomný člověk bude pouze potvrzovat algoritmem navržený cíl bez hlubší úvahy. Výsledkem může být tzv. &quot;responsibility gap,&quot; kdy je těžce rozpoznatelné, kdo nese odpovědnost za následky. Tento scénář by taktéž prohloubil psychologickou distanci operátorů od násilí, kterého se dopouští, což přispívá k normalizaci války a ke ztrátě prvku lidskosti jako dvou základních hodnot mezinárodního humanitárního práva.

Czech name

Etické a právní otázky AI ve válečném a humanitárním právu

Czech description

Rozmach umělé inteligence (AI) v oblasti ozbrojených konfliktů představuje jednu z nejzásadnějších výzev pro mezinárodní právo ve 21. století. Zavádění autonomních zbraňových systémů (AWS) a podkategorie LAWS (z angl. Lethal Autonomous Weapon Systems), tedy zbraní schopných samostatně vyhledat a zasáhnout cíl i bez přímého lidského rozhodnutí, s sebou nese jak proměnu budoucích ozbrojených konfliktů, tak zejména závažné etické a právní otázky. K jejich řešení je ale potřebné zhodnotit současný stav a správně tyto otázky v kontextu válečného a mezinárodního práva identifikovat.V rovině etiky je klíčovým problémem otázka autonomie strojů ve vztahu k odpovědnosti. Lze vůbec připustit, aby algoritmus jako bezemoční entita rozhodoval o lidském životě bez vědomé účasti člověka? Někteří vidí řešení v &quot;human-in-the-loop&quot; konceptu, který spočívá v zapojení člověka do celého rozhodovacího cyklu. V praxi však může dojít k okleštění na pouhý formální status konceptu - tedy, že přítomný člověk bude pouze potvrzovat algoritmem navržený cíl bez hlubší úvahy. Výsledkem může být tzv. &quot;responsibility gap,&quot; kdy je těžce rozpoznatelné, kdo nese odpovědnost za následky. Tento scénář by taktéž prohloubil psychologickou distanci operátorů od násilí, kterého se dopouští, což přispívá k normalizaci války a ke ztrátě prvku lidskosti jako dvou základních hodnot mezinárodního humanitárního práva.

Type

D - Article in proceedings

CEP classification

—

OECD FORD branch

50501 - Law

Project

—

Continuities

S - Specificky vyzkum na vysokych skolach

Publication year

2025

Confidentiality

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Article name in the collection

Ústavní právo a technologie

ISBN

978-80-7502-850-1

ISSN

—

e-ISSN

—

Number of pages

8

Pages from-to

19-26

Publisher name

Nakladatelství Leges, s.r.o.

Place of publication

Praha

Event location

Jindřichův Hradec

Event date

Jul 28, 2025

Type of event by nationality

CST - Celostátní akce

UT code for WoS article

—