Etické a právní otázky AI ve válečném a humanitárním právu

Kód výsledku v IS VaVaI

<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F00216208%3A11220%2F25%3A10514053" target="_blank" >RIV/00216208:11220/25:10514053 - isvavai.cz</a>

Výsledek na webu

—

DOI - Digital Object Identifier

—

Jazyk výsledku

čeština

Název v původním jazyce

Etické a právní otázky AI ve válečném a humanitárním právu

Popis výsledku v původním jazyce

Rozmach umělé inteligence (AI) v oblasti ozbrojených konfliktů představuje jednu z nejzásadnějších výzev pro mezinárodní právo ve 21. století. Zavádění autonomních zbraňových systémů (AWS) a podkategorie LAWS (z angl. Lethal Autonomous Weapon Systems), tedy zbraní schopných samostatně vyhledat a zasáhnout cíl i bez přímého lidského rozhodnutí, s sebou nese jak proměnu budoucích ozbrojených konfliktů, tak zejména závažné etické a právní otázky. K jejich řešení je ale potřebné zhodnotit současný stav a správně tyto otázky v kontextu válečného a mezinárodního práva identifikovat.V rovině etiky je klíčovým problémem otázka autonomie strojů ve vztahu k odpovědnosti. Lze vůbec připustit, aby algoritmus jako bezemoční entita rozhodoval o lidském životě bez vědomé účasti člověka? Někteří vidí řešení v &quot;human-in-the-loop&quot; konceptu, který spočívá v zapojení člověka do celého rozhodovacího cyklu. V praxi však může dojít k okleštění na pouhý formální status konceptu - tedy, že přítomný člověk bude pouze potvrzovat algoritmem navržený cíl bez hlubší úvahy. Výsledkem může být tzv. &quot;responsibility gap,&quot; kdy je těžce rozpoznatelné, kdo nese odpovědnost za následky. Tento scénář by taktéž prohloubil psychologickou distanci operátorů od násilí, kterého se dopouští, což přispívá k normalizaci války a ke ztrátě prvku lidskosti jako dvou základních hodnot mezinárodního humanitárního práva.

Název v anglickém jazyce

Ethical and legal issues of AI in war and humanitarian law

Popis výsledku anglicky

The rise of artificial intelligence (AI) in armed conflict represents one of the most significant challenges for international law in the 21st century. The introduction of autonomous weapon systems (AWS) and the subcategory of LAWS (Lethal Autonomous Weapon Systems), i.e., weapons capable of independently searching for and striking targets without direct human decision-making, brings with it both a transformation of future armed conflicts and, in particular, serious ethical and legal questions. However, in order to address these issues, it is necessary to assess the current situation and correctly identify these issues in the context of war and international law.On the ethical level, the key issue is the question of machine autonomy in relation to responsibility. Is it even permissible for an algorithm, as an emotionless entity, to make decisions about human life without the conscious participation of a human being? Some see the solution in the &quot;human-in-the-loop&quot; concept, which involves human participation in the entire decision-making cycle. In practice, however, this may be reduced to a mere formal status of the concept-that is, the human present will only confirm the goal proposed by the algorithm without deeper consideration. The result could be a so-called &quot;responsibility gap,&quot; where it is difficult to identify who is responsible for the consequences. This scenario would also deepen the psychological distance between operators and the violence they commit, contributing to the normalization of war and the loss of humanity as two fundamental values of international humanitarian law.

Druh

D - Stať ve sborníku

CEP obor

—

OECD FORD obor

50501 - Law

Projekt

—

Návaznosti

S - Specificky vyzkum na vysokych skolach

Rok uplatnění

2025

Kód důvěrnosti údajů

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Název statě ve sborníku

Ústavní právo a technologie

ISBN

978-80-7502-850-1

ISSN

—

e-ISSN

—

Počet stran výsledku

8

Strana od-do

19-26

Název nakladatele

Nakladatelství Leges, s.r.o.

Místo vydání

Praha

Místo konání akce

Jindřichův Hradec

Datum konání akce

28. 7. 2025

Typ akce podle státní příslušnosti

CST - Celostátní akce

Kód UT WoS článku

—