Superinteligence a problém kontroly: Skutečný problém nebo pseudo-problém?

Kód výsledku v IS VaVaI

<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F62690094%3A18460%2F21%3A50018891" target="_blank" >RIV/62690094:18460/21:50018891 - isvavai.cz</a>

Výsledek na webu

<a href="https://filosofiednes.ff.uhk.cz/index.php/hen/article/view/343" target="_blank" >https://filosofiednes.ff.uhk.cz/index.php/hen/article/view/343</a>

DOI - Digital Object Identifier

<a href="http://dx.doi.org/10.26806/fd.v13i2.343" target="_blank" >10.26806/fd.v13i2.343</a>

Jazyk výsledku

čeština

Název v původním jazyce

Superinteligence a problém kontroly: Skutečný problém nebo pseudo-problém?

Popis výsledku v původním jazyce

V tomto článku se zabývám konceptem SI (superinteligence) a s ní spojeným problémem kontroly. Podle určité skupiny teoretiků umělé inteligence stojíme na prahu události, která může radikálně změnit povahu technologického pokroku a lidské společnosti obecně. Touto událostí má být takzvaná technologická singularita, která je často spojována se vznikem první větší než lidské inteligence. Lidé jako Nick Bostrom varují před nebezpečím, které pro nás vznik SI znamená a upozorňují, že musíme co nejdříve najít metody kontroly této inteligence. Podle Bostroma a dalších nebezpečí SI vyplývá z její povahy. Já na jedné straně posuzuji, jak SI může vzniknout, a na druhé straně soudím smysluplnost problému kontroly. Vznik SI vyplývá ze vzniku umělé inteligence. Proto soustřeďuji podstatnou část textu argumentům pro její vznik. Ukazují jak se Bostrom a další nechávají unést jedním problematickým argumentem. Dále podrobuji jejich pozici klasické kritice umělé inteligence. Prezentuji, jak stále lpí na problematických domněnkách svých předchůdců. Zejména soustřeďuji svoji kritiku na tvrzení, že SI bude mít jeden konečný cíl, který bude interpretovat. Toto tvrzení označuji jako antitetické, a to představě, že SI bude obecnou inteligencí. V závěru z mojí argumentace vyvozuji, že problém kontroly zaměňuje dva jiné různé problémy „kontroly.“

Název v anglickém jazyce

Superintelligence and the control problem: Real problem or pseudo-problem?

Popis výsledku anglicky

In this paper, I deal with the concept of SI (superintelligence) and the control problem. According to a group of AI theorists, we will soon experience an event that can change technological progress and human society. This event is the technological singularity associated with the emergence of the first greater than human intelligence. People like Nick Bostrom stress the SI’s dangers and urge us to find methods to control this intelligence. According to Bostrom and others, the threat of SI stems from its nature. This article considers how SI can be created and judges the logic of the control problem. SI is possible only if we can create AI. For this reason, a section of the text concentrates on the arguments for the creation of AI. It is shown how Bostrom and others base their thesis on one problematic argument and assumptions of their predecessors. Their position is subjected to the classical critique of artificial intelligence. I primarily focus my criticism on the claim that SI will have one final goal, which it will interpret. This statement is antithetical to the idea that SI will be a general intelligence. I conclude that the control problem confuses two other different “control” problems.

Druh

J_ost - Ostatní články v recenzovaných periodicích

CEP obor

—

OECD FORD obor

60301 - Philosophy, History and Philosophy of science and technology

Projekt

—

Návaznosti

N - Vyzkumna aktivita podporovana z neverejnych zdroju

Rok uplatnění

2021

Kód důvěrnosti údajů

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Název periodika

Filosofie dnes

ISSN

1804-0969

e-ISSN

1804-0969

Svazek periodika

13

Číslo periodika v rámci svazku

2

Stát vydavatele periodika

CZ - Česká republika

Počet stran výsledku

46

Strana od-do

73-118

Kód UT WoS článku

—

EID výsledku v databázi Scopus

—