Superintelligence and the control problem: Real problem or pseudo-problem?

Result code in IS VaVaI

<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F62690094%3A18460%2F21%3A50018891" target="_blank" >RIV/62690094:18460/21:50018891 - isvavai.cz</a>

Result on the web

<a href="https://filosofiednes.ff.uhk.cz/index.php/hen/article/view/343" target="_blank" >https://filosofiednes.ff.uhk.cz/index.php/hen/article/view/343</a>

DOI - Digital Object Identifier

<a href="http://dx.doi.org/10.26806/fd.v13i2.343" target="_blank" >10.26806/fd.v13i2.343</a>

Result language

čeština

Original language name

Superinteligence a problém kontroly: Skutečný problém nebo pseudo-problém?

Original language description

V tomto článku se zabývám konceptem SI (superinteligence) a s ní spojeným problémem kontroly. Podle určité skupiny teoretiků umělé inteligence stojíme na prahu události, která může radikálně změnit povahu technologického pokroku a lidské společnosti obecně. Touto událostí má být takzvaná technologická singularita, která je často spojována se vznikem první větší než lidské inteligence. Lidé jako Nick Bostrom varují před nebezpečím, které pro nás vznik SI znamená a upozorňují, že musíme co nejdříve najít metody kontroly této inteligence. Podle Bostroma a dalších nebezpečí SI vyplývá z její povahy. Já na jedné straně posuzuji, jak SI může vzniknout, a na druhé straně soudím smysluplnost problému kontroly. Vznik SI vyplývá ze vzniku umělé inteligence. Proto soustřeďuji podstatnou část textu argumentům pro její vznik. Ukazují jak se Bostrom a další nechávají unést jedním problematickým argumentem. Dále podrobuji jejich pozici klasické kritice umělé inteligence. Prezentuji, jak stále lpí na problematických domněnkách svých předchůdců. Zejména soustřeďuji svoji kritiku na tvrzení, že SI bude mít jeden konečný cíl, který bude interpretovat. Toto tvrzení označuji jako antitetické, a to představě, že SI bude obecnou inteligencí. V závěru z mojí argumentace vyvozuji, že problém kontroly zaměňuje dva jiné různé problémy „kontroly.“

Czech name

Superinteligence a problém kontroly: Skutečný problém nebo pseudo-problém?

Czech description

V tomto článku se zabývám konceptem SI (superinteligence) a s ní spojeným problémem kontroly. Podle určité skupiny teoretiků umělé inteligence stojíme na prahu události, která může radikálně změnit povahu technologického pokroku a lidské společnosti obecně. Touto událostí má být takzvaná technologická singularita, která je často spojována se vznikem první větší než lidské inteligence. Lidé jako Nick Bostrom varují před nebezpečím, které pro nás vznik SI znamená a upozorňují, že musíme co nejdříve najít metody kontroly této inteligence. Podle Bostroma a dalších nebezpečí SI vyplývá z její povahy. Já na jedné straně posuzuji, jak SI může vzniknout, a na druhé straně soudím smysluplnost problému kontroly. Vznik SI vyplývá ze vzniku umělé inteligence. Proto soustřeďuji podstatnou část textu argumentům pro její vznik. Ukazují jak se Bostrom a další nechávají unést jedním problematickým argumentem. Dále podrobuji jejich pozici klasické kritice umělé inteligence. Prezentuji, jak stále lpí na problematických domněnkách svých předchůdců. Zejména soustřeďuji svoji kritiku na tvrzení, že SI bude mít jeden konečný cíl, který bude interpretovat. Toto tvrzení označuji jako antitetické, a to představě, že SI bude obecnou inteligencí. V závěru z mojí argumentace vyvozuji, že problém kontroly zaměňuje dva jiné různé problémy „kontroly.“

Type

J_ost - Miscellaneous article in a specialist periodical

CEP classification

—

OECD FORD branch

60301 - Philosophy, History and Philosophy of science and technology

Project

—

Continuities

N - Vyzkumna aktivita podporovana z neverejnych zdroju

Publication year

2021

Confidentiality

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Name of the periodical

Filosofie dnes

ISSN

1804-0969

e-ISSN

1804-0969

Volume of the periodical

13

Issue of the periodical within the volume

2

Country of publishing house

CZ - CZECH REPUBLIC

Number of pages

46

Pages from-to

73-118

UT code for WoS article

—

EID of the result in the Scopus database

—