Artificial intelligence or Kenyan annotators in the Chinese room

Result code in IS VaVaI

<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F49777513%3A23330%2F23%3A43969328" target="_blank" >RIV/49777513:23330/23:43969328 - isvavai.cz</a>

Result on the web

—

DOI - Digital Object Identifier

—

Result language

čeština

Original language name

Umělá inteligence aneb keňští anotátoři v čínské komnatě

Original language description

Přednáška popularizuje Searlův myšlenkový experiment „čínského pokoje“, který je klasickým filozofickým argumentem proti silné či obecné umělé inteligenci (UI): manipulace se znaky na základě syntaktických pravidel nezaručuje porozumění sémantice, resp. počítačový program není dostatečnou podmínkou pro intencionalitu. Současná UI, zejména v podobě neuronových jazykových modelů, je často prezentována tak, že rozumí přirozenému jazyku nebo že reprezentuje poznání světa. Blake Lemoine, vývojář z Googlu, dokonce tvrdí, že systém LaMDA pociťuje emoce a bojí se vypnutí jako smrti. Sam Altman, výkonný ředitel z OpenAI, jež provozuje ChatGPT a DALL-E, hlásá, že jejich posláním není tvorba generátorů obrázků, nýbrž obecné UI. Ačkoliv je aktuální vývoj generativní UI pozoruhodný a její výkony fascinující, nejen mezi filozofy přetrvávají pochybnosti o základních principech jejího fungování, totiž o možnosti zachytit významy slov prostřednictvím vektorů a nahradit lidskou komunikaci a porozumění statistickou predikcí tokenů. Cílem přednášky je nastínit širší historicko-filozofický kontext Searlova argumentu a podnítit diskuzi o jeho platnosti vzhledem k dnešní UI. Do čínského pokoje tak postupně zavřeme Johna Searla s několika jeho oponenty, keňské anotátory najaté OpenAI a chobotnici, abychom je posléze propustili na počátku moderní filozofické tradice z Leibnizova mlýna.

Czech name

Umělá inteligence aneb keňští anotátoři v čínské komnatě

Czech description

Přednáška popularizuje Searlův myšlenkový experiment „čínského pokoje“, který je klasickým filozofickým argumentem proti silné či obecné umělé inteligenci (UI): manipulace se znaky na základě syntaktických pravidel nezaručuje porozumění sémantice, resp. počítačový program není dostatečnou podmínkou pro intencionalitu. Současná UI, zejména v podobě neuronových jazykových modelů, je často prezentována tak, že rozumí přirozenému jazyku nebo že reprezentuje poznání světa. Blake Lemoine, vývojář z Googlu, dokonce tvrdí, že systém LaMDA pociťuje emoce a bojí se vypnutí jako smrti. Sam Altman, výkonný ředitel z OpenAI, jež provozuje ChatGPT a DALL-E, hlásá, že jejich posláním není tvorba generátorů obrázků, nýbrž obecné UI. Ačkoliv je aktuální vývoj generativní UI pozoruhodný a její výkony fascinující, nejen mezi filozofy přetrvávají pochybnosti o základních principech jejího fungování, totiž o možnosti zachytit významy slov prostřednictvím vektorů a nahradit lidskou komunikaci a porozumění statistickou predikcí tokenů. Cílem přednášky je nastínit širší historicko-filozofický kontext Searlova argumentu a podnítit diskuzi o jeho platnosti vzhledem k dnešní UI. Do čínského pokoje tak postupně zavřeme Johna Searla s několika jeho oponenty, keňské anotátory najaté OpenAI a chobotnici, abychom je posléze propustili na počátku moderní filozofické tradice z Leibnizova mlýna.

Type

O - Miscellaneous

CEP classification

—

OECD FORD branch

60301 - Philosophy, History and Philosophy of science and technology

Project

—

Continuities

S - Specificky vyzkum na vysokych skolach

Publication year

2023

Confidentiality

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů