Prostory parametrů a složitost učení neuronových sítí
Cíle projektu
Po vyřešení hlavních otázek spojených s aproximačními schopnostmi dopředných neuronových sítí se důraz přesunuje na problémy složitosti. Praktické výsledky ukazují, že největším problémem je časová náročnost učícího procesu, který představuje nelineárníoptimalizační problém ve vysoce dimenzionálním prostoru parametrů sítě. Jednou z možností, jak snížit časovou složitost učení je popis redundantních parametrizací sítě realizujících stejné vstupně-výstupní funkce. Budeme se věnovat popisu funkčně ekvivalentních sítí pro různé architektury (RBF sítě, vícevrstvé perceptrony) a jejímu využití pro odvození nových učících algoritmů, které jsou schopny prohledávat redukované prostory parametrů. Jedním z typů takových algoritmů je např. modifikovaný genetickýalgoritmus. Prozkoumáme vliv redukce parametrického prostoru na časovou složitost učení a dané algoritmy realizujeme i prakticky, pokud možno v paralelním výpočetním prostředí, jež je pro tento typ algoritmů vhodné.
Klíčová slova
Veřejná podpora
Poskytovatel
Grantová agentura České republiky
Program
Standardní projekty
Veřejná soutěž
—
Hlavní účastníci
Ústav informatiky AV ČR, v. v. i.
Druh soutěže
VS - Veřejná soutěž
Číslo smlouvy
—
Alternativní jazyk
Název projektu anglicky
Parameter spaces and learning complexity of neural networks
Anotace anglicky
After the main questions concerning approximation capabilities of feedforward networks have been solved the focus has shifted towards complexity problems. Practical results indicate that the time complexity of learning process-representing a non-linear optimization task in a high-dimensional network parameter space-is the biggest problem. One possibility to decrease time complexity is the description of redundant network parametrizations realizing the same I/O function. We will focus on the descriptionof functionally equivalent networks for various architectures (RBF networks, multilayer perceptrons) and its utilization in deriving of new learning algorithms that are able to scan reduced parameter spaces. One type of such an algorithm is e.g. the modified genetic algorithm. We will investigate the effect of parameter space reduction to time complexity of learning. The given algorithms will be practically realized, hopefully in a parallel environment which is suitable for this type of algorithms.
Vědní obory
Kategorie VaV
—
CEP - hlavní obor
BA - Obecná matematika
CEP - vedlejší obor
BD - Teorie informace
CEP - další vedlejší obor
—
OECD FORD - odpovídající obory
(dle převodníku)10101 - Pure mathematics
10102 - Applied mathematics
10201 - Computer sciences, information science, bioinformathics (hardware development to be 2.2, social aspect to be 5.8)
Hodnocení dokončeného projektu
Hodnocení poskytovatelem
V - Vynikající výsledky projektu (s mezinárodním významem atd.)
Zhodnocení výsledků projektu
Byly dosaženy výsledky o určitých typech neuronových sítí a souvisejících učících se algoritmů. Výstupy jsou články v kvalitních časopisech; jejich množství odpovídá rozsahu grantu.
Termíny řešení
Zahájení řešení
1. 1. 1999
Ukončení řešení
1. 1. 2001
Poslední stav řešení
U - Ukončený projekt
Poslední uvolnění podpory
—
Dodání dat do CEP
Důvěrnost údajů
S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů
Systémové označení dodávky dat
CEP/2002/GA0/GA02GA/U/N/7:3
Datum dodání záznamu
1. 4. 2003
Finance
Celkové uznané náklady
570 tis. Kč
Výše podpory ze státního rozpočtu
507 tis. Kč
Ostatní veřejné zdroje financování
190 tis. Kč
Neveřejné tuz. a zahr. zdroje finan.
0 tis. Kč
Uznané náklady
570 tis. Kč
Statní podpora
507 tis. Kč
0%
Poskytovatel
Grantová agentura České republiky
CEP
BA - Obecná matematika
Doba řešení
01. 01. 1999 - 01. 01. 2001