Complexity of Shallow Networks Representing Functions with Large Variations

Kód výsledku v IS VaVaI

<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F67985807%3A_____%2F14%3A00430374" target="_blank" >RIV/67985807:_____/14:00430374 - isvavai.cz</a>

Výsledek na webu

<a href="http://dx.doi.org/10.1007/978-3-319-11179-7_42" target="_blank" >http://dx.doi.org/10.1007/978-3-319-11179-7_42</a>

DOI - Digital Object Identifier

<a href="http://dx.doi.org/10.1007/978-3-319-11179-7_42" target="_blank" >10.1007/978-3-319-11179-7_42</a>

Jazyk výsledku

angličtina

Název v původním jazyce

Complexity of Shallow Networks Representing Functions with Large Variations

Popis výsledku v původním jazyce

Model complexities of networks representing multivariable functions is studied in terms of variational norms tailored to types of network units. It is shown that the size of the variational norm reflects both the number of hidden units and sizes of output weights. Lower bounds on growth of variational norms with increasing input dimension d are derived for Gaussian units and perceptrons. It is proven that variation of the d-dimensional parity with respect to Gaussian Support Vector Machines grows exponentially with d and for large values of d, almost any randomly-chosen Boolean function has variation with respect to perceptrons depending on d exponentially.

Název v anglickém jazyce

Complexity of Shallow Networks Representing Functions with Large Variations

Popis výsledku anglicky

Model complexities of networks representing multivariable functions is studied in terms of variational norms tailored to types of network units. It is shown that the size of the variational norm reflects both the number of hidden units and sizes of output weights. Lower bounds on growth of variational norms with increasing input dimension d are derived for Gaussian units and perceptrons. It is proven that variation of the d-dimensional parity with respect to Gaussian Support Vector Machines grows exponentially with d and for large values of d, almost any randomly-chosen Boolean function has variation with respect to perceptrons depending on d exponentially.

Druh

D - Stať ve sborníku

CEP obor

IN - Informatika

OECD FORD obor

—

Projekt

<a href="/cs/project/LD13002" target="_blank" >LD13002: Modelování složitých systémů softcomputingovými metodami</a><br>

Návaznosti

I - Institucionalni podpora na dlouhodoby koncepcni rozvoj vyzkumne organizace

Rok uplatnění

2014

Kód důvěrnosti údajů

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Název statě ve sborníku

Artificial Neural Networks and Machine Learning - ICANN 2014

ISBN

978-3-319-11178-0

ISSN

—

e-ISSN

—

Počet stran výsledku

8

Strana od-do

331-338

Název nakladatele

Springer

Místo vydání

Cham

Místo konání akce

Hamburg

Datum konání akce

15. 9. 2014

Typ akce podle státní příslušnosti

WRD - Celosvětová akce

Kód UT WoS článku

—