FoNeCo: Analytical Foundations of Neurocomputing
Project goals
The computational paradigm has recently been shifted towards intelligent information processing which can be demonstrated by tremendous success of (deep) neural networks (NNs) producing state-of-the-art results in artificial intelligence. The majority of techniques used in NNs are of heuristic nature and therefore only partially theoretically justified. FoNeCo is a basic research project whose ambition is to contribute to the development of analytical foundations of selected practical neurocomputing models. Its aim is to characterize the computational power of subrecursive NNs between integer and rational weights using quasi-periodicity, and bio-inspired NNs based on synfire rings, to study approximation properties (e.g. model complexity) and robust fitting of various regression NNs, and to analyze the complexity of loading deep NNs. The analysis of respective NN models will be the basis of new architectures and more efficient, reliable, and theoretically-founded learning algorithms which will be implemented as open-source software and experimentally tested on benchmark problems.
Keywords
neural networksautomata theorycomplexityapproximationrobustness
Public support
Provider
Czech Science Foundation
Programme
Standard projects
Call for proposals
Standardní projekty 23 (SGA0201900001)
Main participants
Ústav informatiky AV ČR, v. v. i.
Contest type
VS - Public tender
Contract ID
19-05704S
Alternative language
Project name in Czech
FoNeCo: Analytické základy neurovýpočtů
Annotation in Czech
Výpočetní paradigma se v poslední době posouvá směrem k inteligentnímu zpracování informací, což lze prokázat obrovským úspěchem (hlubokých) neuronových sítí (NS), které v umělé inteligenci dosahují nejlepších výsledků. Většina technik používaných v NS má heuristickou povahu, a proto je jen částečně teoreticky zdůvodněná. FoNeCo je projektem základního výzkumu, jehož ambicí je přispět k rozvoji analytických základů vybraných praktických modelů neurovýpočtů. Jeho cílem je zejména charakterizovat výpočetní sílu subrekurzivních NS mezi celočíselnými a racionálními váhami s využitím kvazi-periodicity a biologicky inspirovaných NS založených na synfire rings, zkoumat aproximační vlastnosti (např. modelovou složitost) a robustní aproximace různých regresních NS a analyzovat složitost ládování hlubokých NS. Analýza příslušných modelů NS bude základem nových architektur a účinnějších, spolehlivějších a teoreticky více podložených učících algoritmů, které budou implementovány jako otevřený software a experimentálně testovány na referenčních problémech.
Scientific branches
R&D category
ZV - Basic research
OECD FORD - main branch
10201 - Computer sciences, information science, bioinformathics (hardware development to be 2.2, social aspect to be 5.8)
OECD FORD - secondary branch
—
OECD FORD - another secondary branch
—
AF - Documentation, librarianship, work with information
BC - Theory and management systems
BD - Information theory
IN - Informatics
Completed project evaluation
Provider evaluation
U - Uspěl podle zadání (s publikovanými či patentovanými výsledky atd.)
Project results evaluation
The project is devoted to the fundamental research in neural computations, associated approximation theory, recursive neural networks, and their robustness. Results correspond with project goals. Project has an interdisciplinary impact and its results were published in prestigeous journals and presented at important conferences. Financial support was used in the correspondence with project goals.
Solution timeline
Realization period - beginning
Jan 1, 2019
Realization period - end
Dec 31, 2021
Project status
U - Finished project
Latest support payment
Apr 30, 2021
Data delivery to CEP
Confidentiality
S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů
Data delivery code
CEP22-GA0-GA-U
Data delivery date
Jun 29, 2022
Finance
Total approved costs
5,072 thou. CZK
Public financial support
4,970 thou. CZK
Other public sources
102 thou. CZK
Non public and foreign sources
0 thou. CZK
Recognised costs
5 072 CZK thou.
Public support
4 970 CZK thou.
0%
Provider
Czech Science Foundation
OECD FORD
Computer sciences, information science, bioinformathics (hardware development to be 2.2, social aspect to be 5.8)
Solution period
01. 01. 2019 - 31. 12. 2021