Probabilistic Graphical Models and Deep Learning
Project goals
Machine learning is very popular today both in academia and industry, as part of artificial intelligence that actually "works". Graphical models and deep learning are two paradigms in machine learning that have recently become particularly successful in practice. Deep learning is the result of a very recent revolution that has shown that artificial neural networks beat all other existing methods in certain "cognitive" tasks (such as recognizing complex objects categories in images, understanding speech in audio signal, or processing natural language in text documents) if they are deep enough and are trained on big enough data. The two paradigms are related because many deep architectures can be seen as graphical models. However, unlike graphical models, deep learning methods are not well theoretically justified, seen by some as only a pile of clever heuristics. Our goal is (i) to contribute to inference and learning in graphical models and (ii) to gain better understanding of the success of deep learning by grounding it more firmly in the well-established theory of graphical models.
Keywords
machine learningpattern recognitionprobabilistic graphical modelsdeep learningartificial neural networkscomputer vision
Public support
Provider
Czech Science Foundation
Programme
Standard projects
Call for proposals
Standardní projekty 20 (SGA0201600001)
Main participants
České vysoké učení technické v Praze / Fakulta elektrotechnická
Contest type
VS - Public tender
Contract ID
16-05872S
Alternative language
Project name in Czech
Pravděpodobnostní grafové modely a hluboké učení
Annotation in Czech
Strojové učení je dnes velmi populární na univerzitách i v průmyslu, jako část umělé inteligence která skutečně "funguje". Grafové modely a hluboké učení jsou dvě paradigmata ve strojovém učení, která jsou v poslední době úspěšná v praxi. Hluboké učení je výsledek velmi nedávné revoluce, která ukázala, že umělé neuronové sítě poráží všechny ostatní existující metody v jistých "kognitivních" úlohách (rozpoznávání složitých kategorií objektů v obrazech, pozorumění řeči ve zvukovém signálu, zpracování přirozeného jazyka v dokumentech) pokud jsou dostatečně hluboké a pokud jsou naučeny na dostatečně velkých datech. Tato dvě paradigmata spolu souvisejí, neboť mnoho hlubokých sítí lze chápat jako grafové modely. Avšak, na rozdíl od grafových modelů, metody hlubokého učení nejsou dobře teoreticky odůvodněny a někdo v nich vidí jen sbírku chytrých heuristik. Našim cílem je (i) přispět k teorii inference a učení grafových modelů a (ii) získat lepší porozumění úspěchů hlubokého učení pomocí jeho pevnějšího zakotvení v dobře rozvinuté teorii grafových modelů.
Scientific branches
R&D category
ZV - Basic research
CEP classification - main branch
IN - Informatics
CEP - secondary branch
JD - Use of computers, robotics and its application
CEP - another secondary branch
—
10201 - Computer sciences, information science, bioinformathics (hardware development to be 2.2, social aspect to be 5.8)
20204 - Robotics and automatic control
20205 - Automation and control systems
Completed project evaluation
Provider evaluation
U - Uspěl podle zadání (s publikovanými či patentovanými výsledky atd.)
Project results evaluation
The goal of the project was to study the relationship between probabilistic graphical models and deep learning. The research was focused on both theoretical questions of combinatoric optimizations and design of new machine learning algorithms. The achieved results are applicable in other domains like biology and medicine. The plan of publications has been fulfilled.
Solution timeline
Realization period - beginning
Jan 1, 2016
Realization period - end
Dec 31, 2018
Project status
U - Finished project
Latest support payment
Apr 26, 2018
Data delivery to CEP
Confidentiality
S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů
Data delivery code
CEP19-GA0-GA-U/01:1
Data delivery date
Jun 12, 2019
Finance
Total approved costs
5,303 thou. CZK
Public financial support
4,262 thou. CZK
Other public sources
1,041 thou. CZK
Non public and foreign sources
0 thou. CZK
Basic information
Recognised costs
5 303 CZK thou.
Public support
4 262 CZK thou.
80%
Provider
Czech Science Foundation
CEP
IN - Informatics
Solution period
01. 01. 2016 - 31. 12. 2018