Detection of anomalous or out-of-distribution inputs in deep neural network models

Provider

Czech Science Foundation

Programme

Standard projects

Call for proposals

SGA0202500001

Main participants

České vysoké učení technické v Praze / Fakulta elektrotechnická

Contest type

VS - Public tender

Contract ID

25-15993S

Project name in Czech

Detekce anomálních vstupů nebo vstupů mimo trénovací distribuci v modelech hlubokých neuronových sítí

Annotation in Czech

Navrhovaný projekt je z oblasti počítačového vidění, tj. z oblasti, kde vstupní data se jsou digitální obrazy. Cílem projektu je řešit problém detekce out-of-distribution (OOD) dat. Tento problém lze intuitivně chápat jako úlohu identifikace podmnožiny dat, která se odchyluje od distribuce statistického modelu nebo obecného rozdělení dat, a to v novém, a tudíž obtížně předvídatelným způsobem. Jedná se o důležitou úlohu s mnoha aplikacemi, např. inspekce výrobků v průmyslu, analýza lékařských snímků nebo autonomní řízení. Lze dokonce tvrdit, že žádný model získaný pomocí strojového učení by neměl být nasazen bez schopnosti detekce OOD, protože v praxi se téměř nikdy nestane, že by všechna vstupní data pocházela ze stejného rozložení jako trénovací data. V tomto projektu chceme analyzovat hierarchické struktury OOD dat, jako např. víceúrovňová hiearchie, kdy některé typy OOD mohou být identifikovány na různých úrovních abstrakce reprezentace v moderních architekturách neuronových sítí nebo prostorová granularita oblasti, na které jsou založena OOD rozhodnutí. Za druhé, chceme navr

R&D category

ZV - Basic research

OECD FORD - main branch

10201 - Computer sciences, information science, bioinformathics (hardware development to be 2.2, social aspect to be 5.8)

OECD FORD - secondary branch

—

OECD FORD - another secondary branch

—

CEP - equivalent branches <br>(according to the <a href="http://www.vyzkum.cz/storage/att/E6EF7938F0E854BAE520AC119FB22E8D/Prevodnik_oboru_Frascati.pdf">converter</a>)

AF - Documentation, librarianship, work with information<br>BC - Theory and management systems<br>BD - Information theory<br>IN - Informatics

Realization period - beginning

Jan 1, 2025

Realization period - end

Dec 31, 2027

Project status

Z - Beginning multi-year project

Latest support payment

—

Confidentiality

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Data delivery code

CEP25-GA0-GA-R

Data delivery date

Feb 25, 2025

Total approved costs

5,973 thou. CZK

Public financial support

5,973 thou. CZK

Other public sources

0 thou. CZK

Non public and foreign sources

0 thou. CZK