Probing Deep Learning Models by Logic

Poskytovatel

Grantová agentura České republiky

Program

Standardní projekty

Veřejná soutěž

SGA0202600001

Hlavní účastníci

České vysoké učení technické v Praze / Fakulta elektrotechnická

Druh soutěže

VS - Veřejná soutěž

Číslo smlouvy

26-23758S

Název projektu anglicky

Probing Deep Learning Models by Logic

Anotace anglicky

Deep learning may be paving the way toward general artificial intelligence. While its progress is impressive, it is also concerning that we are expected to place blind trust in models that function as black boxes—networks of billions of weights, where their creators could potentially embed hidden and undesirable “surprises”. In this project, we will contribute to the overall goal of making deep learning models more transparent by developing tools for probing and benchmarking them. For that we will use first-order logic and non-monotonic logics. We propose to contribute to the state of the art along the following axes: (i) Evaluating deep learning models and/or the algorithms used to train them, and (ii) Extracting the implicit logical knowledge in these models and reasoning with that knowledge. Our focus will be on two major model types: graph neural networks (GNNs) and large language models (LLMs).

Kategorie VaV

ZV - Základní výzkum

OECD FORD - hlavní obor

10201 - Computer sciences, information science, bioinformathics (hardware development to be 2.2, social aspect to be 5.8)

OECD FORD - vedlejší obor

—

OECD FORD - další vedlejší obor

—

CEP - odpovídající obory <br>(dle <a href="http://www.vyzkum.cz/storage/att/E6EF7938F0E854BAE520AC119FB22E8D/Prevodnik_oboru_Frascati.pdf">převodníku</a>)

AF - Dokumentace, knihovnictví, práce s informacemi<br>BC - Teorie a systémy řízení<br>BD - Teorie informace<br>IN - Informatika

Zahájení řešení

1. 1. 2026

Ukončení řešení

31. 12. 2028

Poslední stav řešení

Z - Začínající víceletý projekt

Poslední uvolnění podpory

—

Důvěrnost údajů

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Systémové označení dodávky dat

CEP26-GA0-GA-R

Datum dodání záznamu

6. 5. 2026

Celkové uznané náklady

10 356 tis. Kč

Výše podpory ze státního rozpočtu

10 356 tis. Kč

Ostatní veřejné zdroje financování

0 tis. Kč

Neveřejné tuz. a zahr. zdroje finan.

0 tis. Kč