Algorithmic Biases in Machine Learning Models in Education

Provider

Czech Science Foundation

Programme

—

Call for proposals

SGA0202500004

Main participants

Masarykova univerzita / Fakulta informatiky

Contest type

VS - Public tender

Contract ID

25-15839I

Project name in Czech

Algoritmická zkreslení v modelech strojového učení ve vzdělávání

Annotation in Czech

Algoritmická zkreslení mohou vyvstat v kterékoliv fázi procesu modelování a značně ovlivnit výsledné modely používané ve strojovém učení. Předchozí výzkum identifikoval konkrétní zkreslení v datech a běžně užívaných technikách. Dosavadní výzkum nepopisuje, jak se zkreslení mění, když jsou modifikovány jednotlivé části procesu modelování. Cílem projektu je vykonat analýzu citlivosti modelů strojového učení s učitelem. Projekt bude zkoumat, které vlastnosti modelů jsou ovlivněny kterými změnami v datové a algoritmické části procesu. Budu měřit, které faktory v modelech se mění a jak, na základě manipulace s jednotlivými proměnnými, které vstupují do procesu modelování. Zaměří se na efekty eliminace dat nebo přidání syntetických dat vyprodukovaných generativními modely a následně bude pozorovat výsledný dopad na cílové modely. Výzkum bude probíhat za použití dat vygenerovaných lidmi v kontextu vzdělávání. Výsledky budou zahrnovat systematický popis kauzálních dopadů na zkreslení za definovaných podmínek. Tato znalost zlepší pochopení metodologických rozhodnutí pro modelování.

R&D category

ZV - Basic research

OECD FORD - main branch

10201 - Computer sciences, information science, bioinformathics (hardware development to be 2.2, social aspect to be 5.8)

OECD FORD - secondary branch

—

OECD FORD - another secondary branch

—

CEP - equivalent branches <br>(according to the <a href="http://www.vyzkum.cz/storage/att/E6EF7938F0E854BAE520AC119FB22E8D/Prevodnik_oboru_Frascati.pdf">converter</a>)

AF - Documentation, librarianship, work with information<br>BC - Theory and management systems<br>BD - Information theory<br>IN - Informatics

Realization period - beginning

Apr 1, 2025

Realization period - end

Dec 31, 2028

Project status

Z - Beginning multi-year project

Latest support payment

—

Confidentiality

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Data delivery code

CEP25-GA0-GN-R

Data delivery date

Mar 22, 2025

Total approved costs

3,443 thou. CZK

Public financial support

3,443 thou. CZK

Other public sources

0 thou. CZK

Non public and foreign sources

0 thou. CZK