Word-order Typology in Multilingual BERT: A Case Study in Subordinate-Clause Detection
Identifikátory výsledku
Kód výsledku v IS VaVaI
<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F00216208%3A11320%2F22%3ARV3LXIIW" target="_blank" >RIV/00216208:11320/22:RV3LXIIW - isvavai.cz</a>
Výsledek na webu
<a href="https://aclanthology.org/2022.sigtyp-1.2" target="_blank" >https://aclanthology.org/2022.sigtyp-1.2</a>
DOI - Digital Object Identifier
—
Alternativní jazyky
Jazyk výsledku
angličtina
Název v původním jazyce
Word-order Typology in Multilingual BERT: A Case Study in Subordinate-Clause Detection
Popis výsledku v původním jazyce
The capabilities and limitations of BERT and similar models are still unclear when it comes to learning syntactic abstractions, in particular across languages. In this paper, we use the task of subordinate-clause detection within and across languages to probe these properties. We show that this task is deceptively simple, with easy gains offset by a long tail of harder cases, and that BERT's zero-shot performance is dominated by word-order effects, mirroring the SVO/VSO/SOV typology.
Název v anglickém jazyce
Word-order Typology in Multilingual BERT: A Case Study in Subordinate-Clause Detection
Popis výsledku anglicky
The capabilities and limitations of BERT and similar models are still unclear when it comes to learning syntactic abstractions, in particular across languages. In this paper, we use the task of subordinate-clause detection within and across languages to probe these properties. We show that this task is deceptively simple, with easy gains offset by a long tail of harder cases, and that BERT's zero-shot performance is dominated by word-order effects, mirroring the SVO/VSO/SOV typology.
Klasifikace
Druh
D - Stať ve sborníku
CEP obor
—
OECD FORD obor
10201 - Computer sciences, information science, bioinformathics (hardware development to be 2.2, social aspect to be 5.8)
Návaznosti výsledku
Projekt
—
Návaznosti
—
Ostatní
Rok uplatnění
2022
Kód důvěrnosti údajů
S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů
Údaje specifické pro druh výsledku
Název statě ve sborníku
Proceedings of the 4th Workshop on Research in Computational Linguistic Typology and Multilingual NLP
ISBN
978-1-955917-93-3
ISSN
—
e-ISSN
—
Počet stran výsledku
11
Strana od-do
11-21
Název nakladatele
Association for Computational Linguistics
Místo vydání
—
Místo konání akce
Seattle, Washington
Datum konání akce
1. 1. 2022
Typ akce podle státní příslušnosti
WRD - Celosvětová akce
Kód UT WoS článku
—