Czert – Czech BERT-like Model for Language Representation

Kód výsledku v IS VaVaI

<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F49777513%3A23520%2F21%3A43962619" target="_blank" >RIV/49777513:23520/21:43962619 - isvavai.cz</a>

Výsledek na webu

<a href="https://aclanthology.org/2021.ranlp-1.149/" target="_blank" >https://aclanthology.org/2021.ranlp-1.149/</a>

DOI - Digital Object Identifier

<a href="http://dx.doi.org/10.26615/978-954-452-072-4_149" target="_blank" >10.26615/978-954-452-072-4_149</a>

Jazyk výsledku

angličtina

Název v původním jazyce

Czert – Czech BERT-like Model for Language Representation

Popis výsledku v původním jazyce

This paper describes the training process of the first Czech monolingual language representation models based on BERT and ALBERT architectures. We pre-train our models on more than 340K of sentences, which is 50 times more than multilingual models that include Czech data. We outperform the multilingual models on 9 out of 11 datasets. In addition, we establish the new state-of-the-art results on nine datasets. At the end, we discuss properties of monolingual and multilingual models based upon our results. We publish all the pre-trained and fine-tuned models freely for the research community.

Název v anglickém jazyce

Czert – Czech BERT-like Model for Language Representation

Popis výsledku anglicky

This paper describes the training process of the first Czech monolingual language representation models based on BERT and ALBERT architectures. We pre-train our models on more than 340K of sentences, which is 50 times more than multilingual models that include Czech data. We outperform the multilingual models on 9 out of 11 datasets. In addition, we establish the new state-of-the-art results on nine datasets. At the end, we discuss properties of monolingual and multilingual models based upon our results. We publish all the pre-trained and fine-tuned models freely for the research community.

Druh

D - Stať ve sborníku

CEP obor

—

OECD FORD obor

10201 - Computer sciences, information science, bioinformathics (hardware development to be 2.2, social aspect to be 5.8)

Projekt

<a href="/cs/project/EF17_048%2F0007267" target="_blank" >EF17_048/0007267: VaV inteligentních komponent pokročilých technologií pro plzeňskou metropolitní oblast</a><br>

Návaznosti

P - Projekt vyzkumu a vyvoje financovany z verejnych zdroju (s odkazem do CEP)<br>S - Specificky vyzkum na vysokych skolach<br>I - Institucionalni podpora na dlouhodoby koncepcni rozvoj vyzkumne organizace

Rok uplatnění

2021

Kód důvěrnosti údajů

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Název statě ve sborníku

Deep Learning for Natural Language Processing Methods and Applications

ISBN

978-954-452-072-4

ISSN

1313-8502

e-ISSN

—

Počet stran výsledku

13

Strana od-do

1326-1338

Název nakladatele

INCOMA, Ltd.

Místo vydání

Shoumen

Místo konání akce

Shoumen, Bulgaria

Datum konání akce

1. 9. 2021

Typ akce podle státní příslušnosti

WRD - Celosvětová akce

Kód UT WoS článku

—