Nastavení

This is an old revision of the document!


Corpus SYN2015

SYN2015 is a representative corpus of contemporary written Czech published in December 2015. SYN2015 is a sequel of the representative corpora of the SYN series (SYN2000, SYN2005, SYN2010), but at the same time, it reflects necessary methodological and technological enhancements outlined below.

Name SYN2015
Positions Number of positions (tokens) 120 748 715
Number of positions (excl. punctuation) 100 838 568
Number of word forms 1 751 599
Number of lemmas 777 011
Structures Number of documents <doc> 3 376
Number of texts <text> 114 492
Number of paragraphs <p> 2 805 065
Number of sentences <s> 8 004 732
Further information Reference corpus YES
Representative corpus YES
Publication year 2015

Changes compared to other SYN series corpora

The concept of written language in SYN2015

SYN2015 is designed as a representation of contemporary printed language of the last five-year period, i.e. 2010–2014. As the borders of synchronicity vary across the registers, the following criteria for inclusion of the individual texts into SYN2015 have been adopted (based on the three top-level categories, cf. below):

  • fiction: publication date within the last 25 years and first publication date within the last 75 years;
  • non-fiction: first publication date within the last 25 years;
  • newspapers and magazines: publication date within the given five-year period.

Representativeness in SYN2015

The approach adopted to representativeness differs from previous corpora of the SYN-series. SYN2015 contains a large spectrum of different types of texts in order to cover vast majority of varieties the corpus aims to represent. This corresponds to Biber's notion of representativeness in terms of texts as products. Unlike the previous corpora in this series, SYN2015 is designed as representative, but not claimed to be balanced.

Text classification

The original text classification scheme of the SYN series has been updated and revised; both original and revised classifications are based on text-external criteria that reflect predominant function of a text. The revision has been made with respect to comparability with the original scheme, with the most significant change made to the sub-classification of non-fiction adopted from the Czech National Library and more detailed classification of newspaper texts.

Txtype_group Portion
FIC: fiction 33,33 %
NFC: non-fiction 33,33 %
NMG: newspapers and magazines 33,33 %
Composition of non-fiction (NFC) part of the SYN2015
Proportion of traditional and leisure journalism within the newspapers and magazines in each year

In line with its predecessors, SYN2015 contains a large variety of texts from various publishers within the given classification category. A category is defined by a combination of two variables: text type and genre. Proportions of the particular categories in SYN2015 are set arbitrarily, yet close to the original figures.

Next to the text type and genre, metadata related to the text classification and available for every document also include medium (book, journal, textbook etc.), periodicity (daily, weekly, monthly, less than monthly, non-periodical) and audience (general, children/youth). Standard division of the newspapers into the individual articles is also supplemented by their separate classification into 13 sections (politics, economics, sports, culture, leisure, commentaries etc.) and information about the author that is available for all prominent newspaper titles.

A more detailed description of the text types contained within the macro groups:

txtype genre / genre_group category proportion
Fiction (FIC) 33,33 %
NOV novels 26 %
COL short stories 5 %
VER poetry 1 %
SCR drama, screenplays 1 %
X other 0,33 %
Non-fiction (NFC) 33,33 %
SCI (scientific)

PRO (professional)

POP (popular)
HUM humanities 7 %
SSC social sciences 7 %
NAT natural sciences 7 %
FTS technical sciences 7 %
ITD interdisciplinary 1 %
MEM memoirs, autobiographies 4 %
ADM administrative texts 0,33 %
Newspapers and magazines (NMG) 33,33 %
NEW NTW nationawide newspapers – selected titles (MF, LN, HN, Právo) 10 %
NTW nationawide newspapers – other 5 %
REG regional newspapers 5 %
LEI leisure magazines 13,33 %

Concept of synchronicity

We are working under the assumption that a synchronic text is one that is still being read (or published), which is indicated by the year of publication. The boundaries of synchrony differ for each of the three macro groups:

  • for fiction it is 25 + 75, i.e. the time elapsed since the first publication is less than 75 years (approximately three living generations) and the given issue of the text being added to the corpus is no older than 25 years (ensuring reception in the present),
  • for non-fiction texts the first issue must be no older than 25 years,
  • the boundaries for the synchrony of newspapers and magazines remains unchanged, i.e. the text must have been published in the period which is being mapped by the corpus (in the case of SYN2015 it is the period between 2010 and 2014).

The resulting makeup of the corpus in no. of words over the years is summarized by the following graph.

Proportion of fiction, non-fiction, newspapers and magazines in each year

Poziční anotace a značkování

Oproti předchozím korpusům byla vylepšena lemmatizace a morfologické značkování; obojí je v zásadě shodné se zpracováním korpusu SYN2013PUB (viz popis tagsetu), pro SYN2015 byly nicméně použity novější verze všech nástrojů (vylepšení se týkají jak morfologického slovníku, tak pravidlové disambiguace). Kromě toho se změnil způsob lemmatizace interpunkčních znamének: zatímco v předchozích korpusech byly sjednoceny různé způsoby zápisu uvozovek, apostrofů a byl také setřen rozdíl mezi spojovníkem a pomlčkou, v SYN2015 je již původní podoba těchto znaků v maximální možné míře zachována, a to v atributu word; v atributu lemma je pak uvedena sjednocená podoba, kterou je výhodné použít pro vyhledávání.

Vedle morfologické anotace se v SYN2015 poprvé v korpusech řady SYN objevuje automatická anotace syntaktická. Anotace vychází z koncepce Pražského závislostního korpusu (PDT) a byla provedena stochastickým parserem TurboParser. Vzhledem k její experimentální povaze lze syntaktickou anotaci využívat jako rámcové vodítko k dalšímu jazykovému výzkumu, je však nutné počítat s tím, že není spolehlivá jako anotace morfologická. Chybovost je vyšší u méně častých syntaktických funkcí a konstrukcí, u nejčastějších funkcí v obvyklém kontextu klesá pod 10 %. Anotace je zachycena pomocí několika pozičních atributů (viz shrnutí):

Kromě těchto značek má korpus SYN2015 nově několik dalších pozičních atributů:

  • proc - informace o typu nástroje, který je zodpovědný za konečnou disambiguaci tvaru
  • lemma_lc - hodnota atributu lemma převedená na malá písmena (analogicky ke vztahu atributů lc a word)

Struktura korpusu a strukturní značky

Struktura předchozích korpusů řady SYN se většinou řídila hierarchií <opus><doc><s> (tj. ucelený text nebo soubor textů – oddíl nebo kapitola – věta). V korpusu SYN2015 je tato hierarchie změněna a doplněna. Nejvyšší strukturní jednotkou je ve shodě s mezinárodní konvencí dokument <doc>, který se skládá z jednoho nebo několika textů <text> (články v periodiku, kapitoly v knize nebo jiné smysluplné úseky). Texty se dále člení do odstavců <p> a vět <s>. Každá z těchto struktur je charakterizována konkrétními atributy, jejichž přehled uvádíme v následující tabulce. Kromě těchto hierarchických struktur jsou v korpusu zaznamenány také struktury <hi> (zvýraznění a řezy písma) a <lb> (označení hranice verše v poezii).

<doc> Poznámka <text> Poznámka <p> Poznámka <s> Poznámka
title název dokumentu nebo periodika section generovaný typ rubriky (u vybraných periodik) type běžný odstavec/nadpis id unique identifier
subtitle podtitul section_orig původní název rubriky (u vybraných periodik) id jednoznačný identifikátor
author autor dokumentu author autor článku (u vybraných periodik)
issue vydání (u periodik) id unique identifier
publisher vydavatel
pubplace place of publishing
pubyear year published
first_published year of 1st publication
translator překladatel
srclang zdrojový jazyk
authsex pohlaví autora
transsex pohlaví překladatele
txtype_group skupina textových typů
txtype textový typ
genre_group skupina oborů
genre tematická oblast
medium médium
periodicity periodicita
audience adresát
isbnissn ISBN/ISSN
biblio generovaný bibliografický údaj
id jednoznačný identifikátor

How to cite SYN2015

Křen, M. – Cvrček, V. – Čapka, T. – Čermáková, A. – Hnátková, M. – Chlumská, L. – Jelínek, T. – Kováříková, D. – Petkevič, V. – Procházka, P. – Skoumalová, H. – Škrabal, M. – Truneček, P. – Vondřička, P. – Zasina, A.: SYN2015: reprezentativní korpus psané češtiny. Ústav Českého národního korpusu FF UK, Praha 2015. Dostupný z WWW: http://www.korpus.cz

Cvrček, V. – Čermáková, A. – Křen, M. (2016): Nová koncepce synchronních korpusů psané češtiny. Slovo a slovesnost, 77 (2), 83–101. ISSN 0037-7031.

Křen, M. – Cvrček, V. – Čapka, T. – Čermáková, A. – Hnátková, M. – Chlumská, L. – Jelínek, T. – Kováříková, D. – Petkevič, V. – Procházka, P. – Skoumalová, H. – Škrabal, M. – Truneček, P. – Vondřička, P. – Zasina, A. (2016): SYN2015: Representative Corpus of Contemporary Written Czech. In: Proceedings of the Tenth International Conference on Language Resources and Evaluation (LREC'16), 2522–2528. Portorož: ELRA. ISBN 978-2-9517408-9-1.