Nastavení

Korpus InterCorp verze 14

Název čeština jádro čeština kolekce cizí jazyky jádro cizí jazyky kolekce
Pozice Počet tokenů 145 640 866 116 673 038 418 967 492 1 548 425 287
Počet slovních tvarů 117 606 467 89 819 772 348 771 933 1 223 221 264
Struktury Počet dokumentů 1 708 30 4 220 282
Počet textů 1 708 111 951 4 220 1 843 528
Počet vět 10 095 074 136 606 183 25 872 393 143 195 566
Další informace referenční ANO
reprezentativní NE (různé textové typy)
rok zveřejnění 2022
cizích jazyků 41
tagovaných jazyků 27
jazyky s lemmaty 25

Přístup k textům

Po registraci na stránce Prohlášení uživatele korpusů ÚČNK lze korpus prohledávat přes webové rozhraní. Registrace platí pro všechny veřejně přístupné korpusy ÚČNK. Máte-li uživatelské jméno a heslo k české části Českého národního korpusu, další registraci pro paralelní korpus nepotřebujete.

InterCorp je přístupný přes běžný webový prohlížeč z jednotného vyhledávacího rozhraní KonText pomocí speciálního dotazovacího formuláře pro paralelní korpusy.

Texty z korpusu InterCorp lze získat po podpisu licenčního ujednání pro neziskové účely také v podobě dvojjazyčných souborů náhodně seřazených dvojic vět. Zájemci se mohou obrátit na Martina Vavřína.

Obvykle jednou ročně vychází nová verze InterCorpu. V každé nové verzi roste objem textů, případně i počet jazyků a rozsah anotace. Od verze 6 dál jsou všechny předchozí verze stále dostupné.

Obsah korpusu

Jádrem korpusu InterCorp jsou ručně zarovnané, převážně beletristické texty. Kromě toho korpus obsahuje také nabídku automaticky zpracovaných textů, tzv. kolekce. Ve verzi 14 jsou k dispozici tyto kolekce:

Tyto texty jsou zarovnány jen automaticky, v konkordancích tedy může být více vět, které si navzájem neodpovídají. Kolekce také neobsahují všechny texty z původního zdroje, např. ty, které nemají český protějšek. Některé texty z korpusů Acquis Communautaire a Europarl byly rovněž částečně opraveny nebo vytříděny, takže se mohou ve srovnání s původním zdrojem lišit podobou i rozsahem. Podobně byla zredukována i databáze OpenSubtitles, kde jsme navíc u každého titulu převzali z více verzí překladu jen jednu. Zato byly doplněny některé metainformace, které v původním zdroji chyběly, ale daly se zjistit z kontextu nebo jiných zdrojů. Došlo rovněž k rozdělení Syndicate a PressEurop na jednotlivé ročníky, čímž se zvýšil počet dokumentů v kolekcích.

Každý cizojazyčný text má v korpusu svou českou verzi. Čeština je tedy tzv. pivot, česká verze textu (originál nebo překlad) je zarovnána s jednou nebo více verzemi cizojazyčnými. Celkový rozsah zpřístupněné části korpusu ve verzi 14 z ledna 2022 činí v zarovnaných cizojazyčných textech 349 milionů slov v jádru a 1 223 milionů slov v kolekcích. V českých textech je v jádru 118 a v kolekcích 90 milionů slov (viz historie verzí). Rozložení textů v rámci jádra a v jednotlivých kolekcích je znázorněno na následujících grafech. Čísla v grafech ukazují velikost v milionech slov.

Skladba korpusu podle jednotlivých jazyků – jádro i kolekce


Skladba korpusu podle jednotlivých jazyků – jádro


Skladba korpusu podle jednotlivých jazyků – kolekce


Velikost korpusu v tisících slov

Zkratka Jazyk Jádro Syndicate Presseurop Acquis Europarl Subtitles Bible Celkem
ar arabština 34 0 0 0 0 0 0 34
be běloruština 6 094 0 0 0 0 0 0 6 094
bg bulharština 7 068 0 0 13 577 9 083 0 0 29 728
ca katalánština 8 920 0 0 0 0 0 736 9 656
da dánština 7 576 0 0 20 313 13 916 14 429 657 56 891
de němčina 38 475 4 704 2 483 20 610 13 088 8 392 724 88 476
el řečtina 0 0 0 23 853 15 404 23 709 0 62 966
en angličtina 36 198 4 856 2 670 22 902 15 576 52 106 730 135 038
es španělština 28 115 5 614 2 859 26 262 16 249 36 650 0 115 748
et estonština 0 0 0 14 896 10 899 10 298 0 36 093
fi finština 6 226 0 0 15 269 10 108 15 047 543 47 192
fr francouzština 21 279 5 600 3 046 26 200 17 179 25 986 764 100 054
he hebrejština 0 0 0 0 0 16 221 0 16 221
hi hindština 409 0 0 0 0 0 0 409
hr chorvatština 22 736 0 0 0 0 19 048 571 42 356
hs hornolužičtina 110 0 0 0 0 0 0 110
hu maďarština 6 444 0 0 17 852 12 198 21 115 0 57 609
is islandština 0 0 0 0 0 1 581 0 1 581
it italština 15 741 1 252 2 747 23 771 15 494 14 700 684 74 389
ja japonština 3 147 0 0 0 0 477 0 3 624
lt litevština 502 0 0 17 316 11 213 558 471 30 059
lv lotyština 3 031 0 0 17 522 11 682 280 537 33 052
mk makedonština 8 881 0 0 0 0 1 877 0 10 758
ms malajština 0 0 0 0 0 3 521 0 3 521
mt maltština 0 0 0 13 935 0 0 0 13 935
nl nizozemština 16 691 813 2 953 23 416 15 558 29 373 717 89 520
no norština 7 818 0 0 0 0 0 722 8 540
pl polština 27 669 0 2 380 19 604 12 817 26 576 583 89 630
pt portugalština 6 245 554 2 782 24 598 15 193 41 468 706 91 546
rn romština 14 0 0 0 0 0 0 14
ro rumunština 4 219 0 2 738 8 092 9 446 34 128 0 58 622
ru ruština 10 510 3 984 0 0 0 6 887 565 21 946
sk slovenština 8 543 0 0 18 399 12 727 5 133 561 45 363
sl slovinština 4 097 0 0 18 515 12 241 17 035 0 51 888
sq albánština 0 0 0 0 0 2 003 0 2 003
sr srbština 12 014 0 0 0 0 20 727 0 32 741
sv švédština 17 590 0 0 19 542 13 784 14 666 638 66 220
tr turečtina 0 0 0 0 0 21 190 0 21 190
uk ukrajinština 12 172 0 0 0 0 244 596 13 011
vi vietnamština 0 0 0 0 0 1 474 0 1 474
zh čínština 202 240 0 0 0 2 247 0 2 689
celkem 348 770 27 617 24 658 406 444 263 855 489 146 11 505 1 571 991
cs čeština 117 606 4 351 2 310 19 085 12 908 50 604 562 207 426
CELKEM 466 376 31 968 26 968 425 529 276 763 539 750 12 067 1 779 417

Pozn.: U českých textů se počítají slova jen jednou za každý text, i když má více cizojazyčných protějšků.

Morfosyntaktická anotace

Texty v níže uvedených jazycích jsou opatřeny morfologickou anotací. Formát a často i význam kategorií zakódovaných do morfologických značek se liší od češtiny. U každého jazyka proto uvádíme i odkaz na popis příslušné sady značek. Popis značek je dostupný i z vyhledávacího rozhraní KonText, když jako typ dotazu zvolíte CQL. Někdy odkazujeme na stručný popis sady značek daného jazyka na stránkách Sketch Engine.

Jazyk Značky Lemmata Stručný popis Podrobný popis Značky v korpusu Nástroj
angličtina anglicky anglicky + dodatky ukázat TreeTagger
běloruština anglicky****) anglicky****) ukázat UDPipe
bulharština anglicky anglicky ukázat TreeTagger
čeština česky a anglicky anglicky ukázat Morče
čínština anglicky anglicky ukázat ZPar v0.7.5
estonština estonsky a anglicky ukázat TreeTagger
finština anglicky*) anglicky*) ukázat OMorFi +HunPOS
francouzština anglicky ukázat TreeTagger
chorvatština anglicky anglicky ukázat ReLDI Tagger
islandština anglicky anglicky ukázat IceStagger
italština anglicky ukázat TreeTagger
japonština anglicky ukázat MeCab + Unidic
katalánština anglicky ukázat TreeTagger
lotyština lotyšsky ukázat LVTagger
maďarština anglicky ukázat RFTagger
němčina anglicky **) německy ukázat RFTagger
nizozemština anglicky ukázat TreeTagger
norština anglicky a norsky ukázat Oslo-Bergen Tagger
polština anglicky a polsky anglicky ukázat Morfeusz, KRNNT
portugalština španělsky ukázat TreeTagger
ruština anglicky anglicky ***) ukázat TreeTagger
slovenština slovensky anglicky slovensky ukázat Radovan Garabík, Morče
slovinština anglicky ukázat ReLDI Tagger
srbština anglicky anglicky ukázat ReLDI Tagger
španělština anglicky ukázat TreeTagger
švédština švédsky a anglicky ukázat Stagger
ukrajinština anglicky****) ukázat UDPipe

*) Morfologické značky jsou v korpusu uvedeny v kondenzované podobě, např. V:Sg:Nom:Act:PrfPrc:Pos odpovídá zápisu s atributy [POS=V] [NUM=SG] [CASE=NOM] [VOICE=ACT] [PCP=PRFPRC] [CMP=POS]. Podobně Pron:Pers:Sg:Ade:Up odpovídá zápisu [POS=PRON] [SUBCAT:PERS] [NUM:SG] [CASE=ADE] [CASECHANGE=UP].

**) Uvnitř jedné morfologické značky používáme jako oddělovač jednotlivých kategorií dvojtečku místo tečky, tedy např. ADJA:Pos:Nom:Sg:Fem.

***) Značky v korpusu někdy neodpovídají značkám uvedeným v podrobném popisu. V korpusu se zanedbávají některé morfologické kategorie, např. zájmena jsou vždy označkována jen jako „P-“. Všechny značky, tak jak se užívají v korpusu, jsou uvedeny ve stručném popisu.

****) Značka je uvedena ve formátu UD (Universal Dependencies), jednotlivé části značky jsou odděleny svislítkem (|), např. tvar школы v genitivu singuláru je značkován takto: NOUN|Animacy=Inan|Case=Gen|Gender=Fem|Number=Sing. Dotaz lze formulovat tak jako u jiných jazyků, tedy na řetězec znaků, např. [tag="NOUN.*Case=Gen\|Gender=Fem.*"] nebo lze specifikovat jednotlivé části značky zvlášť, tedy např. [tag="Case=Gen" & tag="NOUN" & tag="Gender=Fem"] (na pořadí kategorií nezáleží). Výsledek je v obou případech stejný.

Rozdíly mezi formátem značek v dokumentaci a v korpusu jsou i u některých jiných jazyků. Před zadáním dotazu na značku si formát značky prosím ověřte. Můžete využít třeba výpisy značek z korpusu ve výše uvedené tabulce – viz sloupec Značky v korpusu. Nebo na stránce s výsledky libovolného dotazu zaškrtněte v menu Zobrazení/Korpusová nastavení… mezi Pozičními atributy volbu tag a v Možnostech zobrazení vyberte pro každý token.

U textů se značkami, případně lemmaty, mohou přímočaře formulované dotazy na spřežková slova zůstat bez odpovědi. To se týká například anglických tvarů can't nebo I'm, které tagger rozdělí na dvě slova (ca+n't a I+'m) s odpovídajícími lemmaty a značkami. Podobně je tomu i s polskými tvary typu byłam nebo gdybyś (rozděleno na była+m a gdyby+ś). Je třeba počítat i s chybným rozdělením: gdzie+ś za Wisłą. Dotaz na celou spřežku je nutné zadat jako Fráze a části spřežky oddělit mezerou. Lemmatem a značkou jsou opatřeny jen části spřežky.

Morfologické značky obsahující znaky, které mají v regulárních výrazech zvláštní význam, např. $ v anglické značce wp$, je třeba v dotazech zadávat za zpětné lomítko, tedy např. takto: tag="wp\$".

Strukturní atributy

StrukturaAtributPopisMožné hodnoty
docdoc.ididentifikátor dokumentu příjmení_autora-zkrácený_název_textu / _ACQUIS / _EUROPARL / _PRESSEUROP_ročník / _SUBTITLES / _SYNDICATE_ročník / _OT / _NT
texttext.ididentifikace textupříjmení_autora-zkrácený_název_textu:0 / _ACQUIS:číslo / _EUROPARL:číslo / _PRESSEUROP:číslo / _SUBTITLES:číslo / _SYNDICATE_ročník:název / _OT:kniha / _NT:kniha
text.authorautor textupříjmení, jméno
text.titleúplný název textutext
text.langjazyk textuar / be / bg / ca / cs / da / de / el / en / es / et / fi / fr / he / hi / hr / hu / is / it / ja / lt / lv / mk / ms / mt / nb / nl / no / pl / pt / rn / ro / ru / sk / sl / sq / sr / sv / sy / tr / uk / vi / zh
text.versionverze textučíslo
text.groupjádro/kolekce Core / Acquis / Europarl / PressEurop / Subtitles / Syndicate / Bible
text.publishervydavateltext
text.pubplacemísto vydánítext
text.pubDateYearrok vydáníčíslo
text.pubDateMonthměsíc vydáníčíslo
text.origyearrok vytvoření originálučíslo
text.isbnISBNčíslo
text.txtypetyp textudiscussions - transcripts / drama / fiction / journalism - commentaries / journalism - news / legal texts / nonfiction / other / poetry / subtitles / religious
text.commentpoznámkatext
text.originaloriginální verze?Yes / No
text.srclangjazyk origináluar / as / az / be / bg / bl / bn / bo / bs / bt / ca / cr / cs / ct / cz / da / de / dk / eb / el / en / es / et / eu / fa / fi / fr / ga / gr / he / hi / hr / hu / hy / id / ie / is / it / ja / ka / ko / ku / lt / lv / mk / mn / ms / mt / my / ni / nl / no / pl / po / ps / pt / rm / rn / ro / ru / se / sk / sl / sq / sr / sv / ta / th / ti / tl / tr / tu / uk / un / ur / vi / zh
text.translatorpřekladatelpříjmení, jméno
text.transsexpohlaví překladateleF / M
text.authsexpohlaví autoraF / M
text.transcommentpoznámka k překladutext
text.collectiontitlenázev kolekcetext
text.volumečíslo svazkučíslo
text.pagespočet strančíslo
text.lang_varvarieta jazykade-AT / de-CH / de-DE / en-AU / en-CA / en-GB / en-UM / en-US / es-ES / es-MX / es-PE / fr-BE / fr-FR / it-CH / it-IT / nl-BE / nl-NL / nn-NO / nb-NO / pt-BR / pt-PT / sr-RS
text.wordcountpočet slovčíslo
divdiv.ididentifikátor oddílu (Bible) _NT / _OT:kapitola
div.typetyp oddílu (kapitola)chapter
pp.ididentifikátor odstavcedoc:text:div:par
ss.ididentifikátor větydoc:text:div:par:sent
hihi.rendřez písmaitalic / bold / bold italic
lblb.ididentifikátor verše (Bible)book:chapter:verse

Poděkování

Děkujeme za možnost využívat následující texty a software:

Texty:

  • za možnost zařadit do korpusu nejnovější (13. opravené) vydání Českého ekumenického překladu Bible z roku 2016 děkujeme České biblické společnosti, zvláště Petru Fryšovi
  • beletristické texty v řadě slovanských i jiných jazyků z korpusu ASPAC – Amsterdam Slavic Parallel Aligned Corpus – zvláštní poděkování patří Adrianu Barentsenovi
  • publicistické texty ve více jazycích z webových stránek Project Syndicate
  • publicistické texty ve více jazycích ze serveru VoxEurop
  • právnické texty v jazycích EU z korpusu JRC-ACQUIS
  • jednání Evropského parlamentu z korpusu EuroParl
  • slovensko-české konkordance ze Slovenského národního korpusu
  • povídky ve více jazycích z projektu Můj rok 1989 z Goethe Institutu
  • za více textů v česko-litevské části korpusu a za práci Jiřího Levého Umění překladu ve více jazycích vděčíme Patricku Cornessovi
  • román George Orwella 1984 ve více jazycích z korpusu Multext-East
  • ukrajinské a polské texty z korpusu PolUkr
  • norské texty z nakladatelství Forlaget Oktober
  • filmové titulky z databáze Open Subtitles

Předzpracování:

  • editor paralelních textů InterText (autor Pavel Vondřička)
  • zarovnávač Hunalign
  • větný segmentátor pro češtinu (autor Pavel Květoň)
  • větný segmentátor pro norštinu (autoři Jarle Ebeling a Pavel Vondřička)
  • větný segmentátor Punkt pro všechny ostatní jazyky ze sady Natural Language Toolkit

Značkovače / lemmatizátory:

  • MorfFlex, Morče a LanGr pro češtinu
  • TreeTagger pro angličtinu, bulharštinu, estonštinu, francouzštinu, italštinu, katalánštinu, nizozemštinu, portugalštinu (s poděkováním Pablu Gamallovi), ruštinu a španělštinu
  • Morfeusz a KRNNT pro polštinu
  • HunPOS pro finštinu a další jazyky
  • tagger pro slovenštinu (s poděkováním Radovanu Garabíkovi)
  • tagger pro norštinu
  • totale pro slovinštinu (do v.11, s poděkováním Tomaži Erjavcovi)
  • RFTagger pro němčinu a maďarštinu
  • OMorFi pro finštinu (s poděkováním Filipu Ginterovi)
  • Stagger a IceStagger pro švédštinu a islandštinu (s poděkováním Robertu Östlingovi)
  • RelDI tagger pro chorvatštinu, srbštinu1) a slovinštinu2) (s poděkováním Nikolovi Ljubešićovi)
  • LVTagger pro lotyštinu (s poděkováním Pēterisi Ņikiforovsovi a Michalu Škrabalovi)
  • UD Pipe pro běloruštinu a ukrajinštinu (s poděkováním Bohdanu Moskalevskému)
  • MeCab a Unidic pro japonštinu (s poděkováním Adamovi Nohejlovi)
  • ZPar pro čínštinu (s poděkováním Vlastimilu Dobečkovi)

Jak citovat

Budeme rádi, když k výsledkům práce, při níž využijete korpus InterCorp, připojíte odkaz na stránky projektu www.intercorp.korpus.cz a k odborným publikacím odkaz na tento článek:

ČERMÁK, F. – ROSEN, A. (2012). The case of InterCorp, a multilingual parallel corpus. International Journal of Corpus Linguistics. Vol. 13, no. 3, p. 411–427 (bibtex, elektronické vydání na serveru ingentaConnect, verze před tiskem).

Seznam další literatury najdete v Repozitáři bibliografických informací založených na ČNK. Každý odkaz na práci využívající InterCorp je vítán, viz podrobnosti.

Při citaci konkrétní části InterCorpu uveďte jako citaci údaj, který je zobrazen v popisu korpusu v rozhraní KonText, např.:

ROSEN, A. – VAVŘÍN, M. – ZASINA, A. J. Korpus InterCorp – čeština 3), verze 14 ze 31. 1. 2022. Ústav Českého národního korpusu, FF UK, Praha 2022. Dostupné z WWW: https://kontext.korpus.cz/

Viz též

InterCorpVerze 13udVerze 13Verze 12Verze 11Verze 10Verze 9Verze 8Verze 7Verze 6Verze 5Verze 4Verze 3Historie verzí

Původní stránky projektu InterCorp jsou stále zde.

1)
Ljubešić, N., Klubička, F., Željko Agić, and Jazbec, I.-P. (2016). New inflectional lexicons and training corpora for improved morphosyntactic annotation of Croatian and Serbian. In Calzolari, N. et al., editors, Proceedings of the Tenth International Conference on Language Resources and Evaluation (LREC 2016), Paris, France. European Language Resources Association (ELRA).
2)
Ljubešić, N. and Erjavec, T. (2016). Corpus vs. lexicon supervision in morphosyntactic tagging: the case of Slovene. In Calzolari, N. et al., editors, Proceedings of the Tenth International Conference on Language Resources and Evaluation (LREC 2016), Paris, France. European Language Resources Association (ELRA).
3)
Vložte konkrétní jazyky.