AplikaceAplikace
Nastavení

Korpus InterCorp verze 13

Název čeština jádro čeština kolekce cizí jazyky jádro cizí jazyky kolekce
Pozice Počet tokenů 141 032 521 116 673 043 394 042 551 1 550 071 364
Počet slovních tvarů 113 838 505 89 819 773 327 968 369 1 223 270 610
Struktury Počet dokumentů 1 657 30 3 993 282
Počet textů 1 657 111 951 3 993 1 843 528
Počet vět 9 782 001 13 606 183 24 305 621 143 195 566
Další informace referenční ANO
reprezentativní NE (různé textové typy)
rok zveřejnění 2020
cizích jazyků 40
tagovaných jazyků 27
jazyky s lemmaty 25

Přístup k textům

Po registraci na stránce Prohlášení uživatele korpusů ÚČNK lze korpus prohledávat přes webové rozhraní. Registrace platí pro všechny veřejně přístupné korpusy ÚČNK. Máte-li uživatelské jméno a heslo k české části Českého národního korpusu, další registraci pro paralelní korpus nepotřebujete.

InterCorp je přístupný přes běžný webový prohlížeč z jednotného vyhledávacího rozhraní KonText pomocí speciálního dotazovacího formuláře pro paralelní korpusy.

Texty z korpusu InterCorp lze získat po podpisu licenčního ujednání pro neziskové účely také v podobě dvojjazyčných souborů náhodně seřazených dvojic vět. Zájemci se mohou obrátit na Martina Vavřína.

Obvykle jednou ročně vychází nová verze InterCorpu. V každé nové verzi roste objem textů, případně i počet jazyků a rozsah anotace. Od verze 6 dál jsou všechny předchozí verze stále dostupné.

Jak citovat

Budeme rádi, když k výsledkům práce, při níž využijete korpus InterCorp, připojíte odkaz na stránky projektu www.intercorp.korpus.cz a k odborným publikacím odkaz na tento článek:

ČERMÁK, F. – ROSEN, A. (2012). The case of InterCorp, a multilingual parallel corpus. International Journal of Corpus Linguistics. Vol. 13, no. 3, p. 411–427 (bibtex, elektronické vydání na serveru ingentaConnect, verze před tiskem).

Seznam další literatury najdete v Repozitáři bibliografických informací založených na ČNK. Každý odkaz na práci využívající InterCorp je vítán, viz podrobnosti.

Při citaci konkrétní části InterCorpu uveďte jako citaci údaj, který je zobrazen v popisu korpusu v rozhraní KonText, např.:

ROSEN, A. – VAVŘÍN, M. – ZASINA, A. J. Korpus InterCorp – čeština 1), verze 13 z 1. 11. 2020. Ústav Českého národního korpusu, FF UK, Praha 2020. Dostupné z WWW: https://kontext.korpus.cz/

Obsah korpusu

Jádrem korpusu InterCorp jsou ručně zarovnané, převážně beletristické texty. Kromě toho korpus obsahuje také nabídku automaticky zpracovaných textů, tzv. kolekce. Ve verzi 13 jsou k dispozici tyto kolekce:

Tyto texty jsou zarovnány jen automaticky, v konkordancích tedy může být více vět, které si navzájem neodpovídají. Kolekce také neobsahují všechny texty z původního zdroje, např. ty, které nemají český protějšek. Některé texty z korpusů Acquis Communautaire a Europarl byly rovněž částečně opraveny nebo vytříděny, takže se mohou ve srovnání s původním zdrojem lišit podobou i rozsahem. Podobně byla zredukována i databáze OpenSubtitles, kde jsme navíc u každého titulu převzali z více verzí překladu jen jednu. Zato byly doplněny některé metainformace, které v původním zdroji chyběly, ale daly se zjistit z kontextu nebo jiných zdrojů. Došlo rovněž k rozdělení Syndicate a PressEurop na jednotlivé ročníky, čímž se navýšil počet dokumentů v kolekcích.

Každý cizojazyčný text má v korpusu svou českou verzi. Čeština je tedy tzv. pivot, česká verze textu (originál nebo překlad) je zarovnána s jednou nebo více verzemi cizojazyčnými. Celkový rozsah zpřístupněné části korpusu ve verzi 13 z listopadu 2020 činí v zarovnaných cizojazyčných textech 328 milionů slov v jádru a 1 223 milionů slov v kolekcích. V českých textech je v jádru 114 a v kolekcích 90 milionů slov (viz historie verzí). Rozložení textů v rámci jádra a v jednotlivých kolekcích je znázorněno na následujících grafech. Čísla v grafech ukazují velikost v milionech slov.

Skladba korpusu podle jednotlivých jazyků – jádro i kolekce


Skladba korpusu podle jednotlivých jazyků – jádro


Skladba korpusu podle jednotlivých jazyků – kolekce

Velikost korpusu v tisících slov

Zkratka Jazyk Jádro Syndicate Presseurop Acquis Europarl Subtitles Bible Celkem
ar arabština 34 0 0 0 0 0 0 34
be běloruština 5 718 0 0 0 0 0 0 5 718
bg bulharština 7 068 0 0 13 577 9 083 0 0 29 728
ca katalánština 7 938 0 0 0 0 0 736 8 674
da dánština 7 136 0 0 20 313 13 916 14 429 657 56 451
de němčina 37 633 4 704 2 483 20 610 13 088 8 392 724 87 634
el řečtina 0 0 0 23 853 15 404 23 709 0 62 966
en angličtina 33 569 4 856 2 670 22 902 15 576 52 106 730 132 409
es španělština 26 554 5 614 2 859 26 262 16 249 36 650 0 114 187
et estonština 0 0 0 14 896 10 899 10 298 0 36 093
fi finština 5 656 0 0 15 269 10 108 15 047 543 46 622
fr francouzština 19 773 5 600 3 046 26 200 17 179 25 986 764 98 547
he hebrejština 0 0 0 0 0 16 221 0 16 221
hi hindština 409 0 0 0 0 0 0 409
hr chorvatština 21 923 0 0 0 0 19 048 571 41 543
hu maďarština 6 444 0 0 17 852 12 198 21 115 0 57 609
is islandština 0 0 0 0 0 1 581 0 1 581
it italština 14 525 1 252 2 747 23 771 15 494 14 700 684 73 174
ja japonština 2 189 0 0 0 0 477 0 2 666
lt litevština 421 0 0 17 316 11 213 558 471 29 979
lv lotyština 2 646 0 0 17 522 11 682 280 537 32 667
mk makedonština 8 881 0 0 0 0 1 877 0 10 758
ms malajština 0 0 0 0 0 3 521 0 3 521
mt maltština 0 0 0 13 935 0 0 0 13 935
nl nizozemština 16 216 813 2 953 23 416 15 558 29 373 717 89 045
no norština 7 727 0 0 0 0 0 722 8 449
pl polština 26 200 0 2 380 19 604 12 817 26 576 583 88 161
pt portugalština 4 981 554 2 782 24 598 15 193 41 468 706 90 282
rn romština 14 0 0 0 0 0 0 14
ro rumunština 4 219 0 2 738 8 092 9 446 34 128 0 58 622
ru ruština 8 642 3 984 0 0 0 6 887 565 20 078
sk slovenština 8 543 0 0 18 399 12 727 5 133 561 45 363
sl slovinština 3 871 0 0 18 528 12 251 17 061 0 51 711
sq albánština 0 0 0 0 0 2 003 0 2 003
sr srbština 11 582 0 0 0 0 20 727 0 32 308
sv švédština 15 790 0 0 19 542 13 784 14 666 638 64 419
tr turečtina 0 0 0 0 0 21 190 0 21 190
uk ukrajinština 11 459 0 0 0 0 244 596 12 299
vi vietnamština 0 0 0 0 0 1 474 0 1 474
zh čínština 127 240 0 0 0 2 247 0 2 614
celkem 327 887 27 616 24 658 406 459 263 864 489 169 11 504 1 551 157
cs čeština 113 839 4 351 2 310 19 085 12 908 50 604 562 203 658
CELKEM 441 725 31 967 26 968 425 543 276 772 539 774 12 066 1 754 815

Pozn.: U českých textů se počítají slova jen jednou za každý text, i když má více cizojazyčných protějšků.

Morfosyntaktická anotace

Texty v níže uvedených jazycích jsou opatřeny morfologickou anotací. Formát a často i význam kategorií zakódovaných do morfologických značek se liší od češtiny. U každého jazyka proto uvádíme i odkaz na popis příslušné sady značek. Popis značek je dostupný i z vyhledávacího rozhraní KonText, když jako typ dotazu zvolíte CQL. Někdy odkazujeme na stručný popis sady značek daného jazyka na stránkách Sketch Engine.

Jazyk Značky Lemmata Stručný popis Podrobný popis Značky v korpusu Nástroj
angličtina anglicky anglicky + dodatky ukázat TreeTagger
běloruština anglicky****) anglicky****) ukázat UDPipe
bulharština anglicky anglicky ukázat TreeTagger
čeština česky a anglicky anglicky ukázat Morče
čínština anglicky anglicky ukázat ZPar v0.7.5
estonština estonsky a anglicky ukázat TreeTagger
finština anglicky*) anglicky*) ukázat OMorFi +HunPOS
francouzština anglicky ukázat TreeTagger
chorvatština anglicky anglicky ukázat ReLDI Tagger
islandština anglicky anglicky ukázat IceStagger
italština anglicky ukázat TreeTagger
japonština anglicky ukázat MeCab + Unidic
katalánština anglicky ukázat TreeTagger
lotyština lotyšsky ukázat LVTagger
maďarština anglicky ukázat RFTagger
němčina anglicky **) německy ukázat RFTagger
nizozemština anglicky ukázat TreeTagger
norština anglicky a norsky ukázat Oslo-Bergen Tagger
polština anglicky a polsky anglicky ukázat Morfeusz, KRNNT
portugalština španělsky ukázat TreeTagger
ruština anglicky anglicky ***) ukázat TreeTagger
slovenština slovensky anglicky slovensky ukázat Radovan Garabík, Morče
slovinština anglicky ukázat ReLDI Tagger
srbština anglicky anglicky ukázat ReLDI Tagger
španělština anglicky ukázat TreeTagger
švédština švédsky a anglicky ukázat Stagger
ukrajinština anglicky****) ukázat UDPipe

*) Morfologické značky jsou v korpusu uvedeny v kondenzované podobě, např. V:Sg:Nom:Act:PrfPrc:Pos odpovídá zápisu s atributy [POS=V] [NUM=SG] [CASE=NOM] [VOICE=ACT] [PCP=PRFPRC] [CMP=POS]. Podobně Pron:Pers:Sg:Ade:Up odpovídá zápisu [POS=PRON] [SUBCAT:PERS] [NUM:SG] [CASE=ADE] [CASECHANGE=UP].

**) Uvnitř jedné morfologické značky používáme jako oddělovač jednotlivých kategorií dvojtečku místo tečky, tedy např. ADJA:Pos:Nom:Sg:Fem.

***) Značky v korpusu někdy neodpovídají značkám uvedeným v podrobném popisu. V korpusu se zanedbávají některé morfologické kategorie, např. zájmena jsou vždy označkována jen jako „P-“. Všechny značky, tak jak se užívají v korpusu, jsou uvedeny ve stručném popisu.

****) Značka je uvedena ve formátu UD (Universal Dependencies), jednotlivé části značky jsou odděleny svislítkem (|), např. tvar школы v genitivu singuláru je značkován takto: NOUN|Animacy=Inan|Case=Gen|Gender=Fem|Number=Sing. Dotaz lze formulovat tak jako u jiných jazyků, tedy na řetězec znaků, např. [tag="NOUN.*Case=Gen\|Gender=Fem.*"] nebo lze specifikovat jednotlivé části značky zvlášť, tedy např. [tag="Case=Gen" & tag="NOUN" & tag="Gender=Fem"] (na pořadí kategorií nezáleží). Výsledek je v obou případech stejný.

Rozdíly mezi formátem značek v dokumentaci a v korpusu jsou i u některých jiných jazyků. Před zadáním dotazu na značku si formát značky prosím ověřte. Můžete využít třeba výpisy značek z korpusu ve výše uvedené tabulce – viz sloupec Značky v korpusu. Nebo na stránce s výsledky libovolného dotazu zaškrtněte v menu Zobrazení/Korpusová nastavení… mezi Pozičními atributy volbu tag a v Možnostech zobrazení vyberte pro každý token.

U textů se značkami, případně lemmaty, mohou přímočaře formulované dotazy na spřežková slova zůstat bez odpovědi. To se týká například anglických tvarů can't nebo I'm, které tagger rozdělí na dvě slova (ca+n't a I+'m) s odpovídajícími lemmaty a značkami. Podobně je tomu i s polskými tvary typu byłam nebo gdybyś (rozděleno na była+m a gdyby+ś). Je třeba počítat i s chybným rozdělením: gdzie+ś za Wisłą. Dotaz na celou spřežku je nutné zadat jako Fráze a části spřežky oddělit mezerou. Lemmatem a značkou jsou opatřeny jen části spřežky.

Morfologické značky obsahující znaky, které mají v regulárních výrazech zvláštní význam, např. $ v anglické značce wp$, je třeba v dotazech zadávat za zpětné lomítko, tedy např. takto: tag="wp\$"

Strukturní atributy

StrukturaAtributPopisMožné hodnoty
docdoc.ididentifikátor dokumentu příjmení_autora-zkrácený_název_textu / _ACQUIS / _EUROPARL / _PRESSEUROP_ročník / _SUBTITLES / _SYNDICATE_ročník / _OT / _NT
texttext.ididentifikace textupříjmení_autora-zkrácený_název_textu:0 / _ACQUIS:číslo / _EUROPARL:číslo / _PRESSEUROP:číslo / _SUBTITLES:číslo / _SYNDICATE_ročník:název / _OT:kniha / _NT:kniha
text.authorautor textupříjmení, jméno
text.titleúplný název textutext
text.langjazyk textuar / be / bg / ca / cs / da / de / el / en / es / et / fi / fr / he / hi / hr / hu / is / it / ja / lt / lv / mk / ms / mt / nb / nl / no / pl / pt / rn / ro / ru / sk / sl / sq / sr / sv / sy / tr / uk / vi / zh
text.versionverze textučíslo
text.groupjádro/kolekce Core / Acquis / Europarl / PressEurop / Subtitles / Syndicate / Bible
text.publishervydavateltext
text.pubplacemísto vydánítext
text.pubDateYearrok vydáníčíslo
text.pubDateMonthměsíc vydáníčíslo
text.origyearrok vytvoření originálučíslo
text.isbnISBNčíslo
text.txtypetyp textudiscussions - transcripts / drama / fiction / journalism - commentaries / journalism - news / legal texts / nonfiction / other / poetry / subtitles / religious
text.commentpoznámkatext
text.originaloriginální verze?Yes / No
text.srclangjazyk origináluar / as / az / be / bg / bl / bn / bo / bs / bt / ca / cr / cs / ct / cz / da / de / dk / eb / el / en / es / et / eu / fa / fi / fr / ga / gr / he / hi / hr / hu / hy / id / ie / is / it / ja / ka / ko / ku / lt / lv / mk / mn / ms / mt / my / ni / nl / no / pl / po / ps / pt / rm / rn / ro / ru / se / sk / sl / sq / sr / sv / ta / th / ti / tl / tr / tu / uk / un / ur / vi / zh
text.translatorpřekladatelpříjmení, jméno
text.transsexpohlaví překladateleF / M
text.authsexpohlaví autoraF / M
text.transcommentpoznámka k překladutext
text.collectiontitlenázev kolekcetext
text.volumečíslo svazkučíslo
text.pagespočet strančíslo
text.lang_varvarieta jazykade-AT / de-CH / de-DE / en-AU / en-CA / en-GB / en-UM / en-US / es-ES / es-MX / es-PE / fr-BE / fr-FR / it-CH / it-IT / nl-BE / nl-NL / nn-NO / nb-NO / pt-BR / pt-PT / sr-RS
text.wordcountpočet slovčíslo
divdiv.ididentifikátor oddílu (Bible) _NT / _OT:kapitola
div.typetyp oddílu (kapitola)chapter
pp.ididentifikátor odstavcedoc:text:div:par
ss.ididentifikátor větydoc:text:div:par:sent
hihi.rendřez písmaitalic / bold / bold italic
lblb.ididentifikátor verše (Bible)book:chapter:verse

Poděkování

Děkujeme za možnost využívat následující texty a software:

Texty:

  • za možnost zařadit do korpusu nejnovější (13. opravené) vydání Českého ekumenického překladu Bible z roku 2016 děkujeme České biblické společnosti, zvláště Petru Fryšovi
  • beletristické texty v řadě slovanských i jiných jazyků z korpusu ASPAC – Amsterdam Slavic Parallel Aligned Corpus – zvláštní poděkování patří Adrianu Barentsenovi
  • publicistické texty ve více jazycích z webových stránek Project Syndicate
  • publicistické texty ve více jazycích ze serveru VoxEurop
  • právnické texty v jazycích EU z korpusu JRC-ACQUIS
  • jednání Evropského parlamentu z korpusu EuroParl
  • slovensko-české konkordance ze Slovenského národního korpusu
  • povídky ve více jazycích z projektu Můj rok 1989 z Goethe Institutu
  • za více textů v česko-litevské části korpusu a za práci Jiřího Levého Umění překladu ve více jazycích vděčíme Patricku Cornessovi
  • román George Orwella 1984 ve více jazycích z korpusu Multext-East
  • ukrajinské a polské texty z korpusu PolUkr
  • norské texty z nakladatelství Forlaget Oktober
  • filmové titulky z databáze Open Subtitles

Předzpracování:

  • editor paralelních textů InterText (autor Pavel Vondřička)
  • zarovnávač Hunalign
  • větný segmentátor pro češtinu (autor Pavel Květoň)
  • větný segmentátor pro norštinu (autoři Jarle Ebeling a Pavel Vondřička)
  • větný segmentátor Punkt pro všechny ostatní jazyky ze sady Natural Language Toolkit

Značkovače / lemmatizátory:

  • MorfFlex, Morče a LanGr pro češtinu
  • TreeTagger pro angličtinu, bulharštinu, estonštinu, francouzštinu, italštinu, katalánštinu, nizozemštinu, portugalštinu (s poděkováním Pablu Gamallovi), ruštinu a španělštinu
  • Morfeusz a KRNNT pro polštinu
  • HunPOS pro finštinu a další jazyky
  • tagger pro slovenštinu (s poděkováním Radovanu Garabíkovi)
  • tagger pro norštinu
  • totale pro slovinštinu (do v.11, s poděkováním Tomaži Erjavcovi)
  • RFTagger pro němčinu a maďarštinu
  • OMorFi pro finštinu (s poděkováním Filipu Ginterovi)
  • Stagger a IceStagger pro švédštinu a islandštinu (s poděkováním Robertu Östlingovi)
  • RelDI tagger pro chorvatštinu, srbštinu2) a slovinštinu3) (s poděkováním Nikolovi Ljubešićovi)
  • LVTagger pro lotyštinu (s poděkováním Pēterisi Ņikiforovsovi a Michalu Škrabalovi)
  • UD Pipe pro běloruštinu a ukrajinštinu (s poděkováním Bohdanu Moskalevskému)
  • MeCab a Unidic pro japonštinu (s poděkováním Adamovi Nohejlovi)
  • ZPar pro čínštinu (s poděkováním Vlastimilu Dobečkovi)

Viz též

InterCorpVerze 12Verze 11Verze 10Verze 9Verze 8Verze 7Verze 6Verze 5Verze 4Verze 3Historie verzí

Původní stránky projektu InterCorp jsou stále zde.

1)
Vložte konkrétní jazyky.
2)
Ljubešić, N., Klubička, F., Željko Agić, and Jazbec, I.-P. (2016). New inflectional lexicons and training corpora for improved morphosyntactic annotation of Croatian and Serbian. In Calzolari, N. et al., editors, Proceedings of the Tenth International Conference on Language Resources and Evaluation (LREC 2016), Paris, France. European Language Resources Association (ELRA).
3)
Ljubešić, N. and Erjavec, T. (2016). Corpus vs. lexicon supervision in morphosyntactic tagging: the case of Slovene. In Calzolari, N. et al., editors, Proceedings of the Tenth International Conference on Language Resources and Evaluation (LREC 2016), Paris, France. European Language Resources Association (ELRA).