AplikaceAplikace
Nastavení

Toto je starší verze dokumentu!


Korpus InterCorp verze 15

TODO!!!

Název čeština jádro čeština kolekce cizí jazyky jádro cizí jazyky kolekce
Pozice Počet tokenů 145 640 866 116 673 038 418 967 492 1 548 425 287
Počet slovních tvarů 117 606 467 89 819 772 348 771 933 1 223 221 264
Struktury Počet dokumentů 1 708 30 4 220 282
Počet textů 1 708 111 951 4 220 1 843 528
Počet vět 10 095 074 136 606 183 25 872 393 143 195 566
Další informace referenční ANO
reprezentativní NE (různé textové typy)
rok zveřejnění 2022
cizích jazyků 41
tagovaných jazyků 27
jazyky s lemmaty 25

Přístup k textům

Po registraci na stránce Prohlášení uživatele korpusů ÚČNK lze korpus prohledávat přes webové rozhraní. Registrace platí pro všechny veřejně přístupné korpusy ÚČNK. Máte-li uživatelské jméno a heslo k české části Českého národního korpusu, další registraci pro paralelní korpus nepotřebujete.

InterCorp je přístupný přes běžný webový prohlížeč z jednotného vyhledávacího rozhraní KonText pomocí speciálního dotazovacího formuláře pro paralelní korpusy.

Texty z korpusu InterCorp lze získat po podpisu licenčního ujednání pro neziskové účely také v podobě dvojjazyčných souborů náhodně seřazených dvojic vět. Zájemci se mohou obrátit na Alexandra Rosena.

Obvykle jednou ročně vychází nová verze InterCorpu. V každé nové verzi roste objem textů, případně i počet jazyků a rozsah anotace. Od verze 6 dál jsou všechny předchozí verze stále dostupné.

Obsah korpusu

Jádrem korpusu InterCorp jsou ručně zarovnané, převážně beletristické texty. Kromě toho korpus obsahuje také nabídku automaticky zpracovaných textů, tzv. kolekce. Ve verzi 15 jsou k dispozici tyto kolekce:

Tyto texty jsou zarovnány jen automaticky, v konkordancích tedy může být více vět, které si navzájem neodpovídají. Kolekce také neobsahují všechny texty z původního zdroje, např. ty, které nemají český protějšek. Některé texty z korpusů Acquis Communautaire a Europarl byly rovněž částečně opraveny nebo vytříděny, takže se mohou ve srovnání s původním zdrojem lišit podobou i rozsahem. Podobně byla zredukována i databáze OpenSubtitles, kde jsme navíc u každého titulu převzali z více verzí překladu jen jednu. Zato byly doplněny některé metainformace, které v původním zdroji chyběly, ale daly se zjistit z kontextu nebo jiných zdrojů. Došlo rovněž k rozdělení Syndicate a PressEurop na jednotlivé ročníky, čímž se zvýšil počet dokumentů v kolekcích.

Každý cizojazyčný text má v korpusu svou českou verzi. Čeština je tedy tzv. pivot, česká verze textu (originál nebo překlad) je zarovnána s jednou nebo více verzemi cizojazyčnými. Celkový rozsah zpřístupněné části korpusu ve verzi 15 z listopadu 2022 činí v zarovnaných cizojazyčných textech 349 milionů slov v jádru a 1 223 milionů slov v kolekcích. V českých textech je v jádru 118 a v kolekcích 90 milionů slov (viz historie verzí). Rozložení textů v rámci jádra a v jednotlivých kolekcích je znázorněno na následujících grafech. Čísla v grafech ukazují velikost v milionech slov.

Skladba korpusu podle jednotlivých jazyků – jádro i kolekce


Skladba korpusu podle jednotlivých jazyků – jádro


Skladba korpusu podle jednotlivých jazyků – kolekce


Obsah korpusu

Jádrem korpusu InterCorp jsou ručně zarovnané, převážně beletristické texty. Kromě toho korpus obsahuje také nabídku automaticky zpracovaných textů, tzv. kolekce. Ve verzi 14 jsou k dispozici tyto kolekce:

Tyto texty jsou zarovnány jen automaticky, v konkordancích tedy může být více vět, které si navzájem neodpovídají. Kolekce také neobsahují všechny texty z původního zdroje, např. ty, které nemají český protějšek. Některé texty z korpusů Acquis Communautaire a Europarl byly rovněž částečně opraveny nebo vytříděny, takže se mohou ve srovnání s původním zdrojem lišit podobou i rozsahem. Podobně byla zredukována i databáze OpenSubtitles, kde jsme navíc u každého titulu převzali z více verzí překladu jen jednu. Zato byly doplněny některé metainformace, které v původním zdroji chyběly, ale daly se zjistit z kontextu nebo jiných zdrojů. Došlo rovněž k rozdělení Syndicate a PressEurop na jednotlivé ročníky, čímž se zvýšil počet dokumentů v kolekcích.

Každý cizojazyčný text má v korpusu svou českou verzi. Čeština je tedy tzv. pivot, česká verze textu (originál nebo překlad) je zarovnána s jednou nebo více verzemi cizojazyčnými. Celkový rozsah zpřístupněné části korpusu ve verzi 14 z ledna 2022 činí v zarovnaných cizojazyčných textech 349 milionů slov v jádru a 1 223 milionů slov v kolekcích. V českých textech je v jádru 118 a v kolekcích 90 milionů slov (viz historie verzí). Rozložení textů v rámci jádra a v jednotlivých kolekcích je znázorněno na následujících grafech. Čísla v grafech ukazují velikost v milionech slov.

Skladba korpusu podle jednotlivých jazyků – jádro i kolekce


Skladba korpusu podle jednotlivých jazyků – jádro


Skladba korpusu podle jednotlivých jazyků – kolekce


Morfosyntaktická anotace

Texty v níže uvedených jazycích jsou opatřeny morfologickou anotací. Formát a často i význam kategorií zakódovaných do morfologických značek se liší od češtiny. U každého jazyka proto uvádíme i odkaz na popis příslušné sady značek. Popis značek je dostupný i z vyhledávacího rozhraní KonText, když jako typ dotazu zvolíte CQL. Někdy odkazujeme na stručný popis sady značek daného jazyka na stránkách Sketch Engine.

Jazyk Značky Lemmata Stručný popis Podrobný popis Značky v korpusu Nástroj
angličtina anglicky anglicky + dodatky ukázat TreeTagger
běloruština anglicky****) anglicky****) ukázat UDPipe
bulharština anglicky anglicky ukázat TreeTagger
čeština česky a anglicky anglicky ukázat Morče
čínština anglicky anglicky ukázat ZPar v0.7.5
estonština estonsky a anglicky ukázat TreeTagger
finština anglicky*) anglicky*) ukázat OMorFi +HunPOS
francouzština anglicky ukázat TreeTagger
chorvatština anglicky anglicky ukázat ReLDI Tagger
islandština anglicky anglicky ukázat IceStagger
italština anglicky ukázat TreeTagger
japonština anglicky ukázat MeCab + Unidic
katalánština anglicky ukázat TreeTagger
lotyština lotyšsky ukázat LVTagger
maďarština anglicky ukázat RFTagger
němčina anglicky **) německy ukázat RFTagger
nizozemština anglicky ukázat TreeTagger
norština anglicky a norsky ukázat Oslo-Bergen Tagger
polština anglicky a polsky anglicky ukázat Morfeusz, KRNNT
portugalština španělsky ukázat TreeTagger
ruština anglicky anglicky ***) ukázat TreeTagger
slovenština slovensky anglicky slovensky ukázat Radovan Garabík, Morče
slovinština anglicky ukázat ReLDI Tagger
srbština anglicky anglicky ukázat ReLDI Tagger
španělština anglicky ukázat TreeTagger
švédština švédsky a anglicky ukázat Stagger
ukrajinština anglicky****) ukázat UDPipe

*) Morfologické značky jsou v korpusu uvedeny v kondenzované podobě, např. V:Sg:Nom:Act:PrfPrc:Pos odpovídá zápisu s atributy [POS=V] [NUM=SG] [CASE=NOM] [VOICE=ACT] [PCP=PRFPRC] [CMP=POS]. Podobně Pron:Pers:Sg:Ade:Up odpovídá zápisu [POS=PRON] [SUBCAT:PERS] [NUM:SG] [CASE=ADE] [CASECHANGE=UP].

**) Uvnitř jedné morfologické značky používáme jako oddělovač jednotlivých kategorií dvojtečku místo tečky, tedy např. ADJA:Pos:Nom:Sg:Fem.

***) Značky v korpusu někdy neodpovídají značkám uvedeným v podrobném popisu. V korpusu se zanedbávají některé morfologické kategorie, např. zájmena jsou vždy označkována jen jako „P-“. Všechny značky, tak jak se užívají v korpusu, jsou uvedeny ve stručném popisu.

****) Značka je uvedena ve formátu UD (Universal Dependencies), jednotlivé části značky jsou odděleny svislítkem (|), např. tvar школы v genitivu singuláru je značkován takto: NOUN|Animacy=Inan|Case=Gen|Gender=Fem|Number=Sing. Dotaz lze formulovat tak jako u jiných jazyků, tedy na řetězec znaků, např. [tag="NOUN.*Case=Gen\|Gender=Fem.*"] nebo lze specifikovat jednotlivé části značky zvlášť, tedy např. [tag="Case=Gen" & tag="NOUN" & tag="Gender=Fem"] (na pořadí kategorií nezáleží). Výsledek je v obou případech stejný.

Rozdíly mezi formátem značek v dokumentaci a v korpusu jsou i u některých jiných jazyků. Před zadáním dotazu na značku si formát značky prosím ověřte. Můžete využít třeba výpisy značek z korpusu ve výše uvedené tabulce – viz sloupec Značky v korpusu. Nebo na stránce s výsledky libovolného dotazu zaškrtněte v menu Zobrazení/Korpusová nastavení… mezi Pozičními atributy volbu tag a v Možnostech zobrazení vyberte pro každý token.

U textů se značkami, případně lemmaty, mohou přímočaře formulované dotazy na spřežková slova zůstat bez odpovědi. To se týká například anglických tvarů can't nebo I'm, které tagger rozdělí na dvě slova (ca+n't a I+'m) s odpovídajícími lemmaty a značkami. Podobně je tomu i s polskými tvary typu byłam nebo gdybyś (rozděleno na była+m a gdyby+ś). Je třeba počítat i s chybným rozdělením: gdzie+ś za Wisłą. Dotaz na celou spřežku je nutné zadat jako Fráze a části spřežky oddělit mezerou. Lemmatem a značkou jsou opatřeny jen části spřežky.

Morfologické značky obsahující znaky, které mají v regulárních výrazech zvláštní význam, např. $ v anglické značce wp$, je třeba v dotazech zadávat za zpětné lomítko, tedy např. takto: tag="wp\$".

Strukturní atributy

StrukturaAtributPopisMožné hodnoty
docdoc.ididentifikátor dokumentu příjmení_autora-zkrácený_název_textu / _ACQUIS / _EUROPARL / _PRESSEUROP_ročník / _SUBTITLES / _SYNDICATE_ročník / _OT / _NT
texttext.ididentifikace textupříjmení_autora-zkrácený_název_textu:0 / _ACQUIS:číslo / _EUROPARL:číslo / _PRESSEUROP:číslo / _SUBTITLES:číslo / _SYNDICATE_ročník:název / _OT:kniha / _NT:kniha
text.authorautor textupříjmení, jméno
text.titleúplný název textutext
text.langjazyk textuar / be / bg / ca / cs / da / de / el / en / es / et / fi / fr / he / hi / hr / hu / is / it / ja / lt / lv / mk / ms / mt / nb / nl / no / pl / pt / rn / ro / ru / sk / sl / sq / sr / sv / sy / tr / uk / vi / zh
text.versionverze textučíslo
text.groupjádro/kolekce Core / Acquis / Europarl / PressEurop / Subtitles / Syndicate / Bible
text.publishervydavateltext
text.pubplacemísto vydánítext
text.pubDateYearrok vydáníčíslo
text.pubDateMonthměsíc vydáníčíslo
text.origyearrok vytvoření originálučíslo
text.isbnISBNčíslo
text.txtypetyp textudiscussions - transcripts / drama / fiction / journalism - commentaries / journalism - news / legal texts / nonfiction / other / poetry / subtitles / religious
text.commentpoznámkatext
text.originaloriginální verze?Yes / No
text.srclangjazyk origináluar / as / az / be / bg / bl / bn / bo / bs / bt / ca / cr / cs / ct / cz / da / de / dk / eb / el / en / es / et / eu / fa / fi / fr / ga / gr / he / hi / hr / hu / hy / id / ie / is / it / ja / ka / ko / ku / lt / lv / mk / mn / ms / mt / my / ni / nl / no / pl / po / ps / pt / rm / rn / ro / ru / se / sk / sl / sq / sr / sv / ta / th / ti / tl / tr / tu / uk / un / ur / vi / zh
text.translatorpřekladatelpříjmení, jméno
text.transsexpohlaví překladateleF / M
text.authsexpohlaví autoraF / M
text.transcommentpoznámka k překladutext
text.collectiontitlenázev kolekcetext
text.volumečíslo svazkučíslo
text.pagespočet strančíslo
text.lang_varvarieta jazykade-AT / de-CH / de-DE / en-AU / en-CA / en-GB / en-UM / en-US / es-ES / es-MX / es-PE / fr-BE / fr-FR / it-CH / it-IT / nl-BE / nl-NL / nn-NO / nb-NO / pt-BR / pt-PT / sr-RS
text.wordcountpočet slovčíslo
divdiv.ididentifikátor oddílu (Bible) _NT / _OT:kapitola
div.typetyp oddílu (kapitola)chapter
pp.ididentifikátor odstavcedoc:text:div:par
ss.ididentifikátor větydoc:text:div:par:sent
hihi.rendřez písmaitalic / bold / bold italic
lblb.ididentifikátor verše (Bible)book:chapter:verse

Poděkování

Děkujeme za možnost využívat následující texty a software:

Texty:

  • za možnost zařadit do korpusu nejnovější (13. opravené) vydání Českého ekumenického překladu Bible z roku 2016 děkujeme České biblické společnosti, zvláště Petru Fryšovi
  • beletristické texty v řadě slovanských i jiných jazyků z korpusu ASPAC – Amsterdam Slavic Parallel Aligned Corpus – zvláštní poděkování patří Adrianu Barentsenovi
  • publicistické texty ve více jazycích z webových stránek Project Syndicate
  • publicistické texty ve více jazycích ze serveru VoxEurop
  • právnické texty v jazycích EU z korpusu JRC-ACQUIS
  • jednání Evropského parlamentu z korpusu EuroParl
  • slovensko-české konkordance ze Slovenského národního korpusu
  • povídky ve více jazycích z projektu Můj rok 1989 z Goethe Institutu
  • za více textů v česko-litevské části korpusu a za práci Jiřího Levého Umění překladu ve více jazycích vděčíme Patricku Cornessovi
  • román George Orwella 1984 ve více jazycích z korpusu Multext-East
  • ukrajinské a polské texty z korpusu PolUkr
  • norské texty z nakladatelství Forlaget Oktober
  • filmové titulky z databáze Open Subtitles

Předzpracování:

  • editor paralelních textů InterText (autor Pavel Vondřička)
  • zarovnávač Hunalign
  • větný segmentátor pro češtinu (autor Pavel Květoň)
  • větný segmentátor pro norštinu (autoři Jarle Ebeling a Pavel Vondřička)
  • větný segmentátor Punkt pro všechny ostatní jazyky ze sady Natural Language Toolkit

Značkovače / lemmatizátory:

  • MorfFlex, Morče a LanGr pro češtinu
  • TreeTagger pro angličtinu, bulharštinu, estonštinu, francouzštinu, italštinu, katalánštinu, nizozemštinu, portugalštinu (s poděkováním Pablu Gamallovi), ruštinu a španělštinu
  • Morfeusz a KRNNT pro polštinu
  • HunPOS pro finštinu a další jazyky
  • tagger pro slovenštinu (s poděkováním Radovanu Garabíkovi)
  • tagger pro norštinu
  • totale pro slovinštinu (do v.11, s poděkováním Tomaži Erjavcovi)
  • RFTagger pro němčinu a maďarštinu
  • OMorFi pro finštinu (s poděkováním Filipu Ginterovi)
  • Stagger a IceStagger pro švédštinu a islandštinu (s poděkováním Robertu Östlingovi)
  • RelDI tagger pro chorvatštinu, srbštinu1) a slovinštinu2) (s poděkováním Nikolovi Ljubešićovi)
  • LVTagger pro lotyštinu (s poděkováním Pēterisi Ņikiforovsovi a Michalu Škrabalovi)
  • UD Pipe pro běloruštinu a ukrajinštinu (s poděkováním Bohdanu Moskalevskému)
  • MeCab a Unidic pro japonštinu (s poděkováním Adamovi Nohejlovi)
  • ZPar pro čínštinu (s poděkováním Vlastimilu Dobečkovi)

Jak citovat

Budeme rádi, když k výsledkům práce, při níž využijete korpus InterCorp, připojíte odkaz na stránky projektu www.intercorp.korpus.cz a k odborným publikacím odkaz na tento článek:

ČERMÁK, F. – ROSEN, A. (2012). The case of InterCorp, a multilingual parallel corpus. International Journal of Corpus Linguistics. Vol. 13, no. 3, p. 411–427 (bibtex, elektronické vydání na serveru ingentaConnect, verze před tiskem).

Seznam další literatury najdete v Repozitáři bibliografických informací založených na ČNK. Každý odkaz na práci využívající InterCorp je vítán, viz podrobnosti.

Při citaci konkrétní části InterCorpu uveďte jako citaci údaj, který je zobrazen v popisu korpusu v rozhraní KonText, např.:

ROSEN, A. – VAVŘÍN, M. – ZASINA, A. J. Korpus InterCorp – čeština 3), verze 14 ze 31. 1. 2022. Ústav Českého národního korpusu, FF UK, Praha 2022. Dostupné z WWW: https://kontext.korpus.cz/

Viz též

InterCorpVerze 13udVerze 14Verze 13Verze 12Verze 11Verze 10Verze 9Verze 8Verze 7Verze 6Verze 5Verze 4Verze 3Historie verzí

Původní stránky projektu InterCorp jsou stále zde.

1)
Ljubešić, N., Klubička, F., Željko Agić, and Jazbec, I.-P. (2016). New inflectional lexicons and training corpora for improved morphosyntactic annotation of Croatian and Serbian. In Calzolari, N. et al., editors, Proceedings of the Tenth International Conference on Language Resources and Evaluation (LREC 2016), Paris, France. European Language Resources Association (ELRA).
2)
Ljubešić, N. and Erjavec, T. (2016). Corpus vs. lexicon supervision in morphosyntactic tagging: the case of Slovene. In Calzolari, N. et al., editors, Proceedings of the Tenth International Conference on Language Resources and Evaluation (LREC 2016), Paris, France. European Language Resources Association (ELRA).
3)
Vložte konkrétní jazyky.