Obsah
Korpus InterCorp verze 14
Název | čeština jádro | čeština kolekce | cizí jazyky jádro | cizí jazyky kolekce | |
---|---|---|---|---|---|
Pozice | Počet tokenů | 145 640 866 | 116 673 038 | 418 967 492 | 1 548 425 287 |
Počet slovních tvarů | 117 606 467 | 89 819 772 | 348 771 933 | 1 223 221 264 | |
Struktury | Počet dokumentů | 1 708 | 30 | 4 220 | 282 |
Počet textů | 1 708 | 111 951 | 4 220 | 1 843 528 | |
Počet vět | 10 095 074 | 136 606 183 | 25 872 393 | 143 195 566 | |
Další informace | referenční | ANO | |||
reprezentativní | NE (různé textové typy) | ||||
rok zveřejnění | 2022 | ||||
cizích jazyků | 41 | ||||
tagovaných jazyků | 27 | ||||
jazyky s lemmaty | 25 |
Přístup k textům
Po registraci na stránce Prohlášení uživatele korpusů ÚČNK lze korpus prohledávat přes webové rozhraní. Registrace platí pro všechny veřejně přístupné korpusy ÚČNK. Máte-li uživatelské jméno a heslo k české části Českého národního korpusu, další registraci pro paralelní korpus nepotřebujete.
InterCorp je přístupný přes běžný webový prohlížeč z jednotného vyhledávacího rozhraní KonText pomocí speciálního dotazovacího formuláře pro paralelní korpusy.
Texty z korpusu InterCorp lze získat po podpisu licenčního ujednání pro neziskové účely také v podobě dvojjazyčných souborů náhodně seřazených dvojic vět. Zájemci se mohou obrátit na Martina Vavřína.
Obvykle jednou ročně vychází nová verze InterCorpu. V každé nové verzi roste objem textů, případně i počet jazyků a rozsah anotace. Od verze 6 dál jsou všechny předchozí verze stále dostupné.
Obsah korpusu
Jádrem korpusu InterCorp jsou ručně zarovnané, převážně beletristické texty. Kromě toho korpus obsahuje také nabídku automaticky zpracovaných textů, tzv. kolekce. Ve verzi 14 jsou k dispozici tyto kolekce:
- publistické články a zpravodajství z webových stránek Project Syndicate a VoxEurop (dříve PressEurop)
- právní texty Evropské unie z korpusu Acquis Communautaire
- zápisy jednání Evropského parlamentu z let 2007–2011 z korpusu Europarl
- filmové titulky z databáze OpenSubtitles
- překlady Bible
Tyto texty jsou zarovnány jen automaticky, v konkordancích tedy může být více vět, které si navzájem neodpovídají. Kolekce také neobsahují všechny texty z původního zdroje, např. ty, které nemají český protějšek. Některé texty z korpusů Acquis Communautaire a Europarl byly rovněž částečně opraveny nebo vytříděny, takže se mohou ve srovnání s původním zdrojem lišit podobou i rozsahem. Podobně byla zredukována i databáze OpenSubtitles, kde jsme navíc u každého titulu převzali z více verzí překladu jen jednu. Zato byly doplněny některé metainformace, které v původním zdroji chyběly, ale daly se zjistit z kontextu nebo jiných zdrojů. Došlo rovněž k rozdělení Syndicate a PressEurop na jednotlivé ročníky, čímž se zvýšil počet dokumentů v kolekcích.
Každý cizojazyčný text má v korpusu svou českou verzi. Čeština je tedy tzv. pivot, česká verze textu (originál nebo překlad) je zarovnána s jednou nebo více verzemi cizojazyčnými. Celkový rozsah zpřístupněné části korpusu ve verzi 14 z ledna 2022 činí v zarovnaných cizojazyčných textech 349 milionů slov v jádru a 1 223 milionů slov v kolekcích. V českých textech je v jádru 118 a v kolekcích 90 milionů slov (viz historie verzí). Rozložení textů v rámci jádra a v jednotlivých kolekcích je znázorněno na následujících grafech. Čísla v grafech ukazují velikost v milionech slov.
Velikost korpusu v tisících slov
Zkratka | Jazyk | Jádro | Syndicate | Presseurop | Acquis | Europarl | Subtitles | Bible | Celkem |
---|---|---|---|---|---|---|---|---|---|
ar | arabština | 34 | 0 | 0 | 0 | 0 | 0 | 0 | 34 |
be | běloruština | 6 094 | 0 | 0 | 0 | 0 | 0 | 0 | 6 094 |
bg | bulharština | 7 068 | 0 | 0 | 13 577 | 9 083 | 0 | 0 | 29 728 |
ca | katalánština | 8 920 | 0 | 0 | 0 | 0 | 0 | 736 | 9 656 |
da | dánština | 7 576 | 0 | 0 | 20 313 | 13 916 | 14 429 | 657 | 56 891 |
de | němčina | 38 475 | 4 704 | 2 483 | 20 610 | 13 088 | 8 392 | 724 | 88 476 |
el | řečtina | 0 | 0 | 0 | 23 853 | 15 404 | 23 709 | 0 | 62 966 |
en | angličtina | 36 198 | 4 856 | 2 670 | 22 902 | 15 576 | 52 106 | 730 | 135 038 |
es | španělština | 28 115 | 5 614 | 2 859 | 26 262 | 16 249 | 36 650 | 0 | 115 748 |
et | estonština | 0 | 0 | 0 | 14 896 | 10 899 | 10 298 | 0 | 36 093 |
fi | finština | 6 226 | 0 | 0 | 15 269 | 10 108 | 15 047 | 543 | 47 192 |
fr | francouzština | 21 279 | 5 600 | 3 046 | 26 200 | 17 179 | 25 986 | 764 | 100 054 |
he | hebrejština | 0 | 0 | 0 | 0 | 0 | 16 221 | 0 | 16 221 |
hi | hindština | 409 | 0 | 0 | 0 | 0 | 0 | 0 | 409 |
hr | chorvatština | 22 736 | 0 | 0 | 0 | 0 | 19 048 | 571 | 42 356 |
hs | hornolužičtina | 110 | 0 | 0 | 0 | 0 | 0 | 0 | 110 |
hu | maďarština | 6 444 | 0 | 0 | 17 852 | 12 198 | 21 115 | 0 | 57 609 |
is | islandština | 0 | 0 | 0 | 0 | 0 | 1 581 | 0 | 1 581 |
it | italština | 15 741 | 1 252 | 2 747 | 23 771 | 15 494 | 14 700 | 684 | 74 389 |
ja | japonština | 3 147 | 0 | 0 | 0 | 0 | 477 | 0 | 3 624 |
lt | litevština | 502 | 0 | 0 | 17 316 | 11 213 | 558 | 471 | 30 059 |
lv | lotyština | 3 031 | 0 | 0 | 17 522 | 11 682 | 280 | 537 | 33 052 |
mk | makedonština | 8 881 | 0 | 0 | 0 | 0 | 1 877 | 0 | 10 758 |
ms | malajština | 0 | 0 | 0 | 0 | 0 | 3 521 | 0 | 3 521 |
mt | maltština | 0 | 0 | 0 | 13 935 | 0 | 0 | 0 | 13 935 |
nl | nizozemština | 16 691 | 813 | 2 953 | 23 416 | 15 558 | 29 373 | 717 | 89 520 |
no | norština | 7 818 | 0 | 0 | 0 | 0 | 0 | 722 | 8 540 |
pl | polština | 27 669 | 0 | 2 380 | 19 604 | 12 817 | 26 576 | 583 | 89 630 |
pt | portugalština | 6 245 | 554 | 2 782 | 24 598 | 15 193 | 41 468 | 706 | 91 546 |
rn | romština | 14 | 0 | 0 | 0 | 0 | 0 | 0 | 14 |
ro | rumunština | 4 219 | 0 | 2 738 | 8 092 | 9 446 | 34 128 | 0 | 58 622 |
ru | ruština | 10 510 | 3 984 | 0 | 0 | 0 | 6 887 | 565 | 21 946 |
sk | slovenština | 8 543 | 0 | 0 | 18 399 | 12 727 | 5 133 | 561 | 45 363 |
sl | slovinština | 4 097 | 0 | 0 | 18 515 | 12 241 | 17 035 | 0 | 51 888 |
sq | albánština | 0 | 0 | 0 | 0 | 0 | 2 003 | 0 | 2 003 |
sr | srbština | 12 014 | 0 | 0 | 0 | 0 | 20 727 | 0 | 32 741 |
sv | švédština | 17 590 | 0 | 0 | 19 542 | 13 784 | 14 666 | 638 | 66 220 |
tr | turečtina | 0 | 0 | 0 | 0 | 0 | 21 190 | 0 | 21 190 |
uk | ukrajinština | 12 172 | 0 | 0 | 0 | 0 | 244 | 596 | 13 011 |
vi | vietnamština | 0 | 0 | 0 | 0 | 0 | 1 474 | 0 | 1 474 |
zh | čínština | 202 | 240 | 0 | 0 | 0 | 2 247 | 0 | 2 689 |
celkem | 348 770 | 27 617 | 24 658 | 406 444 | 263 855 | 489 146 | 11 505 | 1 571 991 | |
cs | čeština | 117 606 | 4 351 | 2 310 | 19 085 | 12 908 | 50 604 | 562 | 207 426 |
CELKEM | 466 376 | 31 968 | 26 968 | 425 529 | 276 763 | 539 750 | 12 067 | 1 779 417 |
Pozn.: U českých textů se počítají slova jen jednou za každý text, i když má více cizojazyčných protějšků.
Morfosyntaktická anotace
Texty v níže uvedených jazycích jsou opatřeny morfologickou anotací. Formát a často i význam kategorií zakódovaných do morfologických značek se liší od češtiny. U každého jazyka proto uvádíme i odkaz na popis příslušné sady značek. Popis značek je dostupný i z vyhledávacího rozhraní KonText, když jako typ dotazu zvolíte CQL. Někdy odkazujeme na stručný popis sady značek daného jazyka na stránkách Sketch Engine.
*) Morfologické značky jsou v korpusu uvedeny v kondenzované podobě, např. V:Sg:Nom:Act:PrfPrc:Pos odpovídá zápisu s atributy [POS=V] [NUM=SG] [CASE=NOM] [VOICE=ACT] [PCP=PRFPRC] [CMP=POS]. Podobně Pron:Pers:Sg:Ade:Up odpovídá zápisu [POS=PRON] [SUBCAT:PERS] [NUM:SG] [CASE=ADE] [CASECHANGE=UP].
**) Uvnitř jedné morfologické značky používáme jako oddělovač jednotlivých kategorií dvojtečku místo tečky, tedy např. ADJA:Pos:Nom:Sg:Fem.
***) Značky v korpusu někdy neodpovídají značkám uvedeným v podrobném popisu. V korpusu se zanedbávají některé morfologické kategorie, např. zájmena jsou vždy označkována jen jako „P-“. Všechny značky, tak jak se užívají v korpusu, jsou uvedeny ve stručném popisu.
****) Značka je uvedena ve formátu UD (Universal Dependencies), jednotlivé části značky jsou odděleny svislítkem (|), např. tvar школы v genitivu singuláru je značkován takto: NOUN|Animacy=Inan|Case=Gen|Gender=Fem|Number=Sing
. Dotaz lze formulovat tak jako u jiných jazyků, tedy na řetězec znaků, např. [tag="NOUN.*Case=Gen\|Gender=Fem.*"]
nebo lze specifikovat jednotlivé části značky zvlášť, tedy např. [tag="Case=Gen" & tag="NOUN" & tag="Gender=Fem"]
(na pořadí kategorií nezáleží). Výsledek je v obou případech stejný.
Rozdíly mezi formátem značek v dokumentaci a v korpusu jsou i u některých jiných jazyků. Před zadáním dotazu na značku si formát značky prosím ověřte. Můžete využít třeba výpisy značek z korpusu ve výše uvedené tabulce – viz sloupec Značky v korpusu. Nebo na stránce s výsledky libovolného dotazu zaškrtněte v menu Zobrazení/Korpusová nastavení… mezi Pozičními atributy volbu tag a v Možnostech zobrazení vyberte pro každý token.
U textů se značkami, případně lemmaty, mohou přímočaře formulované dotazy na spřežková slova zůstat bez odpovědi. To se týká například anglických tvarů can't nebo I'm, které tagger rozdělí na dvě slova (ca+n't a I+'m) s odpovídajícími lemmaty a značkami. Podobně je tomu i s polskými tvary typu byłam nebo gdybyś (rozděleno na była+m a gdyby+ś). Je třeba počítat i s chybným rozdělením: gdzie+ś za Wisłą. Dotaz na celou spřežku je nutné zadat jako Fráze a části spřežky oddělit mezerou. Lemmatem a značkou jsou opatřeny jen části spřežky.
Morfologické značky obsahující znaky, které mají v regulárních výrazech zvláštní význam, např. $
v anglické značce wp$
, je třeba v dotazech zadávat za zpětné lomítko, tedy např. takto: tag="wp\$"
.
Strukturní atributy
Struktura | Atribut | Popis | Možné hodnoty |
---|---|---|---|
doc | doc.id | identifikátor dokumentu | příjmení_autora-zkrácený_název_textu / _ACQUIS / _EUROPARL / _PRESSEUROP_ročník / _SUBTITLES / _SYNDICATE_ročník / _OT / _NT |
text | text.id | identifikace textu | příjmení_autora-zkrácený_název_textu:0 / _ACQUIS:číslo / _EUROPARL:číslo / _PRESSEUROP:číslo / _SUBTITLES:číslo / _SYNDICATE_ročník:název / _OT:kniha / _NT:kniha |
text.author | autor textu | příjmení, jméno | |
text.title | úplný název textu | text | |
text.lang | jazyk textu | ar / be / bg / ca / cs / da / de / el / en / es / et / fi / fr / he / hi / hr / hu / is / it / ja / lt / lv / mk / ms / mt / nb / nl / no / pl / pt / rn / ro / ru / sk / sl / sq / sr / sv / sy / tr / uk / vi / zh | |
text.version | verze textu | číslo | |
text.group | jádro/kolekce | Core / Acquis / Europarl / PressEurop / Subtitles / Syndicate / Bible | |
text.publisher | vydavatel | text | |
text.pubplace | místo vydání | text | |
text.pubDateYear | rok vydání | číslo | |
text.pubDateMonth | měsíc vydání | číslo | |
text.origyear | rok vytvoření originálu | číslo | |
text.isbn | ISBN | číslo | |
text.txtype | typ textu | discussions - transcripts / drama / fiction / journalism - commentaries / journalism - news / legal texts / nonfiction / other / poetry / subtitles / religious | |
text.comment | poznámka | text | |
text.original | originální verze? | Yes / No | |
text.srclang | jazyk originálu | ar / as / az / be / bg / bl / bn / bo / bs / bt / ca / cr / cs / ct / cz / da / de / dk / eb / el / en / es / et / eu / fa / fi / fr / ga / gr / he / hi / hr / hu / hy / id / ie / is / it / ja / ka / ko / ku / lt / lv / mk / mn / ms / mt / my / ni / nl / no / pl / po / ps / pt / rm / rn / ro / ru / se / sk / sl / sq / sr / sv / ta / th / ti / tl / tr / tu / uk / un / ur / vi / zh | |
text.translator | překladatel | příjmení, jméno | |
text.transsex | pohlaví překladatele | F / M | |
text.authsex | pohlaví autora | F / M | |
text.transcomment | poznámka k překladu | text | |
text.collectiontitle | název kolekce | text | |
text.volume | číslo svazku | číslo | |
text.pages | počet stran | číslo | |
text.lang_var | varieta jazyka | de-AT / de-CH / de-DE / en-AU / en-CA / en-GB / en-UM / en-US / es-ES / es-MX / es-PE / fr-BE / fr-FR / it-CH / it-IT / nl-BE / nl-NL / nn-NO / nb-NO / pt-BR / pt-PT / sr-RS | |
text.wordcount | počet slov | číslo | |
div | div.id | identifikátor oddílu (Bible) | _NT / _OT:kapitola |
div.type | typ oddílu (kapitola) | chapter | |
p | p.id | identifikátor odstavce | doc:text:div:par |
s | s.id | identifikátor věty | doc:text:div:par:sent |
hi | hi.rend | řez písma | italic / bold / bold italic |
lb | lb.id | identifikátor verše (Bible) | book:chapter:verse |
Poděkování
Děkujeme za možnost využívat následující texty a software:
Texty:
- za možnost zařadit do korpusu nejnovější (13. opravené) vydání Českého ekumenického překladu Bible z roku 2016 děkujeme České biblické společnosti, zvláště Petru Fryšovi
- beletristické texty v řadě slovanských i jiných jazyků z korpusu ASPAC – Amsterdam Slavic Parallel Aligned Corpus – zvláštní poděkování patří Adrianu Barentsenovi
- publicistické texty ve více jazycích z webových stránek Project Syndicate
- publicistické texty ve více jazycích ze serveru VoxEurop
- právnické texty v jazycích EU z korpusu JRC-ACQUIS
- jednání Evropského parlamentu z korpusu EuroParl
- slovensko-české konkordance ze Slovenského národního korpusu
- povídky ve více jazycích z projektu Můj rok 1989 z Goethe Institutu
- za více textů v česko-litevské části korpusu a za práci Jiřího Levého Umění překladu ve více jazycích vděčíme Patricku Cornessovi
- román George Orwella 1984 ve více jazycích z korpusu Multext-East
- ukrajinské a polské texty z korpusu PolUkr
- norské texty z nakladatelství Forlaget Oktober
- filmové titulky z databáze Open Subtitles
Předzpracování:
- editor paralelních textů InterText (autor Pavel Vondřička)
- zarovnávač Hunalign
- větný segmentátor pro češtinu (autor Pavel Květoň)
- větný segmentátor pro norštinu (autoři Jarle Ebeling a Pavel Vondřička)
- větný segmentátor Punkt pro všechny ostatní jazyky ze sady Natural Language Toolkit
Značkovače / lemmatizátory:
- TreeTagger pro angličtinu, bulharštinu, estonštinu, francouzštinu, italštinu, katalánštinu, nizozemštinu, portugalštinu (s poděkováním Pablu Gamallovi), ruštinu a španělštinu
- HunPOS pro finštinu a další jazyky
- tagger pro slovenštinu (s poděkováním Radovanu Garabíkovi)
- tagger pro norštinu
- totale pro slovinštinu (do v.11, s poděkováním Tomaži Erjavcovi)
- RFTagger pro němčinu a maďarštinu
- OMorFi pro finštinu (s poděkováním Filipu Ginterovi)
- Stagger a IceStagger pro švédštinu a islandštinu (s poděkováním Robertu Östlingovi)
- LVTagger pro lotyštinu (s poděkováním Pēterisi Ņikiforovsovi a Michalu Škrabalovi)
- UD Pipe pro běloruštinu a ukrajinštinu (s poděkováním Bohdanu Moskalevskému)
- ZPar pro čínštinu (s poděkováním Vlastimilu Dobečkovi)
Jak citovat
Budeme rádi, když k výsledkům práce, při níž využijete korpus InterCorp, připojíte odkaz na stránky projektu www.intercorp.korpus.cz a k odborným publikacím odkaz na tento článek:
ČERMÁK, F. – ROSEN, A. (2012). The case of InterCorp, a multilingual parallel corpus. International Journal of Corpus Linguistics. Vol. 13, no. 3, p. 411–427 (bibtex, elektronické vydání na serveru ingentaConnect, verze před tiskem).
Seznam další literatury najdete v Repozitáři bibliografických informací založených na ČNK. Každý odkaz na práci využívající InterCorp je vítán, viz podrobnosti.
Při citaci konkrétní části InterCorpu uveďte jako citaci údaj, který je zobrazen v popisu korpusu v rozhraní KonText, např.:
ROSEN, A. – VAVŘÍN, M. – ZASINA, A. J. Korpus InterCorp – čeština 3), verze 14 ze 31. 1. 2022. Ústav Českého národního korpusu, FF UK, Praha 2022. Dostupné z WWW: https://kontext.korpus.cz/