Toto je starší verze dokumentu!
Obsah
Korpus InterCorp verze 11
Název | čeština jádro | čeština kolekce | cizí jazyky jádro | cizí jazyky kolekce | |
---|---|---|---|---|---|
Pozice | Počet tokenů | 132 508 429 | 115 574 528 | 340 554 768 | 1 550 923 096 |
Počet slovních tvarů | 106 898 538 | 88 872 779 | 283 075 338 | 1 225 361 750 | |
Struktury | Počet dokumentů | 1 564 | 28 | 3 494 | 261 |
Počet textů | 1 564 | 107 488 | 3 494 | 1 841 341 | |
Počet vět | 9 193 433 | 13 556 382 | 21 000 997 | 142 734 659 | |
Další informace | referenční | ANO | |||
reprezentativní | NE (různé textové typy) | ||||
rok zveřejnění | 2018 | ||||
cizích jazyků | 39 | ||||
tagovaných jazyků | 26 | ||||
jazyky s lemmaty | 25 |
Přístup k textům
Po registraci na stránce Prohlášení uživatele korpusů ÚČNK lze korpus prohledávat přes webové rozhraní. Registrace platí pro všechny veřejně přístupné korpusy ÚČNK. Máte-li uživatelské jméno a heslo k české části Českého národního korpusu, další registraci pro paralelní korpus nepotřebujete.
InterCorp je přístupný přes běžný webový prohlížeč z jednotného vyhledávacího rozhraní KonText pomocí speciálního dotazovacího formuláře pro paralelní korpusy.
Texty z korpusu InterCorp lze získat po podpisu licenčního ujednání pro neziskové účely také v podobě dvojjazyčných souborů náhodně seřazených dvojic vět. Zájemci se mohou obrátit na Martina Vavřína.
Obvykle jednou ročně vychází nová verze InterCorpu. V každé nové verzi roste objem textů, případně i počet jazyků a rozsah anotace. Předchozí verze jsou přitom stále dostupné; od verze 6 dál přitom budou všechny původní zůstávat stále dostupné.
Jak citovat
Budeme rádi, když k výsledkům práce, při níž využijete korpus InterCorp, připojíte odkaz na stránky projektu www.korpus.cz/intercorp a k odborným publikacím odkaz na tento článek:
ČERMÁK, F. – ROSEN, A. (2012). The case of InterCorp, a multilingual parallel corpus. International Journal of Corpus Linguistics. Vol. 13, no. 3, p. 411–427 (bibtex, elektronické vydání na serveru ingentaConnect, verze před tiskem).
Seznam další literatury najdete v Repozitáři bibliografických informací založených na ČNK. Každý odkaz na práci využívající InterCorp je vítán, viz podrobnosti.
Při citaci konkrétní části InterCorpu uveďte jako citaci údaj, který je zobrazen v popisu korpusu v rozhraní KonText, např.:
ROSEN, A. – VAVŘÍN, M. – ZASINA, A. J. Korpus InterCorp – čeština 1), verze 11 z 5. 10. 2018. Ústav Českého národního korpusu, FF UK, Praha 2018. Dostupné z WWW: http://www.korpus.cz
Obsah korpusu
Jádrem korpusu InterCorp jsou ručně zarovnané, převážně beletristické texty. Kromě toho korpus obsahuje také nabídku automaticky zpracovaných textů, tzv. kolekce. Ve verzi 11 jsou k dispozici tyto kolekce:
- publistické články a zpravodajství z webových stránek Project Syndicate a VoxEurop (dříve PressEurop)
- právní texty Evropské unie z korpusu Acquis Communautaire
- zápisy jednání Evropského parlamentu z let 2007–2011 z korpusu Europarl
- filmové titulky z databáze OpenSubtitles
- překlady Bible
Tyto texty jsou zarovnány jen automaticky, v konkordancích tedy může být více vět, které si navzájem neodpovídají. Kolekce také neobsahují všechny texty z původního zdroje, např. ty, které nemají český protějšek. Některé texty z korpusů Acquis Communautaire a Europarl byly rovněž částečně opraveny nebo vytříděny, takže se mohou ve srovnání s původním zdrojem lišit podobou i rozsahem. Podobně byla zredukována i databáze OpenSubtitles, kde jsme navíc u každého titulu převzali z více verzí překladu jen jednu. Zato byly doplněny některé metainformace, které v původním zdroji chyběly, ale daly se zjistit z kontextu nebo jiných zdrojů. Došlo rovněž k rozdělení Syndicate a PressEurop na jednotlivé ročníky, čímž se navýšil počet dokumentů v kolekcích.
Každý cizojazyčný text má v korpusu svou českou verzi. Čeština je tedy tzv. pivot, česká verze textu (originál nebo překlad) je zarovnána s jednou nebo více verzemi cizojazyčnými. Celkový rozsah zpřístupněné části korpusu ve verzi 11 ze září 2018 činí 283 milionů slov v zarovnaných cizojazyčných textech v jádru a 1 225 milionů slov v zarovnaných cizojazyčných textech v kolekcích (viz historie verzí). Rozložení textů v rámci jádra a v jednotlivých kolekcích je znázorněno na následujících grafech. Čísla v grafech ukazují velikost v milionech slov.
Velikost korpusu v tisících slov
Zkratka | Jazyk | Jádro | Syndicate | Presseurop | Acquis | Europarl | Subtitles | Bible | Celkem |
---|---|---|---|---|---|---|---|---|---|
ar | arabština | 34 | 0 | 0 | 0 | 0 | 0 | 0 | 34 |
be | běloruština | 4 426 | 0 | 0 | 0 | 0 | 0 | 0 | 4 426 |
bg | bulharština | 6 780 | 0 | 0 | 13 577 | 9 083 | 0 | 0 | 29 441 |
ca | katalánština | 5 596 | 0 | 0 | 0 | 0 | 0 | 736 | 6 332 |
da | dánština | 5 595 | 0 | 0 | 20 313 | 13 916 | 14 429 | 657 | 54 910 |
de | němčina | 34 915 | 4 457 | 2 483 | 20 610 | 13 088 | 8 392 | 724 | 84 669 |
el | řečtina | 0 | 0 | 0 | 23 853 | 15 404 | 23 709 | 0 | 62 966 |
en | angličtina | 27 968 | 4 604 | 2 670 | 22 902 | 15 576 | 52 105 | 730 | 126 555 |
es | španělština | 23 349 | 5 322 | 2 859 | 26 262 | 16 249 | 36 650 | 0 | 110 691 |
et | estonština | 0 | 0 | 0 | 14 896 | 10 899 | 10 298 | 0 | 36 093 |
fi | finština | 4 585 | 0 | 0 | 15 489 | 10 175 | 15 098 | 544 | 45 890 |
fr | francouzština | 17 213 | 5 391 | 3 046 | 26 200 | 17 179 | 25 986 | 764 | 95 779 |
he | hebrejština | 0 | 0 | 0 | 0 | 0 | 16 221 | 0 | 16 221 |
hi | hindština | 409 | 0 | 0 | 0 | 0 | 0 | 0 | 409 |
hr | chorvatština | 20 147 | 0 | 0 | 0 | 0 | 19 048 | 571 | 39 767 |
hu | maďarština | 5 783 | 0 | 0 | 17 852 | 12 198 | 21 115 | 0 | 56 948 |
is | islandština | 0 | 0 | 0 | 0 | 0 | 1 581 | 0 | 1 581 |
it | italština | 11 400 | 1 141 | 2 747 | 23 771 | 15 494 | 14 700 | 684 | 69 937 |
ja | japonština | 1 198 | 0 | 0 | 0 | 0 | 477 | 0 | 1 675 |
lt | litevština | 287 | 0 | 0 | 17 316 | 11 213 | 558 | 471 | 29 844 |
lv | lotyština | 2 523 | 0 | 0 | 17 522 | 11 682 | 280 | 0 | 32 008 |
mk | makedonština | 6 508 | 0 | 0 | 0 | 0 | 1 877 | 0 | 8 385 |
ms | malajština | 0 | 0 | 0 | 0 | 0 | 3 521 | 0 | 3 521 |
mt | maltština | 0 | 0 | 0 | 13 953 | 0 | 0 | 0 | 13 953 |
nl | nizozemština | 13 689 | 711 | 2 953 | 23 416 | 15 558 | 29 373 | 717 | 86 416 |
no | norština | 6 675 | 0 | 0 | 0 | 0 | 0 | 721 | 7 397 |
pl | polština | 24 292 | 0 | 2 378 | 19 594 | 12 811 | 26 572 | 583 | 86 230 |
pt | portugalština | 4 032 | 520 | 3 000 | 27 301 | 16 485 | 43 392 | 760 | 95 489 |
rn | romština | 14 | 0 | 0 | 0 | 0 | 0 | 0 | 14 |
ro | rumunština | 3 888 | 0 | 2 738 | 8 092 | 9 446 | 34 128 | 0 | 58 292 |
ru | ruština | 7 062 | 3 768 | 0 | 0 | 0 | 6 887 | 565 | 18 282 |
sk | slovenština | 8 545 | 0 | 0 | 18 401 | 12 734 | 5 134 | 561 | 45 376 |
sl | slovinština | 3 534 | 0 | 0 | 18 485 | 12 241 | 17 023 | 0 | 51 282 |
sq | albánština | 0 | 0 | 0 | 0 | 0 | 2 003 | 0 | 2 003 |
sr | srbština | 10 661 | 0 | 0 | 0 | 0 | 20 727 | 0 | 31 388 |
sv | švédština | 12 396 | 0 | 0 | 19 609 | 13 840 | 14 694 | 638 | 61 178 |
tr | turečtina | 0 | 0 | 0 | 0 | 0 | 21 190 | 0 | 21 190 |
uk | ukrajinština | 9 571 | 0 | 0 | 0 | 0 | 245 | 596 | 10 411 |
vi | vietnamština | 0 | 0 | 0 | 0 | 0 | 1 474 | 0 | 1 474 |
celkem | 283 075 | 30 044 | 27 189 | 428 621 | 278 178 | 539 250 | 11 593 | 1 676 293 | |
cs | čeština | 106 899 | 4 124 | 2 310 | 19 085 | 12 188 | 50 604 | 562 | 195 771 |
CELKEM | 389 974 | 30 073 | 27 184 | 428 482 | 277 458 | 539 489 | 11 585 | 1 704 208 |
Pozn.: U českých textů se počítají slova jen jednou za každý text, i když má více cizojazyčných protějšků.
Morfosyntaktická anotace
Texty v níže uvedených jazycích jsou opatřeny morfologickou anotací. Formát a často i význam kategorií zakódovaných do morfologických značek se liší od češtiny. U každého jazyka proto uvádíme i odkaz na popis příslušné sady značek. Popis značek je dostupný i z vyhledávacího rozhraní KonText, když jako typ dotazu zvolíte CQL.
*) Morfologické značky jsou v korpusu uvedeny v kondenzované podobě, např. V:Sg:Nom:Act:PrfPrc:Pos odpovídá zápisu s atributy [POS=V] [NUM=SG] [CASE=NOM] [VOICE=ACT] [PCP=PRFPRC] [CMP=POS]. Podobně Pron:Pers:Sg:Ade:Up odpovídá zápisu [POS=PRON] [SUBCAT:PERS] [NUM:SG] [CASE=ADE] [CASECHANGE=UP].
**) Uvnitř jedné morfologické značky používáme jako oddělovač jednotlivých kategorií dvojtečku místo tečky, tedy např. ADJA:Pos:Nom:Sg:Fem.
***) Značky v korpusu někdy neodpovídají značkám uvedeným v podrobném popisu. V korpusu se zanedbávají některé morfologické kategorie, např. zájmena jsou vždy označkována jen jako „P-“. Všechny značky, tak jak se užívají v korpusu, jsou uvedeny ve stručném popisu.
****) Značka je uvedena ve formátu UD (Universal Dependencies), jednotlivé části značky jsou odděleny svislítkem (|), např. tvar школы v genitivu singuláru je značkován takto: NOUN|Animacy=Inan|Case=Gen|Gender=Fem|Number=Sing
. Dotaz lze formulovat tak jako u jiných jazyků, tedy na řetězec znaků, např. [tag=„NOUN.*Case=Gen\|Gender=Fem.*“]
nebo lze specifikovat jednotlivé části značky zvlášť, tedy např. [tag=„Case=Gen“ & tag=„NOUN“ & tag=„Gender=Fem“]
(na pořadí kategorií nezáleží). Výsledek je v obou případech stejný.
Rozdíly mezi formátem značek v dokumentaci a v korpusu jsou i u některých jiných jazyků. Před zadáním dotazu na značku si formát značky prosím ověřte. Na stránce s výsledky libovolného dotazu zaškrtněte v menu Zobrazení/Korpusová nastavení… mezi Pozičními atributy volbu tag a v Možnostech zobrazení vyberte pro každý token.
U textů se značkami, případně lemmaty, mohou přímočaře formulované dotazy na spřežková slova zůstat bez odpovědi. To se týká například anglických tvarů can't nebo I'm, které tagger rozdělí na dvě slova (ca+n't a I+'m) s odpovídajícími lemmaty a značkami. Podobně je tomu i s polskými tvary typu byłam nebo gdybyś (rozděleno na była+m a gdyby+ś). Je třeba počítat i s chybným rozdělením: gdzie+ś za Wisłą. Dotaz na celou spřežku je nutné zadat jako Fráze a části spřežky oddělit mezerou. Lemmatem a značkou jsou opatřeny jen části spřežky.
Morfologické značky obsahující znaky, které mají v regulárních výrazech zvláštní význam, např. $
v anglické značce wp$
, je třeba v dotazech zadávat za zpětné lomítko, tedy např. takto: tag="wp\$"
Strukturní atributy
Struktura | Atribut | Popis | Možné hodnoty |
---|---|---|---|
doc | doc.id | unikátní identifikátor dokumentu | příjmení_autora-zkrácený_název_textu / _ACQUIS / _EUROPARL / _PRESSEUROP_ročník / _SUBTITLES / _SYNDICATE_ročník / _OT / _NT |
text | text.lang | jazyk textu | ar / be / bg / ca / cs / da / de / el / en / es / et / fi / fr / he / hi / hr / hu / is / it / ja / lt / lv / mk / ms / mt / nb / nl / no / pl / pt / rn / ro / ru / sk / sl / sq / sr / sv / sy / tr / uk / vi / zh |
text.version | verze textu | číslo | |
text.wordcount | velikost dokumentu ve slovech | číslo | |
text.id | identifikace textu | příjmení_autora-zkrácený_název_textu:0 / _ACQUIS:číslo / _EUROPARL:číslo / _PRESSEUROP:číslo / _SUBTITLES:číslo / _SYNDICATE:název / _OT:kapitola / _NT:kapitola | |
text.group | rozdělení na: | Core / Acquis / Europarl / PressEurop / Subtitles / Syndicate / Bible | |
text.wordcount | počet slov textu | číslo | |
text.author | autor textu | příjmení, jméno | |
text.title | úplný název textu | text | |
text.publisher | vydavatel | text | |
text.pubplace | místo vydání | text | |
text.pubyear | rok vydání | letopočet | |
text.txtype | typ textu | discussions - transcripts / drama / fiction / journalism - commentaries / journalism - news / legal texts / nonfiction / other / poetry / subtitles / religious | |
text.original | je text originálem? | Yes / No | |
text.srclang | jazyk originálu | ar / as / az / be / bg / bl / bn / bo / bs / bt / ca / cr / cs / ct / cz / da / de / dk / eb / el / en / es / et / eu / fa / fi / fr / ga / gr / he / hi / hr / hu / hy / id / ie / is / it / ja / ka / ko / ku / lt / lv / mk / mn / ms / mt / my / ni / nl / no / pl / po / ps / rn / pt / rm / rn / ro / ru / se / sk / sl / sq / sr / sv / ta / th / ti / tl / tr / tu / uk / un / ur / vi / zh | |
text.translator | překladatel textu | příjmení, jméno | |
text.transsex | pohlaví překladatele | F / M | |
text.authsex | pohlaví autora: | F / M | |
p | p.id | unikátní identifikátor odstavce | text |
s | s.id | unikátní identifikátor věty | text |
div | div.id | identifikátor kapitoly v Bibli | _NT / _OT: kapitola:číslo |
div.type | kapitola v Bibli | chapter | |
h | h.rend | řez písma | italic / bold / bold italic |
Poděkování
Děkujeme za možnost využívat následující texty a software:
Texty:
- za možnost zařadit do korpusu nejnovější (13. opravené) vydání Českého ekumenického překladu Bible z roku 2016 děkujeme České biblické společnosti, zvláště Petru Fryšovi
- beletristické texty v řadě slovanských i jiných jazyků z korpusu ASPAC – Amsterdam Slavic Parallel Aligned Corpus – zvláštní poděkování patří Adrianu Barentsenovi
- publicistické texty ve více jazycích z webových stránek Project Syndicate
- publicistické texty ve více jazycích ze serveru VoxEurop
- právnické texty v jazycích EU z korpusu JRC-ACQUIS
- jednání Evropského parlamentu z korpusu EuroParl
- slovensko-české konkordance ze Slovenského národního korpusu
- povídky ve více jazycích z projektu Můj rok 1989 z Goethe Institutu
- za více textů v česko-litevské části korpusu a za práci Jiřího Levého Umění překladu ve více jazycích vděčíme Patricku Cornessovi
- román George Orwella 1984 ve více jazycích z korpusu Multext-East
- ukrajinské a polské texty z korpusu PolUkr
- norské texty z nakladatelství Forlaget Oktober
- filmové titulky z databáze Open Subtitles
Předzpracování:
- editor paralelních textů InterText (autor Pavel Vondřička)
- zarovnávač Hunalign
- větný segmentátor pro češtinu (autor Pavel Květoň)
- větný segmentátor pro norštinu (autoři Jarle Ebeling a Pavel Vondřička)
- větný segmentátor Punkt pro všechny ostatní jazyky ze sady Natural Language Toolkit
Značkovače / lemmatizátory:
- TreeTagger pro angličtinu, bulharštinu, estonštinu, francouzštinu, italštinu, katalánštinu, nizozemštinu, portugalštinu (s poděkováním Pablu Gamallovi), ruštinu a španělštinu
- HunPOS pro finštinu a další jazyky
- tagger pro slovenštinu (s poděkováním Radovanu Garabíkovi)
- tagger pro norštinu
- totale pro slovinštinu (s poděkováním Tomaži Erjavcovi)
- RFTagger pro němčinu a maďarštinu
- OMorFi pro finštinu (s poděkováním Filipu Ginterovi)
- Stagger a IceStagger pro švédštinu a islandštinu (s poděkováním Robertu Östlingovi)
- RelDI tagger pro chorvatštinu a srbštinu (s poděkováním Nikolovi Ljubešićovi)
- LVTagger pro lotyštinu (s poděkováním Pēterisu Rocksovi a Michalu Škrabalovi)
- UD Pipe pro běloruštinu a ukrajinštinu (s poděkováním Bohdanu Moskalevskému)
—-