pojmy:struktura_korpusu - Příručka ČNK

Tato stránka je pouze pro čtení. Můžete si pouze prohlédnout zdrojový kód, ale ne ho měnit. Zeptejte se správce, pokud si myslíte, že něco není v pořádku.
====== Struktura korpusu ======

Korpus - jako soubor textů - je vnitřně strukturován do různých celků. Jednotlivé úrovně popisu jsou zachyceny [[pojmy:atributy_strukturni|strukturními atributy]] (jako opus, dokument, věta). Zároveň je většina korpusů optařena dodanou lingvistickou informací, která se týká jednotlivých slov ([[pojmy:atributy_pozicni|pozičními atributy]] jako lemma, tag apod.).

Za účelem zachycení takovéto mnohovrstevnaté struktury se užívají značkovací jazyky. Standardem v této oblasti je formát XML, často se ovšem používají i jeho zjednodučené varianty.

===== Vertikála - korpusy psaného jazyka =====

Vertikála je interní formát sloužící pro zachycení struktury korpusu a textů v něm (spolu s jejich anotací). V korpusu SYN2010 má např. následující podobu (jedná se o ukázku z díla A. C. Doyla Příběhy Sherlocka Holmese, konkrétně o větu //Když školení skončilo, přidělili mne k pátému northumberlandskému střeleckému pluku jako pomocného chirurga.//, která se nachází na začátku celé knihy):

<code>
<opus autor="Doyle, Arthur Conan" nazev="Příběhy Sherlocka Holmese" nakladatel="Mladá fronta" mistovyd="Praha" 
rokvyd="1971" isbnissn="" preklad="Henzl, V. - Zábrana, J. - Wolfová, Z." srclang="ENG" txtype_group="beletrie" 
txtype="NOV" genre="CRM" med="B" id="pribshho">
<doc id="1">
...
<s id="10">
Když	když	J,--------------
školení	školení	NNNS4-----A-----
skončilo	skončit	VpNS---3R-AA---P
,	,	Z:--------------
přidělili	přidělit	VpMP---3R-AA---P
mne	já	PP-S4--1--------
k	k	RR--3-----------
Pátému	Pátý	NNMS3-----A-----
northumberlandskému	northumberlandský	AAIS3----1A-----
střeleckému	střelecký	AAIS3----1A-----
pluku	pluk	NNIS3-----A-----
jako	jako	J,--------------
pomocného	pomocný	AAMS4----1A-----
chirurga	chirurg	NNMS4-----A-----
.	.	Z:--------------
</s>
...
</doc>
...
</opus>
<opus>
...
</opus>
</code>

Každý text (nazývaný **opus**) začíná specifickou značkou ''<opus...>'', za kterou následují jeho charakteristiky.

<code>
<opus autor="Doyle, Arthur Conan" nazev="Příběhy Sherlocka Holmese" nakladatel="Mladá fronta" mistovyd="Praha" 
rokvyd="1971" isbnissn="" preklad="Henzl, V. - Zábrana, J. - Wolfová, Z." srclang="ENG" txtype_group="beletrie" 
txtype="NOV" genre="CRM" med="B" id="pribshho">
</code>

Zde je zachyceno, kdo je autorem (je-li to známo), jaký je název textu, nakladatel, rok vydání, ISBN/ISSN, překladatel (není vyplněno u českých originálů), zdrojový jazyk (taktéž) a stylové a žánrové zařazení textu (atributy txtype_group, txtype a genre). Dále je v hlavičce zachyceno, jaké bylo médium zdrojového textu (např. B = kniha) a jaký je jeho jednoznačný identifikátor (id).

Pokud se text dělí na dokumenty (např. různé povídky) a na věty následuje řádek se specifikací tohoto strukturního atributu:

<code>
<doc id="1">
<s id="10">
</code>

V drtivé většině případů má strukturní značka ''<doc>'' a ''<s>'' pouze jednoznačný identifikátor, který se ovšem vztahuje pouze k hierarchicky nadřazené jednotce, tj. k opusu. Dokumentů a vět s ''id="1"'' tak v korpusu je celá řada.

Samotný text je uspořádán do sloupců. První sloupec představuje originální text (atribut //word//), další sloupce jsou pak vyhrazeny pro jednotlivé [[pojmy:atributy_pozicni|poziční atributy]] (v tomto případě lemma a tag).

<code>
Když	když	J,--------------
školení	školení	NNNS4-----A-----
skončilo	skončit	VpNS---3R-AA---P
,	,	Z:--------------
přidělili	přidělit	VpMP---3R-AA---P
mne	já	PP-S4--1--------
k	k	RR--3-----------
Pátému	Pátý	NNMS3-----A-----
northumberlandskému	northumberlandský	AAIS3----1A-----
střeleckému	střelecký	AAIS3----1A-----
pluku	pluk	NNIS3-----A-----
jako	jako	J,--------------
pomocného	pomocný	AAMS4----1A-----
chirurga	chirurg	NNMS4-----A-----
.	.	Z:--------------
</code>

Jedním ze zásad XML, z něhož je vertikála odvozena, je, že všechny struktury musí mít otevírací i ukončovací značku. Proto jsou nakonec všechny otevřené struktury uzavřeny:

<code>
</s>
</doc>
</opus>
</code>

===== Vertikála - korpusy mluveného jazyka =====

Analogicky vypadá struktura korpusů mluveného jazyka, viz ukázka z korpusu Oral2008:

<code>
<doc id="02A002N" temp="2002" pocet="3" promluva="N">
...
<sp num="00" pohlavi="Z" vek="I" vzdelani="A" veknum="22" vzdelanityp="VŠ" oblast="pohraničí české">
jo
,
dyk
já
se
snažim
,
dyk
já
nechávám
všechno
na
koleji
v
rybičce
taky
.
</sp>
...
</doc>
</code>

Základní odlišností je fakt, že mluvený korpus není členěn na opusy, ale na promluvy (označené pomocí ''<doc>''). Namísto vět sleduje vnitřní členění střídání promluv mezi mluvčími. Značka <sp> tedy vyjadřuje fakt, že došlo ke změně mluvčího. Zároven jsou součástí této značky i informace o mluvčím (pořadové číslo v promluvě, pohlaví,  věk, vzdělání, nářeční oblast apod.).

Korpusy mluveného jazyka většinou nebývají lemmatizovány a tagovány, proto je ve zdrojovém textu pouze jeden sloupec (pro atribut word).

===== Struktura v XML =====

Spíše pro ilustraci uvádíme příklad v XML notaci.

<code>
<?xml version='1.0' encoding='utf-8'?>
<!DOCTYPE doc SYSTEM "http://korpus.cz/intercorp/files/intercorp.dtd">
<doc id="Mandelstamova-DveKnihy" language="cs" version="00" wordcount="279826">
<div author="Mandělštamová, Naděžda Jakovlevna" title="Dvě knihy vzpomínek" publisher="Atlantis" pubplace="Brno" pubyear="1996" pubmonth="" origyear="" isbn="80-7108-128-0" txtype="próza" comment="" original="NE" srclang="ru" translator="Dušková, Ludmila" transsex="F" authsex="F" transcomment="" collectionauthor="" collectiontitle="" volume="" pages="" id="cs:Mandelstamova-DveKnihy:0" wordcount="279826">
 <p id="cs:Mandelstamova-DveKnihy:0:1">
 <s id="cs:Mandelstamova-DveKnihy:0:1:1">
  <w lemma="Naděžda" tag="NNFS1-----A----">Naděžda</w>
  <w lemma="Mandelštamová" tag="NNFS1-----A----">Mandelštamová</w>
 </s>
 </p>
 <p id="cs:Mandelstamova-DveKnihy:0:2">
 <s id="cs:Mandelstamova-DveKnihy:0:2:1">
  <w lemma="dva" tag="ClHP1----------">DVĚ</w>
  <w lemma="kniha" tag="NNFP1-----A----">KNIHY</w>
  <w lemma="vzpomínka" tag="NNFP2-----A----">VZPOMÍNEK</w>
 </s>
 </p>
 <p id="cs:Mandelstamova-DveKnihy:0:3">
 <s id="cs:Mandelstamova-DveKnihy:0:3:1">
 <i>
  <w lemma="k" tag="RR--3----------">K</w>
  <w lemma="okenní" tag="AAFS3----1A----">okenní</w>
  <w lemma="tabulka" tag="NNFS3-----A----">tabulce</w>
  <w lemma="přilnout" tag="VpQW---XR-AA---">přilnula</w>
  <w lemma="ženský" tag="AAFS1----1A----">ženská</w>
  <w lemma="tvář" tag="NNFS1-----A----">tvář</w>
  <w lemma="a" tag="J^-------------">a</w>
  <w lemma="po" tag="RR--6----------">po</w>
  <w lemma="sklo" tag="NNNS6-----A----">skle</w>
  <w lemma="začít" tag="VpTP---XR-AA---">začaly</w>
  <w lemma="pomalu" tag="Db-------------">pomalu</w>
  <w lemma="stékat" tag="Vf--------A----">stékat</w>
  <w lemma="slza" tag="NNFP4-----A----">slzy</w>
 <D/>
  <w lemma="," tag="Z:-------------">,</w>
  <w lemma="jako" tag="Db-------------">jako</w>
  <w lemma="kdyby" tag="J,-------------">kdyby</w>
  <w lemma="být" tag="VB-S---3P-AA---">je</w>
  <w lemma="žena" tag="NNFS1-----A----">žena</w>
  <w lemma="mít" tag="VpQW---XR-AA---">měla</w>
  <w lemma="pořád" tag="Db-------------">pořád</w>
  <w lemma="na" tag="RR--6----------">na</w>
  <w lemma="krajíček" tag="NNIS6-----A----">krajíčku</w>
 <D/>
  <w lemma="." tag="Z:-------------">.</w>
 </i>
 </s>
 </p>
 .
 .
 .
</div>
</doc>
</code>

Příklad ukazuje počáteční část jednoho ze souborů korpusu InterCorp odpovídajícího české verzi knihy N. J. Mandelštamové //Dvě knihy vzpomínek// ve formátu XML. Na druhém řádku souboru najdeme odkaz na DTD (Document Type Definition) s definicí struktury celého dokumentu. Tato definice je však pouze formální na rozdíl od následujícího výkladu, který stručně popisuje také význam a motivaci.

Jeden dokument (označený XML elementem ''doc'') odpovídá celému textu (knize) a je dalšími XML elementy hierarchicky strukturován na části dokumentů (div; v publicistice jim odpovídají články, mohou tak být oddělené i jednotlivé kapitoly apod.), odstavce (''p'') a věty (''s''). Každý z těchto elementů začíná otevíracím tagem (např. pro věty ''<s ...>'') a je uzavřen tagem uzavíracím (''</s>''), součástí otevíracích tagů jsou navíc atributy a jejich hodnoty v uvozovkách. Element ''div'' obsahuje řadu atributů s podrobnými bibliografickými informacemi o textu, všem dosud zmíněným elementům je společný atribut ''id'', identifikátor jednoznačně určující daný element v korpusu.

Dalším elementem je ''w'' označující každou jednotlivou pozici vzniklou [[pojmy:token|tokenizací]], jeho atributy jsou [[pojmy:lemma|lemma]] a [[pojmy:tag|morfologická značka]] jako výsledek (automatické) lemmatizace a tagování. Tyto pozice jsou základní jednotky pro vyhledávání v korpusu odpovídající [[pojmy:token|tokenům]]: samostatnou pozici v takto označeném textu dokumentu tvoří každý jednotlivý výskyt slovního tvaru, čísla nebo interpunkčního znaménka, které bylo při tokenizaci osamostatněno. 

Každý w-element je svým umístěním zařazen do konkrétní věty, odstavce a dokumentu. Elementem i je ohraničena část textu, která byla zapsána kurzívou, a element ''D'' označuje místo, kde jednotlivé w-elementy v původním textu nebyly odděleny mezerou, což umožňuje jeho zpětnou rekonstrukci. Za povšimnutí stojí, že element ''D'' je při svém otevření vždy vzápětí uzavřen, což je signalizováno tagem ''<D/>''.

==== Související odkazy ====

[[pojmy:atributy_pozicni|Poziční atributy]]

[[pojmy:atributy_strukturni|Strukturní atributy]]
Historie: • konfidencni_intervaly • gen1 • mwe • pozice • srovnatelny • syntakticka_analyza • anotacni_standard_cnk • anotace_mwe • periodicity • struktura_korpusu