| Název: | Multi-modální zpracování dokumentů |
| Další názvy: | Multi-modal document processing |
| Autoři: | Honzík, Václav |
| Vedoucí práce/školitel: | Král Pavel, Doc. Ing. Ph.D. |
| Oponent: | Lenc Ladislav, Ing. Ph.D. |
| Datum vydání: | 2023 |
| Nakladatel: | Západočeská univerzita v Plzni |
| Typ dokumentu: | diplomová práce |
| URI: | http://hdl.handle.net/11025/54138 |
| Klíčová slova: | multi-modální;zpracování dokumentů;layoutlmv3;transformer;vit;swin transformer v2;yolov8;strojové učení;zpracování přirozeného jazyka;computer vision;neural networks |
| Klíčová slova v dalším jazyce: | multi-modal;document processing;layoutlmv3;transformer;vit;swin transformer v2;yolov8;machine learning;natural language processing;computer vision;neural networks |
| Abstrakt: | Multimodální zpracování dokumentů je oblast informatiky, která se zaměřuje na analýzu, porozumění a získávání cenných informací z dokumentů, které obsahují více typů dat. V této práci je naším hlavním cílem provést analýzu rozložení dokumentů pomocí obrazu i textu. Náš přístup zahrnuje použití modelů pro segmentaci instancí, jako jsou Mask R-CNN, YOLOv8 nebo Cascade R-CNN s páteří LayoutLMv3. Výstupy segmentačních modelů využíváme v multimodálních Transformerech, jako je LayoutLMv3 nebo ve fúzním modelu, který kombinuje německy předtrénovaného BERTa s Vision Transformerem nebo modelem Swin Transformer V2. Dalším přínosem této práce je také nově vytvořená historická datová sada "Heimatkunde", která se skládá z 4 600 anotací na 329 obrázcích a je použitelná pro multimodální analýzu rozložení dokumentů i pro klasifikaci. Naše modely trénujeme na této datové sadě a jsme schopni dosáhnout výborných výsledků. Tyto modely budou proto reálně využity v historickém portálu Porta Fontium. |
| Abstrakt v dalším jazyce: | Multi-modal document processing is an area of computer science that focuses on analyzing, understanding, and extracting valuable information from documents that contain multiple types of data. In this work, our main objective is to perform document layout analysis using both visual and textual modalities. Our approach involves the use of instance segmentation models such as Mask R-CNN, YOLOv8, or Cascade R-CNN with a LayoutLMv3 backbone. We employ the outputs of the segmentation models with multi-modal Transformers such as LayoutLMv3 or a fusion model combining German pre-trained BERT with either Vision Transformer or Swin Transformer~V2. Another contribution of this work is a newly created historical "Heimatkunde" dataset, which consists of 4,600 annotations across 329 images and is applicable for multi-modal document layout analysis as well as classification. We train our models on this dataset and are able to achieve excellent results. Therefore, we plan to integrate these models into the Porta Fontium portal. |
| Práva: | Plný text práce je přístupný bez omezení |
| Vyskytuje se v kolekcích: | Diplomové práce / Theses (KIV) |
Soubory připojené k záznamu:
| Soubor | Popis | Velikost | Formát | |
|---|---|---|---|---|
| MastersThesis.pdf | Plný text práce | 9,89 MB | Adobe PDF | Zobrazit/otevřít |
| A21N0045Pposudek-op.pdf | Posudek oponenta práce | 420,88 kB | Adobe PDF | Zobrazit/otevřít |
| A21N0045Phodnoceni-ved.pdf | Posudek vedoucího práce | 53,28 kB | Adobe PDF | Zobrazit/otevřít |
| A21N0045Pobhajoba.pdf | Průběh obhajoby práce | 187 kB | Adobe PDF | Zobrazit/otevřít |
| A21N0045P-zadani_DP.pdf | VŠKP - příloha | 14,11 kB | Adobe PDF | Zobrazit/otevřít Vyžádat kopii |
| A21N0045P_prilohy.zip | VŠKP - příloha | 333,82 MB | ZIP | Zobrazit/otevřít Vyžádat kopii |
Použijte tento identifikátor k citaci nebo jako odkaz na tento záznam:
http://hdl.handle.net/11025/54138Všechny záznamy v DSpace jsou chráněny autorskými právy, všechna práva vyhrazena.