Title: | Multi-Agent based Neural Networks |
Other Titles: | Multi-Agent based Neural Networks |
Authors: | Bulín, Martin |
Advisor: | Psutka Josef, Prof. Ing. CSc. |
Issue Date: | 2024 |
Publisher: | Západočeská univerzita v Plzni |
Document type: | disertační práce |
URI: | http://hdl.handle.net/11025/57178 |
Keywords: | neuronové sítě;multiagentní systémy;reinforcement learning;architektura neuronové sítě |
Keywords in different language: | neural networks;multi-agent systems;reinforcement learning;neural architecture search |
Abstract: | Vědecké postupy a metody v oblasti výpočetní techniky a informačních technologií lze z širšího úhlu pohledu rozdělit na analytické přístupy a strategie založené na strojovém učení či optimalizačních technikách. V rámci strojového učení hraje klíčovou roli využití neuronových sítí, jejichž výsostné postavení kontrastuje s omezenými možnostmi vysvětlení jejich vnitřních procesů. Všeobecná aproximační věta formulovaná již v 90. letech minulého století také naznačuje prostor pro vylepšení dnešních trendů, především pak postupu při návrhu architektur sítí. Tato práce nabízí alternativní pohled na využití neurálních principů představením vlastní metody pro návrh architektury neuronové sítě vedoucí k řešení zadaného klasifikačního problému. Základním stavebním kamenem práce je kombinace genetického algoritmu, attention mechanismu a reinforcement learningu pro učení agentů v multiagentním systému. Navržený algoritmus je vyhodnocen na pěti klasifikačních problémech, které zahrnují jednoduché úlohy vykreslitelné ve 2D prostoru, ale i komplexní problémy o více dimenzích a třídách. Pro každou úlohu je vygenerována ukázková minimální struktura sítě. Zpracované výsledky naznačují další možnosti využití a otevírají širokou škálu nových směrů pro budoucí výzkum. |
Abstract in different language: | In the realm of computer science and information technology, scientific methodologies can be categorized into two overarching paradigms: analytical approaches and strategies grounded in machine learning or optimization techniques. In the context of machine learning, the massive employment of neural networks contrasts with the limited explainability of their internal processes. The Universal Approximation Theorem formulated as early as the 1990s also suggests room for improvement in recent trends, particularly in the design of network architectures. This study delves into fundamental neural principles and presents a new perspective on working with them by introducing an original methodology for designing neural network architectures tailored to address the classification problems at hand. At the core of the method lies the fusion of a genetic algorithm, attention mechanism, and reinforcement learning utilized for training agents within a multi-agent system. The developed algorithm is evaluated on five classification scenarios, ranging from simple, interpretable 2D tasks to complex multi-dimensional and multi-class problems. A minimal network architecture is generated for each task. Experimental evaluation indicates promising scalability in handling larger parameter sets, hints at partial explainability in generated network architectures and unveils new directions for future research and exploration. |
Rights: | Plný text práce je přístupný bez omezení |
Appears in Collections: | Disertační práce / Dissertations (KKY) |
Files in This Item:
File | Description | Size | Format | |
---|---|---|---|---|
thesis_v2-with-pub.pdf | Plný text práce | 8,1 MB | Adobe PDF | View/Open |
posudky-odp-bulin.pdf | Posudek oponenta práce | 189,77 kB | Adobe PDF | View/Open |
protokol-odp-bulin.pdf | Průběh obhajoby práce | 292,01 kB | Adobe PDF | View/Open |
Please use this identifier to cite or link to this item:
http://hdl.handle.net/11025/57178
Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.