Vysvetliteľná analýza malvéru

Výzva	Podpora výskumných projektov zameraných na digitalizáciu ekonomiky v TRL úrovniach 1-3
Prijímateľ	Univerzita Komenského v Bratislave
Celkový rozpočet	998 975,54 €
Príspevok poskytovateľa	998 975,54 €
Zdroj financovania	Plán obnovy a odolnosti
Partneri	Slovenská technická univerzita v Bratislave Kempelenov inštitút inteligentných technológií, v anglickom jazyku Kempelen Institute of Intelligent Technologies
Začiatok realizácie	január 2025
Koniec realizácie	jún 2026

Anotácia

S neustále rastúcim množstvom nových vzoriek malvéru, ktoré sa každý deň objavujú, sa v jeho analýze do popredia dostali metódy umelej inteligencie (AI) a najmä strojového učenia (ML). Tieto metódy umožňujú spracovávať veľké objemy dát a dosahovať veľmi vysokú úspešnosť, ale ich hlavná nevýhoda spočíva v ich nepriehľadnosti: nedokážu poskytnúť ľudsky zrozumiteľné zdôvodnenie svojich výstupov. To je v kontraste s iniciatívou vysvetliteľnej AI (XAI), ktorá poskytuje množstvo metód na prekonanie tohto problému. Aj keď, najmä pokročilejšie metódy XAI, ešte nedosahujú úspešnosť účinnosti klasickej nepriehľadnej ML. V tomto projekte sa zameriavame na zlepšenie aplikovateľnosti metodológie XAI pri analýze malvéru (i) spracovaním prepracovanejších malvérových datasetov na základe dynamickej analýzy malvéru a tiež bohatej sémantickej reprezentácie; ii) preskúmaním možností rozloženia veľkých súborov údajov za pomoci automatizovaných metód, ako je klastrovanie, ako aj na základe sémantickej analýzy domény; (iii) preskúmaním najvhodnejších metód XAI použiteľných v tomto kontexte; iv) a tiež výskumom kvality extrahovaných odôvodnení z pohľadu používateľov.