Modelom riadené auditovanie AI algoritmov sociálnych sietí a ich tendencií šíriť škodlivý obsah

Výzva	Veľké projekty pre excelentných výskumníkov 2024
Hlavný riešiteľ	Ivan Srba
Prijímateľ	Kempelenov inštitút inteligentných technológií, v anglickom jazyku Kempelen Institute of Intelligent Technologies
Celkový rozpočet	1 762 975,01 €
Príspevok poskytovateľa	1 664 397,84 €
Zdroj financovania	Plán obnovy a odolnosti
Doména RIS	Digitálna transformácia Slovenska
Začiatok realizácie	august 2024
Koniec realizácie	jún 2026

Kľúčové slová

Machine learning, statistical data processing and applications using signal processing (e.g. speech, image, video), Internet and semantic web, database systems and libraries , Algorithmic auditing, Disinformation

Anotácia

Hlavný cieľ projektu AI-Auditology je výskum v oblasti modelom riadeného algoritmického auditovania, novej paradigmy pre dohľad nad AI algoritmami sociálnych médií a ich tendenciami šíriť dezinformácie. Jeho hlavná originalita vychádza z platformovo agnostického modelu, ktorý poskytuje zjednodušenú reprezentáciu dezinformácií na sociálnych sieťach. Tento model sa používa ako integrálna súčasť auditovania na podporu a automatizáciu jeho krokov, predovšetkým podporuje expertov pri vytváraní auditovacích scenárov. Celý auditovací proces je podporený pokročilými technikami založenými na strojovom učení a spracovaní prirodzeného jazyka (so zameraním na učenie s obmedzeným množstvom dát). Tento inovatívny prístup umožní novú generáciu auditov, ktoré budú reprezentatívne, viacplatformové, longitudinálne a viacjazyčné. Projekt je v súlade s legislatívou EÚ, ktorá vyžaduje nezávislý dohľad sociálnych médií a má impakt na všetkých stakeholderov, predovšetkým používateľov sociálnych sietí.