Studie Využití nástrojů umělé inteligence v boji s dezinformacemi v médiích popisuje aplikovaný výzkum zaměřený na využití AI v boji s dezinformacemi v médiích a shrnuje aktivity realizované týmem Českého vysokého učení technického během realizace projektu CEDMO 2.0 NPO. V rámci dílčích subaktivit projektu byly vylepšeny modely reputace v sítích (odolnost vůči škodlivým aktérům a škálovatelnější výpočet SHAPETrust, včetně implementace); proběhl vývoj odpovídání na otázky v otevřené doméně respektující kauzalitu (odhad kauzálních modelů vč. confounderů a algoritmy/implementace učení s omezeními); byla řešena extrakce faktů a názorů z veřejných zdrojů (nové datové sady a nástroj PromptOpt pro automatizované ladění promptů včetně metrik pro strukturované výstupy a práci s citacemi); bylo rozvíjeno robustní a vysvětlitelné učení pro detekci generativní AI v obrazech (optimalizace na extrémně nízké false-positive, studie robustnosti na úpravy/JPEG a zero-shot přístupy); byla věnována pozornost detekci generovaných videí z řečových pohybů obličeje, rozšířená o detekci syntetické/deepfake řeči; byly využity vlastnosti obličejů pro ověřování původnosti; budovány detekce kopií a modifikací obrazů a videí a pokročilé vyhledávání pro fact-checking; detekována manipulace veřejného mínění v exteriéru rychlou lokalizací a rektifikací reklamních nosičů ve videu; navrženy nástroje pro moderování diskuzí s trolly; představeny metody pro analýzu vysvětlitelnosti a robustnosti LLM; zvýšena produktivita (RAG systémy, chatboty, on-prem infrastruktura, bezpečné workflow a zvýrazňování evidencí v dokumentech); a budována infrastruktura pro sběr a analýzu velkých mediálních korpusů napříč jazyky včetně vývoje nástrojů pro analýzu konzistence generovaných textů.
*Vznik této studie byl financován z Národního plánu obnovy (projektu MPO 60273/24/21300/21000 CEDMO 2.0 NPO).
