V souvislosti s šířením dezinformací, misinformací, deepfake či hoaxů znamená prudký rozvoj AI technologií vážná rizika. Současně však mohou být AI nástroje pro společnost významně nápomocné při zmírnění dopadů uvedených informačních poruch.
Jak fungují AI nástroje vyvinuté odborníky z ČVUT a jak pomáhají fact-checkerům při jejich každodenní práci, si mohli poslechnout účastníci workshopu s názvem “AI jako pomocník pro fact-checking”, který partneři konsorcia CEDMO ve středu 30. května uspořádali v budově Fakulty elektrotechnické při ČVUT na Karlově náměstí v Praze. Hosty workshopu byli Jan Drchal z centra umělé inteligence při ČVUT, datový analytik Lukáš Kutil z hubu CEDMO při Univerzitě Karlově a Petr Gongala z projektu Demagog.cz.
Po úvodním uvítání účastníků předal organizátor workshopu Luboš Král z centra umělé inteligence při ČVUT slovo svému kolegovi Janu Drchalovi, který představil dva nástroje, vyvinuté v rámci projektu CEDMO za účelem zvýšení odolnosti společnosti vůči informačním poruchám, a to díky finanční podpoře z Národního plánu obnovy (NPO).
Crowd-sourcing ověřování zpráv
První z představených nástrojů umožňuje sdílené ověřování zpráv (crowd-sourced fact-checking) s podporou metod umělé inteligence. “Motivací pro vznik tohoto nástroje byla snaha o zapojení občanské společnosti do procesu ověřování stále rozsáhlejšího objemu zpráv i dezinformací. Sdílený přístup se v praxi mnohokrát osvědčil – například v případě Wikipedia, StackOverflow, nebo Quora,” uvedl během workshopu Jan Drchal a dále výstupy svého projektu přiblížil: “Cílem systému je zejména sběr tvrzení (a jejich zdrojů), které mají být v další fázi, potenciálně jinými uživateli, ověřeny. Celá platforma slouží nejen jako databáze tvrzení a verifikovaných zpráv, ale také ke sběru dat. Ta se následně používají pro trénování modelů strojového učení za účelem další automatizace ověřování a případného vývoje asistenčního nástroje pro ověřování. Pro větší atraktivitu je systém doplněn o základní prvky gamifikace, kdy se uživatelé mohou navzájem porovnávat, co do počtu a kvality ověřených zpráv.”
Tematické shlukování zpráv
Druhý nástroj, s nímž se měli účastníci workshopu možnost seznámit, využívá modelů umělé inteligence pro sémantické vyhledávání s tematickým shlukováním zpráv. Odborníci z ČVUT tento model prakticky využili při analýze zpráv z platformy Telegram k tématu války na Ukrajině, kdy automatizovaně analyzovali 120 profilů. Velkou výhodou nástroje je možnost automatizovaného překladu z ruštiny, či jiného jazyka, do angličtiny. I člověku bez znalosti jazyka použitého v příspěvcích na sociálních sítích je tak umožněno porozumět analyzovaným textům. Výstupem je vizualizace shluků zpráv, jejich témat a klíčových slov. Ve shlucích je možné následně sémanticky vyhledávat. Aktuálně se na ČVUT dále věnují vizualizaci formou časových os událostí, které jsou ve zprávách obsaženy.
V navazujícím programu představil analytik hubu CEDMO Lukáš Kutil výstupy a závěry z longitudinálního výzkumu CEDMO Trends. Konkrétně otázky zaměřené na zjištění, jak česká a slovenská veřejnost vnímá fact-checking, jaké zdroje jsou používány pro ověření pravdivosti informací či jaké povědomí mají lidé o činnosti organizací v oblasti ověřování faktů.
V tématu fact-checkingu se nesla i další část programu, kdy Petr Gongala z projektu Demagog.cz, v souvislosti s blížícími se evropskými volbami, mimo jiné hovořil o nejčastěji se vyskytujících dezinformačních narativech spojených s Evropskou unií.
Dvouhodinový workshop uzavřela diskuze s účastníky, která podnítila řadu souvisejících otázek a zavdala náměty k dalšímu vývoji představených nástrojů, například jak lépe zapojit a motivovat uživatele v používání crowd-sourced fact-checking nástrojů.
