Kdo stojí za vznikem a šířením dezinformací? V sérii Anatomie hoaxu Demagog.cz ukazuje, jak postupuje při rozkrývání původu nepravdivých příspěvků – od prvních zmínek na sociálních sítích až po jejich autory. Pomocí kombinace digitálních nástrojů, analýzy sociálních sítí a online investigace sleduje, jak se manipulativní obsah šíří, kdo za ním stojí a jaké strategie šiřitelé používají.
Redakce Demagog.cz se věnuje ověřování příspěvků šířících se na sociálních sítích a upozorňuje na ty z nich, které jsou nepravdivé nebo zavádějící. Hlavním úkolem jejich fact-checků je shrnout veřejně dostupná data a vysvětlit čtenářům hodnocení příspěvků. Kromě toho redakci ale zajímá, zda byla nepravdivá informace vytvořena nebo virálně šířena s cílem někoho oklamat, tedy zda se jedná o „hoax“. Fact-checkeři se tak snaží zjistit, jak vypadají jednotlivé stavební prvky takového hoaxu – v jakém kontextu nepravdivá informace vznikla, kdo ji stvořil, kdo ji účelově šíří a má z ní prospěch a jak se tito aktéři chovají. Právě těmto otázkám se věnují články ze série Anatomie hoaxu.
V Anatomiích se Demagog.cz zaměřuje především na případy, kdy v procesu šíření zprávy hraje roli hybatel, který nepravdivou informaci využívá k ovlivnění veřejného mínění. V minulosti se redakce věnovala například vzniku smyšlených zpráv o prodeji ukrajinské půdy do zahraničí nebo šíření zmanipulovaných videí s prezidenty Česka a Ukrajiny.
Jaké nástroje Demagog.cz při pátrání používá?
Při sestavování Anatomie si Demagog.cz vytváří časovou osu a zjišťuje, kdo nepravdivou informaci publikoval jako první a kdo ji šířil. Na počátku je většinou slovo – ať už v textu příspěvku, nebo ve fotografii či videu – proto fact-checkeři v první fázi používají především textové vyhledávání. Fráze z příspěvku a klíčová slova redakce nejdříve hledá pomocí rozšířeného vyhledávání na Googlu, zejména s použitím vyhledávacích operátorů. Těmi si lze například vyfiltrovat výsledky podle časového období, ale také podle webových adres. Podobně funguje filtrování i v dalších vyhledávačích, jako je Bing nebo Yandex.
Text fact-checkeři hledají také přímo na jednotlivých sociálních sítích. Při pátrání na Facebooku redakce využívá fulltextové vyhledávání, které je dostupné uvnitř této sítě a v rozšířené verzi i na webu whopostedwhat.com. Kromě toho má Demagog.cz přístup do databáze Meta Content Library, kde má možnost vyhledávat jak v textu samotných příspěvků, tak v textech na fotografiích.
Nepravdivé příspěvky se často přelévají z jedné sociální sítě na druhou, především z Facebooku na síť X a platformu Telegram a obráceně. Na síti X je dostupný poměrně podrobný vyhledávací formulář, hledání na Telegramu už je ovšem obtížnější, protože Telegram fulltextové vyhledávání v rámci celé platformy neumožňuje. Demagog.cz tak vyhledává přímo v jednotlivých telegramových kanálech a chatech. V tomto případě se redakce také vrací ke zmíněnému rozšířenému vyhledávání na Googlu a zaměřuje se na výsledky pocházející z webu Telegramu či databáze TGStat.com a Telemetr.io, které obsahují i již smazané telegramové příspěvky. Užitečným nástrojem je pak zejména Gerulata Juno, která umožňuje vyhledávat a analyzovat šíření obsahu napříč jednotlivými platformami a weby, včetně mapování interakcí a míry koordinace mezi jednotlivými účty na sociálních sítích.
Pokud nepravdivý příspěvek obsahuje fotografii či obrázek, dohledávají fact-checkeři jejich starší výskyty s použitím zpětného vyhledávání Google Lens, obrazového vyhledávání na Bingu a Yandexu a pomocí dalších podobných nástrojů. Obrazové vyhledávání Demagog.cz používá i při ověřování autenticity profilů, které nepravdivou informaci šíří. Identifikovat lidi na fotografiích se redakci několikrát podařilo díky aplikaci PimEyes, která využívá technologii rozpoznávání tváře.
Nejnáročnější je pro Demagog.cz dohledávání původu videí. S tím fact-checkerům pomáhá také zpětné vyhledávání obrázků, konkrétně vyhledávání screenshotů z daného videa. K tomu redakce používá aplikaci InVID WeVerify, která mj. dokáže videozáznam automaticky rozkouskovat na jednotlivé fotografie.
Při pátrání po původu nepravdivé informace a používání každého z těchto nástrojů přitom hraje důležitou roli ještě další faktor – fact-checkerův úsudek a jeho nápady. Badatelská práce při sestavování Anatomie hoaxu je často plná slepých uliček a dopředu ji kromě moderních digitálních nástrojů často posune právě až staré „analogové“ myšlení.
O původu hoaxů
Demagog.cz se v minulosti zabýval například původem virálního videa, jehož autor zneužil skutečné záběry Petra Pavla a Volodymyra Zelenského a přidal k nim nesouhlasný pískot davu. Fact-checkerům se podařilo odhadnout postup autora hoaxu, který použil audiozáznam z jiného videa zachycujícího skutečný protest proti českému politikovi. Redakce tak začala procházet videa s demonstrací proti českým politikům a audiozáznam zanedlouho našla. Pískot ve skutečnosti pocházel ze staršího záznamu demonstrace proti Miloši Zemanovi.
Následně Demagog.cz pátral, kde a kdy se příspěvek objevil poprvé. Video se šířilo nejen na Facebooku, ale i na síti X, TikToku, VKontakte a Telegramu. Jako účinné se ukázalo vyhledávání textu z popisku příspěvku, podle kterého fact-checkeři dohledali, že video jako první zveřejnil právě telegramový profil. Poté se redakce zaměřila na to, jak se tento profil chová, co publikuje a co sdílí. Fact-checkery zajímalo i to, zda stejný uživatel nemá účty na jiných sítích než na Telegramu. Profily, které používaly část jeho jména, redakce dohledala na serveru Pinterest a poté na Facebooku.
Uživatel sice na Facebooku používal pseudonym, publikoval zde ale i fotografie ze svého soukromého života. Žádné snímky své tváře, podle kterých by se ho fact-checkeři mohli pokusit identifikovat, nezveřejnil. Redakce se proto poté soustředila na to, zda takové fotografie nenajde na účtech, které s daným uživatelem nějakým způsobem interagovaly – komentovaly jeho příspěvky nebo je lajkovaly. Demagog.cz tak zkoumal i obsah těchto spřízněných facebookových profilů, zejména profil ženy, která reakcí přidávala nejvíce. Tento účet přitom už anonymní nebyl. Na instagramovém účtu ženy pak fact-checkeři našli její svatební fotografii s neznámým mužem, kterého se jim s pomocí aplikace PimEyes podařilo identifikovat jako Alexeje Saryčeva, tehdejšího šéfredaktora české verze ruského propagandistického webu Sputnik.
Jméno zmíněné ženy Demagog.cz ve svém textu nezveřejnil a zakryl i její obličej na fotografii se Saryčevem, kterou redakce ve svém článku použila. V odkazech v textu ale fact-checkeři jméno i tvář nechali nezakryté, aby mohli jasně doložit, z čeho jejich závěry vycházejí. Roli přitom hrál také fakt, že žena své příspěvky i svatební fotografii publikovala veřejně a redakce tyto informace nezískala z neveřejných zdrojů (například od jiných uživatelů z uzavřených facebookových skupin).
Tím nicméně pátrání neskončilo a Demagog.cz hledal ještě další stopy, které by potvrdily, že telegramový profil autora hoaxu lze spojit právě se Saryčevem. Pomocí nástroje Gerulata Juno fact-checkeři nakonec dohledali, že v minulosti sdílel slovenský exministr spravedlnosti Štefan Harabin zprávu, kterou mu poslal Saryčevův anonymní telegramový profil. V ní byl podepsán právě Alexej Saryčev jako zástupce redakce Sputniku. Na základě všech těchto informací pak Demagog.cz mohl jasně podložit, že profil skutečně patří Saryčevovi. Redakce také zmapovala jeho chování na sociálních sítích, kde šířil příspěvky Sputniku a jeho nástupce, kanálu neČT24.
Anatomie hoaxu v éře umělé inteligence
Způsoby, jakými se šíří dezinformace a například ruská propaganda, se ale mění. S rozvojem umělé inteligence je čím dál snadnější celý proces tvorby a šíření nepravdivého nebo manipulativního obsahu automatizovat a také jej škálovat (příkladem může být síť webů Pravda). Dá se očekávat, že v budoucnu už většinu takového obsahu nebude šířit konkrétní člověk prostřednictvím vlastních profilů, kde publikuje i fotky ze svého soukromého života, ale síť falešných účtů, které budou pracovat samostatně.
Fact-checkeři se tak budou muset spíše než na aktéry, kteří za sebou nechávají digitální stopu, zaměřit na analýzu chování a koordinace jednotlivých šiřitelů. Role fact-checkera, který dokáže být v rámci online investigace nápaditý a hlavně vytrvalý, bude i v dalších letech klíčová.
Autor: Jan Fridrichovský, šéfeditor Demagog.cz
*Článek vznikl díky Národnímu plánu obnovy v rámci projektu MPO 60273/24/21300/21000 CEDMO 2.0 NPO. Více o projektu najdete v příslušné sekci.
