Na facebooku se šíří video, ve kterém ministr financí Zbyněk Stanjura mluví o zázračné investiční aplikaci a zve české občany, aby do platformy investovali své peníze. Video je ovšem vytvořeno s pomocí umělé inteligence – jedná se o deepfake. Autor videa se s jeho pomocí snaží nalákat uživatele sociálních sítí na podvodnou investiční platformu.
Příspěvek na facebooku obsahuje tříminutové video, které na první pohled působí jako z vysílání stanice CNN Prima News. Na začátku videa moderátorka informuje o rozhořčení občanů, kteří zjistili, že český ministr financí Zbyněk Stanjura si již několik měsíců vydělává “kolosální částky” za pomoci investiční aplikace.
Tato údajná zázračná platforma miliardáře Elona Muska má údajně pozitivní výsledek v 90 % případů. Sám ministr financí ve videu následně tvrdí, že aplikaci chtěl napřed sám otestovat a nyní se může “osobně zaručit za spolehlivost této investiční platformy,” (video, čas 0:40). Jméno aplikace ve videu ovšem nezazní a není uvedeno ani u samotného facebookového příspěvku. Webová stránka, na kterou sponzorovaný příspěvek odkazuje, není funkční.
Deepfake video
Při bližším pohledu a poslechu je zřejmé, že je video vytvořeno s pomocí umělé inteligence. Jedná se o tzv. deepfake, neboli digitálně upravené video, jehož autoři se snaží přesvědčivě napodobit vybraného člověka a často mu do úst vloží slova, která nikdy neřekl. Deepfake videa lze vytvořit různými způsoby pomocí metod umělé inteligence a strojového učení. Může se např. jednat jen o nepatrnou úpravu skutečného videa, „nasazení“ obličeje někomu jinému, rozpohybování modelu obličeje podle nahrávky jiného řečníka, nebo dokonce vytvoření nového videa bez konkrétní předlohy. Deepfake lze rozpoznat prozkoumáním detailů videa, které mohou působit nerealisticky.
V ověřovaném videu si na první pohled můžeme všimnout, že pohyby úst jak moderátorky, tak ministra financí, neodpovídají tomu, co říkají. Vzhled a mimika obou také není přirozená. Lidé v deepfake videích mívají často nerealistické vlasy či vousy, příliš hladkou nebo vrásčitou pleť nebo nepřirozeně mrkají. Obličeje moderátorky Pavlíny Wolfové i ministra Stanjury jsou až nepřirozeně vyhlazené. Pohyby obou působí strojeně – nepřirozeně mrkají, stejně tak pohyb obočí a úst působí zvláštně.
Ve videu dále nelze přeslechnout nepřirozený zvukový záznam. Projev jak moderátorky tak ministra Stanjury nedává v několika momentech smysl. Např. když moderátorka představuje Zbyňka Stanjuru, používá nesprávný tvar jeho jména: “rozhodli jsme se Zbyněku Stanjura zeptat na komentář a uslyšet jeho verzi…” (video, čas 0:27).
Autor deepfake videa se navíc snažil napodobit formát i grafiku CNN Prima News. Ačkoliv logo zpravodajské stanice odpovídá skutečnému designu CNN Prima News, lišta s titulkem se od skutečné grafiky stanice liší. V původním videu lišta s titulkem nebyla, při porovnání s tradičním vzhledem lišty CNN Prima News ale můžeme rozpoznat rozdílnost fontu a velikosti písma. Na obrazovce také chybí tzv. crawl, informační lišta s běžícím textem ve spodní části obrazovky.
Původní video rozhovoru mezi Zbyňkem Stanjurou a moderátorkou CNN Prima News Pavlínou Wolfovou, které bylo použito jako podklad pro deepfake, pochází ze 17. ledna 2024. Tehdy spolu mluvili o valorizaci penzí.
Podvodné reklamy
Upravené video se Zbyňkem Stanjurou se svým formátem, zmínkou o zázračné investiční platformě, zneužitím vizuálního stylu CNN Prima News i způsobem deepfake manipulace s videem výrazně podobá jiným videím, která se na facebooku také šíří jako sponzorované příspěvky. V minulosti jsme již několikrát ověřovali například deepfake videa s premiérem Petrem Fialou nebo předsedou hnutí ANO 2011 Andrejem Babišem.
Odkazy pod těmito videi obvykle vedly na stránku napodobující zpravodajský web CNN Prima News. V dalším kroku již ale uživatele přesměrovaly na podvodnou investiční platformu, jejímž cílem je získání osobních údajů. Vedle těchto informací mohou obdobné stránky po uživatelích nakonec požadovat i vyplnění hesla nebo bankovních údajů. To potom může vést buď přímo k odcizení peněz z účtu, nebo ke zneužití totožnosti uživatele k dalšímu šíření falešných zpráv. Jedná se tedy o tzv. phishing: podvodníci umístili na sociální sítě návnadu v podobě zdánlivé příležitosti ke zbohatnutí a dále se zaměřují na uživatele, kteří se chytnou a své osobní údaje předají.
Doplňme, že sponzorovaný příspěvek zveřejnil facebookový účet One News. Nejedná se nicméně o zpravodajskou stránku, jak by mohl název napovídat, ale o anonymní a zjevně falešný profil používaný pro šíření podvodných příspěvků. Jako profilový obrázek účet používá logo Financial Times, mezi staršími profilovými fotkami ale najdeme ženu, jejíž tvář aktuálně používá vícero dalších falešných facebookových účtů.
Závěr
Facebookový příspěvek obsahuje video, které bylo upraveno pomocí deepfake metody. Video láká uživatele na údajnou aplikaci, díky které mohou lidé rychle zbohatnout. Video bylo ale vytvořeno s pomocí umělé inteligence a ani moderátorka CNN Prima News, ani ministr financí Zbyněk Stanjura ve skutečnosti o zázračné platformě nemluvili.
