Len dva dni pred parlamentnými voľbami zdieľali tisíce slovenských používateľov sociálnych sietí podozrivý zvukový súbor, ktorý bol prezentovaný ako rozhovor medzi Michalom Šimečkom, predsedom Progresívneho Slovenska (PS), a Monikou Tódovou, novinárkou Denníka N. Zvuková nahrávka mala byť záznamom telefonického hovoru, v ktorom preberali, ako budú zmanipulované voľby v prospech PS. Viacerí analytici však pre agentúru AFP na základe hneď niekoľkých faktorov zvukového záznamu uviedli, že nahrávka je podvod vytvorený umelou inteligenciou a technológiou syntetického hlasu.
V dvojminútovom zvukovom súbore zlej kvality zaznievajú hlasy Michala Šimečku a Moniky Tódovej, známej novinárky Denníka N. Na nahrávke hovoria, že voľby 30. septembra budú zmanipulované v prospech PS. Preberajú, že strana už má zabezpečené minimálne „4 volebné miestnosti“, ako aj „hlasy z rómskych osád“.
Nahrávka obsahuje niekoľko anomálií a hlasové prejavy v nej nie sú prirodzené. Analytici a odborníci na dezinformácie, ktorých oslovila agentúra AFP, uviedli, že existuje mnoho znakov, že ide o podvrh.
Medzi tými, ktorí zdieľali zvukový záznam a tvrdili, že je autentický, bol aj Peter Marček, bývalý poslanec strany Sme Rodina, ktorý ho 28. septembra zverejnil na svojom facebookovom účte. „POZOR, POZOR, POZOR! Pokiaľ je táto nahrávka pravá, o čom nepochybujem, tak potom PROGRESÍVNE SLOVENSKO NA ČELE S TÝMTO VLASTIZRADCOM A PODVODNÍKOM ŠIMEČKOM, V TOMTO MOMENTE SKONČILO a o MONIKE TÓDOVEJ ani nehovoriac!“ napísal v príspevku, ktorý nazbieral viac ako 2200 zdieľaní.
Rovnaká nahrávka bola zdieľaná aj na iných miestach na Facebooku (tu, tu, tu), ako aj na Telegrame alebo TikToku. Jeden z príspevkov na Facebooku bol zdieľaný viac ako 3 000-krát pred tým, ako bol odstránený.
Podľa zistení AFP sa zvukový súbor nahrávky spolu s jej prepisom šíril aj prostredníctvom reťazových e-mailov:
Šimečka na sociálnej sieti X (predtým známej ako Twitter) nahrávku označil za „kolosálnu, očividnú hlúposť“. „Naši súperi vytvorili ďalšie falošné video s hlasom od umelej inteligencie,“ uviedol.
Denník N, zamestnávateľ dotknutej novinárky, označil nahrávku za „deepfake“. Vo svojej správe denník uviedol: „Aj z kolísavej intonácie hlasov a prestávok v interakcii je zjavné, že nejde o prirodzený rozhovor, ale o zmanipulovanú nahrávku.“
Len krátko predtým bol Šimečka predmetom veľmi podobnej manipulácie: na sociálnych sieťach sa objavili príspevky s údajnou zvukovou nahrávkou jeho hlasu, podľa ktorých mal hovoriť o plánoch strany na prudké zvýšenie cien piva po voľbách. Šimečka poprel, že by takéto vyhlásenia niekedy vyslovil, a nahrávku 27. septembra označil za podvrh. Organizácia na kontrolu faktov Demagog taktiež označila nahrávku za falošnú.
Vysoká pravdepodobnosť manipulácie, tvrdia odborníci
Zatiaľ neexistujú nástroje, ktoré by s absolútnou istotou vedeli odhaliť obsah vytvorený umelou inteligenciou. V takomto type obsahu sa však môžu vyskytnúť anomálie naznačujúce, najmä v prípade obrázkov, že nebol vytvorený autentickým spôsobom.
V prípade predmetnej zvukovej nahrávky bolo takýchto náznakov hneď niekoľko, čo pre agentúru AFP uviedol 28. septembra Daniel Milo, riaditeľ Centra boja proti hybridným hrozbám Ministerstva vnútra SR.
„Na základe nášho vyhodnotenia predmetná nahrávka vykazuje viaceré znaky, že je vytvorená umelou inteligenciou pomocou algoritmov umožňujúcich vytvorenie syntetického/umelého hlasu vytrénovaného na hlasoch reálnych osôb (tzv. audio deepfake),“ povedal.
„Preukazuje to tón hlasu, neprirodzená dikcia, výber slov a podobne. Snahy zamaskovať umelý pôvod údajného telefonátu (znížená kvalita zvuku, zvonenie mobilu na konci nahrávky) sú ľahko realizovateľné pôvodcom nahrávky,“ uviedol Milo.
Pri našom vlastnom vypočutí nahrávky sme našli príklady neprirodzenej dikcie a prestávok atypických pre hovorenú reč napríklad v čase 1:25: „Stíš sa trocha, lebo všade je okolo veľa ľudí. Niekto zaregistruje to slovo na [prestávka] ‚Ú‘ [prestávka] a bude hneď v pozore.“ Druhú podobnú anomáliu sme zaznamenali v čase okolo 1:40 v nahrávke: „Neodbáčaj od témy, chcem proste uistenie, že z toho nebude zasa [dlhá prestávka] mega pr*ser.“
„Z všetkých vyššie uvedených dôvodov je možné s vysokou mierou pravdepodobnosti konštatovať, že sa jedná o snahu neoprávnene zasiahnuť do priebehu volebnej kampane, navyše v čase volebného moratória, čo sťažuje akúkoľvek prípadnú reakciu zo strany dotknutého subjektu,“ uzavrel Milo.
„Neprirodzená nahrávka“
Jakub Šuster, CEO a zakladateľ startupu elv.ai, ktorý sa zameriava na moderovanie online obsahu pomocou metód umelej inteligencie, pre AFP povedal: „Podľa môjho názoru nie je nahrávka autentická a vykazuje známky použitia nejakého z generatívných nástrojov umelej inteligencie.“
Podľa neho sa zvuk hlasov nezhoduje so zvukmi v pozadí, respektíve, dve zvukové stopy majú rozdielnu hlasitosť. Intonácia dvoch hlasov na nahrávke bola naviac podľa neho takmer presne rovnaká každej vete. „Slovenčina je ‚spevavý jazyk‘ a každý človek ma pomerne špecifickú intonáciu, ktorá sa dá len veľmi ťažko napodobniť generatívnou AI,“ povedal.
Šuster dodáva, že zaujímavá bola aj rýchlosť reči a absencia akýchkoľvek chýb. „Konštantné tempo reči, ktoré počujeme na nahrávke sa v reálnom svete vyskytne len pomerne zriedkavo. Počas celej nahrávky sme nepočuli, žiadny ‚brbt‘, zakašlanie, zamrmlanie alebo iné zvuky, ktoré sa v bežnej neformálnej komunikácii vyskytujú prirodzene. Takéto veci tu absentujú.“
Peter Jančárik, analytik z konspiratori.sk, stránky označujúcej závadový obsah pre online inzerentov, pre AFP uviedol: „Nahrávka znie ako deepfake, počuť to najmä na neprirodzenej ‚moderátorskej‘ intonácii Moniky Tódovej. Vyzerá to, že umelá inteligencia sa trénovala na nahrávkach jej relácií. Tódovej prejav neznie tak, ako by znel v bežnom neformálnom rozhovore a celkovo pôsobí neprirodzene.“
„Myslím, že nahrávka nesie hneď niekoľko znakov zvukovej manipulácie. Je podľa mňa vysoko pravdepodobné, že je buď poskladaná z iných hovorov iných ľudí, alebo je celkovo vygenerovaná strojom,“ povedal Josef Šlerka, vedúci odboru Štúdií nových médií na Fakulte sociálnych vied Univerzity Karlovej a dátový novinár Českého centra pre investigatívnu žurnalistiku.
Voľby zaplavené dezinformáciami
Len niekoľko hodín po zverejnení príspevkov s najnovšou predvolebnou manipuláciou slovenská polícia upozornila, že má vedomosť o viacerých dezinformačných a manipulatívnych videách a zvukových nahrávkach súvisiacich s voľbami.
Polícia apelovala na občanov, aby boli v online priestore „obozretní a nenechali sa zneužiť záujmovými skupinami, ktoré chcú prostredníctvom klamstiev dosiahnuť svoje vlastné ciele“.
Ako informovala agentúra AFP, slovenských voličov pred predčasnými voľbami zaplavila vlna dezinformácií pochádzajúcich od domácich aj zahraničných aktérov, čo potvrdili aj nezávislí analytici. Výsledok volieb je považovaný za kľúčový pre budúce rozhodovanie o tom, či krajina zmení svoju zahraničnú politiku v prospech Ruska; podľa analytikov pochádza veľká časť dezinformácií práve z prokremeľských zdrojov.
Slovenský informatik Martin Spano zverejnil krátko pred voľbami video vytvorené umelou inteligenciou, na ktorom zdanlivo vidieť hneď niekoľkých popredných politických lídrov rozprávajúcich do kamery, ako súčasť varovania o tom, že „v dobe AI je potrebné preskúmať to, čo vidíme na internete. Špeciálne pred blížiacimi sa voľbami“.
