Parlamentné voľby v septembri 2023 boli prvými v histórii Slovenska, ktoré ovplyvnila generatívna umelá inteligencia. Dva dni pred ich konaním sa zo sociálnej siete Telegram začala šíriť údajná nahrávka rozhovoru medzi Michalom Šimečkom a novinárkou Monikou Tódovou. Ich hlasy vytvorené umelou inteligenciou sa dohadovali, ako prebehne manipulácia volieb. Agentúra AFP na základe odborných názorov expertov a nezrovnalostí v hlasoch a dikcii v krátkom čase označila nahrávku za podvod, napriek tomu sa však dostala k aspoň 100-tisíc ľuďom. Potvrdila obavy mnohých z nich, že voľby na Slovensku by mohli byť sfalšované – tento naratív šírila dezinformačná scéna aj politici už od jari 2023. Zatiaľ čo Polícia SR trestné stíhanie prerušila so záverom, že vinníka nie je možné vypátrať, prokurátor dal pokyn na pátranie po autorovi nahrávky.
Viac ako pred rokom, 28. septembra 2023, sa na sociálnych sieťach objavila audio nahrávka údajného rozhovoru medzi predsedom Progresívneho Slovenska Michalom Šimečkom a novinárkou Denníka N Monikou Tódovou. Na zázname mali preberať manipuláciu nadchádzajúcich parlamentných volieb v prospech Progresívneho Slovenska (PS).
Dva dni pred voľbami a v čase predvolebného moratória mala nahrávka potenciál ovplyvniť výsledok parlamentných volieb, pričom nazbierala tisíce zdieľaní. Neznámy autor ju začal šíriť na sieti Telegram a ďalej sa zdieľala aj na Facebooku, TikToku či Youtube. Už v ten istý deň ju však agentúra AFP označila za „nahrávku s početnými známkami manipulácie.” Vyznačovala sa zlou kvalitou hlasu oboch údajných aktérov, niektorými nezrozumiteľnými pasážami či zlou dikciou reči.
Nahrávka mala v krátkom čase desaťtisíce zhliadnutí, pôvodného autora nemožno vypátrať
Falošná nahrávka sa prvýkrát objavila na sociálnej sieti Telegram. Analýza Investigatívneho centra Jána Kuciaka (ICJK) odhalila, že video tam rozšíril účet expolitika a bývalého sudcu Najvyššieho súdu SR Štefana Harabina. Jeho príspevok videlo viac ako 13-tisíc ľudí. Harabin nahrávku zdieľal od súkromného účtu „Gabika Ha,” pri ktorom sa stopa končí a nie je možné dohľadať predošlé šírenie či pôvodného autora.
Následne sa príspevok šíril najmä na Facebooku, kde kľúčovú rolu zohral účet bývalého poslanca Národnej rady za stranu Sme rodina Petra Marčeka. Podľa factcheckera agentúry AFP na Slovensku Roberta Barcu videlo nahrávku na Faceboooku minimálne 100-tisíc ľudí. Na Instragrame to mohlo byť ďalších 30-tisíc videní. Šírila sa aj v emailoch či v skupinách na WhatsAppe.
Volebnú kampaň sprevádzali aj ďalšie dezinformačné nahrávky
Tento prípad však nebol jediný, kedy sa šírila falošná predvolebná nahrávka vytvorená umelou inteligenciou. Už deň pred ňou sme 27. septembra 2023 v Demagog.sk overili umelo vytvorený záznam hlasu predsedu PS Michala Šimečku, v ktorom hovorí o drastickom povolebnom zdražovaní piva. Podobným pokusom o zahltenie informačného priestoru bola aj správa o údajnej nahrávke manželky Igora Matoviča Pavlíny Matovičovej, ktorá sa objavila deň pred voľbami 29. septembra 2023. Túto informáciu overil portál Lead Stories a označil ju za falošnú, a to najmä v dôsledku neautentických prejavov reči.
Nahrávky nadväzovali na naratív o hrozbe falšovania volieb
Žiadna z uvedených nahrávok sa nezačala šíriť tak virálne, ako údajný rozhovor o manipulácií volieb medzi Šimečkom a Tódovou. Tento obsah totiž zapadal do naratívu o manipulácii výsledku parlamentných volieb, ktorý šírili strany Smer-SD a Republika už na jar 2023.
Z výskumu Stredoeurópskeho observatória digitálnych médií (CEDMO) vyplynulo, že politikom sa s naratívom manipulácie volieb podarilo medzi verejnosťou uspieť. Až 53 percent opýtaných v prieskume pripúšťalo, že na Slovensku je možnosť zmanipulovať výsledky volieb. Rovnaký výsledok ukázal aj prieskum think-tanku GLOBSEC, podľa ktorého sa manipulácie volieb obávalo 53 percent opýtaných Slovákov a Sloveniek.
Aj Demagog.sk vyvracal dezinformácie na sociálnych sieťach, ktoré varovali pred manipuláciou volieb. Okrem „progresívcov” bola častým terčom týchto dezinformácii softvérová firma ESET, ktorá však nemá žiaden vplyv na počítanie hlasov na Štatistickom úrade. Spochybňovanie volieb monitorovalo aj Centrum boja proti hybridným hrozbám (CBHH) na Ministerstve vnútra SR.
Polícia vyhodnotila nahrávku ako nedostatočne presvedčivú na to, aby ju vyšetrovala
Po voľbách uznali výsledky hlasovania všetky relevantné strany vrátane Republiky, ktorá získala 4,75 % hlasov, čím sa nedostala do parlamentu.
Novinárka Monika Tódová, ktorá je opakovanie terčom dezinformácií a nenávistných kampaní, podala v spolupráci s ICJK za šírenie nahrávky trestné oznámenie. Polícia však po niekoľkých týždňoch vyšetrovania vyhodnotila, že nejde o trestný čin. Podľa Denníka N vyšetrovateľ zdôvodnil rozhodnutie aj tvrdením, že hoax nebol presvedčivý.
Centrum boja proti hybridným hrozbám ministerstva vnútra pritom falošnú nahrávku rozhovoru medzi Šimečkom a Tódovou označilo ako klamlivý a zavádzajúci obsah s významným dopadom na dôveryhodnosť volieb. Upozornilo aj na klamlivú správu ruskej rozviedky zo štvrtku 28. septembra 2023 o údajných amerických snahách ovplyvniť výsledky slovenských volieb.
Prokurátor sa s názorom vyšetrovateľa nestotožnil a nariadil polícii, aby prípad znovu dôsledne prešetrila. Vyšetrovateľka tentokrát predvolala bývalého poslanca Petra Marčeka, ten okrem iného hovoril, že nevie, čo je deepfake. Polícia vypočúvala aj administrátora niekoľkých facebookových skupín, v ktorých sa nahrávka šírila, tvrdil však, že je presvedčený, že voľby boli zmanipulované. Vyšetrovateľka však nevypočula Štefana Harabína, ktorý nahrávku zdieľal na sieti Telegram. Neobrátila sa ani na IT expertov, ktorí by vedeli analyzovať metadáta nahrávky, či na prevádzovateľov sociálnych sietí, kde sa nahrávka šírila.
V októbri 2024 polícia trestné stíhanie prerušila so záverom, že vinníka nie je možné vypátrať. Tódová podala na toto rozhodnutie sťažnosť. Prokurátor reagoval na podanú stažnosť a dal pokyn na pátranie po autorovi falošnej nahrávky. Polícia sa tak bude falošnou nahrávkou zaoberať už tretíkrát.
O dianie na Slovensku a falošné nahrávky vytvorené umelou inteligenciou sa zaujímali aj zahraničné médiá ako agentúra Bloomberg, noviny Sunday Times či portál Wired. Pred prezidentskými voľbami v marci 2024 aj pred voľbami do Europarlamentu v júni 2024 panovali totiž obavy, či sa podobný prípad zneužitia umelej inteligencie nevyskytne opäť. Dezinformácie vytvorené umelou inteligenciou však do týchto predvolebných kampaní významnejšie nezasiahli.
Autori: Timotej Kováčik a Veronika Frankovská, Demagog.sk