„Deepfake“ video parodující Kamalu Harris, zmanipulovaný klip s Joe Bidenem či zfalšovaný obrázek zatčeného Donalda Trumpa – to jsou jen některé z vlny dezinformací vytvořených pomocí umělé inteligence, které vyvolávají obavy z toho, jak moc bude tato technologie schopná manipulovat s americkými voliči před nadcházejícími prezidentskými volbami.
Odborníci varují, že v listopadových volbách, které jsou všeobecně označovány za první americké volby poháněné umělou inteligencí, by podvrhy vytvořené touto technologií mohly vlivnit voliče ve prospěch toho či onoho kandidáta, nebo dokonce jen odklonit od kandidáta, kterého původně preferovali. Může však také způsobit, že někteří lidé nepůjdou volit vůbec. To vše zvyšuje napětí v již tak vysoce polarizovaném politickém prostředí.
Nedávná vlna dezinformací znovu vyvolala požadavek, aby velké technologické firmy kvůli blížícím se prezidentským volbám v USA posílily bezpečnostní opatření týkající se generativní umělé inteligence. V poslední době však několik společností moderování obsahu spíše odmítalo.
Minulý týden byl Elon Musk ostře kritizován za to, že se svými 192 miliony sledujících na síti X (dříve Twitter) sdílel deepfake video, v němž vystupovala současná kandidátka na prezidentku za Demokratickou stranu Kamala Harris.
Hlas imitující Kamalu Harris v tomto videu označuje prezidenta Joea Bidena za senilního a poté říká, že Harris „o řízení země neví zhola nic“.
Z videa ani z jeho popisu nevyplývá, že by se mělo jednat o parodii, v příspěvku se dokonce objevilo pouze smějící se emoji. Musk až později upřesnil, že video bylo zamýšleno jako satira.
Podle odborníků mohli lidé z tohoto videa nabýt mylný dojem, že si Kamala Harris skutečně dělá legraci sama ze sebe a uráží Joea Bidena.
Agentura AFP již v minulosti odhalila řadu znepokojivých podvodů generovaných umělou inteligencí.
Minulý měsíc se na X objevilo zfalšované video, na kterém Biden údajně nadává svým kritikům. Současný americký prezident ve videu mimo jiné používá výrazy namířené proti LGBTQ menšině. Video bylo zveřejněno poté, co Joe Biden oznámil, že nebude znovu kandidovat, a podpořil Kamalu Harris boji o demokratickou nominaci.
Agentura AFP pomocí zpětného vyhledávání zjistila, že falešné video vychází ze skutečného projevu Joea Bidena, vysílaného živě na stanici PBS (archiv), v němž americký prezident odsoudil politické násilí po atentátu na Trumpa z 13. července.
Podle prohlášení PBS šlo o tzv. deepfake, v němž bylo logo zpravodajského kanálu zneužito k oklamání diváků (archiv).
O pár týdnů dříve se na několika různých sociálních sítích šířil snímek, na němž policie násilím zatýká Donalda Trumpa poté, co jej newyorská porota shledala vinným z údajného falšování záznamů o penězích vyplacených za mlčení pornohvězdě Stormy Daniels.
Podle digitálních forenzních odborníků, které AFP oslovila, byl obrázek vytvořen umělou inteligencí.
Politické napětí
„Tyto nedávné příklady naznačují, jak budou deepfakes v budoucnu využívány v politice,“ řekl agentuře AFP Lucas Hansen, spoluzakladatel neziskové organizace CivAI.
„Dezinformace vytvářené umělou inteligencí jsou jistě znepokojivé, ale umělá inteligence bude s největší pravděpodobností využívána především k vytváření zmanipulovaných obrázků a videí. Účelem takových snímků je vyvolat hněv a zvýšit politické napětí,“ dodal.
Hansen agentuře AFP předvedl, jak může jeden AI chatbot ovlivnit volební účast hromadnou výrobou falešných příspěvků na síti X.
Nástroji byl zadán jednoduchý prompt: „Parkování před volebními místnostmi bude placené“. Zadáno bylo i konkrétní místo – město Allen v Texasu.
Během několika sekund na X vyskočil příspěvek tvrdící, že úřady v Allenu „u většiny volebních místností v tichosti zavedly parkovací poplatek ve výši 25 dolarů“.
Již dříve, v lednu, byl učiněn pokus o snížení volební účasti pomocí robotického telefonátu s klonovaným hlasem Joea Bidena vyzývajícím obyvatele New Hampshire, aby nehlasovali v demokratických primárkách. Ten byl taktéž vytvořen za použití AI.
Testy s dalším populárním nástrojem umělé inteligence, Midjourney, uspěly při generování obrázků, které ukazovaly zatčeného Bidena a Trumpa sedícího vedle dvojníka, uvedla v červnu nezisková organizace Center for Countering Digital Hate (CCDH). Jejich výzkum v této oblasti je k dispozici zde.
Aktivisté uvádějí, že Midjourney již dříve zablokoval veškeré promty týkající se Trumpa a Bidena, čímž účinně zabránil uživatelům vytvářet pomocí této aplikace falešné obrázky bývalého a současného prezidenta.
CCDH však tvrdí, že uživatelé mohli tento zákaz snadno obejít. V některých případech stačilo do promptů, které Midjourney dříve zablokovala, uvést jediné lomítko.
Zlomový bod amerických voleb
Pozorovatelé varují, že takovéto masové falšování může mezi veřejností vyvolat hněv vůči samotnému volebnímu procesu.
Podle ankety, kterou loni zveřejnila mediální skupina Axios a společnost pro průzkum trhu Morning Consult, více než 50 procent Američanů očekává, že falešné příspěvky vytvořené umělou inteligencí ovlivní výsledek voleb v roce 2024.
Podle průzkumu přibližně třetina Američanů uvedla, že výsledky prezidentských voleb bude kvůli umělé inteligenci považovat za méně důvěryhodné.
Několik technologických gigantů uvedlo, že již pracují na systémech pro označování obsahu generovaného umělou inteligencí.
V dubnovém dopise zaslaném generálním ředitelům technologických společností vyzvalo přes 200 uskupení na obranu práv k okamžitému posílení boje proti padělkům vytvořeným pomocí AI. Signatáři vyzvali k zákazu používání deepfakes v politické reklamě a k tomu, aby algoritmy upřednostňovaly důvěryhodné informace o volbách.
Jedna ze skupin, které dopis podepsaly, nezisková organizace Free Press, uvedla, že závazky technologických platforem pro tuto volební kampaň jsou „víceméně bezobsažné“.
„Aktuálně se nacházíme v toxickém online prostředí, kde lži zaplavují naše zpravodajské kanály a matou voliče,“ řekla agentuře AFP Nora Benavidez, hlavní poradkyně organizace Watchdog (archiv).
„Toto je zlomový bod amerických prezidentských voleb. Lídři platforem by se měli předhánět v posilování a prosazování opatření, která by omezila deepfakes a další problémy,“ dodala expertka.
