W przestrzeni internetowej regularnie pojawiają się fałszywe i zmanipulowane treści dotyczące Izraela. W wielu z nich nawiązuje się do bieżących konfliktów zbrojnych (np. 1, 2, 3).
W ostatnim czasie Izabela Kloc, była europosłanka Prawa i Sprawiedliwości, udostępniła na Facebooku nagranie, na którym widzimy Giorgię Meloni, premier Włoch, oraz Benjamina Netanjahu, premiera Izraela. W opisie posta napisano: „Premier Włoch #GiorgiaMeloni odmówiła uściśnięcia dłoni premierowi Izraela Benjaminowi Netanjahu, ignorując go i stwierdzając, że Izrael jest zabójcą niewinnych dzieci”. Czy nagranie, które zyskało ponad 700 tys. wyświetleń i kilkanaście tysięcy reakcji, przedstawia autentyczną sytuację?
Meloni nie uścisnęła dłoni Netanjahu? To AI
Zagraniczne organizacje factcheckingowe poddały analizie to samo nagranie już w kwietniu tego roku (1, 2). Lead Stories oraz India Today podkreśliły wtedy, że nie ma dowodów potwierdzających, że miał miejsce rzekomy incydent pomiędzy przedstawicielami Włoch i Izraela (1, 2).
Analitycy organizacji zweryfikowali nagranie przy pomocy różnych narzędzi do wykrywania materiałów stworzonych za pomocą AI. Potwierdzono, że nagranie jest wygenerowane przez sztuczną inteligencję (1, 2). Nasz zespół również sprawdził materiał wideo udostępniony przez byłą europosłankę. Narzędzie Hive Moderation wskazało 81,1-proc. (dla całego nagrania) oraz 99,4-proc. (dla konkretnego momentu materiału wideo) prawdopodobieństwo użycia AI.
Argumentami za tym, że nagranie jest dziełem AI, są również zauważalne gołym okiem elementy. Pomieszczenie widoczne w materiale wideo wygląda zupełnie inaczej niż rzeczywista sala obrad Organizacji Narodów Zjednoczonych (ONZ). Świadczy o tym m.in. inny kolor ścian czy lokalizacja i wygląd emblematu ONZ. Dodatkowo ruchy twarzy i ciała Meloni znacznie odbiegają od naturalnego zachowania człowieka. Takie detale są charakterystycznymi błędami AI.
Dwie twarze sztucznej inteligencji
Nagranie udostępnione przez byłą posłankę jest tzw. deepfakiem, czyli materiałem wygenerowanym przy pomocy sztucznej inteligencji. Twórcy takich treści tworzą fikcyjne osoby lub zdarzenia i przedstawiają je jako prawdziwe. W jednej z naszych analiz zwróciliśmy uwagę na to, jak duży postęp obserwuje się w generowaniu tego typu materiałów:
Dane branżowe pokazują bardzo dynamiczny wzrost liczby wykrywanych deepfake’ów. Analitycy z firmy Sumsub w 2024 roku odnotowali o 245 proc. więcej przypadków niż rok wcześniej. W 2024 roku tendencja ta zbiegła się z kalendarzem wyborczym, w którym do urn udała się blisko połowa światowej populacji, co dodatkowo zwiększyło ryzyko wykorzystania syntetycznych treści w kampaniach politycznych i operacjach dezinformacyjnych.
