Tým E-Bezpečí z Pedagogické fakulty Univerzity Palackého v Olomouci ve spolupráci s Univerzitou Karlovou a hubem CEDMO připravil novou elektronickou publikaci s názvem Rizika spojená s generativní umělou inteligencí, která se věnuje velmi důležité a aktuální problematice potenciálních a reálných rizik spojených s umělou inteligencí (AI).
Úvodní část je věnována především problematice halucinování a tzv. AI biasu, mimo jiné například stereotypizací a zkreslováním informací, kdy umělá inteligence v praxi nemusí uživatelům sdělit vyloženě nepravdivou informaci, ale informaci, která je určitým způsobem zkreslena. Prof. Kamil Kopecký z Univerzity Palackého v Olomouci, autor publikace, vysvětluje: „Umělá inteligence samozřejmě dělá faktické chyby, ale může se také dopouštět zkreslování reality a upevňovat v nás určité druhy stereotypů spojených např. s rasou, národností či pohlavím. Podle několika výzkumů se např. stereotypního zkreslování dopouštějí AI nástroje pro generování obrázků (Dall-E, Midjourney), které osoby s vyšším sociálním statutem zobrazují se světlou pletí, zatímco osoby s nižším sociálním statutem s pletí tmavou (či s asijskými rysy). To vše je dáno povahou databází, na kterých jsou modely trénovány a které často nejsou v rovnováze. Nemusí jít však jen o stereotypy spojené s rasou, ale také např. národností – Indové jsou umělou inteligencí většinou generováni v turbanu, Mexičané jsou zarostlí, mají na hlavě sombrero, nosí pončo a podobně.“
Dalším klíčovým tématem knihy je zneužívání generativní AI k tvorbě dezinformací a falešných zpráv. I přes existenci etických omezení mohou uživatelé umělé inteligence tato pravidla obejít a generovat texty dezinformační povahy. Problémem nejsou pouze hoaxy, ale i vyděračské dopisy či podvodné spamy.
Významná část knihy je věnována i deepfake technologiím, které umožňují vytvářet realistická videa s fiktivními událostmi, což může vést k narušení důvěry ve veřejné instituce nebo ovlivnění politických procesů (včetně voleb). Deepfake videa jsou také využívána k internetovým podvodům, s čímž se setkáváme dennodenně v prostředí sociálních sítí v rámci investičních podvodů — například v souvislosti s kryptoměnami. Tyto podvody velmi často zneužívají známé osobnosti (jejich vzhled, hlas, gesta) a jsou vygenerovány AI. „Podle zjištění našeho výzkumu CEDMO Trends nedokáží tři pětiny české populace správně určit, že deepfake jsou umělou inteligencí vytvořené obrázky, nahrávky nebo videa, které sice působí reálně, ale nezakládají se na pravdě. Nízké je i povědomí veřejnosti o principech fungování generativních AI jazykových modelů,“ dokládá potřebu posilování mediální gramotnosti v oblasti AI Anja Grabovac, projektová manažerka CEDMO.
Publikace apeluje zejména na potřebu regulace a kritického přístupu k využívání generativní umělé inteligence a rovněž upozorňuje na některé právní a etické otázky spojené s jejím využíváním. Tato problematika se neustále vyvíjí a proměňuje v souvislosti s probíhajícími soudními procesy. Zmiňuje i ekologické dopady provozu AI systémů, které vyžadují značné množství energie a vody, a věnuje se i riziku úniku citlivých údajů, kdy uživatelé nevědomky při používání AI nástrojů poskytují své osobní informace.
Příručku si můžete zdarma stáhnout na webu CEDMO nebo na webu E-Bezpečí.
Zajímá vás umělá inteligence ve vztahu k seniorům? Pokud ano, doporučujeme vaší pozornosti i publikaci Rizika spojená s umělou inteligencí pro seniory.
