Většina lidí se obává deepfakes - a přeceňuje svou schopnost je odhalit
Výzkum ukazuje, že voliči na celém světě jsou nervózní z politických hlubokých fake, přičemž občané některých zemí jsou znepokojeni mnohem více než ostatní.
Vzestup generativní umělé inteligence (gen AI) koliduje s volbami po celém světě a spotřebitelé jsou znepokojeni.
Singapur, Mexiko, USA a Spojené království letos pořádají všeobecné volby - a voliči se obávají, že nebudou schopni identifikovat deepfakes. Podle zprávy vydané dodavatelem správy digitálních identit Jumio se většina spotřebitelů obává potenciálu umělé inteligence a deepfakeů ovlivnit nadcházející volby.
Studie, která proběhla na konci března, zahrnovala celkem 8 077 respondentů, zhruba 2 000 z každé ze čtyř zemí. Ve Spojeném království se na začátku tohoto měsíce konaly všeobecné volby, zatímco v Mexiku se konaly minulý měsíc. V listopadu se v USA budou konat prezidentské volby a očekává se, že v Singapuru se budou všeobecné volby konat koncem tohoto roku nebo nejpozději před listopadem 2025.
Studie zjistila, že 72 % respondentů se denně obává, že by je mohl zmást deepfake, přičemž nejvíce znepokojeni jsou v Mexiku a Singapuru - 89 % a 88 %. Pro srovnání, 57 % ve Spojeném království a 55 % v USA uvedlo, že má stejné obavy.
Přibližně 60 % respondentů se domnívá, že se v uplynulém roce setkali s deepfakeem, zatímco 22 % si není jistých, zda ano. Pouhých 15 % tvrdí, že ještě nenarazili na deepfake.
Navzdory obavám, že mohou být oklamáni deepfakeem, 60 % je přesvědčeno, že je dokáže odhalit. Jumio uvedl, že toto číslo je o 8 % vyšší než v loňském roce. Nejvíce sebevědomí jsou respondenti ze Singapuru, a to 77 %, ve srovnání s 58 % v USA, 54 % v Mexiku a 53 % ve Spojeném království.
Konkrétně 46 % globálních respondentů věří, že dokážou identifikovat deepfake politika. Singapurci jsou z každé země nejjistější s 60 %, následuje Mexiko s 51 %, USA s 37 % a Spojené království s 33 %.
Celosvětově 71 % respondentů uvedlo, že jsou skeptičtější k online politickému obsahu ve srovnání s minulými volbami - ačkoli 43 % respondentů uvedlo, že důvěřují politickým zprávám, které vidí online, navzdory možnosti setkat se s deepfake.
Na otázku, zda souhlasí s tím, že zákony jejich vlády týkající se umělé inteligence nedělají dost, odpovědělo 60 % z nich, že ano. Většina Singapurců souhlasila s nejvyšším procentem ze všech čtyř zemí, a to 67 %, ve srovnání s nejnižšími 53 % ve Spojeném království.
Respondenti ze Singapuru však nejvíce věří ve schopnost své vlády regulovat umělou inteligenci, a to 69 %. Pro srovnání, pouze 26 % ve Spojeném království věří ve schopnost své vlády regulovat AI, spolu s 31 % v USA a 44 % v Mexiku.
„Vzhledem k tomu, že se letos voleb účastní polovina celosvětové populace, potenciální vliv a dopad generativní umělé inteligence a deepfakes vyžadují naši okamžitou pozornost,“ řekl generální ředitel Jumio Robert Prigge. "Veřejná víra v online informace se hroutí a vyžaduje transparentní diskurz, který by čelil této výzvě a umožnil občanům nástroje k rozpoznání a hlášení hlubinných falešných informací."
Prigge dodal, že online platformy mají „zásadní povinnost“ zavést detekční opatření, jako jsou multimodální ověřovací systémy založené na biometrických údajích, s cílem bojovat proti deepfakeům, které by mohly potenciálně ovlivnit volby.
Jumio poznamenal, že platformy sociálních médií v Indonésii obsahovaly falešný obsah před únorovými volbami v zemi, včetně videa zachycujícího zesnulého bývalého prezidenta Suharta, jak podporuje úřadujícího prezidenta. Prodejce kybernetické bezpečnosti dodal, že Singapur před volbami zvažuje dočasný zákaz politických deepfakes, zatímco Jižní Korea přijala 90denní zákaz používání deepfakes v obsahu politické kampaně.