To je důvod, proč jsou dezinformace založené na umělé inteligenci největším globálním rizikem
Během příštích dvou let zamíří k volbám tři miliardy občanů. Tito lidé musí být chráněni před dezinformacemi a dezinformacemi generovanými umělou inteligencí.
Vzhledem k tomu, že se v mnoha zemích očekávají volby během příštích dvou let, bude používání dezinformací a dezinformací - poháněných umělou inteligencí (AI) - nejvážnějším globálním rizikem.
Vzhledem k tomu, že se občané nadále obávají rostoucích životních nákladů, podle zprávy o globálních rizicích 2024 vydané Světovým ekonomickým fórem (WEF) budou letos v krajině dominovat související rizika plynoucí z dezinformací o sociální soudržnosti poháněné umělou inteligencí. "Spojení mezi falešnými informacemi a společenskými nepokoji se stane středobodem voleb v několika hlavních ekonomikách, které se mají konat v příštích dvou letech," uvádí zpráva.
Během tohoto časového období se dezinformace a dezinformace objeví jako hlavní globální riziko, následované extrémními povětrnostními jevy a společenskou polarizací. Zpráva poté seřadí kybernetickou bezpečnost a mezistátní ozbrojené konflikty tak, aby završila pět největších globálních rizik.
Dezinformace a dezinformace jsou považovány za nejvyšší riziko v Indii, zatímco v USA se řadí na šesté nejvyšší riziko a v Evropské unii na osmé místo.
WEF poznamenává, že rušivé schopnosti manipulovaných informací se rychle zrychlují. Tyto schopnosti jsou podporovány otevřeným přístupem ke stále sofistikovanějším technologiím a zhoršující se důvěrou v informace a instituce.
Během několika příštích let bude široká skupina aktérů těžit z exploze syntetického obsahu, zesilování společenských rozporů, ideologického násilí a politické represe, uvedl WEF.
Vzhledem k tomu, že téměř tři miliardy občanů míří k volbám, mimo jiné v Indii, Indonésii, USA a Spojeném království, rozšířené používání dezinformací a dezinformací, stejně jako nástrojů k jejich šíření, by mohlo podkopat legitimitu nově nastupujících vlád.
Pro přístup k nástrojům s uživatelsky přívětivým rozhraním a rozsáhlými modely umělé inteligence již nejsou vyžadovány speciální sady dovedností, poznamenal WEF. Tento přístup již vedl k explozi falšovaných informací a „syntetického“ obsahu, jako je sofistikované klonování hlasu a padělané webové stránky.
„Syntetický obsah bude během příštích dvou let mnoha způsoby manipulovat jednotlivci, poškozovat ekonomiky a rozbíjet společnosti,“ uvedlo. "Padělané informace by mohly být nasazeny při sledování různých cílů, od klimatického aktivismu po eskalaci konfliktu."
Budou se také množit nové třídy zločinů, jako je nekonsensuální hluboce falešná pornografie nebo manipulace s burzou, dodal WEF.
Všechny tyto problémy mohou vést k násilným protestům, zločinům z nenávisti, občanským konfliktům a terorismu, varovala nevládní organizace.
V rámci boje proti rizikům informací generovaných umělou inteligencí již některé země začaly zavádět nové a vyvíjející se předpisy, které se zaměřují jak na hostitele, tak na tvůrce online informací a nelegálního obsahu.
Vznikající regulace generativní umělé inteligence pravděpodobně doplní toto úsilí, dodal s poukazem na požadavky v Číně na vodoznak obsahu generovaného umělou inteligencí jako příklad. Taková pravidla mohou pomoci identifikovat nepravdivé informace, včetně neúmyslných dezinformací prostřednictvím obsahu s halucinacemi AI.
Obecně je však nepravděpodobné, že by rychlost a účinnost regulace odpovídala tempu vývoje, uvedl WEF.
Poznamenává, že nedávný technologický pokrok zvýšil objem, dosah a účinnost zfalšovaných informací s toky, které je obtížnější sledovat, přiřazovat a kontrolovat. Společnosti sociálních médií, které pracují na zajištění integrity platformy, budou také pravděpodobně zahlceny kvůli několika překrývajícím se kampaním.
Kromě toho budou dezinformace stále více personalizovány jejich příjemcům a zacíleny na konkrétní skupiny, jako jsou menšinové komunity, a šířeny prostřednictvím neprůhlednějších platforem pro zasílání zpráv, jako je WhatsApp nebo WeChat.
WEF také poznamenává, že je stále obtížnější rozlišit mezi obsahem vytvořeným umělou inteligencí a obsahem vytvořeným lidmi, a to i pro detekční mechanismy a technicky zdatné jedince. Některé země se však snaží tento problém řešit.
Singapur vytváří zařízení pro detekci deepfake
Singapur tento týden oznámil plány investovat 20 milionů SG$(15,04 milionů dolarů) do online výzkumného programu důvěry a bezpečnosti, jehož součástí bude centrum, jehož úkolem je vytvářet nástroje k omezení škodlivého online obsahu. Iniciativa vedená ministerstvem komunikací a informací (MCI) má trvat do roku 2028.
Nové Centrum pro pokročilé technologie v online bezpečnosti bude mít za cíl shromáždit výzkumné pracovníky a organizace ze sektoru online důvěry a bezpečnosti v zemi, aby vybudovali „živý ekosystém pro bezpečnější internet“, řekl MCI. Spuštění je naplánováno na první polovinu roku 2024 a zařízení se zaměří na vytváření a přizpůsobení nástrojů pro detekci škodlivého obsahu, jako jsou deepfakes a nefaktická tvrzení.
Centrum se bude snažit identifikovat zranitelnost společnosti a vyvinout možné zásahy, jako je označování nebo oprava dezinformací, které by mohly snížit náchylnost online uživatelů k obsahu považovanému za škodlivý. Zařízení bude také testovat digitální důvěryhodné technologie, jako je vodoznak a ověřování obsahu.
Nástroje vyvinuté v centru budou předloženy k vyzkoušení a přijetí.
MCI uvedla, že diskuse s místními výzkumníky a vývojáři technologií již probíhají, přičemž součástí její komunitní sítě je již více než 100 profesionálů z akademické sféry a veřejného i soukromého sektoru.
Tato síť zahrnuje 30 účastníků, jako jsou vědci, inženýři a provozní zaměstnanci, kteří se podílejí na práci, která bude probíhat v novém centru.
Globální populace by měla doufat, že takovéto rozvojové snahy přinesou účinné detekční nástroje, protože pokud se neřeší, dezinformace mohou vést ke dvěma různým okolnostem.
„Některé vlády a platformy, jejichž cílem je chránit svobodu projevu a občanské svobody, možná selžou při účinném omezování falšovaných informací a škodlivého obsahu, takže definice ‚pravdy‘ je napříč společnostmi stále spornější,“ uvedl WEF ve své zprávě. "Státní i nestátní aktéři mohou využívat nepravdivé informace k prohlubování trhlin ve společenských názorech, narušovat důvěru veřejnosti v politické instituce a ohrožovat národní soudržnost a soudržnost."
Na druhou stranu se některé národy mohou rozhodnout řešit problém s kontrolou.
"Jak je pravda podkopávána, riziko domácí propagandy a cenzury také poroste," uvedl WEF. "V reakci na dezinformace a dezinformace by vlády mohly být stále více zmocněny kontrolovat informace na základě toho, co považují za "pravdivé". Svobody týkající se internetu, tisku a přístupu k širším zdrojům informací, které jsou již na ústupu, ohrožují sestupují do širší represe informačních toků napříč širší skupinou zemí.“