Techničtí giganti slibují, že budou bojovat proti podvodnému obsahu AI v megavolebním roce
Technologické společnosti jako Google, Meta a OpenAI podepsaly dohodu o filtrování klamavého obsahu generovaného umělou inteligencí v roce 2024, v roce s více volbami než kterýkoli jiný v historii.
Google, Meta, OpenAI a X (dříve Twitter) jsou mezi 20 technologickými společnostmi, které se zavázaly vyřadit podvodný obsah generovaný umělou inteligencí (AI) v rámci úsilí o ochranu globálních voleb, které se mají konat letos.
Skupina společností podepsala na mnichovské bezpečnostní konferenci Technickou dohodu o boji proti klamavému používání AI ve volbách v roce 2024, která nastiňuje „dobrovolný rámec principů a akcí“ zahrnující prevenci, detekci, reakci a hodnocení. a identifikace zdroje klamavého volebního obsahu AI.
Zahrnuje také úsilí o zvýšení povědomí veřejnosti o tom, jak se chránit před manipulací takovým obsahem, podle společného prohlášení vydaného signatáři technické dohody, mezi které patří také společnosti TikTok, Amazon, IBM, Anthropic a Microsoft.
Na základě dohody se 20 organizací zavazuje dodržovat osm prohlášení o poslání, včetně snahy odhalit a zabránit šíření klamavého volebního obsahu umělé inteligence a poskytnout veřejnosti transparentnost, jak s takovým obsahem nakládá. Budou spolupracovat na vývoji a implementaci nástrojů k identifikaci a omezení šíření obsahu a také ke sledování původu takového obsahu.
Tyto snahy mohou zahrnovat vývoj klasifikátorů nebo metod a standardů původu, jako je vodoznak nebo podepsaná metadata, a připojení strojově čitelných informací k obsahu generovanému AI.
Těchto osm závazků se bude vztahovat tam, kde je to relevantní pro služby, které každá společnost poskytuje.
Dohoda se vztahuje na obsah definovaný jako „přesvědčivý“ zvuk, video a obrázky generované umělou inteligencí, které „klamavě falšují nebo pozměňují vzhled, hlas nebo činy“ politických kandidátů, volebních úředníků a dalších klíčových zúčastněných stran ve volbách nebo které tlačí na podvodné informace pro veřejnost o tom, kde, kdy a jak volit.
„Rok 2024 přinese více voleb pro více lidí než kterýkoli rok v historii, přičemž své vůdce a zástupce zvolí více než 40 zemí a více než čtyři miliardy lidí,“ uvádí technická dohoda. "Rychlý rozvoj umělé inteligence zároveň vytváří nové příležitosti a výzvy pro demokratický proces. Celá společnost se bude muset opřít o příležitosti, které AI nabízí, a společně podniknout nové kroky k ochraně voleb a volebního procesu." během tohoto výjimečného roku."
Cílem dohody je stanovit očekávání ohledně toho, jak budou signatáři řídit rizika vyplývající z klamavého volebního obsahu AI vytvořeného prostřednictvím jejich veřejných platforem nebo otevřených základních modelů nebo distribuovaného na jejich sociálních a publikačních platformách. Ty jsou v souladu s vlastními politikami a postupy signatářů.
Dohoda se nevztahuje na modely nebo ukázky určené pro výzkumné účely nebo primárně pro podnikové použití.
Signatáři dodali, že umělou inteligenci lze využít k tomu, aby pomohla obráncům čelit špatným aktérům a umožnila rychlejší odhalování podvodných kampaní. Nástroje AI také mohou výrazně snížit celkové náklady na obranu, což umožňuje menším organizacím implementovat robustní ochranu.
„Jsme odhodláni plnit svou úlohu jako technologické společnosti a zároveň uznáváme, že klamavé používání umělé inteligence není jen technickou výzvou, ale i politickým, společenským a etickým problémem, a doufáme, že ostatní se podobně zavážou k akci napříč společností,“ signatáři řekl. "Potvrzujeme, že ochrana volební integrity a důvěry veřejnosti je sdílenou odpovědností a společným dobrem, které přesahuje stranické zájmy a státní hranice."
Christoph Heusgen, předseda Mnichovské bezpečnostní konference, uvedl, že dohoda je „zásadním krokem“ při prosazování volební integrity a odolnosti společnosti. Také to pomůže vytvořit „důvěryhodné technologické postupy,“ řekl.
Podle zprávy Global Risks Report 2024, kterou minulý měsíc zveřejnilo Světové ekonomické fórum (WEF), budou v krajině letos dominovat související rizika plynoucí z dezinformací o společenské soudržnosti poháněných umělou inteligencí. Zpráva uvádí dezinformace a dezinformace jako hlavní globální riziko v příštích dvou letech a varuje, že jejich rozšířené používání a nástroje k jejich šíření by mohly podkopat legitimitu nově nastupujících vlád.