Meta přidá štítky AI na Facebook, Instagram a Threads
Protože nemůžete věřit všemu, co vidíte v éře generativní umělé inteligence, Meta podniká kroky. Zde je to, co můžete očekávat.
Generativní umělá inteligence umožnila vytvářet realistické obrázky, které vypadají, jako by je pořídil člověk, a proto je obtížnější rozlišovat mezi tím, co je skutečné, a tím, co je vygenerováno umělou inteligencí. V důsledku toho společnost Meta oznámila několik snah týkajících se obrázků generovaných umělou inteligencí, aby pomohla bojovat proti dezinformacím.
V úterý Meta prostřednictvím příspěvku na blogu oznámila, že v nadcházejících měsících přidá na Instagram, Facebook a Threads nové štítky, které označují, kdy byl obrázek vygenerován AI.
Meta v současné době spolupracuje s průmyslovými partnery na stanovení společných technických standardů, které signalizují, kdy byl obsah vytvořen pomocí generativní umělé inteligence. Pomocí těchto signálů pak Meta buduje schopnost vydávat štítky ve všech jazycích u příspěvků napříč svými platformami, což ukazuje, že obrázek byl vygenerován AI, jak je vidět na fotografii v horní části článku.
"Jak se rozdíl mezi lidským a syntetickým obsahem stírá, lidé chtějí vědět, kde leží hranice," řekl Nick Clegg, prezident společnosti Meta pro globální záležitosti. "Je tedy důležité, abychom lidem pomohli poznat, kdy byl fotorealistický obsah, který vidí, vytvořen pomocí AI."
Toto označení by fungovalo podobně jako štítky obsahu generovaného umělou inteligencí TikTok vydané v září, které se objevují na videích TikTok obsahujících realistické obrázky, zvuk nebo videa, která byla vygenerována umělou inteligencí.
Meta obsahuje viditelné značky, neviditelné vodoznaky a metadata IPTC vložená do každého obrázku generovaného pomocí funkcí generování fotografií Meta AI. Společnost pak tyto obrázky označí štítkem „Imagined by AI“, který označuje, že byly uměle vytvořeny.
Meta sdílí, že vytváří špičkové nástroje, které dokážou detekovat neviditelné vodoznaky, jako jsou metadata IPTC, v obrázcích generovaných generátory umělé inteligence od různých společností. Patří mezi ně Google, OpenAI, Microsoft, Adobe, Midjourney a Shutterstock, aby pro tyto obrázky byly zahrnuty také štítky AI.
To samozřejmě ponechává mezeru pro zlomyslné herce. Pokud společnost nevyhoví přidávání metadat do svého generátoru obrázků AI, Meta nebude mít žádný způsob, jak označit obrázek štítkem. Přesto se zdá, že jde o krok správným směrem.
Navzdory snahám společností zahrnout signály do obrázků generovaných umělou inteligencí je ještě třeba vyvinout stejné úsilí ohledně videí a zvuku generovaných umělou inteligencí. Mezitím Meta přidává funkci, ve které mohou lidé prozradit, že použili AI k vytvoření obrázku, aby Meta mohla přidat štítek.
Společnost prosazuje dobrovolné zveřejnění tím, že vyhrožuje přidáním sankcí, pokud uživatel neprozradí. Společnost si také zachovává možnost přidat k obrázkům, zvukům nebo videím výraznější štítek, což představuje zvláště vysoké riziko klamání veřejnosti.
"Budeme vyžadovat, aby lidé používali tento nástroj pro zveřejňování a označování, když zveřejňují organický obsah s fotorealistickým videem nebo realisticky znějícím zvukem, který byl digitálně vytvořen nebo pozměněn, a pokud tak neučiní, můžeme uložit sankce," dodal Clegg.
Vývoj těchto nástrojů přichází ve zvláště kritické době s volbami na obzoru. Vytváření uvěřitelných dezinformací je snazší než kdy jindy a může negativně ovlivnit veřejné mínění kandidátů a bránit demokratickému volebnímu procesu. V důsledku toho další společnosti, včetně OpenAI, také podnikly kroky k implementaci zábradlí před volbami.