Amazon se připojuje k řídícímu výboru C2PA, aby identifikoval obsah generovaný AI
C2PA rozšiřuje své řady, ale další organizace digitální provenience mají o seznam svých členů obavy.
Jak se deepfakes a syntetická média stávají běžnějšími díky generativní umělé inteligenci (gen AI), několik organizací se snaží zdokonalit digitální vodoznaky, aby určily původ obsahu. Žádná z nich zatím neuspěla, ale jedna taková skupina, Koalice pro obsah a autentičnost (C2PA), posiluje své řady.
V pátek C2PA oznámila, že Amazon se stal jedním z členů řídícího výboru organizace. C2PA, která je součástí rodiny Linux Foundation, sama sebe popisuje jako „otevřený orgán pro technické standardy, který se zabývá rozšířeným výskytem zavádějících informací online prostřednictvím vývoje technických standardů pro certifikaci zdroje a historie (nebo původu) digitálního obsahu.“
Společnost Adobe spoluvytvářela C2PA a pomohla zavést Content Credentials, které C2PA nyní udržuje jako jeden z přístupů ke zprůhlednění původu digitálního obsahu. Pověření obsahu odhalují, jak a kdy byla část obsahu vygenerována nebo upravena. Koalice doufá, že udělá z Content Credentials celoodvětvový standard.
Vstupem do koalice Amazon souhlasí s propojením Content Credentials s obsahem generovaným Titan Image Generator v1 a v2, jeho podnikovým tvůrcem AI obrázků.
"S touto implementací Content Credentials budou spotřebitelé moci ověřit původ a pravost obsahu generovaného AI."
Společnost také přidá nástroj provenience do AWS Elemental MediaConvert, „služby pro zpracování videa založené na souborech, která převádí obsah pro vysílání a doručování na více obrazovkách ve velkém měřítku,“ vysvětluje vydání. To znamená, že zpravodajské organizace, sportovní hlasatelé, agregátoři a další klienti budou moci před další distribucí ověřit, odkud videa, která sdílejí, pocházejí.
"Všechny obrázky generované Amazon Titanem obsahují ve výchozím nastavení neviditelný vodoznak, který poskytuje diskrétní mechanismus, který pomáhá omezit šíření dezinformací," řekl Vasi Philomin, viceprezident genu AI v AWS. „Připojení k C2PA a přijetí Content Credentials představuje další klíčový krok na naší cestě k odpovědné inovaci AI.“
„Implementace Content Credentials do nástrojů a služeb, které zasahují jak zpravodajské organizace, tak spotřebitele obecně, dále pokračuje v poslání C2PA podporovat transparentnost v ekosystému digitálních médií,“ řekl Andrew Jenks, výkonný předseda C2PA. V ideálním případě by standardizace přihlašovacích údajů o obsahu snížila množství dezinformací, které se kolem nás vznášejí a matou spotřebitele.
Philomin dodal, že Amazon plánuje „vyvinout smysluplné nástroje“ pro bezpečnost AI ve spolupráci s dalšími členy C2PA, mezi které patří mimo jiné Google, Meta, OpenAI, Microsoft, BBC a Intel.
Tato hvězdně obsazená sestava je však pro některé neodmyslitelnou záležitostí.
V červenci založil Digital Content CertifierNumbers Protocol spolu s několika dalšími blockchainovými a AI organizacemi Creative Origin Alliance, „demokratickou, transparentní a decentralizovanou alternativu“ k C2PA, ve které „všichni členové budou mít stejný hlas a tvůrci budou mít sedni si ke stolu."
Aliance byla pobídnuta aktualizací podmínek služby Adobe, která navrhla, aby práce uživatelů mohla být použita k výcviku Firefly, nástroje Adobe pro umělou inteligenci, díky kterému se digitální kreativní komunita cítila „oblíbená velkou technologií“. Aliance je znepokojena střety zájmů mezi C2PA a zakladateli, jako je Adobe, a snaží se pozvednout menší hlasy v tomto odvětví, obhajovat soukromí a open-source technologie a postavit se jako David ke Goliášovi C2PA.
Adobe tvrdí, že tomu tak nebylo.
„Chápeme, že naše nedávné opětovné přijetí podmínek použití mohlo způsobit nedorozumění s našimi zákazníky, ale nenavrhli jsme našim zákazníkům, že jejich práce může být použita k výcviku Firefly,“ objasnila společnost v prohlášení zaslaném ZDNET. "Ve skutečnosti bylo hodnocení Adobe Firefly v této věci od začátku konzistentní a nikdy jsme neškolili Adobe Firefly na zákaznický obsah."
Více o zásadách společnosti Firefly si můžete přečíst zde.