Zde je návod, jak můžete odhalit videa generovaná AI (zatím)

Rychlé odkazy

• Odhalení obsahu generovaného umělou inteligencí může být výzvou

• Sledujte jemné změny a „duchy“

• Umělá inteligence bojuje s prsty, brýlemi a jemnějšími prvky

• Podívejte se pozorně na objekty na pozadí obrázku

• Osvětlení a "AI Aura"

• Efekt Uncanny Valley

• Pozor na nesmysly

• Naučte se lépe rozpoznat tento obsah

S příchodem modelu SORA text-to-video od OpenAI se díváme na nevyhnutelnou budoucnost plnou videí generovaných umělou inteligencí. Technologie však ještě nebyla dokonalá, takže zde je několik tipů, jak (prozatím) sledovat video generované umělou inteligencí.

Odhalení obsahu generovaného umělou inteligencí může být výzvou

Na první pohled by vám bylo odpuštěno, že jste video generované umělou inteligencí vydávali za skutečné řešení. Teprve když se začnete dívat trochu hlouběji, můžete si všimnout, že něco není v pořádku.

Všechny příklady, o kterých budeme hovořit v tomto článku, se týkají modelu převodu textu na video OpenAI SORA, který byl oznámen v únoru 2024. Je to zdaleka nejpokročilejší model svého druhu, který převádí textové výzvy na pohyblivé obrázky. Od chvíle, kdy se na začátku roku 2023 objevil na Redditu nechvalně známý příspěvek Willa Smitha o pojídání špaget na Redditu, ušly věci dlouhou cestu. V době psaní tohoto článku v březnu 2024 je SORA stále v uzavřeném testování.

Sledování fotografií a videí generovaných umělou inteligencí je spíše uměním než exaktní vědou. Existují způsoby, jak zjistit, zda byla fotografie vygenerována AI, ale nefungují konzistentně. Nástroje určené k detekci obsahu AI jsou často nespolehlivé, i když jde o text.

Cílem je zde zdůraznit některé způsoby, jak si můžete vybrat obsah generovaný umělou inteligencí, alespoň prozatím. Pamatujte, že modely se neustále vyvíjejí, takže tyto rysy bude těžší odhalit. Někdy může rozhodnout výběr tématu a kontextu videa.

Sledujte jemné změny a „duchy“

Hledání jemných změn je jedním ze způsobů, jak odhalit přesvědčivý padělek umělé inteligence, ale není to úplně snadné. Jeden příklad SORA od OpenAI znázorňoval ženu kráčející po neony osvětlené tokijské ulici. Scéna je působivá pro nástroj pro převod textu na video, tak působivá, že jste možná přehlédli změnu šatníku na konci záběru.

Na ženském oblečení v úvodní scéně jsou vidět červené šaty s celorozepínacím svetrem a koženou bundou. Kardigan je trochu zvláštní tím, že se zdá, že splývá s bundou, ale nejsem tak úplně pan Fashion, takže to zkusím:

Nyní se podívejte na stejné oblečení zblízka a uvidíte, že šaty mají nyní tmavé skvrny a že kožená bunda má mnohem větší klopu mimo střed:

To je tak jemné, že většina lidí by musela sledovat záběry několikrát, aby si toho všimli. Scéna je hustá, plná odlesků a herců v pozadí, což pomáhá odvést vaši pozornost od nepořádku.

Něco jiného, na co je třeba dávat pozor, jsou duchové nebo objekty, které se postupně přidávají a zanikají. Dobrým příkladem toho je video OpenAI z kalifornského města zlaté horečky. Podívejte se na tuto poněkud mlhavě vypadající postavu, kterou váš mozek pravděpodobně interpretuje jako muže s koněm:

O dvě sekundy později postava úplně zmizela. Když se podíváte na video, uvidíte, jak se tato postava vmísí přímo do hlíny, jako by to byl duch:

Umělá inteligence bojuje s prsty, brýlemi a jemnějšími prvky

Jedním z největších problémů modelů generujících umělou inteligenci jsou končetiny a jemné čáry. Zejména se dobře dívejte na ruce, držené předměty, brýle a způsob, jakým věci interagují s lidskými rysy (jako jsou klobouky, helmy nebo dokonce vlasy).

Video může usnadnit rozpoznání tohoto druhu chyb ve srovnání s fotografiemi generovanými umělou inteligencí, protože tyto funkce se mohou měnit z jedné scény na druhou.

Umístění prstů a rukou je pro AI obzvláště obtížné. Generativní modely mají tendenci vytvářet ruce s více či méně prsty, než byste očekávali. Někdy věci nevypadají úplně správně, prsty jsou velmi tenké nebo příliš mnoho kloubů. Zadržené předměty vykazují stejnou divnou představu, občas se jeví, jako by člověk v záběru absorboval cokoliv, co drží.

Hledejte brýle, které se nezdají být symetrické nebo které splývají do obličejů. Ve videu se mohou dokonce postupně spouštět a mizet a měnit se mezi scénami. Totéž platí pro ruce a nohy, stačí se podívat na toto SORA video lidí v Lagosu v Nigře:

Můžeš mi sundat třetí ruku z nohy, prosím?

Podívejte se pozorně na objekty na pozadí obrázku

Pokud jde o video generované umělou inteligencí, detaily na pozadí jsou často prozradí, ještě více než fotografie. Dobrý padělek závisí na tom, zda je objekt dostatečně přesvědčivý, aby vás rozptýlil, že pozadí se nechová tak, jak by mělo.

Podívejte se znovu na video z noční scény v Tokiu. Tato scéna je tak hustá, že je snadné brát vše jako nominální hodnotu, ale pozorně se podívejte na lidi, kteří jdou v pozadí, zejména na ty nalevo od objektu:

Některé z těchto pohybů prostě nevypadají správně. V jednu chvíli se zdá, že se člověk duplikuje. Později se zdá, že to, co se zdá být skupinou lidí, přechází do jediného předmětu, jako by všichni měli na sobě stejnou sukni nebo kabát. V některých oblastech jsou animace chůze liché.

Dávejte pozor na podezřelou aktivitu na pozadí, abyste viděli video generované umělou inteligencí. Někdy si všimnete, že přírodní objekty, jako jsou stromy, pole nebo lesy, interagují zvláštním způsobem. Perspektivy se mohou zdát mimo, někdy pohybující se objekty nejsou zcela v souladu s cestou zobrazenou v animaci.

Dalším příkladem je záběr z dronu na pobřeží Big Sur společnosti OpenAI. Už jste někdy viděli vlnu, která vypadá tak přímo v přírodě?

Osvětlení a "AI Aura"

To je něco, co jsme viděli hodně na fotografiích generovaných umělou inteligencí, a je to pravděpodobně spíše „pocit“ než objektivně identifikovatelný rys. Pokud je osvětlení obzvláště ploché a nepřirozené v případech, kdy byste očekávali větší rozptyl, může to signalizovat, že nemusí být skutečné.

Například nedostatek nedokonalostí fotoaparátu, jako je kvetení, vyblednutí světla (kde se světla ztrácejí kvůli příliš velkému množství světla vstupujícího do objektivu) nebo stékání stínů (kde se ztrácí detaily stínů kvůli absenci světla) prostě nejsou. současnost.

Všechno může vypadat trochu jako vysoce produkované hudební video nebo jako videohry v dobách před realistickým osvětlením a raytracingem. Předměty mohou vypadat dokonale osvětlené v případech, kdy byste očekávali, že nebudou.

Efekt Uncanny Valley

Efekt tajemného údolí je termín používaný k popisu míšení lidských a nelidských vlastností způsobem, který v divákovi vyvolává nepříjemné pocity. Androidi nebo roboti podobní lidem jsou často uváděnými příklady, protože navenek působí jako lidé, ale zároveň jsou nevyhnutelně nelidští.

Efekt tajemného údolí se častěji stává jen pocitem. Můžete cítit, že něco není úplně v pořádku, ale nemůžete přesně určit, co to je. Na fotografiích a videích generovaných umělou inteligencí tento efekt často zvedá hlavu a jedna oblast, kterou jsem zažil, je na videu vesmírné sondy SORA.

Když jsem na vteřinu ignoroval, že dotyčný vesmírný muž má na sobě pletenou vesmírnou helmu, je na tom obličeji něco, z čeho mi běhá mráz po zádech:

A je tu jedna podobně ďábelská babička, která nedokázala sfouknout své narozeninové svíčky, což v pohybu vypadá mnohem hůř:

Pozor na nesmysly

Zdá se, že je to nejsnáze rozpoznatelná červená vlajka, ale někdy váš mozek věci prostě projde. Zmíněné video vesmírného muže je toho dobrým příkladem. Je tam krátká scéna dveří, kliky, páky nebo něčeho, co prostě nedává smysl:

co je to za věc? Proč se animace zdánlivě přehrává obráceně? Pletenou helmu mohu omluvit, ale tato věc mě mátla od chvíle, kdy jsem ji viděl.

Totéž platí pro pohyby. Video SORA kočka v posteli je působivé, ale pohyb není správný. Majitelé koček poznají, že chování je zvláštní a nepřirozené. Zdá se, že existuje nesoulad mezi chováním subjektu a kontextem situace. Časem se to zlepší.

Zkomolený text je dalším dobrým příkladem toho, v čem jsou generativní procesy AI často chybné. Japonské postavy ve videu noční scény SORA v Tokiu jsou změť, stejně jako některé značení silnic a obchodů. Výběr scény, kde většina lidí nedokáže rozeznat japonštinu od špatné pocty, byla ze strany OpenAI chytrá volba.

Naučte se lépe rozpoznat tento obsah

Nejlepší způsob, jak se naučit rozpoznávat obsah generovaný umělou inteligencí, je studovat jej sami. Většina generativních modelů má aktivní komunity jak na webu, tak na platformách sociálních médií, jako je Reddit. Najděte si nějaké a podívejte se, s čím lidé přicházejí.

Kromě toho můžete vytvářet své vlastní obrázky pomocí nástroje, jako je Stable Diffusion. V době psaní tohoto článku není SORA od OpenAI k dispozici pro veřejné použití, takže budete muset počkat, než se ponoříte sami.

Video generované umělou inteligencí je působivé, fascinující a zároveň děsivé. Postupem času budou tyto tipy pravděpodobně méně relevantní, protože modely překonávají své slabé stránky. Tak se připoutejte, protože jste ještě nic neviděli.