Obrázky umělé inteligence na Facebooku bují, zde je návod, jak je rozpoznat

Klíčové věci

Fotografie generované umělou inteligencí zaplavily Facebook a díky zlepšujícím se technologiím často zůstaly bez povšimnutí.
Ne každý dokáže rozpoznat padělek vytvořený umělou inteligencí a příchod videa generovaného umělou inteligencí bude představovat zcela nový problém.
Falešný obsah generovaný umělou inteligencí převládá na všech sociálních sítích a zdrojích, jako je Google Image, což představuje celowebový problém.

Šíření obsahu generovaného umělou inteligencí je přílivová vlna, kterou nelze zastavit, a sociální sítě jako Facebook jsou jí plné. Jak tedy můžete tento obsah rozpoznat a proč je seriózně sdílen?

Fotky generované umělou inteligencí přebírají Facebook

Generování obrázku pomocí nástrojů jako DALL-E nebo Midjourney trvá několik sekund a tyto nástroje se s každou aktualizací zlepšují. Zatímco někteří lidé snadno odhalí fotografie generované umělou inteligencí, u jiných je méně pravděpodobné, že budou pochybovat o tom, co vidí, že se objevuje v jejich zdrojích na Facebooku.

„Vidět znamená věřit“ už neplatí. To byl problém už od dob raných padělků Photoshopu. Ale i když existují určité náznaky, že obrázek byl zpracován ručně, může být mnohem těžší vybrat fotografii vygenerovanou AI.

Na začátku roku 2024 zasáhla Facebook vlna obrázků, které se soustředily na zvláštní téma: plastové lahve. Tyto obrázky běžně obsahovaly fotografii objektu vytvořeného umělou inteligencí z plastových lahví vedle osoby (obvykle dítěte) zodpovědné za jeho vytvoření.

Zdá se, že toto šílenství začalo ve skupinách na Facebooku a mnohé ze soch jsou náboženské povahy. Zde je první příklad:

Meme se však brzy uchytil, protože mnoho stránek zveřejňovalo a znovu zveřejňovalo stejný nebo podobný obsah, zdánlivě vážně. Tyto obrázky byly často doprovázeny popiskem ve stylu „toto udělal můj syn“ a obsahovaly děsivé charakteristiky generované umělou inteligencí (aby se přidalo k pochybnému celkovému tématu).

Zapojení je primární motivací pro zveřejňování těchto obrázků. Rezonují s konkrétním davem, zejména s těmi, kteří si je okamžitě nevšimnou kvůli padělkům, kterými jsou. Lidé se zapojují do obsahu tím, že zanechávají komentáře nebo reakce, čímž dále zvyšují dosah příspěvku. Facebook je také zaplaven roboty, kteří problém ještě zhoršují.

To hraje roli ve způsobu, jakým je obsah šířen na sítích, jako je Facebook. Čím větší zapojení příspěvek získá, tím dále se šíří. Pro některé stránky tento dosah představuje příležitost vydělat peníze pomocí sponzorovaných příspěvků a affiliate odkazů, zatímco jiným stačí akt vlivu.

Odhalování padělků AI

V minulosti jsme se zabývali základy rozpoznávání fotografií generovaných umělou inteligencí, ale není to dokonalá věda. Neexistuje jediný nástroj, který byste mohli použít ke „skenování“ obrázku, a ne každá fotografie má znaky padělku. To znamená, že existuje několik základních věcí, které můžete mít na paměti.

Vzhledem ke stavu současných technologií má AI k dokonalosti daleko. Většinu času dochází k problémům s obrázky, které byly vygenerovány AI. Zejména jemnější detaily, jako jsou prsty, držené předměty, brýle a vlasy, mohou hru prozradit. U neživých předmětů se podívejte na tenké detaily, jako jsou plotové sloupky, okenní rámy a způsob, jakým se materiály protínají.

Jak můžete vidět z některých ohavností z plastových lahví posetých v tomto článku, mnoho obrázků generovaných umělou inteligencí má „vzhled“ nebo „auru“, kterou je těžké umístit. Může to být efekt „nezvyklého údolí“, kdy tváře vypadají nelidsky. Osvětlení může být ploché a neodpovídající, předměty se mohou zdát zářící, jako by byly osvětleny z jiného zdroje, a objekty nevypadají správně, když jsou umístěny vedle sebe.

V případě sošek z plastových lahví není žádné z log správně vytvořeno. Všechny vypadají jako nejasně rozpoznatelné značky, ale žádná z nich se nečte tak, jak byste očekávali. Způsob, jakým se lahve v sochách protínají, často nedává smysl. Konstrukce plastových lahví je skutečná věc (někdy se používají k vytváření skleníků) a nevypadají vůbec jako tato nedávná várka padělků umělé inteligence.

Dlouho nám bylo řečeno, abychom pochybovali o tom, co čteme online, zejména na Facebooku. Přijali jsme, že je normální zpochybňovat zprávy, žádosti o fundraising, falešné pracovní inzeráty, potenciální podvodníky a tak dále. Je čas to rozšířit na vizuální média jako celek a zachovat si zdravou míru skepticismu.

Video bude další

Počítačově generované snímky, zkráceně CGI, přitahují lidi už desítky let. Toto jsou efekty, které vidíte ve filmech, ručně vytvořených lidmi a smíchané se skutečnými záběry k vytvoření filmové magie. CGI se také široce používá k vytváření přesvědčivých, ale falešných online videí.

Video generované umělou inteligencí je trochu jiné. Nespoléhá na to, že lidé vytvoří iluzi a ručně ji smíchají, ale na modelech, které jsou trénovány na skutečných záběrech, aby vytvořily videoklipy z výzev. Přestože přesvědčivě vypadající video generované umělou inteligencí je v plenkách, modely jako SORA od OpenAI posouvají technologii kupředu alarmujícím tempem.

Pozitivní je, že video generované umělou inteligencí nemůže uniknout mnoha problémům, které trápí fotografie generované umělou inteligencí. Je možné zaznamenat video generované umělou inteligencí, ale jak se technologie zlepšuje, bude to těžší. Je to také nová hranice, kterou mnoho lidí nenapadne zpochybňovat.

Obrázky pracujeme ve Photoshopu po celá desetiletí, ale video je mnohem těžší. S videem to nebudou jen zvířata vyrobená z plastových lahví a působivé, ale nepravděpodobné výkony inženýrství, ale skuteční lidé, falešné zprávy, podvodná „oficiální“ oznámení a mnoho dalšího.

Možná brzy nastane čas vrátit se k „Facebook Classic“, kde síť používáte pouze jako nástroj k tomu, abyste zůstali v kontaktu s lidmi, které skutečně znáte. Brzy možná nebudete moci věřit své každodenní dávce vtipných, inspirativních nebo roztomilých fotografií a videí. Tuto možnost najdete v nabídce „Zdroje“ výběrem položky „Přátelé“.

Není to jen problém Facebooku

Připadá mi nespravedlivé vyzdvihovat Facebook, ale největší sociální síť na světě je prostě semeništěm hloupostí generovaných umělou inteligencí. Vždy to tak bylo, protože administrátoři stránek hledali lajky, sledující, dosah a toto důležité zapojení.

Obrázky Google jsou také zaplaveny obrázky generovanými umělou inteligencí. Umělci si stěžují na ztrátu spolehlivého referenčního materiálu, protože před několika lety zasáhl web nápor fotografií generovaných umělou inteligencí. Hobby háčkování sdílí tipy, jak se vyhnout zavádějícím vzorům, které neexistují.

Bloomberg má příběh a kvíz o šíření obrázků generovaných umělou inteligencí, které se představují jako skutečné fotografie, které se objevují ve výsledcích Google. Někdy se vedle vyhledávání slavných lidí a událostí objevují obrázky generované umělou inteligencí, což může zkreslovat realitu.

Jsme na propasti internetu, který je až po okraj plný lží. Jedná se o celowebový problém, který se týká všech sociálních sítí a platforem. Generování AI obrázků (a brzy i videa) usnadňuje vytváření obsahu pro platformy jako TikTok a Instagram, přičemž přirozeně artikulované generátory převodu textu na řeč proces dále urychlují.

Stojí za to se na chvíli zamyslet nad tím, co to znamená pro budoucnost internetu. Teorie mrtvého internetu předpokládá, že většina obsahu a interakcí, které vidíme online, již nejsou lidé. I když to v současnosti není pravda, není těžké si představit budoucnost, kde tomu tak je.

Pro tuto chvíli je možná čas promluvit si s přáteli a rodinou, pokud uvidíte, že se jim líbí, komentují nebo sdílejí obsah, o kterém víte, že je generován umělou inteligencí. Nejde to zastavit, ale více lidí si tento problém uvědomuje a to je důležitý první krok.