Jak poznat deepfake? Stačí vám jeden jednoduchý trik

Pokud nejste přesvědčeni, kdo jsou, za koho se vydávají, mohla by vám tato slabina deepfake softwaru pomoci.

Vzhledem k tomu, že zločinci začínají používat technologii deepfake videa k podvržení identity při živých online pracovních pohovorech, bezpečnostní výzkumníci zdůraznili jeden jednoduchý způsob, jak odhalit deepfake: stačí požádat osobu, aby otočila obličej na stranu. 

Důvodem pro potenciální praktickou kontrolu autentizace je to, že modely umělé inteligence deepfake, i když jsou dobré při vytváření čelních pohledů na obličej osoby, nejsou dobré v provádění bočních nebo profilových pohledů, jako jsou ty, které můžete vidět na snímku hrnku. 

Metaphysics.ai zdůrazňuje nestabilitu opětovného vytváření plných 90° zobrazení profilu v živých deepfake videích, díky čemuž je kontrola bočního profilu jednoduchým a účinným ověřovacím postupem pro společnosti provádějící online pracovní pohovory na bázi videa. 

Deepfakes neboli syntetické rekreace zvukového, obrazového a video obsahu lidí s umělou inteligencí jsou již několik let v hledáčku jako potenciální hrozba pro identitu.

V červnu však Federální úřad pro vyšetřování varoval, že zaznamenal nárůst podvodníků, kteří při účasti na online pracovních pohovorech používají deepfake audio a video, což se v pandemii rozšířilo. FBI poznamenala, že kandidáti na deepfake se zaměřili na volná místa v oblasti technologií, protože tyto role by útočníkovi poskytly přístup k firemním IT databázím, soukromým údajům zákazníků a chráněným informacím.  

FBI varovala, že účastníci videa by mohli rozpoznat deepfake, když kašlání, kýchání nebo jiné zvuky neodpovídají tomu, co je na videu. Kontrola bočního profilu by mohla být pro lidi rychlým a snadno sledovatelným způsobem, jak ji zkontrolovat před zahájením online videokonference. 

Martin Anderson v článku pro Metaphsyics.ai podrobně popisuje experimenty společnosti. Většina deepfakes, které vytvořila, selhala, když hlava dosáhla 90° a odhalila prvky skutečného bočního profilu osoby. Obnova zobrazení profilu selhává kvůli nedostatku kvalitních tréninkových dat o profilu, což vyžaduje, aby model deepfake vymyslel nebo "inpaintoval" hodně o tom, co chybí. 

Část problému spočívá v tom, že deepfake software potřebuje detekovat orientační body na obličeji člověka, aby mohl obličej znovu vytvořit. Při zapnutí na stranu mají algoritmy k dispozici pouze polovinu orientačních bodů pro detekci ve srovnání s pohledem zepředu. 

Anderson poznamenává, že hlavní slabinou při použití videa s bočním profilem k vytvoření obličeje jsou limity 2D algoritmů zarovnání obličeje a prostý nedostatek profilových dat pro většinu lidí s výjimkou hollywoodských hvězd.  

Anderson argumentuje pro použití bočního profilu pro autentizaci při živých videokonferencích a poukazuje na to, že pro průměrné lidi bude pravděpodobně přetrvávající nedostatek tréninkových dat bočního pohledu. Po fotografiích profilových hlav je malá poptávka, protože nejsou lichotivé, a ani fotografové nemají žádnou motivaci je dodávat, protože nabízejí jen malý emocionální vhled do tváře. 

"Tento nedostatek dostupných dat ztěžuje získání řady profilových obrázků o necelebritách, které jsou dostatečně rozmanité a rozsáhlé, aby bylo možné vytrénovat deepfake model tak, aby přesvědčivě reprodukoval profilové pohledy," píše Anderson. 

"Tato slabina deepfakes nabízí potenciální způsob, jak odhalit "simulované" korespondenty v živých videohovorech, které FBI nedávno klasifikovala jako vznikající riziko: pokud máte podezření, že osoba, se kterou mluvíte, by mohla být "klonem deepfake", můžete ji požádat, aby se na více než sekundu nebo dvě otočila stranou. a uvidíme, jestli tě jejich vzhled ještě přesvědčí."

Společnost Sensity, výrobce softwaru pro detekci živosti a deepfake, v květnu oznámila, že zjistila, že devět z 10 široce přijímaných biometrických ověřovacích systémů používaných ve finančních službách pro dodržování předpisů Know Your Customer (KYC) je vážně zranitelných vůči útokům deepfake "face swap".

Zjistilo se, že běžně používané testy živosti, které zahrnují osobu dívající se do kamery na připojeném zařízení, byly také snadno oklamány deepfakes. Testy živosti vyžadují, aby osoba pohybovala hlavou doleva a doprava a usmívala se. Deepfakes, které Sensity použila, zahrnovaly potenciálního podvodníka, který pohyboval hlavou doleva a doprava, ale video ukazuje, že přestal otáčet hlavou dříve, než dosáhne 90°. 

Generální ředitel a hlavní vědecký pracovník společnosti Sensity Giorgio Patrini potvrdil Metaphysic.ai, že při svých testech nepoužili plný 90° pohled na profil. 

"Boční pohledy na tváře lidí, pokud jsou použity jako forma ověření identity, mohou skutečně poskytnout určitou dodatečnou ochranu proti deepfakes. Jak již bylo zmíněno, nedostatek široce dostupných dat o zobrazení profilu činí trénink deepfake detektoru velmi náročným." 

Dalším užitečným způsobem, jak rozechvět živý deepfake model, je požádat účastníka videa, aby mu mával rukama před obličejem. Narušuje model a odhaluje problémy s latencí a kvalitou při překrývání přes deepfake obličej.