Tento bezplatný nástroj Google AI promění složité výzkumné práce ve stručné konverzace

Nový výzkum společnosti Google naznačuje, že to, co umělá inteligence dělá k identifikaci obrázků, nemusí znamenat "vědění" čehokoli.

Většina lidí dokáže rozpoznat kočku nebo psa v raném věku. Když je dospělý požádán, aby vyjádřil, jak pozná, zda je zvíře kočka nebo pes, může tápat po vysvětlení popisem zkušenosti, například "kočky vás hodnotí vzdáleně, ale psi se na vás snaží vyskočit a olíznout vám obličej".

Jinými slovy, ve skutečnosti nevyjadřujeme to, co víme.

Charakteristickým úspěchem umělé inteligence v posledních dvou desetiletích je klasifikace obrázků koček a psů, mimo jiné jejich přiřazením do kategorií. Programy umělé inteligence však nikdy nevysvětlují, jak "vědí" to, co údajně "vědí". Jsou příslovečnou černou skříňkou. 

Nedávná inovace od výzkumníků umělé inteligence společnosti Google se snaží poskytnout odpověď na to, jak umělá inteligence takové věci ví. Je to fascinující inženýrský projekt a také nutí člověka přemýšlet, zda umělá inteligence vůbec něco ví. 

Ve výzkumném článku "Explanation in Style: Training a GAN to explain a classifier in StyleSpace" se výzkumný vědec společnosti Google Oran Lang a jeho kolegové pustili do reverzního inženýrství toho, co se nazývá klasifikátor: program strojového učení, který vyvíjí schopnost automaticky třídit obrázky do kategorií, jako je "kočka" a "pes". 

Jejich program, nazvaný "StylEx", je schopen identifikovat věci, které přimějí klasifikátor přiřadit danou fotografii do té či oné kategorie, a to způsoby, které by člověk mohl rozpoznat - jinými slovy sémanticky významné atributy. 

Jejich technika využívá nové využití toho, co je známé jako generativní adversariální síť neboli GAN. Přístup GAN, který původně představil vědec v oblasti umělé inteligence Yoshua Bengio a jeho tým na konferenci MILA v Montrealu v roce 2014, je široce populárním druhem programu pro vytváření falešných obrázků, které napodobují daný styl nebo žánr.

Program GAN, který vědci používají, je program s názvem StyleGAN, který představil Tero Karras a jeho kolegové ze společnosti Nvidia v roce 2019 a v roce 2020 byl aktualizován na StyleGAN2. Dokáže pořizovat různé skutečné fotografie lidí, míst a věcí a vytvářet přesvědčivé padělky ve stylu původního obrazu, jak můžete vidět na webové stránce "tato osoba neexistuje", což je sbírka nápadně realistických falešných záběrů hlavy.

Je to tak, GAN stojí v čele fenoménu "deep fakes". Jde o to, že GAN mohou vytvářet jakýkoli druh obrázku, včetně falešných, i když realisticky vypadajících obrázků koček a psů.

Důležité je, že StyleGAN2 lze posouvat podél libovolného počtu parametrů, jako je například to, že obličej má světlejší nebo tmavší pleť na snímku hlavy člověka, nebo že kočičí uši jsou zplihlé jako psí nebo naopak psí oči velké a kulaté jako kočičí. Jinými slovy, StyleGAN 2 si může hrát s tím, co bychom považovali za očekávané vizuální atributy něčeho.

Autoři vzali StyleGAN2 a vytvořili novou verzi, StylEX, která si hrála s obrázky, které již byly klasifikovány tradičním klasifikátorem neuronových sítí, v tomto případě ctihodnou neuronovou sítí MobileNet. Tento klasifikátor klasifikuje skutečné obrázky zvířat z datové sady nazvané "AFHQ", kterou představil Yunjey Choi a kolegové z Clova AI Research v roce 2020. 

Je to MobileNet, který je černou skříňkou, kterou se snaží vypáčit pomocí StylExu. 

Při vývoji svého programu Lang a jeho tým vytvořili StylEx v podstatě komprimovat obrázky klasifikované MobileNetem a poté je dekomprimovat do originálu. Poté byly nové, falešné verze originálů vráceny zpět do MobileNetu, aby se zjistilo, zda MobileNet přiřadí stejnou kategorii padělkům.

Program StylEx vytváří falešné obrázky z neuronové sítě "generátoru". Když jsou nakrmeny do "klasifikátoru", výzkumníci měří, zda padělky mohou převrátit kategorizaci klasifikátoru ze správné kategorie do špatné. Červené obrysy zobrazují falešné obrázky, jejichž atributy byly selektivně upraveny, a originály, na kterých byly založeny, s vloženým procentuálním skóre, které ukazují, jak moc daný atribut ovlivnil kategorizaci.

Společnost StylEx může v průběhu času upravovat tyto parametry, vizuální atributy, se kterými může GAN manipulovat, a zjistit, zda tím dojde k narušení sítě MobileNet. StylEx se pokouší oklamat MobileNet, chcete-li.

Uvažuje se tak, že pokud StylEx dokáže vytvořit přesvědčivý padělek, který MobileNet akceptuje, a pak další padělek, který naruší pečlivou kategorizaci MobileNetu, pak interakce mezi těmito dvěma přináší vhled do toho, na základě čeho MobileNet jedná, když klasifikuje obrázky. 

Jak říkají autoři: "Trénujeme náš GAN tak, aby explicitně vysvětloval klasifikátor." ("Trénink" je fáze, ve které je funkčnost neuronové sítě poprvé vyvinuta vystavením vzorovým datům.) 

Komprimovaná verze obrázku, kde StylEx předpovídá, na co bude MobileNet reagovat, je součástí "StyleSpace" společnosti StylEx, "odděleného latentního prostoru" GAN. Latentní prostor je součástí programu GAN, která odděluje vizuální prvky obrázku, jako jsou oblasti, které tvoří oči kočky nebo jazyk psa.

Protože se se StylEx ovládá pomocí posuvníků - ve skutečnosti existují posuvníky, které mohou ukazovat věci, jako je zvětšení očí nebo otevření nebo zavření tlamy - klasifikátor MobileNet reaguje zvyšujícím se nebo klesajícím skóre pravděpodobnosti pro kočku nebo psa. Tímto způsobem se StylEx používá jako lékařská sonda, aby se zjistilo, co se stane s kategorizací MobileNet. 

Jinými slovy, otočte knoflíky, abyste ukázali, jak se padělky liší od skutečných, a podívejte se, co to udělá s klasifikací.

Lang a jeho kolegové to nazývají "kontrafaktuální" experimentování, které, jak píší, je "výrokem ve formě 'Kdyby vstup x byl x', pak by výstup klasifikátoru byl y ̃ místo y', kde rozdíl mezi x a x ̃ je snadno vysvětlitelný."

Myšlenka "snadno vysvětlitelné" je jádrem věci. Smyslem StylExu je identifikovat věci ve StyleSpace, kterým by lidská bytost mohla rozumět - "velké oči" nebo "vrtící jazyk" - jako vysvětlení. To je součástí posunu umělé inteligence směrem k "vysvětlitelné" umělé inteligenci, věci, která otevírá černou skříňku a říká společnosti, jak stroj dospívá k rozhodnutím.

Jak píší autoři, 

Zvažte například klasifikátor vycvičený k rozlišování mezi obrázky kočky a psa. Kontrafaktuální vysvětlení pro obrázek klasifikovaný jako kočka by mohlo znít: "Pokud by se zornice zvětšily, pak by se výstup klasifikátoru pro pravděpodobnost kočky snížil o 10 %." Klíčovou výhodou tohoto přístupu je, že poskytuje vysvětlení na každém příkladu, přesně určuje, které části vstupu jsou pro klasifikaci výrazné a také jak je lze změnit, aby se získal alternativní výsledek. 

Lang a jeho kolegové předložili své kontrafaktuály nejen pro kočky a psy, ale pro celou řadu obrazových klasifikací, včetně lidského věku - "starý" versus "mladý" - a lidského pohlaví, lidem pracujícím na platformě Amazon Mechanical Turk. Požádali tyto lidi, aby popsali změny na obrázcích od skutečných k falešným. "Uživatelé jsou poté požádáni, aby 1-4 slovy popsali jeden z nejvýznamnějších atributů, které vidí na obrázku změnit."

Můžete si to vyzkoušet sami na stránce vytvořené Langem a jeho týmem s příklady manipulací.

Což nás přivádí k otázce: Co ví klasifikátor MobileNet? Aniž bychom se pouštěli do epistemologické otázky, co to vlastně znalosti jsou, program StylEx ukazuje, že klasifikátor MobileNet bude opakovaně reagovat na některé prvky obrázku, které lze izolovat, jako jsou větší nebo menší oči kočky nebo psa. 

Jinými slovy, neuronová síť klasifikátoru ví o stupni nějakého prvku podél kontinua stupňů, velkých nebo malých, světlých nebo tmavých. 

Ale je tu další vráska. Jak zjistil Lang a jeho kolegové, jejich program StylEx, který vytváří padělky se změněnými rysy, v každém případě ovlivňuje způsob, jakým klasifikátor zachází s konkrétními obrázky. Slovo specifický je důležité, protože se ukazuje, že klasifikátor MobileNet je poměrně specifický při kategorizaci každého obrázku. 

Jak píší autoři, "nejedná se o atributy s největším průměrným účinkem na mnoho obrázků, ale spíše o ty, které nejvíce ovlivňují tento konkrétní obrázek." Jinými slovy, každý obrázek má svou zvláštnost, pokud jde o klasifikátor. Nebo soubor vtípků.

Klasifikátor tedy skutečně hledá něco konkrétního, co je zdůrazněno v případě každého obrázku, a program StylEx toto něco znovu vytváří. Není jasné, zda jsou tyto aspekty specifické pro obrázek znalostmi. Lze si je představit jako artefakty, které klasifikační program použil k přiřazení daného obrázku k dané kategorii. Také není jasné, zda existují společné rysy, které se šíří napříč obrázky, jak byste očekávali, pokud program skutečně zná podobu kočky nebo psa. 

Pokud je vědění v praxi o pojmenovávání věcí, StylEx vyvolává zajímavé otázky. Akt pojmenování nebo klasifikace vnucuje binární volbu, kočku nebo psa, na kterou program reaguje přiřazením jednoho nebo skupiny prvků, aby dokončil test. Zda je to skutečně součástí poznání o obrazu v širším slova smyslu, zůstává otevřenou otázkou.