Výzkum AI Economist společnosti Salesforce chce prozkoumat rovnováhu mezi rovností a produktivitou
Ekonomická teorie je známá tím, že je omezena řadou neefektivit ve svém modelování. Výzkumníci společnosti Salesforce tvrdí, že umělá inteligence může pomoci tento problém vyřešit, což povede k robustnějším hospodářským politikám.
Rok 2016 byl pro společnost Salesforce klíčový. Tehdy společnost získala MetaMind, "podnikovou platformu umělé inteligence, která pracovala v lékařském zobrazování a obrázcích elektronického obchodu a NLP a spoustě dalších věcí, horizontální platformní hru jako nástroj strojového učení pro vývojáře," jak to popsal zakladatel Richard Socher.
Pokud to dnes zní zajímavě, tehdy to pravděpodobně předběhlo svou dobu. Tato akvizice posunula Sochera na pozici hlavního datového vědce ve společnosti Salesforce, kde vedl více než 100 výzkumníků a mnoho stovek inženýrů pracujících na aplikacích, které byly nasazeny v měřítku a dopadu Salesforce. Umělá inteligence se stala nedílnou součástí úsilí společnosti Salesforce, zejména prostřednictvím Salesforce Einstein, rozsáhlé iniciativy zaměřené na vložení schopností umělé inteligence do platformy Salesforce.
Kromě tržně orientovaných snah sponzoruje Salesforce také iniciativy "AI for Good". To zahrnuje to, co Salesforce rámuje jako moonshot: vytvoření sociálního plánovače s umělou inteligencí, který se naučí optimální ekonomické politiky pro reálný svět. Projekt pod názvem "AI Economist" nedávno zveřejnil několik nových výsledků. Stephan Zheng, vedoucí výzkumný pracovník společnosti Salesforce, senior manažer týmu ekonomů AI, se podělil o více informací o pozadí projektu, výsledcích a plánu.
Zpětnovazební učení jako nástroj hospodářské politiky
Zheng pracoval na svém doktorátu z fyziky v době, kdy hluboké učení explodovalo - v roce 2013. Motivace, kterou uvedl pro svou práci v Salesforce, je dvojí: "posouvat hranice strojového učení a objevovat principy obecné inteligence, ale také konat společenské dobro".
Zheng se domnívá, že sociálně-ekonomické otázky patří k nejkritičtějším v naší době. Na tomto konkrétním směru výzkumu ho přitahovala skutečnost, že ekonomická nerovnost se v posledních desetiletích zrychluje , což má negativní dopad na ekonomické příležitosti, zdraví a sociální blahobyt.
Daně jsou důležitým vládním nástrojem ke zlepšení rovnosti, poznamenává Zheng. Domnívá se však, že pro vlády je náročné navrhovat daňové struktury, které pomáhají vytvářet rovnost a zároveň podporují ekonomickou produktivitu. Dodává, že část problému má co do činění se samotným ekonomickým modelováním.
"V tradiční ekonomii, pokud chtějí lidé optimalizovat svou politiku, musí vytvořit spoustu předpokladů. Mohou například říci, že svět je každý rok víceméně stejný. Nic se vlastně zase tak moc nemění.
To je opravdu omezující. To znamená, že mnoho z těchto metod ve skutečnosti nenajde nejlepší politiku, pokud vezmete v úvahu svět v jeho plném bohatství, když se podíváte na všechny způsoby, jak se svět kolem vás může změnit," řekl Zheng.
Tým Salesforce AI Economist se to snaží řešit aplikací konkrétního typu strojového učení, který se nazývá zpětnovazební učení (RL). RL se používá k vytváření systémů, jako je AlphaGo , a liší se od přístupu učení pod dohledem, který převládá ve strojovém učení.
"Při učení pod dohledem vám někdo dá statickou sadu dat a vy se pak snažíte naučit vzorce v datech. V posilovaném učení máte místo toho tuto simulaci, toto interaktivní prostředí, a algoritmus se učí dívat se na svět a interagovat se simulací. A pak si na základě toho může skutečně hrát s prostředím, může změnit způsob, jakým prostředí funguje," vysvětluje Zheng.
Tato flexibilita byla hlavním důvodem, proč byl RL vybrán pro AI Economist. Jak Zheng rozvedl, tento přístup má tři části. Je tu samotná simulace, optimalizace politiky a pak jsou tu také data, protože data mohou být použita k informování o tom, jak simulace funguje. Ekonom využívající umělou inteligenci se zaměřil na modelování a simulaci zjednodušené podmnožiny ekonomiky: daně z příjmu.
Byl vytvořen dvourozměrný svět, který modeluje prostorové a časové vztahy. V tomto světě mohou agenti pracovat, těžit zdroje, stavět domy a vydělávat peníze tímto způsobem. Příjmy, které agenti vydělávají stavbou domů, jsou pak zdaněny vládou. Úkolem AI ekonoma je navrhnout daňový systém, který dokáže optimalizovat pro rovnost (jak podobné jsou příjmy lidí) a produktivitu (součet všech příjmů).
Modelování umělé inteligence vs. reálný svět
Výzkum společnosti Salesforce ukazuje, že umělá inteligence může zlepšit kompromis mezi rovností příjmů a produktivitou ve srovnání se třemi alternativními scénáři: prominentním daňovým vzorcem vyvinutým Emmanuelem Saezem, progresivním daněmi připomínajícím americký daňový vzorec a volným trhem (žádné daně). Jak vysvětlil Zheng, tyto 3 alternativy byly zakódovány do systému a jejich výsledky byly porovnány s těmi, které byly odvozeny z umělé inteligence prostřednictvím simulace RL.
Ačkoli to zní slibně, měli bychom si také uvědomit omezení tohoto výzkumu. Za prvé, výzkum se zabývá pouze daní z příjmu ve značně zjednodušené ekonomice: neexistuje nic takového jako aktiva, mezinárodní obchod a podobně, a existuje pouze jeden typ aktivity. Kromě toho je v tomto okamžiku celkový počet agentů v systému maximálně 10.
AI Economist je ekonomická simulace, ve které agenti AI shromažďují zdroje a obchodují s nimi, staví domy, vydělávají příjmy a platí daně vládě.
Zheng poznamenal, že výzkum zohlednil mnoho různých prostorových uspořádání a rozložení zdrojů, stejně jako agenty s různými soubory dovedností nebo úrovněmi dovedností. Zmínil také, že současná práce je důkazem konceptu se zaměřením na část problému zaměřenou na umělou inteligenci.
"Klíčovým koncepčním problémem, který řešíme, je, že se vláda snaží optimalizovat tuto politiku, ale můžeme také použít umělou inteligenci k modelování toho, jak bude ekonomika reagovat na druhou stranu. To je něco, čemu říkáme dvouúrovňový problém RL.
Z tohoto pohledu je už teď docela náročné vyřešit deset agentů v ekonomice a ve vládě. Musíme opravdu vynaložit hodně práce, abychom našli algoritmus, abychom našli správnou kombinaci strategií učení, aby systém skutečně našel tato opravdu dobrá řešení daňové politiky," řekl Zheng.
Když se podíváme na to, jak lidé používají RL k trénování systémů pro hraní některých typů videoher nebo šachů, jsou to již velmi těžké problémy s vyhledáváním a optimalizací, i když využívají pouze dva nebo deset agentů, dodal Zheng. Tvrdil, že AI Economist je efektivnější než tyto systémy.
Tým AI Economist je podle Zhenga přesvědčen, že nyní, když má dobrý přehled o části učení, je ve skvělé pozici k přemýšlení o budoucnosti a rozšíření této práce i do dalších dimenzí.
V dřívější verzi AI Economist tým experimentoval s tím, že se simulace účastní i lidští hráči. To mělo za následek větší hluk, protože lidé se chovali nekonzistentně; podle Zhenga však ekonom AI stále dosahoval vyšší úrovně kvality a produktivity.
Ekonomie a ekonomové
Některé zřejmé otázky, pokud jde o tento výzkum, jsou, co si o tom myslí ekonomové a zda jejich poznatky byly modelovány také v systému. Žádný člen týmu AI Economist není ve skutečnosti ekonom. Podle Zhenga však byli konzultováni někteří ekonomové.
"Když jsme začínali, neměli jsme na palubě ekonoma, a tak jsme se spojili s Davidem Parkesem, který působí v oblasti informatiky a ekonomie. V průběhu práce jsme mluvili s ekonomy a získávali jejich názory, zpětnou vazbu. Také jsme měli výměnu názorů s [ekonomem a autorem bestsellerů] Thomasem Pikettym. Je to velmi zaneprázdněný muž, takže si myslím, že mu ta práce připadala zajímavá.
Vznesl také otázky ohledně toho, jak by mohla být tato politika do určité míry implementována. A dá se na to pohlížet z mnoha dimenzí, ale celkově ho ta práce zajímala. Myslím, že to odráží širší reakci ekonomické komunity. Je o to zájem i otázky, zda je to proveditelné. Co k tomu potřebujeme? Je to podnět k zamyšlení pro ekonomickou komunitu," řekl Zheng.
Pokud jde o cestu vpřed, Zheng věří, že je to "učinit to široce užitečným a mít nějaký pozitivní sociální dopad". Zheng dodal, že jedním ze směrů, kterým se tým ubírá, je, jak se přiblížit skutečnému světu.
Na jedné straně to znamená vytvářet větší a lepší simulace, aby byly přesnější a realističtější. Zheng věří, že to bude klíčovou součástí rámců pro ekonomické modelování a navrhování politik. Velkou součástí toho pro výzkumníky v oblasti umělé inteligence je dokázat, že těmto metodám můžete důvěřovat.
"Chcete ukázat věci jako robustnost a vysvětlitelnost. Chceme všem sdělit, že zde jsou důvody, proč umělá inteligence doporučila tu či onu politiku. Také pevně věřím v to, že je to interdisciplinární problém. Myslím, že skutečná příležitost pro výzkumníky v oblasti umělé inteligence je spolupracovat s ekonomy, spolupracovat s odborníky na politiku a porozumět nejen technickým rozměrům jejich problému, ale také pochopit, jak může být tato technologie užitečná pro společnost," řekl Zheng.
Dva aspekty, které Zheng v souvislosti s tímto výzkumem zdůraznil, byly stanovení cílů a transparentnost. Stanovování cílů, tj. pro jaké výsledky optimalizovat, se provádí externě. To znamená, že zda má systém optimalizovat pro maximální rovnost, maximální produktivitu, jejich rovnováhu, případně v budoucnu zahrnout i další parametry, jako je udržitelnost, je návrhová volba na uživateli.
Zheng popsal "plnou transparentnost" jako základní kámen projektu. Pokud budou v budoucnu iterace těchto typů systémů používány pro společenské dobro, pak by měl být každý schopen je kontrolovat, zpochybňovat a kritizovat, tvrdí Zheng. Aby tým AI Economist splnil tento cíl, otevřel veškerý kód a experimentální data založená na výzkumu.
Další součástí cesty vpřed pro tým ekonomů AI je větší oslovení komunity ekonomů. "Myslím, že je zde docela dost vzdělání, kde dnes ekonomové nejsou vyškoleni jako počítačoví vědci. Obvykle se například neučí programovat v Pythonu. A věci jako RL také nemusí být něco, co je součástí jejich standardních osnov nebo jejich způsobu myšlení. Myslím, že je zde opravdu velká příležitost pro interdisciplinární výzkum," řekl Zheng.
Tým AI Economist neustále hovoří s ekonomy a tuto práci prezentuje vědecké komunitě. Zheng řekl, že tým pracuje na řadě projektů, o kterých se budou moci v blízké budoucnosti podělit více. Dospěl k závěru, že trocha osvěty, aby se lidé seznámili s tímto přístupem a uživatelsky přívětivějším UI/UX, může jít dlouhou cestu.