Výzva k vnesení designu více zaměřeného na člověka do umělé inteligence

Mnoho systémů umělé inteligence je vyvíjeno s předpokladem, že "cokoli od umělé inteligence chceme, stiskneme tlačítko a jako mávnutím kouzelného proutku nám to doručí výsledek".

Umělá inteligence by neměla být aktivována "velkým červeným tlačítkem", které poskytuje neprůhledné výsledky, o nichž všichni doufají, že budou mít poslední slovo v dané otázce. Spíše by to mělo být pod určitým stupněm kontroly lidí ve smyčce, kteří mohou získat představu o tom, co jim výsledky říkají.

To jsou slova Ge Wanga, docenta na Stanfordu, který prosazuje přístup k designu aplikací a systémů umělé inteligence zaměřený na člověka. V nedávném webcastu pořádaném Stanford HAI (Human-Centered AI) Wang naléhá na vývojáře a designéry AI, aby ustoupili a zamysleli se nad důležitou rolí lidí v této smyčce. "V AI jsme tak daleko od odpovědí, že zatím neznáme většinu otázek," podotýká. 

Mnoho dnešních systémů umělé inteligence je navrženo kolem velkého červeného tlačítka, říká. "Ať už od umělé inteligence chceme cokoli, stiskneme tlačítko a ona nám jako mávnutím kouzelného proutku doručí výsledek," říká Wang. Panuje názor, že "umělá inteligence má tuto magickou kvalitu v tom smyslu, že předvádí tuto, pro nedostatek lepšího slova, inteligenci. A je schopen dělat složité úkoly. Umělá inteligence je nejvýkonnější nástroj pro rozpoznávání vzorů, jaký jsme kdy vytvořili." 

Otázkou tedy je: "Co od umělé inteligence skutečně chceme?" Wang pokračuje. "Chceme věštce po celou dobu, které nám dávají správné odpovědi, aniž by nutně ukazovaly svou práci? Nebo chceme nástroje? Věci, které můžeme použít k tomu, abychom se v nich zlepšili? A nástroje, které jsou z definice interaktivní pro člověka?"

Způsoby, jak více zapojit lidi do smyčky umělé inteligence, nemusí být nutně složité. Jedním z vysoce efektivních přístupů by bylo zavedení "posuvníků", které by doprovázely uživatelská rozhraní k aplikacím umělé inteligence, navrhuje Wang. Návrh systémů umělé inteligence "by mohl začít jednoduchou otázkou: 'Mohl bych na to dát posuvník?'" říká Wang. Co by to znamenalo? Jak by to udělalo systém užitečnějším nebo zajímavějším?"

Posuvník by uživateli umožnil zvýšit intenzitu umělé inteligence aplikované na otázku - od lehkého dotyku až po plnohodnotný výstup umělé inteligence. Wang uvádí příklad jednoho z projektů svého studenta, systému umělé inteligence, který překládá právní dokumenty do srozumitelné angličtiny. "Zajímavé je přidání posuvníku, který ovládá právní text do výstupu," vypráví. Posuvník může zachovat dokument v jeho původní právní verzi až po zcela přeložený prostý jazyk. "V okamžiku, kdy je tento posuvník přidán, změní se to z rigidního systému s velkými tlačítky na systém, který můžete ovládat, ale také takový, kde mohou různí lidé identifikovat svůj vlastní druh potřeb. Co kdyby nám naše nástroje umožnily to s naší umělou inteligencí skutečně udělat?"

Výhodou "tohoto druhu designu člověka ve smyčce je, že často získáte významnou transparentnost v tom, jak systém skutečně funguje," uvádí Wand. "V závislosti na tom, jak to navrhnete, je to také způsob, jak efektivně začlenit lidský úsudek. Je to jen tlakové vážení. Vidíme to vlastně pokaždé, když se snažíme vytvořit systém, ve kterém jsou lidé ve smyčce. Měli bychom tlačit váhu od vytváření dokonalého algoritmu směrem k velkému červenému tlačítku. Tahle věc nemusí být dokonalá, navždy vybalená z krabice, protože víte co? Lidé jsou schopni tento výstup zdokonalit."

Adaptace, jako jsou posuvníky, které umožňují větší lidskou kontrolu nad výstupem umělé inteligence, "téměř vždy umožňují výkonnější systémy, nikoli méně," shrnuje Wang. 

Umělá inteligence - stejně jako jiné pokročilé technologie - neuspěje, pokud bude jednoduše hozena na lidi v organizacích. Lidé musí být schopni využívat nástroje založené na umělé inteligenci k vytváření a uvádění nápadů a přístupů do praxe, které pomohou vytvořit lepší svět pro jejich zákazníky a zaměstnance.