Eliminace předsudků AI: Odborníci z oboru zvažují

"Předpojatost v umělé inteligenci není pouze technickým problémem; Je to propletené napříč odděleními."

Vývojáři a datoví vědci jsou samozřejmě lidé, ale systémy, které vytvářejí, nejsou - jsou to pouze odrazy lidského uvažování, které je do nich vloženo. Přimět systémy umělé inteligence, aby poskytovaly nezaujaté výsledky a zajišťovaly chytrá obchodní rozhodnutí, vyžaduje holistický přístup, který zahrnuje většinu podniku. 

Od IT pracovníků a datových vědců nelze - a neměli bychom očekávat - že budou v oblasti umělé inteligence sóloví akty. 

Roste tlak na rozšíření umělé inteligence za hranice vývoje systémů a do podnikových sad. Například na nedávném panelu na AI Summitu se panelisté shodli na tom, že vedoucí představitelé podniků a manažeři musí nejen zpochybňovat kvalitu rozhodnutí přijímaných prostřednictvím AI, ale také se aktivněji zapojit do jejich formulace. (Konferenci jsem spolupředsedal a panel jsem moderoval.)  

Musí existovat systémové způsoby, jak otevřít proces vývoje a modelování umělé inteligence, trvá na svém Rod Butters, technologický ředitel společnosti Aible. "Když říkáme datovým vědcům, aby šli ven a vytvořili model, žádáme je, aby byli čtenáři myšlenek a věštci. Datový vědec se snaží udělat správnou věc, vytvořit zodpovědný a solidní model, ale na základě čeho?," říká.

"Pouhé vytvoření skvělého modelu nemusí nutně vyřešit všechny problémy."  

Jak tedy napravit situaci, kterou Butters popisuje, a řešit případnou zaujatost nebo nepřesnosti? Je zřejmé, že se jedná o výzvu, kterou je třeba řešit napříč spektrem vedení podniků. IT, které nese většinu tíhy umělé inteligence, to nemůže udělat samo. Odborníci z celého odvětví vyzývají k otevření vývoje umělé inteligence většímu zapojení lidí. 

"Kladení břemene na IT lídry a zaměstnance znamená mylně zobecňovat soubor podstatných, celoorganizačních etických, reputačních a právních problémů pro technický problém," říká Reid Blackman, generální ředitel společnosti Virtue a poradce společnosti Bizconnect. "Předpojatost v umělé inteligenci není pouze technickým problémem; Prolíná se napříč odděleními." 

Dosud nebylo v boji proti předpojatosti umělé inteligence uděláno dost, pokračuje Blackman. "Navzdory pozornosti věnované předpojatým algoritmům byla snaha o jejich řešení poměrně minimální. Standardním přístupem - samozřejmě kromě nicnedělání - je používat různé nástroje, které sledují, jak jsou různorodé zboží a služby distribuovány mezi několik subpopulací, nejnápadněji včetně skupin souvisejících s rasou a pohlavím; nebo využít řadu kvantitativních metrik k určení, zda je rozdělení spravedlivé nebo zaujaté."

Odstranění předsudků a nepřesností v umělé inteligenci vyžaduje čas. "Většina organizací chápe, že úspěch umělé inteligence závisí na vybudování důvěry u koncových uživatelů těchto systémů, což v konečném důsledku vyžaduje spravedlivé a nestranné algoritmy umělé inteligence," říká Peter Oggel, technický ředitel a senior viceprezident pro technologické operace společnosti Irdeto. Dosáhnout tohoto cíle je však mnohem složitější než jednoduše uznat, že problém existuje, a mluvit o něm." 

Je zapotřebí více akcí za hranicemi datových center nebo analytických pracovišť. "Datoví vědci postrádají školení, zkušenosti a obchodní potřeby, aby určili, které z neslučitelných metrik pro spravedlnost jsou vhodné," říká Blackman. "Kromě toho často postrádají vliv, aby své obavy přednesli erudovaným vedoucím pracovníkům nebo relevantním odborníkům na danou problematiku."

Je čas udělat více "pro přezkoumání těchto výsledků nejen když je produkt v provozu, ale během testování a po jakémkoli významném projektu," říká Patrick Finn, prezident a generální ředitel pro Severní a Jižní Ameriku ve společnosti Blue Prism. "Musí také vyškolit technické i obchodní zaměstnance v tom, jak zmírnit předsudky v rámci umělé inteligence a ve svých lidských týmech, aby jim umožnili podílet se na zlepšování využívání umělé inteligence ve své organizaci. Je to snaha shora dolů i zdola nahoru, která je poháněna lidskou vynalézavostí: odstranit zjevnou předpojatost tak, aby ji umělá inteligence nezačlenila, a proto nezpomalila práci nebo nezhoršila něčí výsledky."

Finn dodává: "Ti, kteří o umělé inteligenci nepřemýšlejí spravedlivě, ji nepoužívají správným způsobem."  

Řešení této výzvy "vyžaduje více než jen ověřování systémů umělé inteligence podle několika metrik," říká Oggel. "Když se nad tím zamyslíte, jak vůbec definujeme pojem spravedlnost? Každý daný problém může mít více úhlů pohledu, z nichž každý má jinou definici toho, co je považováno za spravedlivé. Technicky je možné vypočítat metriky pro datové sady a algoritmy, které vypovídají něco o spravedlnosti, ale s čím by se to mělo měřit?"

Oggel říká, že je zapotřebí více investic "do výzkumu předsudků a pochopení toho, jak je odstranit ze systémů umělé inteligence. Výsledek tohoto výzkumu musí být začleněn do rámce standardů, zásad, pokynů a osvědčených postupů, které mohou organizace dodržovat. Bez jasných odpovědí na tyto a mnoho dalších otázek bude korporátní úsilí o odstranění předsudků bojovat."

Dodává, že předpojatost umělé inteligence je často "neúmyslná a podvědomá". "Informování zaměstnanců o tomto problému do určité míry přispěje k řešení předsudků, ale stejně důležité je zajistit rozmanitost ve vašich týmech pro datovou vědu a inženýrství, poskytnout jasné zásady a zajistit řádný dohled."

Zatímco otevření projektů a priorit podniku vyžaduje čas, existují krátkodobá opatření, která lze přijmout na úrovni vývoje a implementace.

Harish Doddi, generální ředitel společnosti Datatron, doporučuje při vývoji modelů AI klást si následující otázky:  

• Jaké byly předchozí verze?  
• Jaké vstupní proměnné přicházejí do modelu?  
• Jaké jsou výstupní proměnné?  
• Kdo má k modelu přístup?  
• Došlo k neoprávněnému přístupu?  
• Jak se model chová, pokud jde o určité metriky?  

Během vývoje "jsou modely strojového učení vázány určitými předpoklady, pravidly a očekáváními", což může po uvedení do výroby vést k různým výsledkům, vysvětluje Doddi. "A právě zde je řízení kritické." Součástí tohoto řízení je katalog pro sledování všech verzí modelů. "Katalog musí být schopen sledovat a dokumentovat rámec, ve kterém jsou modely vyvíjeny, a jejich rodokmen."

Podniky "musí lépe zajistit, aby komerční úvahy nepřevažovaly nad etickými. Není snadné najít rovnováhu," říká Oggel. "Některé přístupy zahrnují automatické sledování toho, jak se chování modelu mění v průběhu času na pevné sadě prototypických datových bodů. To pomáhá kontrolovat, zda se modely chovají očekávaným způsobem a dodržují některá omezení týkající se zdravého rozumu a známých rizik zkreslení. Kromě toho může pravidelné provádění manuálních kontrol příkladů dat, abychom zjistili, jak jsou předpovědi modelu v souladu s tím, co očekáváme nebo doufáme, že dosáhneme, může pomoci odhalit vznikající a neočekávané problémy."