Etika umělé inteligence by měla být pevně zakódována jako bezpečnost již od návrhu
Vzhledem k tomu, že bezpečnost již od návrhu je nezbytná pro zajištění toho, aby IT systémy byly postaveny tak, aby byly robustní již od vývoje, měl by být stejný přístup aplikován na nástroje umělé inteligence, aby mohly být nasazeny zodpovědně a bez předsudků, říká hlavní architekt etiky umělé inteligence společnosti Salesforce.com.
Podniky musí při vytváření konceptualizace a vývoje produktů umělé inteligence (AI) myslet na etiku od samého počátku. To pomůže zajistit, aby nástroje umělé inteligence mohly být implementovány zodpovědně a nezaujatě.
Stejný přístup je již nyní považován za nezbytný pro produkty kybernetické bezpečnosti, kde princip vývoje "bezpečnost již od návrhu" povede k potřebě posuzovat rizika a pevně zakódovat zabezpečení od začátku, takže se lze v pozdější fázi vyhnout nesystematickému nesourodému systému a nákladnému dovybavování.
Tento způsob uvažování by nyní měl být aplikován na vývoj produktů umělé inteligence, uvedla Kathy Baxterová, hlavní architektka etické praxe umělé inteligence společnosti Salesforce.com, která zdůraznila, že je třeba, aby organizace splňovaly základní vývojové standardy s etikou umělé inteligence.
Poznamenala, že existuje mnoho ponaučení z odvětví kybernetické bezpečnosti, které se v posledních desetiletích vyvinulo od doby, kdy se v 80. letech objevil první malware. V odvětví, které předtím ani neexistovalo, kybernetická bezpečnost od té doby změnila způsob, jakým společnosti chránily své systémy, s důrazem na identifikaci rizik od samého začátku a vývoj základních standardů a předpisů, které by měly být implementovány.
V důsledku toho by dnes většina organizací zavedla základní bezpečnostní standardy, které by měly dodržovat všechny zúčastněné strany včetně zaměstnanců, řekl Baxter v rozhovoru pro ZDNet. Všichni noví zaměstnanci ve společnosti Salesforce.com musí například projít orientačním procesem, kde společnost nastíní, co se od zaměstnanců očekává z hlediska postupů kybernetické bezpečnosti, jako je přijetí silného hesla a používání VPN.
Totéž platí pro etiku, řekla a dodala, že ve společnosti existuje interní tým, který se tomu věnuje.
Existují také zdroje, které zaměstnancům pomáhají posoudit, zda by měl být úkol nebo služba provedena na základě firemních pokynů pro etiku, a pochopit, kde jsou červené čáry, řekl Baxter. Například Einstein Vision poháněný umělou inteligencí společnosti Salesforce.com nelze nikdy použít k rozpoznávání obličeje, takže každý člen prodeje, který si toho není vědom a pokusí se prodat produkt pro takové nasazení, tak bude činit v rozporu se zásadami společnosti.
A stejně jako byly postupy kybernetické bezpečnosti pravidelně přezkoumávány a revidovány, aby držely krok s měnícím se prostředím hrozeb, totéž by mělo být aplikováno na politiky související s etikou umělé inteligence, řekla.
To bylo zásadní, protože společnosti a kultury se v průběhu času měnily, kdy hodnoty, které byly před 10 lety považovány za relevantní, již nemusí být v souladu s názory, které obyvatelé země zastávají dnes, poznamenala. Produkty umělé inteligence to musely odrážet.
Data jsou klíčovou překážkou při řešení předpojatosti AI
I když by politiky mohly zmírnit některá rizika zkreslení v AI, zůstávaly zde další výzvy - zejména přístup k datům. Nedostatek objemu nebo rozmanitosti může mít za následek nepřesné zobrazení odvětví nebo segmentu.
To byla významná výzva ve zdravotnictví, zejména v zemích, jako jsou USA, kde neexistovala žádná socializovaná medicína nebo státem řízené systémy zdravotní péče, řekl Baxter. Když byly modely umělé inteligence trénovány na základě omezených souborů dat založených na úzké podskupině populace, mohlo by to mít dopad na poskytování zdravotnických služeb a schopnost detekovat nemoci u určitých skupin lidí.
Salesforce.com, která nemá přístup k datům svých zákazníků ani je nemůže používat k trénování svých vlastních modelů umělé inteligence, zaplní mezery nákupem z externích zdrojů, jako jsou lingvistická data, která se používají k trénování jejích chatbotů, a také využitím syntetických dat.
Na otázku o roli, kterou hrají regulační orgány při řízení etiky umělé inteligence, Baxter uvedl, že povinné používání specifických metrik by mohlo být škodlivé, protože stále existuje mnoho otázek ohledně definice "vysvětlitelné umělé inteligence" a toho, jak by měla být implementována.
Výkonný ředitel Salesforce.com je členem singapurského poradního sboru pro etické využívání umělé inteligence a dat, který radí vládě v otázkách politik a řízení souvisejících s využíváním technologií založených na datech v soukromém sektoru.
S poukazem na své zkušenosti v radě Baxterová uvedla, že její členové si rychle uvědomili, že definice "spravedlnosti" sama o sobě je komplikovaná, s asi dvěma desítkami statistických definic. Kromě toho, co bylo spravedlivé pro jednu skupinu, někdy nevyhnutelně bude méně spravedlivé pro jinou, poznamenala.
Definice "vysvětlitelnosti" byla také složitá, protože i odborníci na strojové učení mohli chybně interpretovat, jak model funguje na základě předem definovaných vysvětlení, řekla. Nastavené zásady nebo předpisy by měly být snadno srozumitelné každému, kdo používá data poháněná umělou inteligencí, a to napříč všemi sektory, jako jsou terénní agenti nebo sociální pracovníci.
Baxter uvedl, že singapurská rada si uvědomila, že tyto problémy jsou složité, a rozhodla, že by bylo efektivnější vytvořit rámec a pokyny, včetně sad nástrojů, které by pomohly osvojitelům umělé inteligence pochopit její dopad a být transparentní při jejím používání.
Singapur minulý měsíc vydal sadu nástrojů nazvanou A.I. Verify, která by podle něj umožnila podnikům prokázat jejich "objektivní a ověřitelné" používání umělé inteligence. Tento krok byl součástí vládního úsilí o zvýšení transparentnosti při nasazování umělé inteligence prostřednictvím technických a procesních kontrol.
Baxter naléhal na potřebu rozptýlit mylnou představu, že systémy umělé inteligence jsou standardně spravedlivé jednoduše proto, že jsou stroje, a proto jsou nezaujaté. Organizace a vlády musí vynaložit úsilí, aby zajistily, že přínosy umělé inteligence budou rovnoměrně rozděleny a její aplikace bude splňovat určitá kritéria odpovědné umělé inteligence, řekla.