Mytí AI je špinavý byznys. COO společnosti Lenovo vysvětluje, jak se tomu vyhnout

Linda Yao z Lenova hovořila se ZDNET o mýtech a mylných představách o AI. Zde je návod, jak se vyhnout omylu.

Zdá se, že umělá inteligence (AI) je všude, ať už je to v každém případě působivé nebo ne. Některé z toho, co je uváděno na trh jako umělá inteligence, však ani ve skutečnosti umělou inteligencí není - pouze produkt s nálepkou, která má zvýšit zájem a pozornost.

Tato praxe nadměrného tvrzení o AI se nazývá AI wash. I když se to může zdát neškodné, mytí umělé inteligence může snížit integritu řešení umělé inteligence, ztížit pochopení toho, co skutečně funguje, a zkomplikovat způsob, jakým hodnotíme úspěch této vyvíjející se technologie.

Měl jsem možnost hovořit s Lindou Yao, COO a vedoucí strategie pro obchodní řešení a služby a viceprezidentkou Al Solutions & Services o tomto konceptu, co to znamená pro podnikání, na co si dát pozor a co můžete zajistit, aby vaše úsilí o umělou inteligenci bylo transparentní a důvěryhodné.

ZDNET: Představte se a poskytněte nám nějaké informace o své roli v Lenovo.

Linda Yao: V rámci nejrozšířenějšího podnikání společnosti Lenovo je mojí odpovědností budovat praxi AI Services, abychom s našimi zákazníky pokračovali v inovacích, abychom řešili jejich nejzajímavější výzvy.

Naše centrum excelence AI disponuje základními kompetencemi v oblasti zabezpečení, lidí, technologií a procesů, které pomáhají zákazníkům implementovat správné strategie a řešení AI pro jejich případy použití. Naším posláním je pomáhat organizacím úspěšně přejít od konceptů AI ke skutečným výsledkům rychlým, odpovědným a bezpečným škálováním AI.

Kromě toho vedu strategii a operace pro obchodní jednotku, která poskytuje dostatek příležitostí k pití vlastního šampaňského a nasazení AI, která transformuje naše provozní procesy a zákaznickou zkušenost.

ZDNET: Jak definujete mytí pomocí umělé inteligence a proč je to rostoucí zájem v technologickém průmyslu?

LY: Příslib umělé inteligence již dlouho zaujal naši představivost, zvláště nyní, kdy se nám generativní umělá inteligence stala snadno dostupnou na organizační i osobní úrovni. Protože se jeho potenciál zdá být neomezený, existuje nutkání spojit tuto nově objevenou technologii jako lék na všechno.

Údaje společnosti Lenovo sice ukazují, že téměř každá společnost zvyšuje své investice do umělé inteligence, ale také ukazují, že tři z pěti z těchto společností si nejsou jisti návratností těchto investic (ROI). Není jasné, zda tyto implementace AI přinášejí jejich organizacím smysluplné obchodní výsledky.

Protože vliv umělé inteligence ještě není přesně definován a samotné technologii všichni transparentně nerozumí, necháváme prostor pro interpretaci a přikrášlování. Tímto způsobem je výraz AI mytí paralelou k greenwashingu, kdy společnosti mohou spekulovat o přínosech svých produktů pro životní prostředí.

I když si nemyslím, že by se to dělalo hanebně, mytí umělé inteligence může vést ke skepsi a nedůvěře mezi spotřebiteli a zúčastněnými stranami, což snižuje uznání a důvěru ve skutečné pokroky umělé inteligence, které přicházejí v potrubí.

ZDNET: Jaké jsou dlouhodobé důsledky mytí AI pro podniky a spotřebitele?

LY: Firmy mají skutečný strach z promeškání (FOMO). Rizikem praní AI je, že může odvést pozornost a zdroje managementu od praktických inovací AI. Namísto investic do vývoje smysluplných schopností umělé inteligence mohou být poskytovatelé vedeni k zavádějícím investicím nebo povrchním vylepšením, která zpomalují skutečný pokrok, kterého by s technologií mohli dosáhnout.

Podnikům na straně příjemce komplikuje mytí AI rozhodování. Tyto podniky mohou mít problémy s identifikací skutečně hodnotných řešení umělé inteligence uprostřed hluku, což může vést k promarněným investicím do nedostatkových technologií. To může bránit úsilí o digitální transformaci, potlačovat inovace a ohrozit výkonnost podniku.

Jak poskytovatelé, tak firemní uživatelé mohou těžit ze spolupráce s důvěryhodnými partnery pro umělou inteligenci, kteří podnikají proaktivní kroky k zodpovědnému používání umělé inteligence, ale také přistupují eticky k poradenství ohledně správného výběru umělé inteligence.

Dopad mytí AI na spotřebitele zasáhne blíže k domovu: rizika pro zabezpečení dat a soukromí způsobená špatně navrženou technologií AI a podprůměrné uživatelské zkušenosti nebo rozčarování z technologie, která nesplňuje očekávání kvality. Spotřebitelé budou hledat značky, kterým důvěřují, technologie a tvarové faktory, které jim v minulosti dobře sloužily, příležitosti školení a učení, aby byla umělá inteligence přístupnější, a transparentnost od svých prodejců ohledně používání umělé inteligence.

ZDNET: Jak mohou společnosti zajistit, aby jejich tvrzení o AI byla přesná a eticky správná?

LY: Za prvé je důležité si uvědomit, že zavádění účinných generativních řešení AI do organizace není snadné a škálování může být vyloženě obtížné. Ve srovnání s vyspělostí AI lidí, procesů a bezpečnostní politiky organizace může být přijetí technologie dokonce tou nejméně náročnou částí.

Globální studie společnosti Lenovo týkající se CIO ve skutečnosti ukázala, že 76 % CIO tvrdí, že jejich organizace nemají firemní politiku připravenou na AI pro provozní nebo etické využití. Existuje jen málo stříbrných odrážek nebo rychlých oprav, takže je důležitým krokem uvědomit si, že se jedná o postupný proces a důležité informace pro zákazníky. Poskytovatelé služeb umělé inteligence by měli být transparentní ohledně toho, jaké nástroje, data a metody se používají, a společnosti by měly zvážit vytvoření vlastních zásad umělé inteligence s postojem k používání.

Vlastní procesy společnosti Lenovo jsou zaměřeny na zajištění bezpečného, etického a zodpovědného vývoje a používání AI a tyto osvědčené postupy podporují naši práci se zákazníky na jejich cestách za přijetím AI.

ZDNET: Jak podkopává mytí AI skutečný transformační potenciál technologie AI?

LY: Mytí pomocí umělé inteligence může splést přikrášlenou [s] realitou. Tím se udržuje riziko únavy z umělé inteligence, která by v souhrnu prohloubila „propasti deziluze“ a bránila pokroku a investicím do skutečné inovace AI.

Proto věřím, že je důležité zaujmout praktický a pragmatický přístup k implementacím AI. Zhoršujeme nedůvěru a negativní účinky AI propírání, když je AI považováno za abstraktní koncept bez hmatatelných výsledků.

Ve společnosti Lenovo nám jde především o poskytování smysluplných obchodních výsledků s osvědčenými praktickými zkušenostmi a o propojení nasazení technologií, jako je AI, přímo s těmito výsledky.

ZDNET: Jaké strategie mohou podniky použít ke komunikaci o AI způsobem, který odpovídá jejich skutečným schopnostem a úspěchům?

LY: Podniky by se měly zaměřit na zasílání zpráv založených na faktech, transparentnost, vzdělávání a případy použití v reálném světě, aby mohly přesně komunikovat své schopnosti AI. Sdílejte konkrétní metriky, případové studie a příklady ze skutečného světa, které demonstrují dopad umělé inteligence na vaše podnikání a váš talent. Buďte transparentní ohledně procesu vývoje, zdrojů dat a rozhodování.

Ve společnosti Lenovo věříme, že praktické zkušenosti jsou klíčové, a přizpůsobili jsme desítky případů použití v reálném světě s hmatatelnými obchodními výsledky, abychom to ukázali. Když jste do spodního řádku dodali miliony dolarů, není potřeba AI mytí - osvědčené metody a měřitelný dopad mluví samy za sebe.

ZDNET: Jakou roli hraje transparentnost při budování důvěry v iniciativy AI ve firmách?

LY: Transparentnost je základním kamenem důvěry v iniciativy AI. Demystifikuje technologii, uvádí do souladu očekávání s realitou a přivádí lidi jako zastánce spíše než skeptiky. Tato otevřenost nejen uklidňuje zúčastněné strany, ale také podporuje informovanou spolupráci, podporuje inovace a důvěru ve skutečné schopnosti umělé inteligence.

ZDNET: Můžete prodiskutovat nějaká konkrétní opatření, která Lenovo přijalo, aby se ve své komunikaci a postupech vyhnulo praní AI?

LY: Ve společnosti Lenovo demonstrujeme naši transparentnost v praxi tím, že umožňujeme zúčastněným stranám vidět skutečný dopad umělé inteligence z první ruky - ať už je to v kontaktním centru, ve výrobě nebo v prodejním centru. Důvěru v naše řešení a metody umělé inteligence posilujeme prostřednictvím přímé uživatelské zkušenosti.

Lenovo nasazuje AI v našem vlastním IT prostředí již více než deset let a naše kultura pití vlastního šampaňského se táhne desítky let předtím, takže to pro nás není nic nového!

ZDNET: Jak Lenovo řeší etické aspekty související s vývojem a zaváděním řešení AI?

LY: AI mění obchodní prostředí a Lenovo si uvědomuje důležitost AI, která je implementována bezpečně a zodpovědně. V loňském roce Lenovo zřídilo Responsible AI Committee, skupinu zaměstnanců zastupujících různá prostředí napříč pohlavím, etnickou příslušností a zdravotním postižením. Společně revidují interní produkty a externí partnerství s využitím základních principů diverzity a začlenění, soukromí a bezpečnosti, odpovědnosti a spolehlivosti, vysvětlitelnosti, transparentnosti a environmentálního a sociálního dopadu.

Uplatňujeme skutečnou přísnost na naše vlastní řešení i na práci našich partnerů, kde je prioritou rozmanitost, rovnost a začlenění (DEI). K vyhodnocení zkreslení dat a identifikaci dílčích populací, které mohou být nedostatečně zastoupeny nebo nějak segmentovány, používáme specializované nástroje. Jedním z takových nástrojů je AI Fairness 360, software s otevřeným zdrojovým kódem, který vyhodnocuje algoritmy umělé inteligence a trénovací data ke zmírnění zkreslení.

ZDNET: Jaké jsou některé běžné mylné představy o umělé inteligenci, které přispívají k mytí umělé inteligence, a jak je lze řešit?

LY: Promluvme si o třech mýtech:

Mýtus: AI dokáže vyřešit jakýkoli problém a okamžitě přináší obrovskou návratnost investic.

Realita: AI vyniká ve specifických úkolech, ale žádný algoritmus není univerzálním řešením. Jeho výhody obecně narůstají v průběhu času s pečlivým opakováním. Řešíme to naší strategií zaměřenou na lidi, abychom zúčastněné strany poučili o silných stránkách a omezeních umělé inteligence, zdůrazňovali naše vlastní praktické zkušenosti s nasazováním umělé inteligence a skutečné případy použití, které v průběhu času při začleňování poznatků nadále narůstají návratnost investic.

Mýtus: AI funguje autonomně bez lidského dohledu.

Realita: Většina řešení AI, zejména s generativní AI, vyžaduje úroveň správy pro efektivní implementaci a etické využití. Naše strategie zaměřená na lidi zde opět vstupuje do hry tím, že staví lidi do smyčky jako odborníky, kteří vedou používání AI a interpretují její výsledky.

Mýtus: Více dat znamená lepší AI.

Realita: Kvalita a relevance vašeho souboru dat jsou důležitější než samotný objem. Naše praxe služeb AI pomáhá zákazníkům posoudit připravenost jejich dat pro AI a zajistit, aby jejich datové statky byly schopny dosahovat obchodních výsledků, které si přejí. Pokud ne, naše datové služby vám je pomohou dostat.

ZDNET: Jaká jsou potenciální rizika neřešení AI praní v technologickém průmyslu? Jak mohou průmyslové normy a předpisy pomoci zmírnit rizika spojená s mytím pomocí umělé inteligence?

LY: Průmyslové standardy hrají důležitou roli při zmírňování mytí AI. Začátkem tohoto roku Lenovo podepsalo doporučení UNESCO o etice umělé inteligence, závazek „předcházet, zmírňovat nebo napravovat“ nepříznivé účinky umělé inteligence, kromě konkrétních opatření k nápravě problémů v řešeních umělé inteligence, která již mohla být spuštěna. na trhu.

Letos v květnu jsme se připojili k Dobrovolnému kodexu chování kanadské vlády pro odpovědný vývoj a správu pokročilých generativních systémů umělé inteligence. Jedná se o důležité závazky, které činí průmysl zodpovědným nejen za bezpečné a etické používání AI, ale [také] za její vysvětlitelnost a transparentnost.

ZDNET: Jaké budoucí trendy předpovídáte v oblasti etiky a správy AI?

LY: Etika a správa umělé inteligence se budou i nadále vyvíjet a zpřísňovat a podniky, které jsou v čele zavádění umělé inteligence, budou muset podniknout rozhodné kroky, aby navedly zbytek odvětví k etickému a odpovědnému používání umělé inteligence. Konkrétně se podívejme na tři oblasti.

1. Přísnější předpisy a odpovědnost: Podniky budou muset dodržovat stále komplexnější předpisy o ochraně osobních údajů, předpojatosti a etickém použití. Zavedou jasnější odpovědnost - prostřednictvím ředitelů AI, ředitelů odpovědnosti nebo jinak - a budou zavedeny podnikové zásady, které zajistí odpovědné postupy AI. Pravděpodobně budou vyhledávat důvěryhodné poradce AI, kteří by jim pomohli definovat, porovnávat a implementovat tyto zásady.

2. Etické pokyny a transparentnost: Průmysl bude směřovat ke standardizovaným etickým zásadám. Organizace budou vyžadovat transparentnost a poskytovat jasnou dokumentaci procesů školení, testování a ověřování modelů AI. Více budou využívány nezávislé audity a certifikace.

3. Spravedlivá a etická umělá inteligence již od návrhu: Společnosti se zaměří na zmírnění zkreslení, začlenění technik spravedlivosti a pravidelné audity do vývoje AI. Etická hlediska budou začleněna od začátku, aby bylo zajištěno, že problémy budou řešeny v průběhu životního cyklu AI. První uživatelé, jako je Lenovo, budou podporovat toto úsilí, vést podniky k přijetí osvědčených postupů a podporovat důvěryhodné a etické prostředí umělé inteligence.

co myslíš? Poskytla vám Lindina doporučení nějaké nápady, jak zajistit kvalitní implementace umělé inteligence s transparentností a solidním řízením? Dejte nám vědět v komentářích níže.

Moje každodenní aktualizace projektu můžete sledovat na sociálních sítích. Nezapomeňte se přihlásit k odběru mého týdenního zpravodaje a sledujte mě na Twitteru/X na @DavidGewirtz, na Facebooku na Facebook.com/DavidGewirtz, na Instagramu na Instagram.com/DavidGewirtz a na YouTube na YouTube.com/DavidGewirtzTV.