Nezapomínejte na mezeru důvěry: Problémy s daty vedou k opatrnosti zákazníků ohledně generativní umělé inteligence

Obecný nedostatek důvěry v zabezpečení dat a soukromí brání organizacím v tom, aby se plně zapojily do generativní umělé inteligence.

Generativní umělá inteligence (AI) je pro organizace prosazována jako nezbytná k zajištění jejich tržní relevance, ale někteří stále váhají, zda se ponořit do obav o data a důvěru.

Tyto problémy jsou zvláště důležité pro podniky, které působí v odvětvích s přísnými pravidly pro správu dat a velkou zákaznickou základnou, což je nutí čekat na čas s přijetím generativních nástrojů umělé inteligence navzdory jejich propagovaným výhodám.

Schopnost generovat zprávy o prodeji například pomocí výzvy, místo abyste se museli ručně pohrávat s tabulkami, nabízí zajímavý potenciál pro generativní nástroje umělé inteligence, jako je Einstein Copilot od Salesforce, řekl Sarwar Faruque, vedoucí vývojových operací v Jollibee Foods Corporation. Provozovatel filipínského řetězce restaurací používá Heroku společnosti Salesforce k vytváření svých aplikací a Mulesoft jako middleware pro propojení svých aplikací, včetně ERP a systémů pro správu objednávek.

Jollibee má 15 000 zaměstnanců a provozuje téměř 4 000 obchodů po celém světě ve 34 zemích. Její aplikace běží převážně na cloudu, takže s výjimkou malého intranetu neudržuje vlastní datová centra.

Faruque také vidí potenciál pro využití umělé inteligence ve výrobě, kde může zvýšit efektivitu výroby a montáže. Umělá inteligence může například pomoci sledovat kvalitu potravin a předpovídat poptávku.

Jeho zájem o potenciální využití AI však zůstává omezen na backendové operace. Faruque je skálopevně přesvědčen o tom, že generativní umělá inteligence se bude vyhýbat interakcím se zákazníky a operacím orientovaným na zákazníky - alespoň prozatím.

Vzhledem k tomu, že technologie je stále v plenkách, je stále mnoho věcí, které je třeba pochopit a propracovat, poznamenal.

"Vidíme výstup [a odezvy], které generuje, ale ve skutečnosti nechápeme, jak se [dostalo k odpovědi]," řekl. "Tady je černá skříňka... je třeba ji demystifikovat. Chci vědět, jak to funguje, jak dospěla ke své odpovědi a jestli je tato odpověď opakovatelná [při každém položení otázky]."

V současné době tomu tak není, řekl a dodal, že riziko halucinací je také problémem. A při absenci bezpečnostního incidentu se málo ví o tom, zda existují nějaké inherentní problémy s kybernetickou bezpečností, které je třeba vyřešit, poznamenal.

"Právě teď je tu spousta marketingu [hype]," řekl Faruque a dodal, že nestačí jednoduše mluvit o "důvěře", aniž bychom uvedli podrobnosti o tom, co přesně to znamená.

Vyzval dodavatele AI, aby vysvětlili, jak se tvoří jejich velké jazykové modely, jaká data spotřebovávají a co přesně dělají, aby generovali odpovědi. "Musí se přestat chovat jako kouzlo [když] je spuštěn kód a je za tím věda," řekl. "Pomozte nám to pochopit [protože] neradi přijímáme technologii, které dostatečně nerozumíme."

Zdůraznil potřebu odpovědnosti a transparentnosti spolu se zárukami, že data zákazníků použitá k trénování modelů umělé inteligence nebudou zveřejněna. To je zásadní zejména pro organizace, které potřebují dodržovat předpisy o ochraně osobních údajů ve své místní jurisdikci.

Dokud nebudou tyto problémy vyřešeny, řekl, že není ochoten vystavovat data svých zákazníků riziku.

Důvěra je také něco, co singapurské ministerstvo obchodu a průmyslu (MTI) bere vážně, konkrétně z hlediska ochrany osobních údajů a bezpečnosti. Pod ministerstvem sídlí deset vládních agentur, včetně EDB a Singapore Tourism Board.

Zejména data ministerstva musí být uchovávána v Singapuru, a to se ukazuje jako velká překážka při zajišťování bezpečnosti dat a správy, uvedla ředitelka pro informační technologie Sharon Ng z rodiny MTI. Znamená to, že jakákoli umělá inteligence a velké jazykové modely, které používá, by měly být hostovány ve vlastním prostředí, dokonce i ty, které provozují američtí prodejci, jako je platforma Einstein Copilot společnosti Salesforce.

Stejně jako Faruque, Ng také zdůraznila potřebu transparentnosti, zejména podrobnosti o tom, jak bezpečnostní vrstva funguje, včetně toho, jaký druh šifrování se používá a zda jsou data uchovávána, poznamenala.

Její tým v současné době zkoumá, jak mohou generativní nástroje umělé inteligence, včetně nástrojů Salesforce, prospět ministerstvu, které zůstává otevřené používání různých modelů umělé inteligence a velkých jazykových modelů, které jsou na trhu k dispozici. To by bylo méně nákladné než vytváření vlastních modelů a zkrátilo by to dobu uvedení na trh, řekla.

Použití jakéhokoli modelu umělé inteligence by však stále podléhalo důvěře a bezpečnostním úvahám, poznamenala. MTI v současné době provozuje generativní pilotní projekty umělé inteligence, jejichž cílem je zlepšit provozní efektivitu a usnadnit pracovní úkoly ve všech jejích agenturách.

Pro Singapore telco M1 je poskytování lepších služeb zákazníkům jasným KPI pro generativní AI. Stejně jako u MTI a Jollibee je však kritická shoda s daty a důvěra, řekl Jan Morgenthal, hlavní digitální ředitel M1. Telco v současné době spouští ověřování konceptů, aby vyhodnotilo, jak může generativní AI zlepšit interakce jeho chatbota se zákazníky a zda může podporovat další jazyky kromě angličtiny.

To znamená pracovat s dodavateli, abychom zjistili parametry a pochopili, kde jsou nasazeny velké modely jazyků a AI, řekl Morgenthal. Podobně jako MTI a Jollibee, i M1 musí splňovat předpisy, které vyžadují, aby některá z jejích dat, včetně dat hostovaných na cloudových platformách, byla umístěna na místním trhu.

To vyžaduje školení modelů umělé inteligence, které se mají provádět v síťovém prostředí M1, řekl.

Singapurská telco také musí být opatrná ohledně dat používaných k trénování modelů a generovaných odpovědí, které by měly být testovány a ověřeny, řekl. Ty je třeba nejen zkontrolovat podle pokynů stanovených prodejcem, jako je Trust Layer Salesforce, ale také podle mantinelů, které má mateřská společnost M1 Keppel.

Řešení generativní mezery v důvěře AI

Takové úsilí se ukáže jako kritické při klesající důvěře v používání AI.

Podle průzkumu Salesforce zveřejněného minulý měsíc jsou organizace i spotřebitelé nyní méně otevření používání AI než dříve. Přibližně 73 % obchodních kupujících a 51 % spotřebitelů je vnímavých k technologii, která se používá ke zlepšení jejich zkušeností, což je pokles z 82 % a 65 % v roce 2022.

A zatímco 76 % zákazníků důvěřuje podnikům, že uvádějí čestná tvrzení o svých produktech a službách, méně než 57 % jim věří, že používají AI eticky. Dalších 68 % se domnívá, že díky pokrokům v oblasti umělé inteligence je pro společnosti důležitější, aby byly důvěryhodné.

Propast v důvěře je závažný problém a obavy organizací, řekl Tim Dillon, zakladatel a ředitel společnosti Tech Research Asia, s poukazem na odpor, který společnost Zoom zaznamenala, když změnila své podmínky služby a poskytla jí právo používat video a zvuk svých uživatelů. a chatovací data pro trénování modelů umělé inteligence.

Prodejci generativní AI by se chtěli podobnému scénáři vyhnout, řekl Dillon v rozhovoru pro ZDNET na okraj Dreamforce 2023, který se tento týden konal v San Franciscu. Hráči na trhu, jako jsou Salesforce a Microsoft, se snaží zaplnit mezeru v důvěře, což je podle něj pozitivní krok vpřed.

Kromě řešení otázek důvěry by se organizace, které plánují zavést generativní AI, měly také zaměřit na implementaci řízení změn, poznamenal Phil Hassey, generální ředitel a zakladatel výzkumné firmy CapioIT.

Toto je oblast, která je často vynechána z diskuse, řekl Hassey ZDNET. Organizace musí zjistit náklady a dovednosti, které potřebují získat, a role, které je třeba rekvalifikovat v důsledku zavedení generativní umělé inteligence.

Správná strategie řízení změn je klíčem k zajištění hladkého přechodu a udržení talentů, řekl.

Eileen Yu se sídlem v Singapuru podala zprávu pro ZDNET z Dreamforce 2023 v San Franciscu na pozvání Salesforce.com.