Uháníte ke generativnímu přijetí AI? Proč je skepse vaší nejlepší ochranou
Podle nové studie společnosti Gartner 55 % podniků buď pilotuje, nebo je v produkčním režimu s generativními nástroji AI.
Vzhledem k tomu, že některé organizace přecházejí v zavádění generativní umělé inteligence (AI), je důležité, aby tak učinily a zároveň zmírnily potenciální rizika a s určitou mírou skepse.
Jak to je, 45 % podniků v současné době pilotuje generativní AI, zatímco 10 % již takové nástroje má ve výrobě, odhalila studie Gartner zveřejněná v úterý. Průzkum se dotazoval 1 419 vedoucích pracovníků během webináře minulý měsíc, aby diskutovali o obchodních nákladech a rizicích generativní umělé inteligence.
Tato čísla jsou výrazně vyšší než v předchozím průzkumu, který společnost Gartner provedla v březnu a dubnu tohoto roku, během něhož 15 % uvedlo, že technologii pilotovalo a pouze 4 % měla tyto nástroje ve výrobě.
V posledním průzkumu přibližně 78 % uvedlo, že výhody generativní umělé inteligence převažují nad jejími riziky, což je více než 68 %, kteří si totéž mysleli v dřívějším průzkumu.
Gartner poznamenal, že 45 % podniků zvyšovalo své investice do generativní umělé inteligence napříč různými funkcemi, přičemž 22 % tak činilo alespoň ve třech různých funkcích. Investice nebo přijetí generativní umělé inteligence do vývoje softwaru dosáhly nejvyšší míry, 21 %, následované marketingem a zákaznickým servisem s 19 % a 16 %.
„Organizace nemluví jen o generativní umělé inteligenci - investují čas, peníze a zdroje, aby ji posunuly vpřed a řídily obchodní výsledky,“ řekla Frances Karamouzis, vedoucí výzkumu skupiny Gartner a uznávaná analytička, a poznamenala, že 55 % organizací zvýšili své investice do generativní umělé inteligence od doby, kdy se před 10 měsíci objevila ve veřejné doméně.
„Vedení pracovníci zaujímají ke generativní umělé inteligenci odvážnější postoj, protože vidí hluboké způsoby, jak může řídit inovace, optimalizaci a narušení,“ řekl Karamouzis. "Vůdci obchodu a IT chápou, že přístup "počkejte a uvidíme" je riskantnější než investice."
Když je potřeba pochybovat
Pokud by se však podniky rozhodly pokročit vpřed, měly by mít zaveden rámec, který zajistí, že přijímají generativní umělou inteligenci zodpovědně a eticky.
Měla by platit i určitá míra skepse, včetně nástrojů používaných ke zjištění, kdy byla použita umělá inteligence, řekla Kathy Baxter, hlavní architektka odpovědné umělé inteligence na Salesforce.com.
Baxter poznamenal, že technologie se demokratizovala a umožňuje komukoli používat generativní umělou inteligenci bez mnoha zábradlí. Ale zatímco mnoho organizací odvádí slušnou práci ve snaze odstranit toxický obsah a nadále do tohoto úsilí investuje, stále ještě není mnoho pochopení pro to, „jak velké zrnko soli by se mělo brát s ohledem na AI- generovaný obsah.
Uživatelé považují veškerý takový obsah za fakt, i když je vymyšlený, řekl Baxter v rozhovoru pro ZDNET a poznamenal, že i nástroje pro detekci AI mohou být v některých případech špatné, ale mohou být vždy považovány za přesné. Takové vnímání může mít nepříznivý dopad, když se generativní umělá inteligence a související nástroje používají v některých oblastech, jako je vzdělávání, kde mohou být studenti neprávem obviňováni z používání umělé inteligence ve své práci.
Vyjádřila své znepokojení nad těmito riziky a vyzvala každého jednotlivce nebo organizaci používající generativní umělou inteligenci, aby tak činila s „dostatkem skepticismu“.
Stejně jako ostatní v oboru zopakovala potřebu dostatečných ochranných zábradlí, aby byla AI přesná a bezpečná. Dodala, že by také pomohlo, kdyby byla nasazení zavedena spolu s nástroji pro zmírnění rizik. Ty mohou zahrnovat funkce detekce a hlášení chyb a mechanismy pro shromažďování a poskytování zpětné vazby od lidí.
Uzemnění AI je také kritické, řekla a zdůraznila důležitost dat používaných k trénování modelů AI. Ne mnoho organizací však má dobrou hygienu dat, poznamenala.
Podle zprávy C-Suite Global AI Indicator Report vydané minulý měsíc označila svá data za plně dostupná pouze 4 % vedoucích firem a technologií. Studie zadaná společností Workday se dotazovala 2 355 vedoucích pracovníků v Asii a Tichomoří, Japonsku, Severní Americe a EMEA, kteří vedli různé funkce a zahrnovali generální ředitele, CIO a finanční ředitele.
Více než polovina respondentů, 59 %, označila svá data za poněkud nebo úplně nefunkční, zjistil průzkum.
Zatímco 98 % věří, že nasazení umělé inteligence a strojového učení bude mít okamžitý obchodní přínos, 49 % uvedlo, že jejich organizace na to není připravena kvůli nedostatku nástrojů, dovedností a znalostí.
Přibližně 43 % vyjádřilo obavy ohledně důvěryhodnosti umělé inteligence a strojového učení, přičemž 67 % generálních ředitelů poukázalo na potenciální chyby jako na nejvyšší riziko zavedení umělé inteligence a strojového učení.
K vybudování důvěry je potřeba větší transparentnost, ale utajovaná data znemožňují vůdcům opřít se. 59 % z dotázaných organizací uvedlo, že jejich data jsou poněkud nebo úplně utajovaná. Pouze 4 % všech respondentů uvedla, že jejich data jsou plně dostupná.
CTO Workday Jim Stratton řekl: "Navzdory určité nejistotě jsou lídři optimističtí, že umělá inteligence a strojové učení rozšíří jejich pracovní sílu a zvýší produktivitu. Důvěra je prvořadá pro přijetí těchto výhod a budování důvěry vyžaduje správný datový základ a odhodlání ke správě."
Stratton vyzval organizace, aby při implementaci umělé inteligence upřednostňovaly kvalitu dat a transparentnost, aby mohly využívat výhod této technologie.