3 největší rizika generativní umělé inteligence - a jak se s nimi vypořádat
Stále více podniků se snaží prozkoumat generativní umělou inteligenci, ale budou muset zajistit, aby rizika zvládly dříve než později.
Někdy se zdá, že všichni všude fušují do generativní umělé inteligence (AI). Od vývojářů, kteří produkují kód, až po marketéry, kteří vytvářejí obsah, lidé ve všech druzích rolí hledají způsoby, jak zvýšit svou produktivitu pomocí vznikajících technologií.
Spěch k využití výhod AI znamená, že analytik Gartner věří, že více než 80 % podniků bude do roku 2026 používat generativní rozhraní pro programování aplikací AI, modely a software v produkčních prostředích.
Ale stojí za to připomenout, že navzdory humbuku spojenému s generativní AI mnoho podniků s touto technologií nefandí - alespoň ne oficiálně.
Generativní umělá inteligence je pro většinu firem stále ve fázi průzkumu, přičemž společnost Gartner uvádí, že technologii ve výrobě používá méně než 5 % podniků.
Lily Haake, vedoucí technologie a digitálního vyhledávání manažerů u náboráře Harvey Nashe, ve videochatu se ZDNET říká, že její práce s klienty naznačuje, že projekty velkého třesku AI jsou prozatím mimo pořad jednání.
„Vidím opravdu působivé malé pilotní projekty, jako jsou právní klienti, kteří používají AI ke generování dokumentů ke skenování hromady případů a zvyšují produktivitu lidí,“ říká. "Všechno je to velmi vzrušující a pozitivní. Ale je to v malém měřítku. A to proto, že moji klienti, jak se zdá, nezkoumají generativní umělou inteligenci v tak velkém měřítku, aby byla transformativní pro celý byznys."
Namísto používání umělé inteligence ke změně organizačních operací a zlepšení zákaznických služeb většina digitálních lídrů experimentuje na okrajích podniku, než přemýšlejí o tom, jak přenést nové generativní služby do jádra.
Avšak to, že firma nenařídila použití generativní umělé inteligence, neznamená, že profesionálové již tuto technologii nepoužívají - ať už s tím šéfem nebo bez něj.
Výzkum technologického specialisty O'Reilly naznačuje, že 44 % IT profesionálů již používá AI při své programátorské práci a 34 % s ní experimentuje. Téměř třetina (32 %) IT profesionálů používá AI pro analýzu dat a 38 % s ní experimentuje.
Mike Loukides, autor zprávy, říká, že O'Reilly je překvapen úrovní adopce.
Ale zatímco Loukides popisuje růst generativní umělé inteligence jako „výbušný“, říká Loukides, že by podniky mohly sklouznout do „zimy s umělou inteligencí“, pokud budou ignorovat rizika a nebezpečí, která s sebou přináší uspěchané přijetí této technologie.
To je názor, který rezonuje s Avivahem Litanem, uznávaným VP analytikem společnosti Gartner, který naznačuje, že CIO a jejich kolegové z C-suite si nemohou dovolit jen sedět a čekat.
„Musíte řídit rizika dříve, než oni zvládnou vás,“ říká v individuálním video rozhovoru pro ZDNET.
Litan říká, že Gartner se nedávno na webináři dotazoval více než 700 vedoucích pracovníků na rizika generativní umělé inteligence a zjistil, že CIO se nejvíce zajímají o soukromí dat, následují halucinace a pak bezpečnost.
Podívejme se postupně na každou z těchto oblastí.
1. Rizika ochrany soukromí a dat
CIO a další vyšší manažeři, kteří implementují podnikovou verzi generativní umělé inteligence, pravděpodobně pošlou svá data do hostovaných prostředí jejich dodavatele.
Litan uznává, že takové uspořádání není nic nového - organizace posílají data do cloudu a poskytovatelům softwaru jako služby již deset let nebo déle.
Ředitelé IT se však domnívají, že umělá inteligence zahrnuje jiný druh rizika, zejména pokud jde o to, jak prodejci ukládají a používají informace, například pro trénování vlastních velkých jazykových modelů.
Litan říká, že Gartner dokončil podrobnou analýzu mnoha IT prodejců, kteří nabízejí služby s umělou inteligencí.
„Základem ochrany dat je, že pokud používáte nadační model třetí strany, je to všechno o důvěře, ale nemůžete to ověřit,“ říká. "Musíte tedy věřit, že dodavatelé mají zavedeny dobré bezpečnostní postupy a vaše data neuniknou. A všichni víme, že v cloudových systémech dochází k chybám. Pokud vaše důvěrná data uniknou, prodejci za to nenesou odpovědnost - budeš."
2. Vstupní a výstupní rizika
Kromě hodnocení rizik ochrany dat napříč externími procesy si organizace musí být vědomy toho, jak zaměstnanci využívají data v generativních aplikacích a modelech umělé inteligence.
Litan říká, že tyto druhy rizik zahrnují nepřijatelné použití dat, které může ohrozit rozhodovací proces, včetně otálení s důvěrnými vstupy, vytváření nepřesných halucinací jako výstupů a využívání duševního vlastnictví od jiné společnosti.
Přidejte etické problémy a obavy, že modely mohou být zaujaté, a obchodní lídři čelí souběhu vstupních a výstupních rizik.
Litan říká, že manažeři, kteří řídí zavádění generativní umělé inteligence, musí zajistit, aby lidé v celém podniku nic nepovažovali za samozřejmost.
"Musíte se ujistit, že používáte data a generativní umělou inteligenci způsobem, který je pro vaši organizaci přijatelný; nerozdáváte klíče od svého království a že to, co se vrací, je prověřeno na nepřesnosti a halucinace." " ona říká.
3. Nová rizika kybernetické bezpečnosti
Podniky se každodenně potýkají s řadou rizik kybernetické bezpečnosti, jako jsou hackeři, kteří získají přístup k podnikovým datům kvůli zranitelnosti systému nebo chybě zaměstnance.
Litan však říká, že AI představuje jiný vektor hrozby.
"Jsou to nová rizika," říká. "Existují rychlé injekční útoky, útoky na vektorové databáze a hackeři mohou získat přístup ke stavům a parametrům modelu."
Zatímco potenciální rizika zahrnují ztrátu dat a peněz, útočníci by se také mohli rozhodnout manipulovat s modely a vyměnit dobrá data za špatná.
Litan říká, že tento nový vektor hrozeb znamená, že podniky se nemohou vypořádat s novými riziky jednoduše pomocí starých, osvědčených opatření.
"Útočníci mohou modelku otrávit," říká. "Budete muset dát zabezpečení kolem modelu a je to jiný druh zabezpečení. Ochrana koncových bodů vám nepomůže s ochranou datového modelu."
Co teď musí vaše firma udělat
Tato kombinace rizik plynoucích z generativní umělé inteligence se může pro CIO a další vedoucí pracovníky zdát jako neřešitelná výzva.
Litan však říká, že existují nová řešení, která se vyvíjejí stejně rychle, jako se objevují rizika a příležitosti spojené s generativní AI.
"Nemusíš tam sedět a panikařit," říká.
"Existuje nový trh, který se vyvíjí. Jak si dokážete představit, když jsou problémy, existují podnikatelé, kteří chtějí na těchto problémech vydělat."
Dobrou zprávou je, že fungující řešení jsou na cestě. A zatímco se technologický trh usadí, Litan říká, že by se obchodní lídři měli připravit.
„Základní rada, kterou dáváme ředitelům IT, je: „Udělejte si pořádek a poté definujte zásady přijatelného používání. Ujistěte se, že jsou vaše data klasifikována a máte správu přístupu,“ říká.
„Nastavte systém, do kterého mohou uživatelé posílat žádosti o své aplikace, víte, jaká data používají, správní lidé tyto požadavky schvalují a dvakrát ročně kontrolujete proces, abyste se ujistili, že je vynucován správně. Stačí vzít generativní umělou inteligenci krok za krokem."