Při implementaci umělé inteligence nejprve vyškolte své manažery

Firmy se vrhají na GenAI, než zavedou adekvátní systémy řízení, což by mohlo vést k vážným problémům s kvalitou a dodržováním předpisů.

Zavedení umělé inteligence do organizace vyžaduje více než jen pracovní znalosti AI - toto je pouze první krok. Nedávný průzkum ukazuje, že většina organizací a jejich IT oddělení - zejména manažeři a manažeři, kteří kontrolují zdroje, aby mohli věci posouvat vpřed - jednoduše ještě nejsou připraveni zvládnout AI. Navíc ještě nejsou k dispozici potřebné dovednosti, nástroje a řešení.

Podle průzkumu 1 600 osob s rozhodovací pravomocí v oblasti IT, které zveřejnila společnost SAS, ještě vedoucí IT oddělení nechápou důsledky AI. Devět z 10 vedoucích pracovníků s rozhodovací pravomocí v oblasti technologií (93 %) připouští, že plně nerozumí generativní umělé inteligenci (GenAI) nebo jejímu potenciálnímu dopadu na obchodní procesy.

Vedoucí pracovníci zoufale potřebují být vychováni. Méně než polovina (45 %) CIO v průzkumu a něco málo přes třetinu (36 %) CTO se považují za „extrémně obeznámené“ s přijetím GenAI ve svých organizacích. Ještě horší je, že pouze 13 % šéfů digitálních technologií přiznává, že jsou důvěrně obeznámeni s umělou inteligencí.

Je to ještě horší: Pouze 4 % vedoucích IT nebo informačních systémů tvrdí, že jsou extrémně obeznámeni s AI, spolu s pouze 2 % IT manažerů nebo ředitelů.

Celkově pouze 7 % poskytuje vysokou úroveň školení o celkovém řízení a monitorování AI a dalších 15 % poskytuje takovou pomoc pro generativní AI. To je zásadní, protože 75 % respondentů se obává o soukromí a zabezpečení dat, když se v jejich organizaci používá GenAI.

To znamená, že překonání problémů, které by mohly vykolejit implementace umělé inteligence, může vyžadovat čas spolu s velkým množstvím vzdělání a analýz. Například pouze 5 % má zavedený spolehlivý systém pro měření zkreslení a rizika ochrany soukromí ve velkých jazykových modelech. Dalších 42 % zvažuje vyvinout vlastní funkce pro zjišťování rizik v oblasti ochrany soukromí a 32 % zvažuje vývoj vlastních funkcí pro detekci zkreslení.

Pouze 29 % má nepřetržité automatické monitorování svých generativních implementací AI. Pouze 25 % provádí pravidelné manuální audity svých výstupů AI.

„Ideální investice GenAI nabízí jasné příležitosti pro efektivitu a lepší zákaznickou zkušenost, ale mnoho organizací uvádí mezery ve strategickém myšlení, které ovlivňují úspěšné zavedení,“ uvádějí spoluautoři zprávy. "Náš průzkum ukazuje, že podniky se vrhají na GenAI, než zavedou adekvátní systémy řízení, což by později mohlo vést k vážným problémům s kvalitou a dodržováním předpisů."
Integrace AI do stávajících procesů a systémů je také zdrojem problémů. "Mnoho společností má potíže s integrací technologie se svými stávajícími úkoly a nástroji," uvádějí autoři průzkumu. Navíc téměř polovina (47 %) osob s rozhodovací pravomocí uvádí, že nemají vhodné nástroje k implementaci GenAI.

Zde jsou hlavní problémy, se kterými se organizace používající AI setkávají:

• 48 % uvádí, že mají problémy s efektivním využíváním veřejných i proprietárních datových souborů.
• 45 % uvádí absenci vhodných nástrojů.
• 42 % uvádí, že se potýkají s problémy při přechodu generativní umělé inteligence z koncepční fáze do praktického použití.
• 39 % uvádí, že mají problémy s kompatibilitou se současnými systémy.

Průzkum ukazuje, že kritická poptávka je také po interních znalostech umělé inteligence. Polovina organizací (51 %) se obává, že nemají vlastní dovednosti k efektivnímu využívání technologie. Přibližně čtyři z 10 respondentů (39 %) uvedli, že shledali nedostatečnou interní odbornost jako překážku implementace GenAI.

Autoři průzkumu poukazují na následující mandáty spojené s úspěšnými projekty AI:

• Integrace AI: Potřeba „bezproblémově integrovat modely GenAI do pracovních postupů rozhodování, aplikací AI a strojového učení a stávajících obchodních procesů pomocí nástrojů pro tok rozhodování, jako je inteligentní rozhodování.“
• Ochrana dat: „Zajistěte soukromí a zabezpečení uživatelů pomocí robustních opatření na kvalitu dat - včetně generování syntetických dat, minimalizace dat, anonymizace a šifrování - která poskytují ochranu citlivých informací.“
• Důvěryhodné a vysvětlitelné výsledky: „Datoví experti mohou použít techniky zpracování přirozeného jazyka k předběžnému zpracování dat, vysvětlit generovaný výstup snadno srozumitelnými termíny, minimalizovat halucinace a snížit náklady na token.“
• Vylepšená správa: „Používejte vestavěné pracovní postupy, které ověřují celý životní cyklus LLM, od dodržování předpisů až po řízení rizik modelu.“

Předvídání nebo kalkulace návratnosti investic je další mandát, který je třeba splnit. Průzkum ukazuje, že více než třetina (36 %) osob s rozhodovací pravomocí v oblasti IT předvídá potíže s dokazováním, že GenAI nabízí vysokou návratnost investic, nebo se to jen těžko dokazuje. Téměř polovina (47 %) se potýká s problémy při přechodu od konceptu k praktickému používání GenAI. Čtyři z 10 organizací (39 %) nemají zavedeny zásady používání GenAI.