Každý chce zodpovědnou AI, ale málokdo s tím něco dělá

73 % vedoucích firem tvrdí, že pokyny pro umělou inteligenci jsou nepostradatelné. Avšak pouze 6 % zavedlo takové směrnice ve svých společnostech.

Zatímco téměř devět z 10 vedoucích firem souhlasí s tím, že je důležité mít jasná pravidla pro etiku umělé inteligence (AI) a podnikovou odpovědnost, sotva hrstka připouští, že taková pravidla má, ukazuje nedávný průzkum.

Taková zjištění naznačují, že existuje zmatek ohledně toho, jaké přístupy je třeba přijmout k řízení přijetí AI, a technologičtí profesionálové musí vykročit vpřed a převzít vedení pro bezpečný a etický vývoj svých iniciativ založených na datech.

Výsledky pocházejí z průzkumu založeného na názorech 500 obchodních lídrů zveřejněných technologickou společností Conversica, který říká: „Z průzkumu vyplývá jednoznačné poselství: většina respondentů uznává prvořadou důležitost dobře definovaných pokynů pro zodpovědné používání AI ve společnostech, zejména těch, které již tuto technologii přijaly."

Téměř tři čtvrtiny (73 %) respondentů uvedly, že pokyny pro umělou inteligenci jsou nepostradatelné. Pouhých 6 % však stanovilo jasné etické pokyny pro používání umělé inteligence a 36 % uvádí, že by je mohlo zavést v průběhu příštích 12 měsíců.

Dokonce i mezi společnostmi s umělou inteligencí ve výrobě každý pátý vedoucí ve společnostech, které v současné době používají AI, přiznal omezené nebo žádné znalosti o zásadách své organizace související s AI. Více než třetina (36 %) uvedla, že je pouze „poněkud obeznámena“ s obavami souvisejícími s politikou.

Směrnice a zásady pro řešení odpovědné umělé inteligence by měly zahrnovat řízení, nezaujatá školicí data, detekci zkreslení, zmírňování zkreslení, transparentnost, přesnost a zahrnutí lidského dohledu, uvádějí autoři zprávy.

Přibližně dvě třetiny (65 %) dotázaných vedoucích pracovníků uvedlo, že již mají nebo plánují mít služby založené na umělé inteligenci během příštích 12 měsíců. Mezi hlavní případy použití AI patří posilování funkcí zapojení, jako je zákaznický servis a marketing (uvedeno 39 %), a vytváření analytických přehledů (35 %).

Průzkum zjistil, že hlavními obavami ohledně výstupů AI jsou přesnost současných datových modelů, nepravdivé informace a nedostatek transparentnosti. Více než tři čtvrtiny (77 %) vedoucích pracovníků vyjádřily obavy z toho, že umělá inteligence generuje nepravdivé informace.

Poskytovatelé umělé inteligence neposkytují dostatek informací, které by pomohly formulovat pokyny, uvedli obchodní lídři - zejména pokud jde o zabezpečení a transparentnost dat a vytváření silných etických zásad.

Přibližně dvě třetiny (36 %) respondentů uvedlo, že jejich podniky mají pravidla pro používání generativních nástrojů umělé inteligence, jako je Chat GPT. Ale 20 % uvedlo, že jejich společnosti dávají jednotlivým zaměstnancům volnou ruku, pokud jde o používání nástrojů AI v dohledné budoucnosti.

Průzkum společnosti Conversica ukazuje, že existuje mezera ve vedení, pokud jde o to, aby se zodpovědná umělá inteligence stala realitou. Jak tedy mohou technologickí lídři a profesionálové v oboru podnikat kroky k zajištění odpovědných postupů umělé inteligence? Zde jsou některé z klíčových pokynů sdílených týmem AI společnosti Google:

• Používejte přístup k návrhu zaměřenému na člověka: „Způsob, jakým skuteční uživatelé vnímají váš systém, je zásadní pro posouzení skutečného dopadu jeho předpovědí, doporučení a rozhodnutí. kontrola je klíčová pro dobrou uživatelskou zkušenost. Modelujte potenciální nepříznivou zpětnou vazbu na začátku procesu návrhu, po kterém následuje konkrétní živé testování a iterace pro malý zlomek provozu před úplným nasazením."
• Zapojte se do různorodé sady uživatelů a scénářů použití: „Zahrňte zpětnou vazbu před vývojem projektu a během něj. Do projektu se tak zabuduje široká škála uživatelských perspektiv a zvýší se počet lidí, kteří technologie."
• Navrhněte svůj model s použitím konkrétních cílů pro spravedlnost a začlenění: „Zvažte, jak technologie a její vývoj v průběhu času ovlivní různé případy použití: Čí zobrazení jsou zastoupena? Jaké typy dat jsou zastoupeny? Co je vynecháno ?"
• Zkontrolujte, zda systém neobsahuje nespravedlivé předsudky: „Například uspořádejte skupinu důvěryhodných, různorodých testerů, kteří mohou systém otestovat nepříznivě, a začlenit různé vstupy protivníka do jednotkových testů. To může pomoci určit, kdo může mít neočekávané nepříznivé dopady. I nízká chybovost může umožnit příležitostné velmi špatné chyby.“
  
• Zátěžový test systému na obtížných případech: „To vám umožní rychle vyhodnotit, jak dobře si váš systém vede na příkladech, které mohou být obzvláště škodlivé nebo problematické při každé aktualizaci systému. Stejně jako u všech testovacích sad , měli byste tuto sadu průběžně aktualizovat, jak se váš systém vyvíjí, přidávají nebo odebírají funkce a máte více zpětné vazby od uživatelů."
• Testujte, testujte, testujte: „Učte se z nejlepších testovacích postupů softwarového inženýrství a inženýrství kvality, abyste se ujistili, že systém umělé inteligence funguje tak, jak má a je možné mu důvěřovat. Proveďte přísné testy jednotek, abyste otestovali každou součást systému v izolaci. Proveďte integrační testy, abyste pochopili, jak jednotlivé komponenty ML interagují s ostatními částmi celkového systému.“
• Použijte datovou sadu zlatého standardu k testování systému a zajistěte, aby se i nadále choval podle očekávání: „Tuto testovací sadu pravidelně aktualizujte v souladu s měnícími se uživateli a případy použití a snižte pravděpodobnost školení na testovací sada. Provádějte opakované uživatelské testování, abyste do vývojových cyklů začlenili různorodou sadu potřeb uživatelů."
• Použijte princip inženýrství kvality poka-yoke: „Zabudujte do systému kontroly kvality tak, aby nemohlo dojít k nezamýšleným selháním nebo aby vyvolaly okamžitou reakci - např. pokud nějaká důležitá funkce nečekaně chybí, Systém umělé inteligence nevygeneruje předpověď.“

Podnik může chtít implementovat AI rychle, ale je třeba věnovat pozornost tomu, aby nástroje a jejich modely byly přesné a spravedlivé. Zatímco podniky hledají umělou inteligenci, aby se posouvaly, tato technologie musí pokaždé přinášet zodpovědné výsledky.