Hromadné přijetí generativních nástrojů umělé inteligence narušuje jeden velmi důležitý faktor, říká MIT

Rychlé tempo vylepšování umělé inteligence vytváří „stínovou umělou inteligenci“ - což ztěžuje odpovědné používání umělé inteligence, varuje studie MIT Sloan Management Review a BCG.

Každý den se objevují nové platformy a nástroje pro umělou inteligenci (AI), které pomáhají vývojářům, datovým vědcům a obchodním analytikům. Tento rychlý růst nově vznikajících technologií však také zvyšuje složitost konstelací umělé inteligence, která značně přesahuje možnosti odpovědnosti a odpovědnosti v systémech umělé inteligence.

Vyplývá to z nedávného průzkumu mezi 1 240 vedoucími pracovníky zveřejněného MIT Sloan Management Review a Boston Consulting Group (MIT SMR a BCG), který se zabýval pokrokem odpovědných iniciativ AI a přijetím interně vytvořených i externě získaných nástrojů AI - co vědci nazývají „stínová AI“.

Příslib umělé inteligence přichází s důsledky, navrhují autoři studie Elizabeth Renieris (Oxfordský institut pro etiku v AI), David Kiron (MIT SMR) a Steven Mills (BCG): „Například generativní umělá inteligence se ukázala jako nepraktická a nepředvídatelná. rizika pro organizace nepřipravené na širokou škálu případů použití."

Mnoho společností „bylo zaskočeno šířením stínové umělé inteligence v celém podniku,“ poznamenávají Renieris a její spoluautoři. A co víc, rychlé tempo vylepšování AI „ztěžuje odpovědné používání AI a vyvíjí tlak na zodpovědné programy AI, aby udržely krok“.

Varují, že se zvyšují i rizika, která pocházejí ze stále rostoucí stínové umělé inteligence. Například rostoucí závislost společností na rostoucí nabídce nástrojů umělé inteligence třetích stran spolu s rychlým přijetím generativních algoritmů umělé inteligence (jako je ChatGPT, Dall-E 2 a Midjourney), které využívají tréninková data ke generování realistických nebo zdánlivých faktický text, obrázky nebo zvuk - vystavuje je novým komerčním, právním a reputačním rizikům, která je obtížné sledovat.

Výzkumníci poukazují na důležitost zodpovědné umělé inteligence, kterou definují jako „rámec s principy, politikami, nástroji a procesy, které zajistí, že systémy umělé inteligence jsou vyvíjeny a provozovány ve službách dobra pro jednotlivce a společnost, přičemž stále dosahují transformačního obchodního dopadu. ."

Další problém pramení ze skutečnosti, že řada společností „zdá se, že omezuje interní zdroje věnované zodpovědné umělé inteligenci jako součást širšího trendu propouštění v průmyslu,“ varují výzkumníci. "K těmto snížením odpovědných investic do AI dochází pravděpodobně v době, kdy jsou nejvíce potřeba."

Například rozšířené používání chatbota ChatGPT zaměstnanci zaskočilo mnoho organizací a mohlo by mít bezpečnostní důsledky. Vědci tvrdí, že odpovědné rámce umělé inteligence nebyly napsány tak, aby se „zabývaly náhlým, nepředstavitelným množstvím rizik, která generativní nástroje umělé inteligence zavádějí“.

Výzkum naznačuje, že 78 % organizací hlásí přístup, nákup, licencování nebo jiné používání nástrojů umělé inteligence třetích stran, včetně komerčních rozhraní API, předtrénovaných modelů a dat. Více než polovina (53 %) se spoléhá výhradně na nástroje umělé inteligence třetích stran a nemá žádné vlastní interně navržené ani vyvinuté technologie umělé inteligence.

Renieris a její spoluautoři vyzývají Renieris a její spoluautoři, „odpovědné programy umělé inteligence, „by měly zahrnovat nástroje umělé inteligence vytvořené interně i od jiných výrobců. "Musí platit stejné etické zásady, bez ohledu na to, odkud systém umělé inteligence pochází. V konečném důsledku, pokud by se něco pokazilo, nezáleželo by na osobě, která je negativně ovlivněna, zda byl nástroj vyroben nebo zakoupen."

Spoluautoři upozorňují, že ačkoli „neexistuje žádná stříbrná kulka pro zmírnění rizik umělé inteligence třetích stran nebo jakéhokoli typu rizika umělé inteligence v tomto ohledu“, vyzývají k vícebodovému přístupu k zajištění odpovědné umělé inteligence v dnešním široce otevřeném prostředí.

Takové přístupy mohou zahrnovat následující:

• Hodnocení odpovědných praktik AI dodavatele
• Smluvní jazyk nařizující dodržování odpovědných principů umělé inteligence
• Předběžná certifikace a audity dodavatele (pokud jsou k dispozici)
• Interní recenze na úrovni produktu (pokud je do produktu nebo služby integrován nástroj třetí strany)
• Dodržování příslušných regulačních požadavků nebo průmyslových standardů
• Zahrnutí komplexního souboru zásad a postupů, jako jsou pokyny pro etický vývoj umělé inteligence, rámce pro hodnocení rizik a protokoly pro monitorování a audit

Strašidlo legislativy a vládních mandátů může učinit takové kroky nutností, protože jsou zaváděny systémy AI, varují spoluautoři.