Rizika AI jsou všude - a MIT je nyní všechna přidává do jedné databáze

Výzkumníci vytvořili AI Risk Repository za účelem konsolidace dat. Jeden z jejich nálezů? Dezinformace jsou nejméně adresovanou hrozbou umělé inteligence.

V současnosti jsou rizika umělé inteligence (AI) napříč aplikacemi dobře zdokumentována, ale při přijímání regulačních, politických nebo obchodních rozhodnutí je obtížné je snadno získat na jednom místě. Laboratoř MIT to chce napravit.

Laboratoř počítačových věd a umělé inteligence (CSAIL) MIT ve středu spustila úložiště rizik AI, databázi více než 700 zdokumentovaných rizik AI. Podle vydání CSAIL je databáze první svého druhu a bude důsledně aktualizována, aby bylo možné ji používat jako aktivní zdroj.

Projekt byl vyvolán obavami, že globální osvojení umělé inteligence předčí, jak dobře lidé a organizace chápou rizika implementace. Údaje ze sčítání lidu naznačují, že využití umělé inteligence v průmyslových odvětvích USA se mezi zářím 2023 a únorem 2024 vyšplhalo z 3,7 % na 5,45 % - což je nárůst o 47 %. Výzkumníci z CSAIL a FutureTech Lab MIT zjistili, že „i ten nejdůkladnější individuální rámec přehlíží přibližně 30 % rizik identifikovaných ve všech kontrolovaných rámcích,“ uvádí zpráva.

Roztříštěná literatura o rizicích umělé inteligence může tvůrcům politik, hodnotitelům rizik a dalším ztížit získání úplného obrazu o problémech, které před nimi stojí. „Je těžké najít konkrétní studie rizik v některých specializovaných doménách, kde se používá umělá inteligence, jako jsou zbraně a vojenské systémy pro podporu rozhodování,“ řekl Taniel Yusef, výzkumná pobočka Cambridge, která není spojena s projektem. "Bez odkazu na tyto studie může být obtížné mluvit o technických aspektech rizika umělé inteligence pro netechnické odborníky. Toto úložiště nám v tom pomáhá."

Bez databáze mohou některá rizika proletět radarem a nelze je adekvátně zvážit, vysvětlil tým ve zprávě.

„Vzhledem k tomu, že literatura o rizicích umělé inteligence je rozptýlena v recenzovaných časopisech, preprintech a průmyslových zprávách a je poměrně různorodá, obávám se, že osoby s rozhodovací pravomocí mohou nevědomky nahlédnout do neúplných přehledů, uniknout důležitým otázkám a vytvořit kolektivní slepá místa,“ Dr. Peter Slattery, vedoucí projektu a nastupující postdoktor FutureTech Lab, uvedl ve vydání.

Aby to vyřešili, výzkumníci z MIT na vytvoření databáze spolupracovali s kolegy z jiných institucí, včetně University of Queensland, Future of Life Institute, KU Leuven a Harmony Intelligence. Úložiště si klade za cíl poskytnout „dostupný přehled o rizikovém prostředí umělé inteligence“ podle webu a fungovat jako univerzální referenční rámec, který může použít kdokoli od výzkumníků a vývojářů po podniky a tvůrce politik.

Aby jej vytvořili, výzkumníci vyvinuli 43 rámců klasifikace rizik přezkoumáním akademických záznamů a databází a mluvením s několika odborníky. Po destilaci více než 700 rizik z těchto 43 rámců vědci kategorizovali každé podle příčiny (kdy nebo proč k tomu dochází), domény a subdomény (jako „dezinformace“ a „nepravdivé nebo zavádějící informace“).

Rizika sahají od diskriminace a zkreslování až po podvod, cílenou manipulaci a nebezpečné použití. „Nejčastěji řešené rizikové oblasti,“ vysvětluje zpráva, „zahrnovaly „bezpečnost systému AI, selhání a omezení“ (76 % dokumentů); „sociálně-ekonomické a ekologické škody“ (73 %); „diskriminace a toxicita“ (71 „Soukromí a bezpečnost“ (68 %) a „Zlomyslní aktéři a zneužití“ (68 %).

Výzkumníci zjistili, že interakce mezi člověkem a počítačem a dezinformace byly v rámci rizikových rámců nejméně řešenými problémy. 51 procent analyzovaných rizik bylo připisováno systémům AI na rozdíl od lidí, kteří byli zodpovědní za 34 %, a 65 % rizik se objevilo po nasazení AI, na rozdíl od vývoje.

Témata jako diskriminace, porušování soukromí a nedostatek schopností byly nejdiskutovanějšími problémy, které se objevily ve více než 50 % dokumentů, které výzkumníci zkoumali. Obavy, že umělá inteligence poškozuje naše informační ekosystémy, byly zmíněny mnohem méně, pouze ve 12 % dokumentů.

MIT doufá, že úložiště pomůže osobám s rozhodovací pravomocí lépe se orientovat a řešit rizika, která AI představuje, zejména s tolika iniciativami v oblasti řízení AI, které se rychle objevují po celém světě.

Úložiště „je součástí většího úsilí porozumět tomu, jak reagujeme na rizika umělé inteligence, a zjistit, zda existují mezery v našich současných přístupech,“ řekl Dr. Neil Thompson, výzkumník a vedoucí laboratoře FutureTech Lab. "Začínáme s komplexním kontrolním seznamem, který nám pomůže porozumět šíři potenciálních rizik. Plánujeme jej použít k identifikaci nedostatků v organizačních reakcích. Pokud se například každý zaměří na jeden typ rizika a přehlédne ostatní podobně důležité, něco, čeho bychom si měli všímat a řešit to."

Dále výzkumníci plánují použít úložiště k analýze veřejných dokumentů od společností a vývojářů AI, aby určili a porovnali přístupy k riziku podle odvětví.

Úložiště rizik AI je k dispozici ke stažení a zkopírování zdarma a uživatelé zde mohou týmu zasílat zpětnou vazbu a návrhy.