Sada nástrojů pro etiku umělé inteligence byla aktualizována tak, aby zahrnovala více komponent hodnocení
Druhá iterace sady nástrojů Veritas obsahuje metodiky hodnocení odpovědnosti a transparentnosti, které mají finanční instituce vést k „odpovědnému“ používání umělé inteligence.
Byla aktualizována softwarová sada nástrojů, která má finančním institucím pomoci pokrýt více oblastí při hodnocení jejich „zodpovědného“ využívání umělé inteligence (AI).
Sada hodnotících nástrojů, která byla poprvé spuštěna v únoru loňského roku, se zaměřuje na čtyři klíčové principy týkající se spravedlnosti, etiky, odpovědnosti a transparentnosti - souhrnně nazývané FEAT. Nabízí kontrolní seznam a metodiky pro podniky ve finančním sektoru k definování cílů jejich využití AI a analýzy dat a identifikaci potenciálních zkreslení.
Sada nástrojů byla vyvinuta konsorciem vedeným Monetary Authority of Singapore (MAS), které kompromituje 31 hráčů v oboru, včetně Bank of China, BNY Mellon, Google Cloud, Microsoft, Goldman Sachs, Visa, OCBC Bank, Amazon Web Services, IBM, a Citibank.
První vydání sady nástrojů se zaměřilo na metodiku hodnocení pro složku „spravedlnosti“ v principech FEAT, která zahrnovala automatizaci vyhodnocování metrik a vizualizaci tohoto principu.
Druhá iterace byla aktualizována tak, aby zahrnovala metodiky přezkumu pro ostatní tři principy a také vylepšenou metodiku hodnocení „spravedlnosti“, uvedl MAS. Několik bank v konsorciu testovalo sadu nástrojů.
Sada nástrojů s otevřeným zdrojovým kódem, která je k dispozici na GitHubu, umožňuje pluginy umožňující integraci s IT systémy finanční instituce.
Konsorcium nazvané Veritas také vyvinulo nové případy použití, aby demonstrovalo, jak lze metodiku aplikovat, a nabídlo klíčové lekce implementace. Ty zahrnovaly případovou studii týkající se Swiss Reinsurance, která provedla hodnocení transparentnosti pro svou prediktivní upisovací funkci založenou na AI. Google se také podělil o své zkušenosti s aplikací metodologie FEAT na své platební systémy pro detekci podvodů v Indii a na zmapování svých principů a procesů umělé inteligence.
Společnost Veritas také vydala bílou knihu, která nastiňuje lekce sdílené sedmi finančními institucemi, včetně Standard Chartered Bank a HSBC, o integraci metodiky hodnocení AI s jejich vnitřním rámcem řízení. Patří mezi ně potřeba „odpovědného rámce umělé inteligence“, který zahrnuje geografické oblasti, a model založený na rizicích, aby se určilo řízení vyžadované pro případy použití umělé inteligence. Dokument také podrobně popisuje odpovědné postupy a školení AI pro novou generaci profesionálů AI ve finančním sektoru.
Chief Fintech Officer MAS Sopnendu Mohanty řekl: "Vzhledem k rychlému tempu vývoje v oblasti umělé inteligence je důležité, aby finanční instituce zavedly robustní rámce pro zodpovědné používání umělé inteligence. Veritas Toolkit verze 2.0 umožní finančním institucím a fintech firmám efektivně hodnotit jejich příklady použití umělé inteligence pro spravedlnost, etiku, odpovědnost a transparentnost. Pomůže to podpořit odpovědný ekosystém umělé inteligence.“
Singapurská vláda identifikovala šest hlavních rizik spojených s generativní umělou inteligencí a navrhla rámec, jak tyto problémy řešit. Vytvořila také nadaci, která se snaží využít open source komunitu k vývoji testovacích sad nástrojů, které zmírňují rizika zavádění umělé inteligence.
Během své návštěvy Singapuru na začátku tohoto měsíce generální ředitel OpenAI Sam Altman naléhal na vývoj generativní umělé inteligence spolu s veřejnou konzultací, přičemž kontrolu měli lidé. Řekl, že je to nezbytné pro zmírnění potenciálních rizik nebo škod, které by mohly být spojeny s přijetím AI.
Altman řekl, že je také důležité řešit problémy související s předpojatostí a lokalizací dat, protože umělá inteligence získala trakci a zájem národů. Pro OpenAI, duchovní dítě za ChatGPT, to znamenalo zjistit, jak trénovat svou generativní platformu umělé inteligence na souborech dat, které byly „co nejrozmanitější“ a které se týkají mimo jiné mnoha kultur, jazyků a hodnot.