Globální hráči se snaží vytvořit základ pro hodnocení generativních aplikací umělé inteligence
Iniciativa vedená Singapurem si klade za cíl poskytnout standardní sadu benchmarků pro hodnocení generativních produktů umělé inteligence a sdružovat zdroje od velkých hráčů na trhu, mezi které patří Anthropic, Google a Microsoft.
Probíhají snahy poskytnout společný soubor měřítek pro hodnocení produktů generativní umělé inteligence (AI) a vytvořit „soubor znalostí“ o tom, jak by měly být tyto nástroje testovány.
Cílem je poskytnout standardní přístup k hodnocení generativních aplikací umělé inteligence a podnítit úsilí k řešení rizik. Tento společný přístup je odklonem od stávajících „částečných“ snah.
Iniciativa s názvem Sandbox je vedena singapurským úřadem Infocomm Media Development Authority (IMDA) a AI Verify Foundation a získala podporu od hráčů na globálním trhu, jako jsou Amazon Web Services (AWS), Anthropic, Google a Microsoft. Tyto organizace jsou součástí současné skupiny 15 účastníků, do které patří také společnosti Deloitte, EY a IBM, stejně jako OCBC Bank se sídlem v Singapuru a telco Singtel.
Sandbox se řídí novým návrhem katalogu, který kategorizuje aktuální benchmarky a metody používané k hodnocení velkých jazykových modelů (LLM). Katalog sestavuje běžně používané technické testovací nástroje, organizuje je podle toho, co testují, a jejich metod, a doporučuje základní sadu testů pro hodnocení generativních produktů AI, uvedla IMDA.
Cílem je vytvořit společný jazyk a podporovat „širší, bezpečné a důvěryhodné přijetí generativní umělé inteligence,“ uvedla společnost.
„Systematické a robustní vyhodnocování modelů je kritickou součástí řízení LLM a pomáhá vytvořit základ důvěry v používání těchto technologií,“ uvedla IMDA.
"Prostřednictvím přísného hodnocení jsou odhaleny schopnosti modelu, což může pomoci při určování jeho zamýšleného použití a potenciálních omezení. Hodnocení [také] poskytuje vývojářům zásadní plán pro zlepšení."
Dosažení tohoto společného jazyka vyžaduje standardizovanou taxonomii a základní soubor hodnocení bezpečnosti před nasazením pro LLM, poznamenal. Singapurská vládní agentura doufá, že návrh katalogu nabízí výchozí bod pro globální diskuse s cílem dosáhnout konsensu o bezpečnostních standardech pro LLM.
Posun směrem ke společným standardům také znamená zapojení dalších zúčastněných stran v ekosystému, kromě vývojářů modelů, jako jsou vývojáři aplikací, kteří staví na modelech, a vývojáři testovacích nástrojů třetích stran.
Prostřednictvím Sandbox chce IMDA nabízet případy použití, které zahrnují vývojáře generativního modelu AI, nasazování aplikací a externího testera, aby demonstrovala, jak mohou různí hráči spolupracovat. Vývojáři modelů, jako je Anthropic nebo Google, mohou například spolupracovat s vývojáři aplikací OCBC nebo Singtel, spolu s testery třetích stran, jako jsou Deloitte a EY, a na případech použití generativní AI pro sektor finančních služeb nebo telekomunikací.
Zapojit by se měli i regulátoři, jako je singapurská Komise pro ochranu osobních údajů, takže Sandbox může poskytnout prostředí pro experimentování a vývoj, kde mohou být všechny strany v ekosystému „transparentní“ ohledně svých potřeb, uvedla IMDA.
IMDA očekává, že Sandbox odhalí mezery v současném stavu generativních hodnocení umělé inteligence, včetně doménově specifických aplikací, jako jsou lidské zdroje a kulturní oblasti, které jsou v současnosti nedostatečně rozvinuté.
"Sandbox vyvine měřítka pro hodnocení výkonnosti modelu ve specifických oblastech, které jsou důležité pro případy použití a pro země jako Singapur kvůli kulturním a jazykovým specifikům," uvedla IMDA.
Singapurská agentura uvedla, že spolupracuje s Anthropic na projektu Sandbox, který využívá katalog k identifikaci aspektů červeného teamingu, který se snaží zpochybnit zásady a předpoklady používané v systémech umělé inteligence tím, že zaujme nepřátelský přístup.
IMDA využije modely a platformu nástrojů pro výzkum společnosti Anthropic k vývoji metodologie red-teamingu přizpůsobené rozmanité jazykové a kulturní krajině Singapuru. Například modely umělé inteligence budou hodnoceny z hlediska jejich schopnosti fungovat v rámci vícejazyčného kontextu země.
V červenci singapurská vláda spustila dvě sandboxy běžící na generativních sadách nástrojů AI od Google Cloud, z nichž jednu používají výhradně vládní agentury k vývoji a testování generativních aplikací AI. Další karanténa je k dispozici místním organizacím a poskytuje se zdarma po dobu tří měsíců až pro 100 případů použití.