Čína a USA jsou součástí mnohostranného paktu o spolupráci v oblasti rizik AI

Bletchleyská deklarace, kterou zveřejnilo Spojené království, spojuje 28 zemí v dohodě o kolektivní identifikaci a řízení potenciálních rizik „hraniční“ umělé inteligence.

Skupina 28 zemí, včetně Číny a USA, se dohodla na spolupráci při identifikaci a řízení potenciálních rizik „hraniční“ umělé inteligence (AI), což je první taková multilaterální dohoda.

Bletchleyská deklarace o bezpečnosti umělé inteligence, kterou zveřejnilo Spojené království, uvádí, že země uznaly „naléhavou potřebu“ zajistit, aby byla umělá inteligence vyvíjena a zaváděna „bezpečným a odpovědným způsobem“ ve prospěch celosvětové komunity. Toto úsilí vyžaduje širší mezinárodní spolupráci, podle deklarace, kterou podpořily země napříč Asií, EU a Blízkým východem, včetně Singapuru, Japonska, Indie, Francie, Austrálie, Německa, Jižní Koreje, Spojených arabských emirátů a Nigérie. .

Země si uvědomují, že z úmyslného zneužití nebo nezamýšlených problémů s kontrolou hraniční umělé inteligence mohou vyplynout významná rizika, zejména rizika plynoucí z kybernetické bezpečnosti, biotechnologie a dezinformací. Deklarace poukazuje na potenciálně vážná a katastrofická poškození způsobená modely umělé inteligence a také na rizika spojená se zaujatostí a soukromím.

Spolu s jejich uznáním, že rizika a schopnosti stále nejsou plně pochopeny, se státy dohodly na spolupráci a vybudování sdíleného „vědeckého a na důkazech založeného chápání“ rizik hraniční umělé inteligence.

Deklarace popisuje hraniční umělou inteligenci jako systémy, které zahrnují „vysoce schopné univerzální modely umělé inteligence“, včetně základních modelů, které mohou provádět širokou škálu úkolů, stejně jako specifickou úzkou umělou inteligenci.

„Rozhodli jsme se spolupracovat inkluzivním způsobem, abychom zajistili AI zaměřenou na člověka, důvěryhodnou a odpovědnou, která je bezpečná a podporuje dobro všech prostřednictvím stávajících mezinárodních fór a dalších relevantních iniciativ,“ uvádí deklarace.

"Přitom uznáváme, že země by měly zvážit důležitost proinovačního a přiměřeného řízení a regulačního přístupu, který maximalizuje přínosy a zohledňuje rizika spojená s AI."

Tento přístup by mohl zahrnovat stanovení klasifikací a kategorizací rizik na základě místních podmínek země a příslušných právních rámců. Může také existovat požadavek na spolupráci na nových přístupech, jako jsou společné zásady a kodexy chování.

Úsilí skupiny se zaměří na vytváření politik založených na rizicích napříč zeměmi, spolupráci tam, kde je to vhodné, a uznávání, že přístupy na národní úrovni se mohou lišit. Spolu s potřebou větší transparentnosti ze strany soukromých aktérů, kteří vyvíjejí schopnosti hraniční umělé inteligence, tyto nové snahy zahrnují vývoj příslušných hodnotících metrik a nástrojů pro testování bezpečnosti, jakož i schopností veřejného sektoru a vědeckého výzkumu.

Britský premiér Rishi Sunak řekl: "Jedná se o přelomový úspěch, který ukazuje, že největší světové mocnosti umělé inteligence se shodují na naléhavosti pochopení rizik umělé inteligence."

Britská ministryně pro technologie Michelle Donelan dodala: „Vždy jsme říkali, že žádná jednotlivá země nemůže čelit výzvám a rizikům, která představuje umělá inteligence, sama, a dnešní mezník představuje začátek nového globálního úsilí o vybudování důvěry veřejnosti zajištěním bezpečného rozvoje technologie. ."

Tento týden byl také oznámen projekt vedený Singapurem známý jako Sandbox, jehož cílem je poskytnout standardní sadu benchmarků pro hodnocení generativních produktů umělé inteligence. Tato iniciativa sdružuje zdroje od hlavních globálních hráčů, mezi něž patří Anthropic a Google, a řídí se návrhem katalogu, který kategorizuje aktuální srovnávací hodnoty a metody používané k hodnocení velkých jazykových modelů.

Katalog sestavuje běžně používané technické testovací nástroje, organizuje je podle toho, co testují a jejich metod, a doporučuje základní sadu testů pro hodnocení generativních produktů umělé inteligence. Cílem je vytvořit společný jazyk a podporovat „širší, bezpečné a důvěryhodné přijetí generativní umělé inteligence“.

Organizace spojených národů (OSN) minulý měsíc zřídila poradní tým, který se měl zabývat tím, jak by měla být AI řízena, aby se zmírnila potenciální rizika, se závazkem přijmout „globálně inkluzivní“ přístup. Tento orgán má v současné době 39 členů a jeho členy jsou zástupci vládních agentur, soukromých organizací a akademie, jako je šéf singapurské vlády pro umělou inteligenci, španělský ministr zahraničí pro digitalizaci a AI a technický ředitel OpenAI.