Delegáti Rady bezpečnosti OSN naléhají na kontroly AI, aby zneškodnily potenciální globální hrozbu
Organizace spojených národů podporuje výzvy k vytvoření samostatné entity OSN, která by usnadnila kolektivní úsilí o řízení umělé inteligence.
Je třeba vyvinout společné globální úsilí o řízení umělé inteligence (AI), kde je naléhavý společný konsenzus o potřebných mantinelech.
Uprostřed volání po různých globálních opatřeních a iniciativách se ukáže, že řízení umělé inteligence je složité a vyžaduje univerzální přístup, řekl generální tajemník Organizace spojených národů (OSN) António Guterres. Modely umělé inteligence jsou již široce dostupné veřejnosti a na rozdíl od jaderného materiálu a biologických látek lze její nástroje pohybovat bez zanechání stopy, řekl Guterres ve svých poznámkách Radě bezpečnosti OSN.
Členové rady se tento týden sešli na své první formální schůzce o umělé inteligenci, na níž vystoupili spoluzakladatel společnosti Anthropic Jack Clark a Institut automatizace Čínské akademie věd Zeng Yi, který je profesorem a ředitelem Mezinárodního výzkumného centra pro Etika a správa AI.
Guterres popsal generativní umělou inteligenci jako „radikální pokrok“ ve schopnostech a řekl, že rychlost a dosah, které získaná technologie byla „naprosto bezprecedentní“, přičemž ChatGPT zasáhlo 100 milionů uživatelů za pouhé dva měsíce.
Ale zatímco umělá inteligence měla potenciál významně podněcovat globální rozvoj a realizovat lidská práva, včetně zdravotnictví, mohla by podle něj také tlačit na zaujatost a diskriminaci. Technologie by mohla dále umožnit autoritářský dohled.
Naléhal na radu, aby posoudila dopad AI na mír a bezpečnost, přičemž zdůraznil, že již existují humanitární, etické, právní a politické obavy.
„[AI] se stále více používá k identifikaci vzorců násilí, sledování příměří a dalším, což pomáhá posilovat naše mírové, mediační a humanitární úsilí,“ řekl Guterres. "Nástroje umělé inteligence však mohou využívat i lidé se zlými úmysly. Modely umělé inteligence mohou pomoci lidem ublížit sobě i sobě navzájem v masivním měřítku."
Umělá inteligence již byla použita k zahájení kybernetických útoků zaměřených na kritické infrastruktury. Poznamenal, že vojenské a nevojenské aplikace umělé inteligence by mohly mít vážné důsledky pro globální mír a bezpečnost.
Clark podpořil potřebu globálních vlád, aby se spojily, vybudovaly kapacity a učinily vývoj systémů umělé inteligence „sdíleným úsilím“, spíše než snahou vedené hrstkou hráčů soupeřících o podíl na trhu.
„Nemůžeme ponechat vývoj umělé inteligence pouze na subjektech ze soukromého sektoru,“ řekl s tím, že vývoj modelů umělé inteligence, jako je vlastní Claude Anthropic, ChatGPT od OpenAI a Google Bard, se řídí zájmy společnosti. Vzhledem k tomu, že společnosti ze soukromého sektoru mají přístup k sofistikovaným systémům, velkým objemům dat a fondům, budou pravděpodobně i nadále definovat vývoj systémů umělé inteligence, dodal.
To by mohlo mít za následek jak výhody, tak hrozby kvůli možnosti zneužití AI a její nepředvídatelnosti. Vysvětlil, že tato technologie by mohla být použita k lepšímu pochopení biologie a také ke konstrukci biologických zbraní.
A když byly systémy umělé inteligence vyvinuty a implementovány, mohla být odhalena jejich nová použití, která jejich vývojáři nepředpokládali. Systémy samotné mohou také vykazovat nepředvídatelné nebo chaotické chování, řekl.
"Proto bychom měli velmi pečlivě přemýšlet o tom, jak zajistit, aby vývojáři těchto systémů byli odpovědní, aby vytvářeli a nasazovali bezpečné a spolehlivé systémy, které neohrozí globální bezpečnost," řekl Clark.
Vznik generativní umělé inteligence by nyní mohl dále posouvat dezinformace a podkopávat fakta, přinést s sebou nové způsoby manipulace s lidským chováním a vést k nestabilitě v masivním měřítku, řekl Guterres. S odvoláním na deepfakes uvedl, že takové nástroje umělé inteligence by mohly způsobit vážná bezpečnostní rizika, pokud by zůstaly nekontrolované.
Významným problémem byly také špatně fungující systémy umělé inteligence, stejně jako „hluboce alarmující“ interakce mezi umělou inteligencí a jadernými zbraněmi, biotechnologií, neurotechnologií a robotikou, dodal.
"Generativní AI má obrovský potenciál pro dobro a zlo v měřítku. Její tvůrci sami varovali, že před námi leží mnohem větší, potenciálně katastrofická a existenční rizika," řekl. "Bez opatření k řešení těchto rizik jsme opuštěni ve své odpovědnosti vůči současným a budoucím generacím."
K řízení AI je zapotřebí nový subjekt OSN
Guterres uvedl, že podporuje výzvy k vytvoření subjektu OSN, který by usnadnil kolektivní úsilí při řízení AI, podobně jako Mezinárodní agentura pro atomovou energii a Mezivládní panel pro změnu klimatu.
"Nejlepší přístup by řešil stávající problémy a zároveň vytvořil kapacitu pro monitorování budoucích rizik a reakci na ně," řekl. "Měl by být flexibilní a adaptabilní a měl by zohledňovat technické, sociální a právní otázky. Měl by integrovat soukromý sektor, občanskou společnost, nezávislé vědce a všechny, kdo inovují AI."
„Potřeba globálních standardů a přístupů dělá z Organizace spojených národů ideální místo, aby se tak stalo,“ dodal.
Nový orgán OSN by se měl zaměřit na podporu zemí při maximalizaci přínosů umělé inteligence, zmírnění rizik a vytvoření mezinárodních mechanismů pro monitorování a řízení. Nový subjekt by také musel shromáždit potřebné odborné znalosti, zpřístupnit je mezinárodnímu společenství a podporovat výzkum a vývoj nástrojů umělé inteligence, které pohánějí udržitelnost.
Guterres řekl, že sestavuje „poradní výbor na vysoké úrovni pro AI“, aby věci začal, s cílem doporučit možnosti pro globální řízení AI do konce roku.
Dodal, že nadcházející politická zpráva o „nové agendě pro mír“ bude také zahrnovat doporučení týkající se správy AI pro členské státy OSN. Patří mezi ně doporučení pro národní strategie odpovědného rozvoje a používání umělé inteligence, stejně jako mnohostranné zapojení do vývoje norem a principů týkajících se vojenských aplikací umělé inteligence.
Členské státy by také byly požádány, aby souhlasily s globálním rámcem pro regulaci a posílení mechanismů dohledu nad používáním technologií založených na datech, včetně umělé inteligence, pro účely boje proti terorismu.
Jednání o politickém zadání mají být uzavřena do roku 2026, čímž bude vytvořena právně závazná dohoda, která postaví smrtící autonomní zbraně, které fungují bez lidského dohledu, mimo zákon.
Clark také vyzval mezinárodní společenství, aby vyvinulo způsoby, jak otestovat schopnosti systémů, jejich zneužití a potenciální bezpečnostní nedostatky. Řekl, že je to ujištění, že několik zemí se ve svých návrzích zásad AI zaměřilo na hodnocení bezpečnosti, včetně Číny, EU a USA.
Dále zdůraznil potřebu norem a osvědčených postupů, jak takové systémy testovat pro klíčové oblasti, jako je diskriminace a zneužívání, které v současnosti chybí.
Zeng poznamenal, že současné systémy umělé inteligence, včetně generativní umělé inteligence, byly nástroje pro zpracování informací, které se zdály být inteligentní, ale neměly žádné skutečné porozumění.
"To je důvod, proč jim nelze věřit jako odpovědným činitelům, kteří mohou pomoci lidem při rozhodování," poznamenal. Diplomatické úkoly by například neměly být automatizovány. Zejména by AI neměla být aplikována na zahraniční jednání mezi různými národy, protože může zesílit lidská omezení a slabosti a vytvořit tak větší rizika.
"AI by nikdy neměla předstírat, že je člověk," řekl, zatímco naléhal na potřebu adekvátní a zodpovědné lidské kontroly zbraňových systémů poháněných umělou inteligencí. "Lidé by měli vždy udržovat a nést odpovědnost za konečné rozhodování o použití jaderných zbraní."
Globální zainteresované strany mají nyní příležitost sjednotit se v diskusích o zábradlích potřebných pro AI, řekl Omran Sharaf, náměstek ministra pro pokročilé vědy a technologie Spojených arabských emirátů.
Než „bude příliš pozdě“, vyzval členské státy, aby dospěly ke konsenzu ohledně potřebných pravidel, včetně mechanismů, které zabrání nástrojům umělé inteligence v prosazování dezinformací a dezinformací, které by mohly podněcovat extremismus a konflikty.
Podobně jako u jiných digitálních technologií by se přijetí AI mělo řídit mezinárodními zákony, které musí platit v kybernetické oblasti, řekl Sharaf. Poznamenal však, že předpisy by měly být agilní a flexibilní, takže by nebránily rozvoji technologií AI.