Šéf americké bezpečnosti umělé inteligence odstoupil. Co teď?

V amerických vládních agenturách, které monitorují vývoj umělé inteligence, probíhají rozsáhlé změny. Kam se poděla regulace umělé inteligence?

V říjnu 2023 podepsal bývalý prezident Joe Biden exekutivní příkaz, který obsahoval několik opatření pro regulaci umělé inteligence. První den v úřadu jej prezident Trump zrušil a o několik dní později jej nahradil vlastním nařízením o umělé inteligenci v USA.

Tento týden bylo některým vládním agenturám, které prosazují regulaci umělé inteligence, řečeno, aby zastavily svou práci, zatímco ředitel amerického Institutu pro bezpečnost umělé inteligence (AISI) odstoupil. Národní institut pro standardy a technologie (NIST) se zjevně připravuje na masové propouštění, které by dále ovlivnilo AISI.

Co to tedy prakticky znamená pro budoucnost regulace AI? Zde je to, co potřebujete vědět.

Čeho Bidenův příkaz dosáhl - a čeho nedosáhl

Kromě pojmenování několika iniciativ týkajících se ochrany občanských práv, pracovních míst a soukromí s tím, jak se umělá inteligence zrychluje, se Bidenův příkaz zaměřil na odpovědný rozvoj a dodržování předpisů. Nicméně, jak v té době napsal Tiernan Ray z ZDNET, příkaz mohl být konkrétnější a ponechat mezery ve většině pokynů. Ačkoli vyžadovala, aby společnosti podávaly zprávy o jakémkoli úsilí v oblasti testování bezpečnosti, neučinila ze samotného "červeného týmu" požadavek, ani nevyjasnila žádné standardy pro testování. Ray poukázal na to, že vzhledem k tomu, že umělá inteligence jako disciplína je velmi široká, její regulace vyžaduje - ale je jí také brzděna - specifičností.

Zpráva ABrookings v listopadu poznamenala, že vzhledem k tomu, že federální agentury absorbovaly mnoho směrnic v Bidenově příkazu, mohou je chránit před Trumpovým zrušením. Tato ochrana se však zdá být stále méně pravděpodobná.

Bidenův příkaz zřídil americký Institut pro bezpečnost umělé inteligence (AISI), který je součástí NIST. AISI mimo jiné prováděla testování modelu umělé inteligence a spolupracovala s vývojáři na zlepšení bezpečnostních opatření. V srpnu AISI podepsala dohody se společnostmi Anthropic a OpenAI o spolupráci na testování a výzkumu bezpečnosti; v listopadu zřídila pracovní skupinu pro testování a národní bezpečnost.

Začátkem tohoto měsíce, pravděpodobně kvůli změnám v Trumpově administrativě, oznámila ředitelka AISI Elizabeth Kellyová svůj odchod z institutu prostřednictvím LinkedIn. Osud obou iniciativ i samotného institutu je dnes nejasný.

Úřad pro finanční ochranu spotřebitelů (CFPB) také plnil mnoho cílů Bidenova příkazu. Například studie CFPB z června 2023 o chatbotech ve spotřebitelských financích poznamenala, že "mohou poskytovat nesprávné informace, neposkytovat smysluplné řešení sporů a zvyšovat rizika pro soukromí a bezpečnost". CFPBguidance uvádí, že věřitelé musí uvést důvody pro odepření úvěru bez ohledu na to, zda to jejich používání umělé inteligence ztěžuje nebo neprůhledné. V červnu 2024 CFPB schválila nové pravidlo, které má zajistit, aby algoritmické hodnocení domů bylo spravedlivé, přesné a v souladu s nediskriminačním zákonem.

Před několika týdny Trumpova administrativa zastavila práci v CFPB a zahájila masové propouštění, které federální soudce pozastavil od 14. února.

CFPB má na starosti zajištění toho, aby společnosti dodržovaly antidiskriminační opatření, jako je zákon o rovných úvěrových příležitostech a zákon o finanční ochraně spotřebitelů, a poznamenala, že přijetí umělé inteligence může zhoršit diskriminaci a předsudky. V komentáři ze srpna 2024 CFPB uvedla, že se "zaměřuje na sledování trhu se spotřebitelskými finančními produkty a službami s cílem identifikovat rizika pro spotřebitele a zajistit, aby společnosti využívající nové technologie, včetně těch, které jsou uváděny na trh jako "umělá inteligence" nebo "AI", neporušovaly federální zákony o finanční ochraně spotřebitelů". Uvedla také, že sleduje "budoucnost spotřebitelského financování" a "nové využití spotřebitelských dat".

"Firmy musí při zavádění nových technologií dodržovat zákony na finanční ochranu spotřebitelů," pokračuje komentář. Není jasné, jaký orgán by to vynucoval, pokud by CFPB radikálně změnila kurz nebo přestala existovat pod novým vedením.

Jak je Trumpův příkaz ve srovnání

23. ledna podepsal prezident Trump svůj vlastní exekutivní příkaz o umělé inteligenci. Pokud jde o politiku, jednořádková směrnice říká pouze to, že USA musí "udržet a posílit americkou globální dominanci v oblasti umělé inteligence, aby podpořily lidský rozkvět, ekonomickou konkurenceschopnost a národní bezpečnost".

Na rozdíl od Bidenova příkazu se výrazy jako "bezpečnost", "spotřebitel", "data" a "soukromí" vůbec neobjevují. Nejsou zde žádné zmínky o tom, zda Trumpova administrativa plánuje upřednostnit zajištění ochrany jednotlivců nebo řešit zaujatost tváří v tvář vývoji umělé inteligence. Místo toho se zaměřuje na odstranění toho, co Bílý dům nazval "zbytečně zatěžujícími požadavky na společnosti vyvíjející a nasazující umělou inteligenci", a zdánlivě se zaměřuje na pokrok v odvětví.

Příkaz dále nařizuje úředníkům, aby našli a odstranili "nesrovnalosti" ve vládních agenturách - tedy zbytky Bidenova příkazu, které byly nebo stále jsou prováděny.

V březnu 2024 vydala Bidenova administrativa další memorandum, v němž uvedla, že vládní agentury využívající umělou inteligenci budou muset prokázat, že tyto nástroje nejsou pro veřejnost škodlivé. Stejně jako ostatní exekutivní příkazy Bidenovy éry a související směrnice kladl důraz na odpovědné nasazení a soustředil dopad umělé inteligence na jednotlivé občany. Trumpův exekutivní příkaz uvádí, že přezkoumá (a pravděpodobně zruší) většinu tohoto memoranda do 24. března.

To je obzvláště znepokojivé vzhledem k tomu, že minulý týden OpenAI vydala ChatGPT Gov, verzi chatbota OpenAI optimalizovanou pro bezpečnostní a vládní systémy. Není jasné, kdy vládní agentury získají přístup k chatbotovi nebo zda budou existovat parametry týkající se jeho použití, ačkoli OpenAI říká, že vládní pracovníci již ChatGPT používají. Pokud bude Bidenovo memorandum - které bylo mezitím odstraněno z webových stránek Bílého domu - vykucháno, je těžké říci, zda bude ChatGPT Gov podléhat nějakým podobným standardům, které by zohledňovaly újmu.

Trumpův akční plán pro umělou inteligenci

Trumpův exekutivní příkaz dal jeho zaměstnancům 180 dní na to, aby přišli s politikou umělé inteligence, což znamená, že její termín pro realizaci je 22. července. Ve středu Trumpova administrativa zveřejnila výzvu k veřejnému komentáři, aby informovala o tomto akčním plánu.

Trumpova administrativa narušuje AISI a CFPB - dva klíčové orgány, které provádějí Bidenovu ochranu - bez formální politiky, která by zachytila spad. To ponechává dohled nad umělou inteligencí a její dodržování v nejasném stavu po dobu nejméně příštích šesti měsíců (tisíciletí v časovém horizontu vývoje umělé inteligence, vzhledem k rychlosti, jakou se technologie vyvíjí), a to vše v době, kdy se technologičtí giganti ještě více zakořeňují ve vládních partnerstvích a iniciativách, jako je projekt Stargate.

Vzhledem k tomu, že globální regulace umělé inteligence stále výrazně zaostává za tempem pokroku, možná bylo lepší mít něco než nic.

"Zatímco Bidenův exekutivní příkaz k umělé inteligenci mohl být převážně symbolický, jeho zrušení signalizuje ochotu Trumpovy administrativy přehlížet potenciální nebezpečí umělé inteligence," řekl Peter Slattery, výzkumník z týmu FutureTech MIT, který vedl projekt Risk Repository. "To by se mohlo ukázat jako krátkozraké: selhání na vysoké úrovni - to, co bychom mohli nazvat "černobylský okamžik" - by mohlo vyvolat krizi důvěry veřejnosti a zpomalit pokrok, který vláda doufá urychlit."

"Nechceme pokročilou umělou inteligenci, která je nebezpečná, nedůvěryhodná nebo nespolehlivá - nikdo na tom není v takovém případě lépe," dodal.