Pokud se váš kód vygenerovaný umělou inteligencí pokazí, kdo čelí největší odpovědnosti?

Podstata umělé inteligence, říká britský vědecký úřad, spočívá v tom, že je „adaptivní“ a „autonomní“.

91stránková bílá kniha o regulaci umělé inteligence, kterou ve středu vydal ministr pro vědu, inovace a technologie Spojeného království a kterou předložil britskému parlamentu, závisí na představě, že umělá inteligence je většinou definována svou nejistotou a nepředvídatelností.

„Pro účinnou regulaci umělé inteligence a pro podporu jasnosti námi navrhovaného rámce potřebujeme společné chápání toho, co se myslí ‚umělou inteligencí‘,“ uvádí bílá kniha.

"Neexistuje žádná obecná definice umělé inteligence, která by se těšila širokému konsenzu," a "proto jsme AI definovali odkazem na dvě charakteristiky, které generují potřebu regulační reakce na míru."

Tato definice se zaměřuje pouze na jeden kout AI, dosud nejúspěšnější, strojové učení nebo neuronové sítě. Zaměřuje se na dvě vlastnosti, které jsou vidět ve strojovém učení, a sice, že není jasné, proč programy fungují tak, jak fungují, a programy mohou mít neočekávaný výstup.

Britský ministr pro vědu, inovace a technologie navrhl rámec pro regulaci umělé inteligence, který by byl šetrný k průmyslu a zároveň by, jak říká, vybudoval důvěru veřejnosti pro tuto technologii.

Bílá kniha uvádí:

• „Adaptivita“ umělé inteligence může ztížit vysvětlení záměru nebo logiky výsledků systému:
• Systémy umělé inteligence jsou „trénovány“ - jednorázově nebo neustále - a fungují na základě vyvozování vzorců a spojení v datech, která často nejsou pro lidi snadno rozpoznatelná.
• Prostřednictvím takového školení si systémy umělé inteligence často vyvinou schopnost provádět nové formy vyvozování, které si jejich lidští programátoři přímo nepředstavují.

• „Autonomie“ umělé inteligence může ztížit přiřazení odpovědnosti za výsledky:
• Některé systémy umělé inteligence mohou činit rozhodnutí bez výslovného záměru nebo trvalé kontroly člověka.

Bílá kniha navrhuje, že kvůli nejistotě by regulační orgány neměly regulovat samotnou technologii, ale spíše selektivně regulovat výsledky používání technologie.

"Náš rámec je kontextově specifický," uvádí. „Nebudeme přiřazovat pravidla ani úrovně rizika celým sektorům nebo technologiím.

„Namísto toho budeme regulovat na základě výsledků, které AI pravděpodobně generuje v konkrétních aplikacích.

Záměrem je, že různá použití mají různé důsledky a různou závažnost, zpráva objasňuje:

Nebylo by například přiměřené ani efektivní klasifikovat všechny aplikace AI v kritické infrastruktuře jako vysoce rizikové. Některá použití AI v kritické infrastruktuře, jako je identifikace povrchových škrábanců na strojích, mohou představovat relativně nízké riziko. Podobně by chatbot s umělou inteligencí, který se používá k třídění požadavků zákaznických služeb pro online prodejce oblečení, neměl být regulován stejným způsobem jako podobná aplikace používaná jako součást lékařského diagnostického procesu.

Bílá kniha nazvaná „Proinovační přístup k regulaci umělé inteligence“ se snaží ujistit průmysl, že vývoj této technologie neutlumí. Dokument zdůrazňuje potřebu udržet Británii komerčně konkurenceschopnou tím, že nebude brát těžkou ruku v regulaci a zároveň se bude snažit podpořit důvěru veřejnosti v AI.

"Průmysl nás varoval, že regulační nesoudržnost by mohla potlačit inovace a konkurenci tím, že by nepřiměřeně velké množství menších podniků opustilo trh," je jednou z mnoha obav zmíněných ve zprávě.

Předmluva ministryně Michelle Donlan prohlašuje, že „tato bílá kniha zajistí, že Spojené království nasměrujeme k tomu, aby bylo nejlepším místem na světě pro vytváření, testování a používání technologie AI“. Zpráva uvádí, že průzkumy korunovaly Británii na „třetí místo na světě ve výzkumu a vývoji AI“, což je důležité postavení, které je třeba zachovat, navrhuje Donlan.

„Budoucí země s podporou umělé inteligence je země, ve které jsou naše způsoby práce umělou inteligencí spíše doplněny, než aby ji narušovaly,“ píše Donlan a jako důvod uvádí vyhlídky nejen na lékařské objevy, jako jsou diagnózy pomocí umělé inteligence, ale také na vyhlídky, že umělá inteligence dokáže automatizovat podřadné úkoly na pracovišti.

Dokument navrhuje, aby regulace přijala mírný dotek, alespoň zpočátku. Regulátoři by měli být povzbuzováni v rámci svých oblastí specializace, aby zkoušeli věci a viděli, co funguje, a nezatěžovali se „statutárními“ pravidly pro AI.

„Zásady budou vydány na nestatutárním základě a provedeny stávajícími regulátory,“ uvádí se v něm. "Tento přístup využívá odborných znalostí regulačních orgánů pro konkrétní domény k přizpůsobení implementace principů konkrétnímu kontextu, ve kterém se používá AI."

Později zpráva říká, že „až to parlamentní čas dovolí, očekáváme zavedení zákonné povinnosti pro regulátory, která od nich vyžaduje, aby náležitě zohledňovali zásady“, i když ponechává otevřenou vyhlídku, že taková zákonná pravidla nemusí být nutná, pokud regulátory budou úspěšní při uplatňování vlastního úsudku.

Bílá kniha je informována dalšími průzkumy. Přímým předchůdcem je politický dokument, který loni v červenci vydal ministr pro digitál, kulturu, média a sport, s názvem „Zavedení proinovačního přístupu k regulaci umělé inteligence“.

Doprovodný dokument, který tento měsíc zveřejnil sir Patrick Vallance, hlavní vědecký poradce vlády, s názvem „Pro-inovační regulace technologií Review“, uvádí několik doporučení, která jsou začleněna do bílé knihy ministra zahraničí.

Hlavním z nich je návrh na obchodně přátelské "pískoviště". Jednalo by se o zařízení, které by inkubovalo technologie umělé inteligence pod dohledem regulačních orgánů, kde by společnosti mohly zkoušet nové programy umělé inteligence s uvolněnějšími pravidly, které by umožnily větší experimentování.

List zdůrazňuje, že s tím, jak ostatní země postupují vpřed s regulačními návrhy, je naléhavé, aby Británie nezůstala pozadu. Existuje „krátký časový rámec pro vládní zásahy, aby bylo zajištěno jasné, pro-inovační regulační prostředí, aby se Spojené království stalo jedním z předních míst na světě pro budování základních společností AI,“ uvádí se v něm.

Mnoho obav vyvolaných používáním umělé inteligence, včetně etiky uhlíkové stopy způsobené školením takzvaných velkých jazykových modelů, je ve zprávě vynecháno.

Například otevřený dopis zveřejněný tento týden think-tankem The Future of Life Institute, podepsaný více než 1 300 jednotlivci včetně vědců a členů technologického průmyslu, vyzývá k moratoriu na vývoj velkých jazykových modelů a varuje, že není věnována náležitá pozornost nebezpečí. například „stroje zaplavují naše informační kanály propagandou a nepravdou.“

Britský list neuvádí žádná taková rozsáhlá doporučení, která jsou podle něj mimo rozsah britské regulace:

Navrhovaný regulační rámec se nesnaží řešit všechny širší společenské a globální výzvy, které mohou souviset s rozvojem nebo používáním umělé inteligence. To zahrnuje otázky týkající se přístupu k datům, výpočetní kapacity a udržitelnosti, stejně jako vyvážení práv producentů obsahu a vývojářů AI. To jsou důležité otázky, které je třeba zvážit - zejména v souvislosti se schopností Spojeného království udržet si své místo jako globálního lídra v oblasti umělé inteligence - ale jsou mimo rozsah našich návrhů na nový zastřešující rámec pro regulaci umělé inteligence.