Hawking, Musk a Wozniak volají po úplném zákazu vojenské umělé inteligence a autonomních zbraní

Musk, Hawking a Wozniak volají po zákazu autonomních zbraní a vojenské umělé inteligence, aby se zabránilo "závodům ve zbrojení s vojenskou umělou inteligencí"

Více než 1 000 vědeckých výzkumníků a technologických expertů podepsalo otevřený dopis vyzývající světové vlády, aby zakázaly vývoj "útočných autonomních zbraní", aby se zabránilo "vojenským závodům ve zbrojení s umělou inteligencí".

Dopis, který bude zítra představen na Mezinárodní společné konferenci o umělé inteligenci (IJCAI) v Buenos Aires v Argentině, podepsali Elon Musk z Tesly, spoluzakladatel společnosti Apple Steve Wozniak, generální ředitel Google DeepMind Demis Hassabis, Noam Chomsky a profesor Stephen Hawking spolu s desítkami dalších výzkumníků v oblasti umělé inteligence a robotiky.

V dopise se uvádí: "Technologie umělé inteligence dosáhla bodu, kdy je nasazení [autonomních zbraní] - prakticky, ne-li legálně - proveditelné během let, nikoli desetiletí, a v sázce je hodně: autonomní zbraně byly popsány jako třetí revoluce ve válčení, po střelném prachu a jaderných zbraních. ”

Autoři tvrdí, že umělá inteligence může být použita k tomu, aby se bojiště stalo bezpečnějším místem pro vojenský personál, ale že útočné zbraně, které fungují samy o sobě, by snížily práh vstupu do bitvy a vedly k větším ztrátám na lidských životech.

Většina dopisu se zabývá vozidly a hloupými roboty, kteří jsou přeměňováni na chytré autonomní zbraně. Podle dopisu jsou střely s plochou dráhou letu a dálkově řízené drony v pořádku, protože "lidé dělají všechna rozhodnutí o zaměřování". Nicméně vývoj plně autonomních zbraní, které mohou bojovat a zabíjet bez lidského zásahu, by měl být stlačen v zárodku.

Zde je jeden z hlavních argumentů z dopisu:

Klíčovou otázkou pro lidstvo dnes je, zda zahájit globální závody ve zbrojení v oblasti umělé inteligence, nebo jim zabránit. Pokud nějaká velká vojenská mocnost pokročí ve vývoji zbraní s umělou inteligencí, globální závody ve zbrojení jsou prakticky nevyhnutelné a konečný bod této technologické trajektorie je zřejmý: autonomní zbraně se stanou kalašnikovy zítřka.

Později dopis vykresluje silnou paralelu mezi chemicko-biologickou válkou a autonomními zbraněmi:

Stejně jako většina chemiků a biologů nemá zájem na výrobě chemických nebo biologických zbraní, většina výzkumníků v oblasti umělé inteligence nemá zájem na výrobě zbraní s umělou inteligencí - a nechtějí, aby tím ostatní pošpinili jejich obor a potenciálně vyvolali velký odpor veřejnosti proti umělé inteligenci, který omezí její budoucí společenské přínosy.

Future of Life Institute se chystá představit dopis na IJCAI. Není jasné, komu byl dopis adresován, kromě výzkumníků a akademiků, kteří se konferencí zúčastní. Možná je to záměr obvykle zvýšit povědomí o této problematice, abychom nezavírali oči před jakýmkoli výzkumem autonomních zbraní, který provádějí hlavní vojenské mocnosti.

Toby Walsh, profesor umělé inteligence na Univerzitě Nového Jižního Walesu, řekl: "Dnes musíme učinit rozhodnutí, které bude utvářet naši budoucnost a určí, zda se vydáme cestou dobra. Podporujeme výzvu řady různých humanitárních organizací, aby OSN zakázala útočné autonomní zbraně, podobně jako byl nedávno zakázán oslepující lasery. ”

Elon Musk a Stephen Hawking již dříve varovali před nebezpečím pokročilé umělé inteligence. Zatímco Hawking řekl, že umělá inteligence je "naší největší existenční hrozbou" a že vývoj plné umělé inteligence by mohl "znamenat konec lidské rasy", Musk řekl, že umělá inteligence je "potenciálně nebezpečnější než jaderné zbraně".

V poslední době změnili názor na umělou inteligenci i jiní, včetně Wozniaka, přičemž spoluzakladatel společnosti Apple řekl, že roboti by byli pro lidi dobří, protože by z nich udělali "rodinného mazlíčka, o kterého je neustále postaráno".

Při diskusi o budoucnosti zbraní, včetně takzvaných "robotů zabijáků" na konferenci OSN v Ženevě v dubnu, se Velká Británie postavila proti zákazu vývoje autonomních zbraní, a to navzdory výzvám různých nátlakových skupin, včetně Kampaně za zastavení robotů zabijáků.