OpenAI sestavuje tým odborníků k boji proti „katastrofickým“ rizikům AI - včetně jaderné války

Tým - nazvaný Připravenost - doufá, že zabrání současným a budoucím modelům umělé inteligence, aby se výrazně nezvrhly.

Vzhledem k tomu, že umělá inteligence pokračuje v revoluci v tom, jak interagujeme s technologiemi, nelze popřít, že to bude mít neuvěřitelný dopad na naši budoucnost. Nelze také popřít, že umělá inteligence má některá docela vážná rizika, pokud není zaškrtnuta.

Vstupte do nového týmu odborníků sestaveného OpenAI.

Tým odborníků z OpenAI - nazvaný Připravenost -, navržený tak, aby pomohl bojovat s tím, co nazývá „katastrofickými“ riziky, plánuje vyhodnotit současné a budoucí předpokládané modely umělé inteligence pro několik rizikových faktorů. Patří mezi ně individualizované přesvědčování (nebo přizpůsobení obsahu zprávy tomu, co chce příjemce slyšet), celková kybernetická bezpečnost, autonomní replikace a adaptace (nebo AI, která se sama mění), a dokonce hrozby na úrovni vyhynutí, jako jsou chemické, biologické radiologické a jaderné útoky.

Pokud se vám umělá inteligence zahajující jadernou válku zdá trochu přitažená za vlasy, pamatujte, že to bylo právě začátkem tohoto roku, kdy skupina špičkových výzkumníků, inženýrů a generálních ředitelů včetně generálního ředitele Google DeepMind Demise Hassabise zlověstně varovala: „Zmírnění rizika vyhynutí způsobené umělou inteligencí by měla být globální prioritou vedle dalších společenských rizik, jako jsou pandemie a jaderná válka."

Jak by umělá inteligence mohla způsobit jadernou válku? Počítače jsou všudypřítomné při určování toho, kdy, kde a jak se v těchto dnech odehrávají vojenské údery, a AI bude zcela jistě zapojena. Umělá inteligence je však náchylná k halucinacím a nemusí nutně zastávat stejné filozofie, jaké může mít člověk. Stručně řečeno, umělá inteligence se může rozhodnout, že je čas na jaderný útok, když tomu tak není.

"Věříme, že hraniční modely umělé inteligence, které překročí schopnosti, které jsou v současnosti dostupné v nejpokročilejších existujících modelech," stálo v prohlášení OpenAI, "mají potenciál být přínosem pro celé lidstvo. Ale také představují stále závažnější rizika."

Aby tým pomohl udržet AI pod kontrolou, říká OpenAI, zaměří se na tři hlavní otázky:

• Jak nebezpečné jsou hraniční systémy umělé inteligence, které máme dnes, a ty, které přijdou v budoucnu, když jsou účelově zneužity?
• Pokud by byly ukradeny závaží modelu hraniční umělé inteligence, co přesně by mohl zlomyslný herec udělat?
• Jak lze vytvořit rámec, který monitoruje, vyhodnocuje, předpovídá a chrání před nebezpečnými schopnostmi hraničních systémů umělé inteligence?

V čele tohoto týmu je Aleksander Madry, ředitel MIT Center for Deployable Machine Learning a spoluvedoucí fakulty MIT AI Policy Forum.

Pro rozšíření svého výzkumu OpenAI také spustila to, co nazývá „AI Připravenost Challenge“ pro prevenci katastrofického zneužití. Společnost nabízí až 25 000 $v kreditech API až 10 nejlepším příspěvkům, které publikují pravděpodobné, ale potenciálně katastrofické zneužití OpenAI.