To, co umělá inteligence zapomene, by nás mohlo zabít, ale nový výzkum jí pomáhá si zapamatovat

Je to ironie: Lepší pochopení toho, jak lidský mozek vytváří vzpomínky, by nám mohlo pomoci omezit zvyk neuronových sítí na „katastrofické“ zapomínání.

Podle většiny zpráv bude AI brzy všude, skoro jako cukr nebo Taylor Swift.

Systémy umělé inteligence budou brzy tvořit inteligentní páteř všeho, co používáme nebo děláme, a transformují průmysl a společnost jako celek, říkají odborníci.

Představte si tedy, že letíte někde tam nahoře na přátelském nebi a centrální nervový systém vašeho letadla, který je nyní řízen umělou inteligencí, se náhle vypne a letadlo zůstane bez síly.

Nebo se newyorská burza rozhodne pro nečekanou a okamžitou dovolenou tím, že vypne a pošle ekonomiku - a vaše celoživotní úspory - do spirály smrti.

Nebo váš toustovač odmítne dodat ten jeden kousek jídla, který vaše tělo přijme, než se pustíte do každodenního plahočení se do práce.

Věřte tomu nebo ne, zabijácká technologie, která měla poslat lidstvo řítící se k zániku - přesvědčení patřící neméně autoritě AI než samotnému muži, který ji vynalezl, Geoffrey Hintonovi - má malý problém, kterému se musí věnovat, než se oživí. ke svému vražednému potenciálu.

Jak jdou problémy, je to hrozné mít - prostě si nepamatuje starší věci.

A když si to nepamatuje, okamžitě se vypne v aktu zvaném „katastrofické zapomenutí“, který může mít děsivé paralely s celou vaší středoškolskou vzdělávací zkušeností.

Ve vzpomínce na věci minulé

Každý základní systém umělé inteligence, který stojí za své čipy, by měl být schopen úspěšně se naučit sled úkolů v procesu zvaném kontinuální učení.

U lidí se učení děje, když je náš mozek schopen vyvolat vzpomínky na minulé případy, kdy něco dělali.

Závisí to na části cyklu REM ve fázi našeho spánku, kdy jsou nedávné vzpomínky přesunuty do dlouhodobého koše, aby bylo možné vytvořit nové.

Neuronové sítě umělé inteligence v podstatě napodobují, jak funguje lidský mozek, takže se dlouho očekávalo, že algoritmus může využít své uložené znalosti o provádění všech svých starých úloh k tomu, aby se naučil nové, podobně jako my lidé - ale to se nezdá. aby fungoval podle očekávání.

Při trénování umělých neuronových sítí se něco děje - nebo neděje, což způsobuje obrovské mezery v poznání. Neuronové sítě zapomenou všechny své staré informace, zatímco se učí nové věci - a pak zamrznou.

Aby to vědci napravili, pustili se do nové strategie - začali krmit systémy AI starými daty, zatímco zpracovávali nová, proces nazývaný prokládaný trénink, o kterém si mysleli, že funguje mozek, když spí.

Ukazuje se, že tento proces ve skutečnosti neprobíhá v mozku; jen z praktického hlediska není ani zdaleka čas potřebný k tomu, aby mozek - nebo jeho strojový imitátor - strávil všechna tato stará učení ve spánku.

Odpověď musela ležet jinde.

Vědci z Ústavu výpočetní techniky Akademie věd ČR v Praze a z Kalifornské univerzity v San Diegu se také podívali na spánek, ale jinou optikou.

Vyhnuli se konvenční neuronové síti - takové, která neustále upravuje své synapse (spojení mezi neurony), dokud není schopna najít řešení - pro „špičkovou“ síť, o níž si mysleli, že se nejvíce podobá lidskému mozku.

„Špičková“ síť vysílá výstup až po přijetí celé řady signálů v průběhu času, a proto podle výzkumníků přenáší mnohem méně dat a spotřebovává mnohem méně energie a šířky pásma. Přitom je schopen znovu aktivovat neurony zapojené do učení starých úkolů. Zdálo se, že to funguje.

Špičková neuronová síť byla schopna provádět oba úkoly poté, co prošla fázemi podobnými spánku.

„Naše práce zdůrazňuje užitečnost při vývoji biologicky inspirovaných řešení,“ říká jeden z výzkumníků studie Jean Erik Delanois z Kalifornské univerzity v San Diegu.

K obrazu tvého stvořitele

Mezitím se nedávno vědci z Ohio State University vyhýbali spánku a řešili stejný problém katastrofického zapomínání v neuronových sítích s hlubokým učením.

K vyřešení tohoto problému použili zcela odlišný a důmyslný přístup.

„Náš výzkum se ponoří do složitosti nepřetržitého učení v těchto umělých neuronových sítích a to, co jsme našli, jsou poznatky, které začínají překlenout propast mezi tím, jak se učí stroj a jak se učí člověk,“ řekl Ness Shroff, profesor informatiky a inženýrství ve státě Ohio.

Shroff a jeho kolegové zjistili, že tradiční algoritmy strojového učení jsou vynucená data v jednom velkém tahu, ale to není nutně dobré pro stroj. Ve skutečnosti to, jak blízko se úkoly podobají, co mají společného, a dokonce i to, v jakém pořadí jsou úkoly vyučovány, ovlivňuje, jak dobře si je algoritmus pamatuje.

V jedné z nejpodivnějších ironií naší doby Shroff a jeho kolegové zjistili, že algoritmy, podobně jako lidé, si byly schopny mnohem lépe pamatovat, když byly krmeny za sebou velmi odlišnými úkoly namísto řady podobných úkolů.

Lidské mozky také fungují takto. Stejné události - večírky, dovolené, dokonce i dny v týdnu - se do sebe zamlžují, pokud se pro ně opakuje stejné místo nebo zážitek. Ale vyčnívají ty různé.

Výzkumníci z Ohio State zjistili, že různé úkoly by měly být zavedeny velmi brzy v procesu neustálého učení, aby se umělá inteligence naučila nové věci i úkoly podobné těm starým.

"Jejich práce je obzvláště důležitá, protože pochopení podobností mezi stroji a lidským mozkem by mohlo připravit cestu k hlubšímu pochopení AI," řekl Shroff.

Aby byla umělá inteligence skutečně efektivní a bezpečná, musí být algoritmy schopny se lépe učit, zvládat různé a neočekávané situace a být škálovatelné.

Tato dvě řešení pro poškozené paměti stroje by k tomuto cíli měla výrazně pomoci.