Když si neuronová síť musela vybrat své vlastní neurony, stala se překvapivá věc

Tento výzkum odhaluje důležitost evoluční rozmanitosti pro život na Zemi a ještě neuvěřitelněji pro život ve strojích.

Bývaly doby, kdy čistokrevní psi byli symbolem postavení. Majitelé křičeli o bezvadném rodokmenu jejich německého ovčáka nebo kokršpaněla, někdy se honosili liniemi, které šlapou v jedné rodině po mnoho generací.

Tato přitažlivost k čistotě byla zvýšena během Hitlerova nacistického Německa, kdy byly „kontaminované“ linie německých ovčáků ošklivé. Bylo to však během viktoriánské éry 19. století, kdy lidé neúnavně inbredovali psy do té míry, že všechna plemena, která nyní vidíme - a jejich trápení, jako jsou problémy s kyčlemi a jinými klouby - jsou výsledkem tohoto procesu inbreedingu.

Dnes se důraz na čistotu posunul a nadále se učíme více o genetice, konkrétně o tom, jak je inbreeding nejrychlejším způsobem, jak získat oslabující zdravotní problémy a nestabilní povahy.

Nyní vládne mutt. Víme, čím větší je rozmanitost prostředí, tím větší je rozmanitost organismů, které se po adaptaci na ně objevují - a v konečném důsledku tím větší je stabilita světa, ve kterém žijeme.

V moderním světě jsou více než v kterémkoli období moderní lidské historie vyhledávány rozmanité genofondy, zejména proto, že nestabilní prostředí a problémy se změnou klimatu budou vyžadovat odolnější druhy. Tento proces sám o sobě jako zákon Země není tak těžké pochopit.

Ale co když stroj vykazuje stejnou schopnost lepšího výkonu při rozmanitějším technickém nastavení?

Navíc, co když si stroj skutečně vybere rozmanitost poté, co mu bylo umožněno vytvořit si vlastní vnitřnosti - a jeho volby vedou k nevídanému zvýšení rychlosti procesoru?

Meta-learning pro AI

Tato otázka byla podrobena zkoušce průlomovým experimentem, který provedl tým výzkumníků (Anshul Choudhary, Anil Radhakrishnan, John F. Lindner, William Ditto a Sudeshna Sinha) z řady institucí (Stát Severní Karolína, Indian Institute of Science , Mohali, College of Wooster). Jejich cílem bylo otestovat druh operačních voleb, které by pokročilá umělá inteligence, jako jsou neuronové sítě, učinila, když by byla ponechána jejich vlastním zařízením.

„Vytvořili jsme testovací systém s nelidskou inteligencí, umělou inteligencí (AI), abychom zjistili, zda by AI upřednostnila diverzitu před nedostatkem diverzity a zda by její volba zlepšila výkon AI,“ říká spolupracovnice papíru. autor William Ditto, profesor fyziky na NC State a ředitel NC State's Nonlinear Artificial Intelligence Laboratory (NAIL).

"Naše skutečné mozky mají více než jeden typ neuronů," říká Ditto a dále extrapoluje experiment, který začíná nově definovat, jak se díváme na neurologickou rozmanitost ve strojích a vztah k výkonu.

"Takže jsme naší AI dali možnost podívat se dovnitř a rozhodnout, zda potřebuje upravit složení své neuronové sítě. V podstatě jsme jí dali ovládací knoflík pro její vlastní mozek. Takže může problém vyřešit, podívejte se na výsledek, a měnit typ a směs umělých neuronů, dokud nenajde ten nejvýhodnější. Je to metaučení pro AI.“

Rozmanitost je evoluční nutností pro přežití a špičkový výkon, včetně strojů.

Neuronová síť - která je jádrem většiny konvenčních, pokročilých AI - napodobuje způsob, jakým funguje náš mozek. Stejně jako naše mozky vysílají a přijímají elektrické impulsy, které závisí na síle jejich spojení, tak to dělají i neuronové sítě tím, že upravují číselné váhy a odchylky, když se trénují.

Když neuronová síť prochází školením a snaží se například prozkoumáním velké sbírky fotografií autobusů identifikovat, jak vypadají autobusy, síť upraví své číselné váhy a vyrovnává se, když vyjednává správné a špatné obrázky autobusů.

Síla spojení mezi těmito neurony během tréninkového procesu kolísá, ale pokud jde o jejich složení, v podstatě zůstanou uzamčené.

Dokud vědci nedali neuronové síti volnost, aby se sama aktivovala - a pak se stalo něco pozoruhodného.

Výběr rozmanitosti pro špičkový výkon

Za prvé, síť vybrala zcela odlišné nebo heterogenní, nelineární uspořádání neuronů.

Jinými slovy, systém zvolil diverzitu před stejností v procesu zvaném „naučená diverzita“.

Pak se ukázalo, že samovolná, heterogonní neuronová síť také předčila homogenní síť se stejným tréninkem.

Když tým požádal AI, aby provedla „standardní numerické klasifikační cvičení“, samovolné, různorodé AI cvičení porazilo svého homogenního sourozence o 70 % až 57 %, pokud jde o přesnost.

Ditto říká, že různorodá AI může být až 10krát přesnější než konvenční neuronová síť.

„Ukázali jsme, že pokud AI dáte možnost dívat se dovnitř a učit se, jak se učí, změní svou vnitřní strukturu - strukturu svých umělých neuronů - tak, aby přijala rozmanitost a zlepšila svou schopnost učit se a efektivně řešit problémy. a přesněji,“ říká Ditto.

Dodal, že jak se problémy stávají složitějšími a chaotičtějšími, výkon různorodé AI neuronové sítě se ve srovnání s nerůznorodou AI časem skutečně zlepšuje.

Podle vědců může tato naučená rozmanitost dokonce zvýšit výkon existujících umělých inteligencí informovaných o fyzice, jako jsou hamiltonovské neuronové sítě.

Vzhledem k tomu, že umělá inteligence bude nasazena téměř ve všech aplikacích - mnohé z nich jsou zapojeny do funkcí života a smrti, jako jsou letadla a autonomní vozidla - budeme potřebovat systémy, které jsou mnohem robustnější a rychlejší.

Různorodá evoluční trajektorie udělala z lidí, zvířat, rostlin a v podstatě všeho, co na Zemi dosud přežilo, úspěšný příběh - a také se zdá, že odděluje vítěze od poražených ve světě strojů.