„OpenAI je vývoj produktů, ne výzkum AI,“ říká LeCun, hlavní vědec společnosti Meta

Vláda by neměla regulovat základní vědu AI, říkají LeCun a kolega Andrew Ng.

"Řada velmi chytrých lidí podepsala tento návrh a myslím, že Yann i já jsme tímto návrhem znepokojeni," řekl Andrew Ng, vlevo, zakladatel a generální ředitel společnosti Landing.ai a AI vzdělávací organizace DeepLearning.ai. . Přidal se k němu Yann LeCun, hlavní vědec AI pro Meta Platforms.

Během pátečního živého webového vysílání na YouTube nakreslil hlavní vědec AI společnosti Meta Platforms Yann LeCun hranici mezi regulací vědy o AI a regulací produktů a poukázal na to, že nejkontroverznější vývoj AI, ChatGPT od OpenAI, představuje produkt, nikoli základní R&D.

"Když mluvíme o GPT-4 nebo o čemkoli, co OpenAI v tuto chvíli vydává, nemluvíme o výzkumu a vývoji, mluvíme o vývoji produktů, ano?" řekl LeCun.

„OpenAI se změnilo z výzkumné laboratoře umělé inteligence, která byla relativně otevřená, jak název napovídá, na ziskovou společnost a nyní na druh smluvní výzkumné laboratoře převážně pro Microsoft, která již neprozrazuje nic o tom, jak fungují, takže toto je vývoj produktu; to není výzkum a vývoj."

LeCun pořádal společné webové vysílání s Andrewem Ngem, zakladatelem a generálním ředitelem aplikované firmy AI Landing.ai, a vzdělávací organizace AI DeepLearning.ai. Oba představili svůj argument proti šestiměsíčnímu moratoriu na testování AI, které navrhl Future of Life Institute a podepsali různí významní osobnosti.

Návrh požaduje, aby laboratoře umělé inteligence pozastavily - alespoň na šest měsíců - výcvik systémů umělé inteligence výkonnějších než OpenAI GPT-4, nejnovější z několika takzvaných velkých jazykových modelů, které jsou základem pro programy umělé inteligence, jako je ChatGPT. .

Záznam půlhodinové relace lze zhlédnout na YouTube.

LeCun i Ng tvrdili, že zdržování výzkumu umělé inteligence by bylo špatné, protože to omezuje pokrok.

„Mám pocit, že zatímco umělá inteligence má dnes určité riziko poškození - myslím, že zaujatost, férovost, koncentrace moci, to jsou skutečné problémy - vytváří také skutečnou hodnotu, pro vzdělávání, pro zdravotnictví, je neuvěřitelně vzrušující. tolik lidí tvoří, aby pomohli jiným lidem,“ řekl Ng.

„Jakkoli je GPT-4 dnes úžasné, vybudování něčeho ještě lepšího než GPT-4 pomůže všem těmto aplikacím pomoci mnoha lidem,“ pokračoval Ng. "Takže pozastavení tohoto pokroku se zdá, jako by způsobilo mnoho škod a zpomalilo vytváření mnoha velmi cenných věcí, které by pomohly mnoha lidem."

LeCun souhlasil a zároveň zdůraznil rozdíl mezi výzkumem a vývojem produktů.

"Moje první reakce na to je, že volání po odkladu výzkumu a vývoje v podstatě znamená novou vlnu tmářství," řekl LeCun. "Proč zpomalovat pokrok vědění a vědy?"

"Pak je tu otázka produktů," pokračoval LeCun. „Jsem pro regulaci produktů, které se dostanou do rukou lidí; nevidím smysl regulace výzkumu a vývoje, nemyslím si, že to slouží jinému účelu než snížení znalostí, které bychom mohli využít k tomu, abychom technologie skutečně vylepšili. , bezpečnější."

LeCun se odvolával na rozhodnutí OpenAI s GPT-4 dramaticky omezit zveřejňování toho, jak jeho program funguje, a nenabízí téměř nic, co by mělo technickou hodnotu ve formálním výzkumném dokumentu, který minulý měsíc představil tento program světu.

"Částečně jsou lidé nešťastní z toho, že OpenAI je nyní tajnůstkářská, protože většina nápadů, které použili ve svých produktech, nepocházela od nich," řekl LeCun. "Byly to nápady publikované lidmi z Google a FAIR [Facebook AI Research] a různými dalšími akademickými skupinami atd., a nyní jsou tak trochu pod zámkem."

LeCun byl v otázkách a odpovědích dotazován, proč jeho kolega Yoshua Bengio, šéf kanadského institutu MILA pro AI, podepsal dopis o moratoriu. LeCun odpověděl, že Bengio se obzvláště zajímá o otevřenost ve výzkumu AI. Bengio skutečně řekl, že obrat OpenAI k utajení by mohl mít mrazivý dopad na základní výzkum.

"Souhlasím s ním" o potřebě otevřenosti ve výzkumu, řekl LeCun. "Tady ale nemluvíme o výzkumu, ale o produktech."

LeCun charakterizace práce OpenAI jako pouhého vývoje produktu je v souladu s předchozími poznámkami, že OpenAI neučinila žádné skutečné vědecké průlomy. V lednu poznamenal, že ChatGPT OpenAI „není nijak zvlášť inovativní“.

Během pátečního zasedání LeCun předpověděl, že volný tok výzkumu vytvoří programy, které svými schopnostmi splní nebo překročí GPT-4.

"Toto nebude trvat příliš dlouho, v tom smyslu, že v relativně krátké době bude spousta dalších produktů, které budou mít podobné schopnosti, ne-li lepší," řekl LeCun.

"OpenAI má trochu náskok díky setrvačníku dat, který jim umožňuje jej vyladit, ale tohle nevydrží."