Kvantový průlom společnosti Google je „skutečně pozoruhodný“ - ale zbývá udělat víc
Výpočetní technika s umělou inteligencí bude i nadále stoupat s inferencí a bude vyžadovat zcela nová vícegigawattová datová centra umělé inteligence.
Thomas Graham, vpravo, spoluzakladatel čipového startupu Lightmatter, řekl Mandeepu Singhovi z Bloomberg Intelligence, že datová centra odpovídající osminásobku spotřeby energie New York City budou ve výstavbě v roce 2026, aby sloužila zavádění AI.
Nvidia a její partneři a zákazníci neustále stavěli stále větší a větší počítačová zařízení po celém světě, aby zvládli výpočetně náročné potřeby školení obřích programů umělé inteligence (AI), jako je GPT-4. Toto úsilí bude nabývat na důležitosti, jak bude do výroby uváděno více modelů umělé inteligence, říká jeden startup sloužící technologickým gigantům.
"Lidé budou chtít více výpočetní techniky, ne nutně kvůli zákonům o škálování, ale proto, že tyto věci nyní zavádíte," řekl Thomas Graham, spoluzakladatel optického výpočetního startupu Lightmatter, během rozhovoru minulý týden v New Yorku s Mandeepem Singhem. senior technologický analytik společnosti Bloomberg Intelligence.
Singh se Grahama zeptal, zda se velké jazykové modely (LLM), jako je GPT-4, budou i nadále „škálovat“, což znamená, že jejich velikost poroste s tím, jak se OpenAI a další snaží dosáhnout ambicióznějších modelů.
Graham obrátil otázku a naznačil, že další fází počítačového apetitu AI je uvedení trénovaných neuronových sítí do výroby.
„Pokud se na školení díváte jako na výzkum a vývoj, inference je skutečně nasazením a při jeho zavádění budete potřebovat velké počítače pro provoz svých modelů,“ řekl Graham. Diskuse byla součástí celodenní konference pořádané agenturou Bloomberg Intelligence nazvané "Gen AI: Dokáže splnit slib produktivity?"
Grahamův názor se shoduje s názorem generálního ředitele Nvidie Jensena Huanga, který v posledních měsících řekl Wall Street, že „rozšiřování“ „agentických“ forem umělé inteligence bude vyžadovat „jak sofistikovanější školení [modelů umělé inteligence], tak také čím dál sofistikovanější vyvozování, “ a že v důsledku toho „odvozování počítá exponenciálně“.
„Pokud se na školení díváte jako na výzkum a vývoj, inference je skutečně nasazením a při jeho zavádění budete potřebovat velké počítače pro provoz svých modelů,“ řekl Graham.
Společnost Lightmatter, založená v roce 2018, vyvíjí čipovou technologii, která dokáže spojit více procesorů dohromady na jedné polovodičové matrici pomocí optických spojení - což může nahradit konvenční síťová propojení mezi desítkami, stovkami nebo dokonce tisíci čipů potřebných k vybudování datových center AI. Optická propojení, jak se jim říká, mohou přenášet data rychleji než měděné dráty za zlomek spotřeby energie.
Tuto technologii lze použít mezi počítači ve stojanu datového centra a mezi stojany ke zjednodušení počítačové sítě, čímž se celé datové centrum stane ekonomičtějším, řekl Graham Singhovi.
„Takže skutečně odstranit stopy mědi, které máte v datových centrech, jak v serveru na desce s obvody tiskárny, tak v kabeláži mezi stojany, nebo to všechno nahradit vlákny, to vše s optikou, což skutečně dramaticky zvýší šířku pásma, kterou dostat,“ řekl Graham.
Lightmatter spolupracuje s řadou technologických společností na plánech nových datových center, řekl Graham. "Datová centra se budují od nuly," řekl. Lightmatter již oznámil partnerství se smluvním výrobcem polovodičů Global Foundries, který má zařízení v severní části státu New York a slouží mnoha výrobcům čipů, včetně Advanced Micro Devices.
Mimo tuto spolupráci Graham odmítl jmenovat partnery a zákazníky. Důsledkem jeho přednášky bylo, že jeho společnost spolupracuje s poskytovateli křemíku, jako je Broadcom nebo Marvell, na výrobě vlastních integrovaných dílů pro technologické giganty, kteří navrhují vlastní procesory pro svá datová centra, jako je Google, Amazon a Microsoft.
Pro představu o rozsahu nasazení Graham poukázal na to, že je v plánu nebo ve výstavbě nejméně tucet nových datových center AI, která ke svému provozu vyžadují gigawatt energie.
"Jen pro kontext, New York City spotřebuje pět gigawattů energie za průměrný den. Takže několik NYC." Do roku 2026 se podle něj očekává, že světové zpracování umělé inteligence bude vyžadovat 40 gigawattů energie „speciálně pro datová centra AI, tedy osm NYC“.
Lightmatter nedávno obdržela infuzi rizikového kapitálu ve výši 400 milionů dolarů a hodnota společnosti je 4,4 miliardy dolarů. Lightmatter hodlá vstoupit do výroby „během několika příštích let,“ řekl Graham.
Když se ho Singh zeptal, co by mohlo naplnit plány společnosti, Graham vyjádřil důvěru v pokračující potřebu rozšiřovat výpočetní infrastrukturu AI.
„Pokud v příštích několika letech vědci přijdou s novým algoritmem pro AI, který bude vyžadovat mnohem méně výpočtů, bude mnohem výkonnější než to, co máme dnes, který dosáhne AGI [umělá obecná inteligence] mnohem rychleji, bude to mít opici. zalomit do předpokladů každého o tom, že chce nadále investovat do exponenciálních výpočtů,“ řekl.