HPE spolupracuje se společností Nvidia a nabízí vývoj a nasazení GenAI „na klíč“.
Portfolio produktů a služeb, nazývané Nvidia AI Computing od společnosti HPE, má za cíl zjednodušit vývoj a správu úloh umělé inteligence.
Společnost Hewlett Packard Enterprise (HPE) se spojila s Nvidií, aby nabídla to, co nabízejí jako integrované řešení „na klíč“ pro organizace, které chtějí zavést generativní umělou inteligenci (GenAI), ale jsou odrazovány složitostí vývoje a správy takových úloh.
Portfolio produktů a služeb, nazývané Nvidia AI Computing od HPE, zahrnuje společně vyvinuté aplikace AI a obě společnosti společně navrhnou a dodají řešení zákazníkům. Učiní tak společně s partnery, mezi které patří Deloitte, Infosys a Wipro.
Rozšíření partnerství HPE-Nvidia, které trvalo desetiletí, bylo oznámeno během klíčového projevu prezidenta a generálního ředitele HPE Antonia Neriho na HPE Discover 2024, který se tento týden konal ve Sphere v Las Vegas. Na pódiu se k němu připojil zakladatel a CEO Nvidie Jensen Huang.
Neri poznamenal, že GenAI má významnou transformační sílu, ale složitost fragmentované technologie umělé inteligence přináší příliš mnoho rizik, která brání přijetí ve velkém měřítku. Spěchání k přijetí může být nákladné, zejména pro nejdražší aktivum společnosti - její data, řekl.
Huang dodal, že v AI jsou tři klíčové komponenty, a to velké jazykové modely (LLM), výpočetní zdroje pro zpracování těchto modelů a dat. Společnosti proto budou potřebovat výpočetní zásobník, modelový zásobník a datový zásobník. Každý z nich je složitý na nasazení a správu, řekl.
Partnerství HPE-Nvidia pracovalo na produkci těchto modelů a využilo softwarovou platformu Nvidia AI Enterprise včetně inferenčních mikroslužeb Nvidia NIM a softwaru HPE AI Essentials, který poskytuje kurátorské nástroje AI a datové základny spolu s centralizovaným ovládacím panelem.
Řešení „na klíč“ umožní organizacím, které nemají čas nebo odborné znalosti, aby spojily všechny schopnosti, včetně školicích modelů, aby zaměřily své zdroje místo na vývoj nových případů použití AI, řekl Neri.
Klíčem k tomu je HPE Private Cloud AI, řekl, který nabízí integrovaný stack AI, který zahrnuje ethernetové sítě Nvidia Spectrum-X, HPE GreenLake pro ukládání souborů a servery HPE ProLiant optimalizované pro podporu grafických procesorů Nvidia L40S, H100 NVL Tensor Core. a platforma GH200 NVL2.
Umělá inteligence vyžaduje od návrhu hybridní cloud, aby mohla efektivně a po celý životní cyklus AI poskytovat GenAI, řekl Neri a zopakoval to, co řekl v březnu na Nvidia GTC. „Umělá inteligence je hybridní cloudová pracovní zátěž, od školení a ladění modelů na místě, v kolokačním zařízení nebo veřejném cloudu až po odvození na hranici,“ řekl.
S integrovanou nabídkou HPE-Nvidia Neri předvádí, že uživatelé mohou nastavit nasazení AI za pouhá tři kliknutí a 24 sekund.
Huang řekl: "GenAI a zrychlené výpočty podněcují zásadní transformaci, protože každé odvětví závodí o připojení k průmyslové revoluci. Nikdy předtím neintegrovaly Nvidia a HPE naše technologie tak hluboce - kombinující celý výpočetní balík Nvidia AI spolu s technologií privátního cloudu HPE. "
Odstranění složitostí a odpojení
Společné řešení spojuje technologie a týmy, které nemusí být nutně integrovány v rámci organizací, řekl Joseph Yang, generální ředitel HPC a AI společnosti HPE pro Asii, Tichomoří a Indii.
Týmy umělé inteligence (ve společnostech, které je mají) obvykle fungují nezávisle na týmech IT a nemusí se ani IT hlásit, řekl Yang v rozhovoru pro ZDNET na okraj HPE Discover. Vědí, jak vytvářet a trénovat modely umělé inteligence, zatímco IT týmy znají cloudové architektury, které hostí obecná pracovní zatížení, a nemusí rozumět infrastrukturám umělé inteligence.
Mezi těmito dvěma existuje rozpor, řekl a poznamenal, že AI a cloudové infrastruktury jsou výrazně odlišné. Například cloudová zátěž bývá malá, přičemž jeden server může hostovat několik virtuálních strojů. Ve srovnání s tím jsou pracovní zátěže inferencování AI velké a provozování modelů AI vyžaduje výrazně větší infrastruktury, což ztěžuje správu těchto architektur.
IT týmy také čelí rostoucímu tlaku ze strany vedení na přijetí AI, což dále zvyšuje tlak a složitost nasazení GenAI, řekl Yang.
Dodal, že organizace se musí rozhodnout, jakou architekturu potřebují, aby pokročily se svými plány AI, protože jejich stávající hardwarová infrastruktura je hromadou serverů, které mohou být zastaralé. A protože možná neinvestovali do soukromého cloudu nebo serverové farmy, aby provozovali pracovní zátěže AI, čelí omezením v tom, co mohou dělat, protože jejich stávající prostředí není škálovatelné.
„Podniky budou potřebovat správnou výpočetní infrastrukturu a schopnosti, které jim umožní urychlit inovace a zároveň minimalizovat složitost a rizika spojená s GenAI,“ řekl Yang. "Portfolio Nvidia AI Computing by HPE umožní podnikům urychlit čas potřebný k dosažení hodnoty pomocí GenAI, aby bylo možné získat nové příležitosti a růst."
Neri dále poznamenala, že nasazení privátního cloudu také vyřeší obavy, které mohou mít organizace ohledně zabezpečení dat a suverenity.
Dodal, že HPE dodržuje všechny místní předpisy a požadavky na shodu, takže zásady a zásady AI budou uplatňovány podle potřeb místního trhu.
Podle HPE poskytuje nabídka AI privátního cloudu podporu pro vyvozování, jemné ladění a pracovní zátěže umělé inteligence RAG (retrieval-augmented generation), které využívají proprietární data, a také kontroly pro ochranu soukromí dat, zabezpečení a dodržování předpisů. Nabízí také možnosti cloudových ITOps a AIOps.
Nabídka soukromého cloudu AI, založená na cloudových službách HPE GreenLake, umožní podnikům automatizovat a organizovat koncové body, pracovní zátěže a data napříč hybridními prostředími.
HPE Private Cloud AI je plánována na všeobecnou dostupnost na podzim, spolu se serverem HPE ProLiant DL380a Gen12 s GPU Nvidia H200 NVL Tensor Core a serverem HPE ProLiant DL384 Gen12 s duálním serverem Nvidia GH200 NVL2.
Všeobecná dostupnost serveru HPE Cray XD670 s Nvidia H200 NVL je naplánována na léto.
Eileen Yu podala zprávu pro ZDNET z HPE Discover 2024 v Las Vegas na pozvání společnosti Hewlett Packard Enterprise.