Skutečná revoluce umělé inteligence bude neviditelná
Klíčové věci
- Qualcomm, NVIDIA, AMD, Intel a další společnosti vyvíjejí hardware pro rychlejší AI na zařízení.
- Umělá inteligence na zařízení již pohání působivý software pro míchání zvuku, nástroje pro usnadnění a další software.
- Jak se AI hardware stává dostupnějším, očekávejte, že do aplikací budou integrovány užitečnější funkce AI, které nahradí současný trend nepříjemných chatbotů AI a navrhovaných odpovědí.
Technické společnosti jsou z umělé inteligence skutečně nadšené, často až do té míry, že vytvářejí neužitečné služby a funkce související s umělou inteligencí, jen aby dokázaly, že s touto technologií něco dělají. Pod nesmyslným marketingem a zbytečnými funkcemi se skrývá několik skutečně působivých funkcí umělé inteligence, které změní váš každodenní život.
Qualcomm mě tento týden pozval do svého ústředí v San Diegu v Kalifornii, abych předvedl svou pokračující práci na technologii AI. Možná jste o Qualcommu neslyšeli, ale je to společnost, která vytváří základní čipové sady pro nespočet telefonů a tabletů, od špičkových zařízení, jako je Galaxy S24 Ultra, až po levné modely, jako je Moto G 5G. Modemy společnosti se nacházejí ve většině iPhonů a vytváří hardware pro VR a AR pro použití v Meta Quest a dalších náhlavních soupravách. V poslední době začal Qualcomm vytvářet špičkové návrhy System-on-a-Chip (SoC) pro notebooky s Windows, v přímé konkurenci s procesory Intel a AMD.
Qualcomm vyvíjí spoustu hardwaru a softwaru umělé inteligence, které vycházejí ze zkušeností společnosti s mobilním zpracováním obrazu a dalšími dřívějšími implementacemi strojového učení na zařízení. Nové čipové sady Snapdragon X pro PC notebooky mají vyhrazenou neurální procesorovou jednotku (NPU) pro úkoly umělé inteligence na zařízení. Novější mobilní čipy společnosti, jako je Snapdragon 8s Gen 3, zvládnou některé velké jazykové modely (LLM) bez pomoci externího serveru přes internetové připojení. Qualcomm zde není sám, aby bylo jasno - nejnovější procesory pro notebooky od AMD a Intel mají také NPU a spotřebitelské GPU Nvidia zvládnou také mnoho pracovních zátěží AI na zařízení.
Mimo Hype
vím, co si myslíš. Už vás nebaví poslouchat každou technologickou společnost blábolit o AI, jako by to bylo magické řešení všech problémů světa. Už vás nebaví funkce umělé inteligence, které se objevují ve vašich oblíbených aplikacích. Možná jste umělec, spisovatel nebo nějaký jiný tvůrce, který slyšel CTO OpenAI říkat, že umělá inteligence by mohla zabít některé kreativní práce, které tam „v první řadě neměly být“, a jste připraveni to všechno spálit zemi. Rozumím tomu a souhlasím s tím, že většina implementací „AI“ v současnosti představuje řešení při hledání problému nebo aktivně škodí.
Pod nesmyslným cyklem humbuku v oblasti umělé inteligence a vedením nadšeným z nahrazení bezpočtu pracovníků levnější automatizací jsou některé skutečně užitečné funkce, které se staly proveditelné pouze s nejnovějším hardwarem od Qualcomm, Intel, AMD, NVIDIA a jiné společnosti.
Společnost Cephable, která vytváří vstupní nástroj založený na fotoaparátu pro osoby se zdravotním postižením, předvedla aktualizovanou verzi svého softwaru běžícího na notebooku Snapdragon X Elite. Využívá webovou kameru pro sledování pohybů hlavy a výrazů obličeje, jejich převod do stisknutí kláves nebo jiných akcí pro stolní software (například otáčení hlavy pro změnu snímků v prezentaci v PowerPointu). Nová verze pro notebooky Snapdragon provozuje veškerý software strojového učení na vyhrazeném NPU, snižuje spotřebu baterie, zlepšuje rychlost a přesnost zpracování a uvolňuje zdroje CPU a GPU pro vaše další aplikace. Byla tu další ukázka djay Pro, která dokázala rozdělit skladby do více instrumentálních a vokálních stop pro DJ mixování v reálném čase, což je praktické pouze s umělou inteligencí na zařízení. Nejnovější aktualizace Logic Pro pro Mac a iPad má podobnou funkcionalitu pro produkci zvuku.
Možnost provozovat velké jazykové modely na typičtějším smartphonu, tabletu nebo PC otevírá další zajímavé případy použití. Například nadcházející „Apple Intelligence“ na iPhonech, iPadech a Macech bude používat AI na zařízení k třídění oznámení a lepšímu porozumění mluvené řeči v Siri. Jsou některé funkce, které se hůře sestavují a škálují, když někde vyžadují výkonné datové centrum, a to se právě teď snaží výrobci hardwaru změnit.
V současné době není mnoho aplikací a služeb, které využívají AI na zařízení, protože se mohou chovat odlišně na různých zařízeních a operačních systémech a ne každý má telefon nebo počítač s požadovaným výpočetním výkonem. Novější vývojářské nástroje, jako je NVIDIA TensorRT-LLM a Qualcomm AI Engine Direct SDK, tuto část pomalu zpřístupňují pro vývojáře softwaru. Nakonec přidání funkce, která vyžaduje výkonný LLM, nebude o moc složitější než přidání funkce, která potřebuje jakoukoli jinou systémovou funkci, a očekávám, že právě tehdy uvidíme další aplikace přidávat užitečné funkce.
Tato vylepšení směřují k budoucnosti, kde bude možné více funkcí umělé inteligence na zařízení, a budou implementovány stejně jako jakákoli jiná funkce ve vašich oblíbených aplikacích. Trend nepříjemných chatbotů s umělou inteligencí nebo odpovědí navrhovaných umělou inteligencí na příspěvcích na sociálních sítích nakonec odezní (doufejme), ale zůstanou nám funkce, které jsou skutečně užitečné. To je skutečná revoluce umělé inteligence: ne obří tlačítko Copilot v Microsoft Edge, ale vaše aplikace a zařízení budou chytřejší a plní konkrétní úkoly mnohem rychleji a efektivněji.
Co je staré, to je nové
Slovo „AI“ za poslední rok nebo dva ztratilo většinu svého významu, podobně jako „krypto“ ztratilo smysl během poslední kryptoměnové bubliny. Může to znamenat velké jazykové modely, které vyžadují drahá datová centra, nebo to mohou být algoritmy pro zpracování obrazu používané při fotografování na moderním smartphonu. Existuje také mnoho zařízení s umělou inteligencí, která zjevně pouze používají termín pro hodnotu humbuku, jako jsou rýžovary s „AI Smart Cooking Technology“.
Termín „AI“ se také často používá k popisu stejné funkce, která se před několika lety nazývala „strojové učení“, jako je rozpoznávání objektů na fotografiích nebo překlad textu mezi jazyky. Mnoho z těchto funkcí strojového učení bylo užitečných, například Fotky Google přidaly možnost vyhledávat konkrétní lidi nebo domácí mazlíčky v knihovnách fotografií nebo pomocí Google Lens zjistit, jaký typ chyby jste právě našli. Mnoho z těchto funkcí nebylo nikdy tak nepříjemné a na očích jako mnoho moderních funkcí umělé inteligence a mnohé z těchto funkcí nepotřebují velké drahé servery.
Skutečnou revolucí umělé inteligence nebudou všude otravná vyskakovací okna nebo chatboti ani ošklivé obrázky generované umělou inteligencí na sociálních sítích. Bude to jen další krok v desetiletí trvajícím vývoji softwaru, díky kterému budou vaše zařízení užitečnější. To je AI, ze které jsem nadšený.
Zveřejnění: Můj výlet do San Diega v Kalifornii na návštěvu workshopu AI Analyst & Media Workshop byl hrazen společností Qualcomm, včetně cesty a ubytování. Qualcomm tento článek před jeho zveřejněním nerecenzoval.