Váš další telefon Android by mohl mít Chatbota podobného ChatGPT, není vyžadován žádný cloud

Čipové sady Qualcomm pohánějí mnoho chytrých telefonů a tabletů se systémem Android a také některé počítače se systémem Windows a vestavěná zařízení. Dnes společnost odhalila některá vylepšení, která by mohla znamenat, že váš další telefon s Androidem bude mít vlastního místního chatbota podobného ChatGPT nebo generátor obrázků jako Stable Diffusion, aniž by potřeboval externí servery nebo placené předplatné.

Společnost Qualcomm dnes vydala mnoho oznámení týkajících se umělé inteligence, včetně „Hub Qualcomm AI“, který vývojářům aplikací poskytuje přístup k optimalizovanému modelu umělé inteligence, a také novým modemům s „AI-powered 5G“. Společnost také diskutovala o provozování velkých multimodálních modelů (LLM) na telefonu Android s čipy Snapdragon od Qualcommu, což potenciálně umožňuje spouštět více úloh AI lokálně na smartphonu namísto použití externí služby, jako je ChatGPT, Microsoft Copilot nebo Galaxy AI. Tento přístup má výhody v oblasti ochrany soukromí a použitelnosti: nepotřebujete externí server pro zpracování odpovědí (což může stát peníze) a všechna data zůstávají ve vašem zařízení.

V tiskové zprávě Qualcomm říká, že má první LMM na světě běžící na smartphonu Android, ale nezmínil přesný použitý hardware (pravděpodobně telefon s nejnovějším čipem Qualcomm Snapdragon 8 Gen 3). Společnost popsala demo jako „LMM s více než 7 miliardami parametrů, které dokáže přijímat různé typy datových vstupů, včetně textu a obrázků, a generovat víceotáčkové konverzace s asistentem AI o obrázku - poprvé spuštěné na smartphonu Android. .“ Je to upravená verze modelu LLaVA.

Qualcomm také ukázal upravené sestavení Stable Diffusion, populárního generátoru obrázků AI, běžícího na telefonu Android. Stable Diffusion běží v režimu „Low Rank Adaption“ (LoRA), který snižuje velikost tréninkových dat a zároveň nabízí slušnou kvalitu a výkon. Toto nastavení nebude fungovat stejně dobře jako Stable Diffusion na grafické kartě s plnou desktopovou grafikou nebo vzdáleném serveru GPU, ale stále je to působivé. Qualcomm testoval další demo Stable Diffusion na telefonu Android v roce 2023, který byl schopen generovat obrázek 512x512 za méně než 15 sekund.

Tyto ukázky existují spíše jako technická měřítka pro hardware Qualcomm než cokoli jiného a není jasné, zda se z toho stane leštěná aplikace, kterou můžete spustit na telefonech a tabletech Android. Je možné, že Qualcomm bude sdílet svou práci na svém novém „AI Hub“, kde by jej mohli ostatní vývojáři používat ve svých vlastních aplikacích pro telefony a tablety. S trochou více práce bychom mohli mít omezeného asistenta podobného ChatGPT na telefonech Android bez požadavku na cloud - něco, na čem Apple údajně pracuje pro iPhony.

Zdroj: Qualcomm