Chcete si vytvořit vlastního chatbota s umělou inteligencí? Pozdravte open-source HuggingChat

ChatGPT může dominovat pokrytí AI, ale pokud jste super-geeky, můžete si vytvořit vlastního chatbota pomocí HuggingChat a několika dalších nástrojů.

V tomto článku se rychle podíváme na chatbota s umělou inteligencí ve stylu ChatGPT od společnosti, která se nepravděpodobně jmenuje Hugging Face. Nemohl jsem se na produkt dívat vážně, dokud jsem se nedostal přes jméno, a tak jsem se zeptal jeho chatbota HuggingChat: "Proč se vaše společnost jmenuje Hugging Face?"

Zde je to, co mi AI řekla:

Název „Hugging Face“ pochází z našeho cíle vytvořit modely umělé inteligence, které mohou smysluplně a pozitivně interagovat s lidmi na osobní úrovni, podobně jako když lze obejmout někoho, na kom jim záleží.

Jak můžete vidět z rozhraní HuggingChat, společnost se rozhodně chystá na atmosféru ChatGPT:

Existují však některé velké rozdíly, z nichž nejpozoruhodnější je, že jde o open source. Je to přímo tady na Githubu.

Zatímco HuggingChat osloví především vývojáře a umělce, kdokoli může hrát s tímto nástrojem online. Jednu věc bych měl poznamenat: téměř všechny diskuse o online rozhraní HuggingChat říkají, že neshromažďuje žádné informace a nevyžaduje přihlášení. Mohlo tomu tak být u nejranějšího vydání, ale už tomu tak není:

Použití webové verze HuggingChat

Musel jsem si založit účet u Hugging Face, abych získal přístup k uživatelskému rozhraní. A protože jsem nezakázal odesílání dat z chatu vývojářům, aby si je mohli prohlédnout a prozkoumat, rád bych se nyní těmto vývojářům omluvil za vulgární výrazy. Jen jsem chtěl vidět, co to udělá. Cože!? Byl jsem zvědavý.

Je nutné ještě jedno upřesnění. V celém tomto článku, když mluvím o webové verzi HuggingChat, mám na mysli verzi, kterou Hugging Face poskytuje na hf.co/chat. Pravděpodobně existují stovky dalších webových verzí HuggingChat od stovek dalších vývojářů. To je povaha open source. Ale v příštích několika okamžicích se bavíme o verzi továrního obchodu - té, kterou Hugging Face dává k dispozici, aby předvedla technologii.

Webová verze HuggingChat používá velký jazykový model (LLM) nazvaný OpenAssistant, který je také dostupný na Github. Jak se ukázalo, na Githubu je k dispozici celá řada LLM - a ano, k této myšlence se za chvíli také vrátíme.

Stejně jako u ChatGPT a jemu podobných, položíte HuggingChat otázky a on vám odpoví. Na rozdíl od ChatGPT je přímo nad polem dotazu malé tlačítko s nápisem „Vyhledat web“, což znamená, že HuggingChat může oslovit živý web a provést průzkum. Když jsem se například zeptal: "Proč se ponorný Titan potopil?" Dostal jsem zpět odpověď:

Omlouvám se, ale bez dalšího kontextu je pro mě těžké určit, o kterém konkrétním ponorném Titanu máte na mysli.

Ale když jsem zapnul "Hledat na webu" a položil stejnou otázku, vrátil jsem se:

Bez dalších informací je pro mě těžké s konečnou platností říci, proč údajně implodoval a ponořil se během operací souvisejících s úsilím o obnovu trosek RMS Titanic u východního pobřeží Severní Ameriky (42° severní šířky 49° západní délky/#TitanRover1).

Vzhledem k tomu, že potopení ponorky je v době, kdy píšu tento článek, relativně nedávný příběh, ukazuje to, že předem postavená LLM nemá o této velké novince žádná data. Pokud se však rozhodnete zahrnout data vyhledávání na webu, můžete informovat o výsledcích chatbota.

Celkově vzato pravděpodobně nebudete používat HuggingChat místo ChatGPT nebo Bard nebo Bing. Odpovědi nejsou tak úplné. Někdy končí uprostřed věty a „pokračovat“ je nepřivede zpět na správnou cestu. Většina odpovědí není ve formátu a je prezentována jako jeden velký odstavec. Odezva je ve srovnání s ChatGPT poměrně pomalá. Někdy odpovědi nemají tolik společného s otázkou.

Abychom byli spravedliví, webová verze HuggingChat je velmi raná verze a je většinou zamýšlena jako ukázka funkcí pro samotný software. Pravděpodobně jej tedy nebudete používat k podvádění při domácích úkolech. Místo toho je pravděpodobnější, že jej použijete k pohrávání si s vlastními projekty AI.

A to je to, na co se dále vrhneme.

Vytvoření vlastního chatbota

Pokud jste super-geeky, můžete si vytvořit vlastního chatbota pomocí HuggingChat a několika dalších nástrojů. Aby bylo jasno, samotný HuggingChat je pouze částí uživatelského rozhraní celého chatbota. Neobsahuje AI ani data. Prostě dostane otázku do GPT a zobrazí odpovědi.

Budete také potřebovat jazykový model. Jak jsme diskutovali, OpenAssistant je jeden takový jazykový model, který lze trénovat na různých souborech dat.

To je místo, kde se HuggingChat ukazuje jako zvláště zajímavý pro AI geeky. K napájení vlastního chatbota můžete použít různé open-source LLM, vyškolené na různých open-source datových sadách.

Dovedeno do extrému, jednou z možných aplikací pro tuto technologii by mohlo být vytvoření chatbota pro použití uvnitř korporace, vyškoleného na firemních proprietárních datech, z nichž všechna jsou hostována v rámci podnikového firewallu - aby nebyl vůbec dostupný pro internet.

Ve skutečnosti, kombinací HuggingChat, inferenčního serveru a LLM, můžete provozovat svého vlastního chatbota na vlastním hardwaru, zcela izolovaný od internetu.

Toto video YouTube poskytuje základní návod, jak to udělat v kontejneru. Ve skutečnosti video také ukazuje, jak oddělit odvozenou část úlohy od části s uživatelským rozhraním úlohy a hostitelskou část lokálně a část v cloudu. V zásadě, jakmile budete mít zdrojové informace, se kterými si můžete hrát, můžete sestavit prakticky cokoliv, co si vaše představivost vymyslí - a že vaše zařízení může běžet.

Ano, vyžaduje to statný server s velkým výkonem GPU. Ale to je malá cena, kterou zaplatíte za svého vlastního chatbota.

Ale vážně, tento vývoj je velká věc. ChatGPT je mocný nástroj, vyškolený na to, kdo ví jaká data, spouští kdo ví jaké algoritmy a vytváří odpovědi na základě kdo ví jakých zdrojových informací.

Pokud chcete něco, co ovládáte, můžete pomocí HuggingChat vytvořit chatbota, u kterého budete mít přehled o každém aspektu jeho fungování. Můžete se rozhodnout zpřístupnit tohoto chatbota online ostatním uživatelům a poskytnout transparentnost všem uživatelům. Nebo můžete postavit uzamčenou speciální jednotku, která je skrytá za firewallem a přístupná pouze vašim vlastním zaměstnancům.

S HuggingChat je volba jen na vás - a to je skvělé.

Takže očekáváte, že si postavíte vlastního chatbota? Kdybyste mohli, natrénovali byste to na nějakých konkrétních datech? Vzhledem k tomu, že nyní máte svobodu vytvořit si chatbota k obrazu svému, co byste s touto mocí udělali? Dejte nám vědět v komentářích níže.

Moje každodenní aktualizace projektu můžete sledovat na sociálních sítích. Nezapomeňte se přihlásit k odběru mého týdenního zpravodaje na Substacku a sledovat mě na Twitteru na @DavidGewirtz, na Facebooku na Facebook.com/DavidGewirtz, na Instagramu na Instagram.com/DavidGewirtz a na YouTube na YouTube.com/DavidGewirtzTV.