Vyhledávání na webu

Jak spustit DeepSeek AI lokálně k ochraně vašeho soukromí - 2 snadné způsoby


Pokud jste zvědaví na DeepSeek, ale zdráháte se ho vyzkoušet kvůli problémům s ochranou soukromí, je to řešení pro vás.

DeepSeek je nejnovější módní slovo ve světě umělé inteligence. DeepSeek je čínský startup v oblasti umělé inteligence, založený v květnu 2023, který funguje jako nezávislá výzkumná laboratoř umělé inteligence a získal si značnou pozornost po celém světě vývojem velmi výkonných velkých jazykových modelů (LLM) za cenu, které jeho americké protějšky nemohou konkurovat.

Jedním z důvodů těchto nižších nákladů je, že DeepSeek je open-source. Společnost také tvrdila, že vytvořila způsob, jak vyvíjet LLM za mnohem nižší náklady než americké společnosti zabývající se umělou inteligencí. Modely DeepSeek také fungují stejně dobře (ne-li lépe) než jiné modely a společnost vydala různé modely pro různé účely (jako je programování, všeobecné použití a vize).

Moje zkušenost s DeepSeek je zatím zajímavá. Zjistil jsem, že DeepSeek jako by vždy vedl konverzaci sám se sebou a předával informace uživateli. Odpovědi bývají zdlouhavé a mohou mě poslat do několika různých králičích nor, z nichž každá vedla k tomu, že jsem se naučil něco nového.

Ráda se učím novým věcem.

Pokud vás DeepSeek zajímá, nemusíte se při jeho používání spoléhat na třetí stranu. Přesně tak - DeepSeek si můžete nainstalovat lokálně a používat jej podle svého rozmaru.

Existují dva jednoduché způsoby, jak toho dosáhnout, a já vám ukážu oba.

Jak přidat DeepSeek do MSTY

Co budete potřebovat: K tomu budete potřebovat nainstalované Ollama i Msty - a to je vše. Můžete to použít na Linuxu, MacOS nebo Windows a nebude vás to stát ani korunu.

1. Otevřete MSTY

Prvním krokem je otevření grafického uživatelského rozhraní MSTY. Jak to uděláte, bude záviset na operačním systému, který používáte.

2. Přejděte do sekce Místní modely AI

Na levém postranním panelu klikněte na ikonu, která vypadá jako počítačový monitor s bleskem, čímž se otevře sekce Místní modely AI.

Kliknutím na ikonu cloudu se ujistěte, že je aktualizace MSTY.

3. Nainstalujte DeepSeek

V sekci Místní modely AI uvidíte DeepSeek R1. Kliknutím na tlačítko stahování (šipka směřující dolů) přidáte model DeepSeek do MSTY. Po dokončení stahování zavřete okno Místní modely AI.

Ujistěte se, že jste vybrali DeepSeek R1.

4. Vyberte a použijte DeepSeek

Zpět v hlavním okně klikněte na rozevírací seznam pro výběr modelu, klikněte na možnost DeepSeek R1 (v části Local AL) a zadejte dotaz.

Můžete nainstalovat tolik místních modelů, kolik potřebujete.

Jak nainstalovat DeepSeek lokálně z příkazového řádku Linuxu

Další možností je provést plnou instalaci DeepSeek na Linuxu. Než to uděláte, uvědomte si, že systémové požadavky na to jsou poměrně strmé. Budete potřebovat minimálně:

  • CPU: Doporučuje se výkonný vícejádrový procesor s minimálně 12 jádry.
  • GPU: Grafický procesor NVIDIA s podporou CUDA pro zrychlený výkon. Pokud Ollama nezjistí přítomnost grafického procesoru NVIDIA, nakonfiguruje se tak, aby běžela v režimu pouze pro CPU.
  • RAM: Minimálně 16 GB, nejlépe 32 GB nebo více.
  • Úložiště: Pro rychlejší operace čtení/zápisu budete chtít úložiště NVMe.
  • Operační systém: Budete potřebovat Ubuntu nebo distribuci založenou na Ubuntu.

Pokud váš systém tyto požadavky splňuje a již máte nainstalovanou aplikaci Ollama, můžete model DeepSeek R1 spustit pomocí:

ollama run deepseek-r1:8b

Pokud jste ještě Ollamu nenainstalovali, můžete to provést pomocí jediného příkazu:

zvlnění -fsSL https://ollama.com/install.sh | pst

Budete vyzváni k zadání uživatelského hesla.

Můžete spustit další verze DeepSeek, které jsou:

  • ollama run deepseek-r1 - Výchozí verze 8B
  • OLLAMA Run Deepseek-R1:1.5b - Nejmenší model
  • ollama run deepseek-r1:7b - Verze 7B
  • ollama run deepseek-r1:14b - Verze 14B
  • ollama run deepseek-r1:32b - Verze 32B
  • OLLAMA Run Deepseek-R1:70b - Největší a nejchytřejší z modelů.

Po dokončení příkazu se ocitnete na příkazovém řádku Ollama, kde můžete začít používat model podle svého výběru.

Ať už se rozhodnete jakkoli, nyní máte přístup k umělé inteligenci DeepSeek a můžete ji používat a zároveň uchovávat všechny své dotazy a informace v bezpečí na místním počítači.