Kako pokrenuti DeepSeek AI lokalno kako biste zaštitili svoju privatnost – 2 jednostavna načina

Deepseek je najnovija buzzword u svijetu AI. DeepSeek je kineski pokretač AI, osnovan u svibnju 2023., koji funkcionira kao neovisni istraživački laboratorij AI i privukao je značajnu pažnju širom svijeta za razvoj vrlo moćnih modela velikih jezika (LLMS) po cijeni za koji se njegovi američki kolege ne mogu natjecati.

Također: Što je rijetkost? Tajna DeepSeek AI, koju su otkrili istraživači Applea

Jedan od razloga ove niže troškove je taj što je Deepseek otvoreni koš. Tvrtka je također tvrdila da je stvorila način za razvoj LLMS -a po mnogo nižoj cijeni od američkih AI kompanija. DeepSeek modeli također djeluju (ako ne i bolje) od ostalih modela, a tvrtka je objavila različite modele u različite svrhe (poput programiranja, opće namjene i vizije).

Moje iskustvo s Deepseekom do sada je bilo zanimljivo. Ono što sam otkrio je da DeepSeek uvijek čini razgovor sa sobom, u procesu prenošenja informacija korisniku. Odgovori su obično dugotrajni i mogu mi poslati nekoliko različitih rupa za zečeve, od kojih me je svaka dovela do toga da naučim nešto novo.

Obožavam učiti nove stvari.

Također: kako donosim svoje datoteke lokalnim AI za bolje, relevantnije odgovore

Ako vas zanima DeepSeek, ne morate se osloniti na treću stranu da biste je iskoristili. Tako je – možete instalirati Deepseek lokalno i koristiti ga na svoje ćud.

Postoje dva jednostavna načina da se to dogodi, a ja ću vam pokazati oboje.

Kako dodati deepseeka u msty

Što će vam trebati: Za to će vam trebati i Ollama i Msty instalirani – i to je to. To možete koristiti na Linuxu, MacOS -u ili Windows -u, a to vam neće koštati i sitnicu.

Kako instalirati DeepSeek lokalno iz naredbenog retka Linux

Druga je mogućnost napraviti potpunu instalaciju DeepSeeka na Linuxu. Prije nego što to učinite, znajte da su zahtjevi sustava za to prilično strmi. Trebat će vam najmanje:

• CPU: moćan višejezgreni procesor s minimalno 12 preporučenih jezgara.
• GPU: NVIDIA GPU s CUDA podrškom za ubrzane performanse. Ako Ollama ne otkrije prisutnost NVIDIA GPU-a, konfigurirat će se za pokretanje u načinu samo za CPU.
• RAM: najmanje 16 GB, po mogućnosti 32 GB ili više.
• Skladištenje: Za brže čitanje/pisanje htjet ćete NVME pohranu.
• Operativni sustav: Trebat će vam Ubuntu ili distribucija sa sjedištem u Ubuntu.

Ako vaš sustav ispunjava te zahtjeve, a već imate instaliran ollama, možete pokrenuti DeepSeek R1 model sa:

Ollama Run Deepseek-R1: 8b

Ako već niste instalirali Ollama, to možete učiniti jednom naredbom:

Curl -fssl https://ollama.com/install.sh | sh

Također: Isprobao sam Sanctumovu lokalnu AI aplikaciju, i upravo sam ono što sam trebao da svoje podatke držim privatnim

Bit ćete zatraženi za svoju korisničku lozinku.

Postoje i druge verzije Deepseeka koje možete pokrenuti, a to su:

• Ollama Run Deepseek -R1 – Zadana 8b verzija
• Ollama Run Deepseek -R1: 1,5B – Najmanji model
• Ollama Run Deepseek -R1: 7b – Verzija 7b
• Ollama Run Deepseek -R1: 14b – Verzija 14b
• Ollama Run Deepseek -R1: 32b – Verzija 32B
• Ollama Run Deepseek -R1: 70b – Najveći i najpametniji od modela.

Jednom kada se naredba dovrši, naći ćete se u promptu Ollama, gdje možete početi koristiti model po vašem izboru.

Također: Ove nacije zabranjuju duboki ai – evo zašto

Bilo kako bilo, sada imate pristup DeepSeek AI i možete ga koristiti dok na svom lokalnom stroju čuvate sve svoje upite i informacije.