Pratite ZDNET: Dodajte nas kao željeni izvor na Googleu.
Sadržaj objave
Ključni podaci ZDNET-a za van
- Ollama je lokalno instaliran AI koji je jednostavan za korištenje.
- Bit ćete iznenađeni prednostima koje dobivate ovom aplikacijom.
- Ne samo da je Ollama besplatna i privatna, već je i otvorenog koda.
Ollama je mali igrač u AI igri, ali trebao bi biti puno veći nego što jest. Ova umjetna inteligencija koja se može instalirati ima nekoliko prednosti koje nećete pronaći kod ChatGPT-a, a te me prednosti sprječavaju da ikad koristim tradicionalniju uslugu.
Tijekom prošle godine prilično sam često pisao o Ollami, ali sam mislio da je vrijeme da podijelim razloge zbog kojih sam odlučio koristiti ovu aplikaciju umjesto bilo koje druge.
Također: Želite lokalno kodiranje vibe? Ovaj skup AI mogao bi zamijeniti Claude Code i Codex – besplatno
(Otkrivanje: Ziff Davis, ZDNET-ova matična tvrtka, podnijela je tužbu protiv OpenAI-ja u travnju 2025., navodeći da je prekršio autorska prava Ziffa Davisa u obuci i upravljanju svojim AI sustavima.)
Što je Ollama?
Prije nego što pređem na zašto, razgovarajmo o tome što.
Ollama je besplatan alat otvorenog koda koji možete preuzeti i instalirati na svoje računalo (Linux, MacOSili Windows). Uz Ollamu, možete pokrenuti velike jezične modele (LLM) izravno na vašem sustavu. Glavni problem koji treba uzeti u obzir je brzina vašeg računala. AI zahtijeva prilično malo konjskih snaga da bi bio koristan. To ne znači da ga ne možete koristiti na stroju srednjeg ranga, ali ako ga koristite na hardveru srednjeg do niskog ranga, radit će sporije i možda nećete moći obavljati više zadataka istovremeno dok prolazi kroz vaše upite.
Također: OpenAI-jevi novi vodeni žigovi na slikama olakšavaju uočavanje AI krivotvorina – evo kako
Međutim, ako vaš stroj ima Nvidia GPU, radit će brže (čak i s hardverom srednjeg ranga) jer će pretovariti puno procesa na GPU, ostavljajući CPU da radi druge stvari. Za besprijekoran rad Ollame, vaš sustav mora imati najmanje:
- CPU: Bilo koji moderni procesor
- RAM sustava: 16 GB
- GPU (preporučeno): Nvidia s 8 GB+ VRAM-a ili Apple Silicon Mac (M1/M2/M3) s 16 GB+ objedinjene memorije za automatsko GPU ubrzanje
Ollama nudi korisničko korisničko sučelje za MacOS i Windows, ali se također može koristiti iz naredbenog retka. Na Linuxu možete koristiti Ollama CLI, ali postoje i GUI-ji (kao što su Alpaca i Msty) koji mogu raditi.
Uz Ollamu možete preuzeti mnogo različitih LLM-ova. Postoji ogromna biblioteka modela koji se mogu preuzeti — pronaći ćete DeepSeek, Gemma, Qwen, Mistral, Gpt-OSS, Llama i mnoge druge.
Sad kad razumiješ što Ollama je, razgovarajmo o tome zašto trebao bi ga koristiti.
1. Besplatno je
Ollama je slobodan. Otkako je koristim, nisam platio ni lipe za aplikaciju ili modele. Samo instalirajte Ollamu, izvucite model i krenite. Ne morate platiti za aplikaciju, modele ili korištenje.
Besplatno je. Potpuno i zauvijek besplatno.
Također je otvorenog koda, tako da… bonus.
Također: Googleove AI značajke postale su još zbunjujuće
2. Privatno je
Ovo je velika stvar za mene. Neću koristiti javnu ili profitnu umjetnu inteligenciju jer znam da moje upite i odgovore mogu koristiti treće strane. Tvrtke koje stoje iza profitne umjetne inteligencije mogu prikupljati vaše podatke i koristiti ih u razne svrhe, a to nije nešto s čime se ja slažem. Nije da postavljam upite s osobnim podacima (uglavnom koristim umjetnu inteligenciju za istraživanje), ali ipak ne želim da se ti upiti prikupljaju i koriste za izradu mog profila.
Također: Najbolji sigurni preglednici za privatnost: Stručno testirano
Baš kao i moji preglednici, želim da moj AI bude što privatniji, a Ollama je zapravo jedini način da se to dogodi.
3. Ne dovodi u pitanje električnu mrežu
Čuli ste kako umjetna inteligencija koristi neumjerenu količinu energije, zar ne? Ovomjesečno izvješće iz Uprava za međunarodni podatkovni centar (ICDA) primjećuje da se procjenjuje da 6% ukupne potrošnje električne energije u SAD-u odlazi na podatkovne centre. “SAD je daleko najveća lokacija podatkovnog centra na svijetu, s 43% globalne potrošnje. Podatkovni centri troše 29,2 GW električne energije u SAD-u, a sada troše 6 % električne energije u zemlji.”
Ovaj izvješće UN-a detaljno opisuje brigu o okolišu u vezi s implementacijom AI velikih razmjera. “Većina AI poslužitelja pohranjena je u podatkovnim centrima, koji proizvode elektronički otpad i mogu sadržavati otrovne kemikalije, poput žive i olova. Podatkovni centri također zahtijevaju velike količine vode za izgradnju i hlađenje električnih komponenti.”
Također: Zabrinuti ste zbog ogromnih energetskih potreba umjetne inteligencije? Izbjegavanje chatbota neće pomoći – ali 3 stvari bi mogle
Korištenjem lokalno instalirane Ollame izbjegavam povećanje tog problema. Mogao bih napraviti korak dalje i instalirati Ollamu na prijenosno računalo, tako da koristim samo baterijsko napajanje.
Ollama je ekološki prihvatljiva i ne opterećuje električnu mrežu.
4. Fleksibilniji je
Kada koristite ChatGPT poput ChatGPT-a, ograničeni ste na LLM među kojima možete birati. Uz Ollamu, imate ogromnu biblioteku LLM-a na dohvat ruke. Možete čak instalirati više modela i odabrati koji ćete koristiti za svaki upit.
Također: Kako sam lako dodao AI svojoj omiljenoj alternativi Microsoft Officea
To je fleksibilnost koju nećete pronaći u većini profitnih AI usluga.
5. Povezan je s LAN-om
Imam jednu instancu Ollame instaliranu na poslužitelju unutar svog LAN-a. Kad je to pokrenuto, mogu koristiti sučelje temeljeno na webu ili povezati lokalnu GUI aplikaciju s poslužiteljem, tako da ne koristim CPU/GPU na prijenosnom ili stolnom računalu. To je sjajna opcija jer prebacivanje AI procesa na poslužitelj znači da se ne moram brinuti o upitima koji će zaustaviti manje moćan hardver. Povrh toga, moram instalirati Ollamu na samo jedno računalo da bih je koristio na svim uređajima spojenim na moj LAN.
6. Izvanmrežno dostupan
Recimo da ste izgubili internetsku vezu ili ste vani usred ničega bez signala ili Wi-Fi-ja, a trebate (iz bilo kojeg razloga) koristiti AI. Ako koristite AI treće strane, baziranu na oblaku, nemate sreće. Ako imate Ollamu instaliranu na prijenosnom računalu, imate veliku sreću jer ne morate imati mrežnu vezu da biste je koristili. To također znači da možete pokrenuti Ollamu na stroju sa zračnim otvorom za još veću privatnost.
Također: Kako šaljem svoje datoteke lokalnoj umjetnoj inteligenciji za bolje, relevantnije odgovore
Sve je u prednosti.
Toplo bih preporučio da isprobate lokalno instaliranu instancu Ollame. Puno je lakše pokrenuti ga i pokrenuti nego što mislite (slično instaliranju bilo koje aplikacije na MacOS ili Windows), jeftin je, fleksibilan, siguran i ekološki prihvatljiv.
Tko ne želi sve to?