Kako pretvoriti Ollamu iz terminalskog alata u AI temeljen na pregledniku s ovim besplatnim proširenjem

Ideja postavljanja pitanja na udaljeni LLM čini mi trnce u kralježnici — i to ne na dobar način. Kad trebam nešto istražiti putem umjetne inteligencije, odlučujem se za lokalni LLM, kao što je Ollama.

Ako još niste instalirali Ollamu, možete pročitati moj vodič o tome kako instalirati LLM na MacOS (i zašto biste trebali). Također možete instalirati Ollamu na Linux i Windows, a, s obzirom na to da ekstenzija za Firefox radi na sve tri platforme, možete biti sigurni da će funkcionirati koji god desktop OS koristite.

Također: Mojih 5 omiljenih web preglednika – i za što je svaki idealan

Korištenje Ollame iz prozora terminala zapravo je prilično jednostavno, ali vam ne daje tako očigledan pristup drugim značajkama (kao što je LLM/Odabir upita, učitavanje slika, omogućavanje/onemogućavanje internetskog pretraživanja i Postavke).

Besplatno proširenje koje ću istaknuti radi na Firefoxu, Zen Browseru (jedan od mojih omiljenih) i drugima.

Idemo na taj nastavak.

Kako instalirati proširenje Page Assist u Firefoxu

Što će vam trebati: Da bi ovo funkcioniralo, trebat će vam instalirana i pokrenuta Ollama, kao i preglednik Firefox. to je to Napravimo malo čarolije.

Kako koristiti Page Assist

Prije nego što stvarno upotrijebite Page Assist, morate provjeriti radi li Ollama. Ako ste ga već instalirali, možete pokrenuti lokalni LLM s naredbom poput ove:

ollama run llama3.2

Ako vidite >>> prompt, LLM radi i spreman je prihvatiti upite.

Također: Ova terminalska aplikacija koristi AI kako bi vam pomogla razumjeti naredbeni redak

1. Pričvrstite nastavak

Prvo što bih učinio je prikvačiti proširenje Page Assist na alatnu traku Firefoxa. Da biste to učinili, kliknite ikonu dijela slagalice, a zatim kliknite ikonu zupčanika povezanu s Page Assist. Na padajućem izborniku kliknite “Prikvači na alatnu traku”. Sada biste trebali vidjeti ikonu Page Assist na alatnoj traci Firefoxa (koja izgleda poput malenog balona misli).

2. Otvorite nastavak

Pritisnite ikonu Page Assist i otvorit će se nova kartica s korisničkim sučeljem Ollama.

3. Odaberite svoj model

Prije nego što možete pokrenuti svoj prvi upit, trebate odabrati model. Kliknite padajući izbornik “Odaberite model” i odaberite model koji ste instalirali (kao što je llama3.2:najnovije).

4. Upišite svoj upit

Sada možete upisati svoj upit u donji odjeljak s oznakom “Upišite poruku”. Pritisnite Enter na tipkovnici ili kliknite Pošalji i Ollama će se baciti na posao.

5. Dodavanje novog modela

Također možete dodati nove modele pomoću Page Assista. Da biste to učinili, kliknite ikonu zupčanika u gornjem desnom kutu prozora Page Assist. Kliknite Upravljanje modelima na lijevoj bočnoj traci, a zatim kliknite Dodaj novi model. U skočnom prozoru upišite naziv modela koji želite dodati i kliknite Izvuci model. Za potpuni popis modela dostupnih Ollami, pogledajte ovu stranicu.

I to je, prijatelji moji, način na koji možete lakše komunicirati s Ollamom, zahvaljujući ekstenziji za Firefox jednostavnoj za korištenje.