Ideja postavljanja pitanja na udaljeni LLM čini mi trnce u kralježnici — i to ne na dobar način. Kad trebam nešto istražiti putem umjetne inteligencije, odlučujem se za lokalni LLM, kao što je Ollama.
Ako još niste instalirali Ollamu, možete pročitati moj vodič o tome kako instalirati LLM na MacOS (i zašto biste trebali). Također možete instalirati Ollamu na Linux i Windows, a, s obzirom na to da ekstenzija za Firefox radi na sve tri platforme, možete biti sigurni da će funkcionirati koji god desktop OS koristite.
Također: Mojih 5 omiljenih web preglednika – i za što je svaki idealan
Korištenje Ollame iz prozora terminala zapravo je prilično jednostavno, ali vam ne daje tako očigledan pristup drugim značajkama (kao što je LLM/Odabir upita, učitavanje slika, omogućavanje/onemogućavanje internetskog pretraživanja i Postavke).
Besplatno proširenje koje ću istaknuti radi na Firefoxu, Zen Browseru (jedan od mojih omiljenih) i drugima.
Idemo na taj nastavak.
Sadržaj objave
Kako instalirati proširenje Page Assist u Firefoxu
Što će vam trebati: Da bi ovo funkcioniralo, trebat će vam instalirana i pokrenuta Ollama, kao i preglednik Firefox. to je to Napravimo malo čarolije.
Prvo što trebate učiniti je otvoriti Firefox. Ako ovo čitate putem Firefoxa, već ste korak ispred.
Prikaži više
Usmjerite Firefox na Ulazak Page Assist u trgovinu dodacima i kliknite “Dodaj u Firefox”. Kada se to od vas zatraži, kliknite Dodaj. Primijetit ćete da Mozilla ne nadzire aktivno sigurnosne popise trgovina dodataka. Zbog toga sam pronašao izvor za ekstenziju, koja se nalazi na GitHub. Budući da je izvor dostupan za preuzimanje i pregled, nisam oklijevao instalirati ga.
Također: Kako se zaštititi od phishing napada u Chromeu i Firefoxu
Zapamtite, međutim, da ništa nije 100% sigurno. Također, možete pogledati recenzije i vidjeti da se nitko nije žalio na zlonamjernu aktivnost proširenja.
Konačno, možete provjeriti web mjesto programera naučiti više.
Prikaži više
Kao i kod svih proširenja preglednika, malo istražite prije instalacije.
Jack Wallen/ZDNET
Kako koristiti Page Assist
Prije nego što stvarno upotrijebite Page Assist, morate provjeriti radi li Ollama. Ako ste ga već instalirali, možete pokrenuti lokalni LLM s naredbom poput ove:
ollama run llama3.2
Ako vidite >>> prompt, LLM radi i spreman je prihvatiti upite.
Također: Ova terminalska aplikacija koristi AI kako bi vam pomogla razumjeti naredbeni redak
1. Pričvrstite nastavak
Prvo što bih učinio je prikvačiti proširenje Page Assist na alatnu traku Firefoxa. Da biste to učinili, kliknite ikonu dijela slagalice, a zatim kliknite ikonu zupčanika povezanu s Page Assist. Na padajućem izborniku kliknite “Prikvači na alatnu traku”. Sada biste trebali vidjeti ikonu Page Assist na alatnoj traci Firefoxa (koja izgleda poput malenog balona misli).
Uvijek prikvačim dodatke za koje znam da ću ih redovito koristiti na alatnu traku Firefoxa.
Jack Wallen/ZDNET
2. Otvorite nastavak
Pritisnite ikonu Page Assist i otvorit će se nova kartica s korisničkim sučeljem Ollama.
3. Odaberite svoj model
Prije nego što možete pokrenuti svoj prvi upit, trebate odabrati model. Kliknite padajući izbornik “Odaberite model” i odaberite model koji ste instalirali (kao što je llama3.2:najnovije).
Ako imate instalirano više modela, svi će se pojaviti na ovom padajućem izborniku.
Jack Wallen/ZDNET
4. Upišite svoj upit
Sada možete upisati svoj upit u donji odjeljak s oznakom “Upišite poruku”. Pritisnite Enter na tipkovnici ili kliknite Pošalji i Ollama će se baciti na posao.
Ollama me obavještava što je Linux.
Jack Wallen/ZDNET
5. Dodavanje novog modela
Također možete dodati nove modele pomoću Page Assista. Da biste to učinili, kliknite ikonu zupčanika u gornjem desnom kutu prozora Page Assist. Kliknite Upravljanje modelima na lijevoj bočnoj traci, a zatim kliknite Dodaj novi model. U skočnom prozoru upišite naziv modela koji želite dodati i kliknite Izvuci model. Za potpuni popis modela dostupnih Ollami, pogledajte ovu stranicu.
Možete dodati onoliko modela koliko želite, ali vodite računa o veličini datoteke za svaki jer neki mogu biti jako veliki.
Jack Wallen/ZDNET
I to je, prijatelji moji, način na koji možete lakše komunicirati s Ollamom, zahvaljujući ekstenziji za Firefox jednostavnoj za korištenje.