Llama 3 Cheat Sheet: Potpuni vodič

OpenAI je možda poznatije ime kada je riječ o komercijalnoj generativnoj umjetnoj inteligenciji, ali Meta je uspješno zauzela mjesto putem moćnih velikih jezičnih modela otvorenog izvora. Meta je 18. travnja otkrila svoj najveći generativni AI model dosad, Llama 3, koji je bolji od GPT-4 na nekim standardnim AI benchmark testovima.

Što je Llama 3?

Llama 3 je LLM koji je stvorila Meta. Može se koristiti za stvaranje generativne umjetne inteligencije, uključujući chatbotove koji mogu odgovoriti na prirodnom jeziku na široku paletu upita. Slučajevi upotrebe na kojima je Llama 3 procijenjen uključuju razmišljanje o idejama, kreativno pisanje, kodiranje, sažimanje dokumenata i odgovaranje na pitanja glasom određene osobe ili lika.

Potpuni model Llama 3 dolazi u četiri varijante:

• 8 milijardi parametara unaprijed obučenih.
• 8 milijardi fino podešenih uputa za parametre.
• 70 milijardi parametara unaprijed obučenih.
• 70 milijardi fino podešenih uputa za parametre.

Mogu se koristiti generativne AI sposobnosti Llame 3 u pregledniku ili putem AI značajki na Metinim Facebooku, Instagramu, WhatsAppu i Messengeru. Sam model može se preuzeti s Mete ili s velikih poslovnih platformi u oblaku.

Kada će Llama 3 biti objavljena i na kojim platformama?

Llama 3 objavljena je 18. travnja na Google Cloud Vertex AI, IBM-ovom watsonx.ai i drugim velikim LLM hosting platformama. Uslijedio je AWS, dodajući Llamu 3 na Amazon Bedrock 23. travnja. Od 29. travnja Llama 3 dostupna je na sljedećim platformama:

• Databricks.
• Lice koje grli.
• Kaggle.
• Microsoft Azure.
• NVIDIA NIM.

Hardverske platforme tvrtki AMD, AWS, Dell, Intel, NVIDIA i Qualcomm podržavaju Llama 3.

Lama 3.1

Dana 23. srpnja god. Meta je najavio Llamu 3.1 405Bkoja je dosad najnaprednija verzija Llame 3, te poboljšanja Llame 3.1 70B i 8B. Llama 3.1B ima 405 milijardi parametara, što ga čini konkurentnim GPT-4o i Claude 3.5 Sonnet.

Je li Llama 3 open source?

Llama 3 je otvorenog koda, kao što su to bili i drugi Metini LLM-ovi. Stvaranje modela otvorenog koda bila je vrijedna razlika za Metu. Osnivač i izvršni direktor Mete Mark Zuckerberg objasnio je svoje viđenje ove filozofije u srpanjska redakcija.

Međutim, postoji rasprava o tome koliko koda ili težine velikog jezičnog modela mora biti javno dostupno da bi se smatralo otvorenim kodom. Može li se Llama 3 doista nazvati otvorenim kodom ako postoje neka ograničenja u njegovoj upotrebi, kao što postoje za veće tvrtke? Licencni ugovor Llame 3 navodi da aplikacije s više od 700 milijuna aktivnih korisnika mjesečno moraju zatražiti zasebnu licencu. Ali što se tiče poslovnih svrha, Meta nudi otvoreniji pogled na Llamu 3 nego što to čine njezini konkurenti za svoje LLM-ove.

Je li Llama 3 besplatna?

Llama 3 je besplatna sve dok se koristi pod uvjetima licencija. Model se može preuzeti izravno od Mete ili se koristi unutar raznih gore navedenih usluga hostinga u oblaku, iako te usluge mogu imati povezane naknade.

Je li Llama 3 multimodalan?

Llama 3 nije multimodalan, što znači da nije sposoban razumjeti podatke iz različitih modaliteta kao što su video, audio ili tekst. Meta planira napraviti Llamu 3 multimodalnom u bliskoj budućnosti.

Poboljšanja Llame 3 u odnosu na Llamu 2

Kako bi Llama 3 bila sposobnija od Llame 2, Meta je dodala novi tokenizator za mnogo učinkovitije kodiranje jezika. Meta je unaprijedila Llamu 3 s pažnjom grupiranog upita, metodom poboljšanja učinkovitosti zaključivanja modela. Set za obuku Llama 3 sedam je puta veći od seta za obuku koji se koristi za Llamu 2, rekao je Meta, uključujući četiri puta više koda. Meta je primijenila nove učinkovitosti na prethodnu obuku i fino podešavanje uputa Llame 3.

Budući da je Llama 3 dizajnirana kao otvoreni model, Meta je dodala zaštitne ograde imajući na umu programere. Nova zaštitna ograda je Code Shield, koja je namijenjena za hvatanje nesigurnog koda koji bi model mogao proizvesti.

Mjesto Llame 3 u kompetitivnom generativnom krajoliku umjetne inteligencije

Llama 3 izravno se natječe s GPT-4 i GPT-3.5, Googleovim Geminijem i Gemmom, Mistral AI-jevim Mistralom 7B, Perplexity AI-jem i drugim LLM-ovima za individualnu ili komercijalnu upotrebu za izradu generativnih AI chatbota i drugih alata. Otprilike tjedan dana nakon što je Llama 3 otkrivena, Snowflake je debitirao s vlastitom otvorenom poslovnom umjetnom inteligencijom s usporedivim mogućnostima, tzv. Snježna pahulja Arktik.

Sve veći zahtjevi za performansama LLM-ova kao što je Llama 3 pridonose utrci u naoružanju računala s omogućenom umjetnom inteligencijom koja mogu pokretati modele barem djelomično na uređaju. U međuvremenu, tvrtke koje se bave generativnom umjetnom inteligencijom mogle bi se suočiti s pojačanim nadzorom zbog velikih računalnih potreba, što bi moglo pridonijeti pogoršanju klimatskih promjena.

Llama 3 protiv GPT-4

Llama 3 nadmašuje OpenAI-jev GPT-4 na HumanEvalu, što je standardno mjerilo koje uspoređuje sposobnost AI modela da generira kod s kodom koji su napisali ljudi. Llama 3 70B je postigao 81,7, u usporedbi s GPT-4 rezultat 67.

Međutim, GPT-4 je nadmašio Llamu 3 na procjeni znanja MMLU s ocjenom od 86,4 u odnosu na 79,5 Llame 3 70B. Učinak Llame 3 na više testova možete pronaći na Metin post na blogu.

Treba li vaša organizacija koristiti Llama 3?

Pod pretpostavkom da ste već odlučili da je generativna umjetna inteligencija prava stvar za vaš posao, odabir korištenja Llame 3 vjerojatno će se svesti na dostupnost. Llama 3 može se koristiti besplatno i prilagoditi unutar ograničenja više od svojih konkurenata.

Llama 3 može biti učinkovitiji od svojih rivala poput GPT-4 ili Claude 3 za kodiranje. Međutim, Llama 3 ima druge konkurente u području kodiranja. Na primjer, GitHub je nedavno debitirao Radni prostor kopilotakoji je prilagođen za kodiranje i može stvoriti kod na temelju upita prirodnog jezika.

Llama 3 može biti dobra za vašu organizaciju ako želite obitelj AI modela opće namjene otvorenog koda.