IBM oslobađa otvoreni koznik granit 4.0 generativni ai

IBM -ov rad u generativnom AI -u pomalo je otišao pod radar, ali izdanje Granita 4.0 u četvrtak može to promijeniti.

Granit 4.0 razlikuje se primjenom hibridne mamba/transformatorske arhitekture otvorenog koda, za koju IBM kaže da se može pokrenuti na nižim troškovima GPU-a od usporedivih modela. Uz to, granitni modeli su prvi na svijetu koji su certificirani i kriptografski potpisani ISO 42001, prema IBM -u.

U početku se objavljuju četiri mala modela

Obitelj granita uključuje više generativnih AI modela:

• Granit-4,0-H-Small, ekonomičan model mješavine prelaznih propisa izgrađen na hibridnoj arhitekturi.
• Granit-4.0-H-Tiny, varijanta parametara od 7 milijardi milijardi.
• Granit-4.0-H-Micro, hibridni hibridni model od 3 milijardera parametara.
• Granit-4.0-Micro, konvencionalni model od 3 milijardera parametara.

Hibridni modeli koriste kombinaciju transformatorskih modela – ili konvencionalne arhitekture velikih jezičnih modela – i Mamba arhitekture, koji obavlja manje izračuna kako se kontekst povećava.

Njegova je primarna prednost poboljšana učinkovitost zaključivanja. Granitni 4.0 modeli zahtijevaju manje RAM-a od konvencionalnih LLM-ova, rekao je IBM, posebno prilikom reagiranja na duge upite ili radno opterećenje s više sjednice.

Kao što je spomenuto, modeli granita 4.0 su certificirani i kriptografski potpisani ISO 42001. Potvrda Međunarodne organizacije za standardizaciju usklađuje modele granita 4.0 s ISO -ovim sustavom upravljanja AI u kontekstu organizacije.

“Postizanje certifikata ISO 42001 glavna je prekretnica, ne samo za IBM Granit, već i za umjetnu inteligenciju i tehnologiju”, ” rekao je Avani DesaiIzvršni direktor Schellmana, certifikacijskog tijela koje je pomoglo IBM -u u certifikatu. “Kao jedan od prvih pružatelja AI modela otvorenog koda koji je certificiran, IBM je sada postavio važan presedan za način na koji transparentnost, odgovornost i inovacije mogu koegzistirati.”

IBM nudi Program buba Via Hackerone za granit, s isplatama do 100.000 USD.

Više granitnih 4.0 modela dolazi kasnije ove godine

Obitelj Granite 4.0 modela dostupna je u IBM Watsonx.ai, kao i od partnera na platformi, uključujući Huggingface, Kaggle i Nvidia Nim. Dostupnost Amazon Sagemaker Jumpstart i Microsoft Azure AI Ljevaonica očekuje se uskoro.

IBM je tražio rane povratne informacije od EY -a i Lockheed Martina. Ovaj ulaz i procjene zajednice otvorenog koda koristit će se za ponavljanje budućih verzija modela, priopćila je tvrtka.

Do kraja godine IBM planira izdati verziju Granita 4.0 “razmišljanja”, optimiziranu za složenije probleme i dodatne veličine modela, uključujući Medium i Nano.

IBM je prvi put objavio Granit 6. rujna 2023. godine, pozicionirajući ga brzo kao rješenje usmjereno na poslovanje. Budući da su modeli bili otvoreni izvor, glavni konkurenti Granita bili su Meta -ovi modeli LLAMA i Qwen obitelj modela.

Pretplata Microsoftova Copilot Pro sada je 365 Premium jer Redmond preuređuje kako se pakiraju njegovi AI proizvodi.