Red Hat ulaže velike uloge u AI svojom akvizicijom Neural Magic

Red Hat, softverski div otvorenog koda u vlasništvu IBM-a, dovršio je svoj stjecanje neuronske magijepionirski startup za optimizaciju umjetne inteligencije (AI). Prvobitno najavljen u studenom 2024., ugovor je zaključen 13. siječnja 2025., označavajući značajan korak u strategiji Red Hata za poboljšanje njegovih AI sposobnosti u hibridnim okruženjima oblaka.

Iako cijena nije objavljena, Neural Magic je prethodno prikupio 50 milijuna dolara u financiranju rizičnog kapitala od raznih investitora, uključujući Andreessen Horowitz, New Enterprise Associates, Amdocs i Comcast Ventures. Možemo sa sigurnošću pretpostaviti da posao nije sklopljen zbog kikirikija. Siguran sam da razlog vjerojatno nije bio povrijeđen činjenicom da je glavni izvršni direktor Neural Magica prije sklapanja posla bio Brian Stevens, Red Hatov bivši tehnički direktor i izvršni potpredsjednik.

Također: Najbolji modeli AI otvorenog koda: Objašnjene su sve vaše besplatne opcije

Kad je spajanje prvi put objavljeno, Stevens je rekao: “At Neural Magic, naša je vizija da je budućnost umjetne inteligencije otvorenaa mi smo bili na misiji omogućiti tvrtkama da uhvate moćne inovacije AI-a, a da u isto vrijeme budu oslobođeni trvenja i ograničenja. Modeli otvorenog koda, algoritmi za optimizaciju i sustavi za zaključivanje srce su toga — omogućujući tvrtkama da posjeduju vlastite AI modele, privatno ih prilagode svojim skupovima podataka i implementiraju ih na svoju privatnu infrastrukturu više dobavljača — oblak, podatkovni centar , ili rub.”

Neuralna magijaspinoff MIT-a osnovan 2018., razvio je inovativni softver i algoritme koji ubrzavaju generativna radna opterećenja AI zaključivanja.

Tehnologija tvrtke omogućuje učinkovit rad složenih AI modela na standardnom hardveru, uključujući standardne CPU-ove i GPU-ove, potencijalno smanjujući potrebu za skupim, specijaliziranim AI akceleratorima.

Također: Gotovo polovica korisnika AI-ja generacije želi otvoreni kod – evo zašto

Dakle, što ta sposobnost znači? Pa, Neural Magic je akvizicijom donio nekoliko ključnih tehnologija u Red Hat:

1. vLLM Stručnost: Neural Magic je vodeći suradnik vLLMprojekt otvorenog koda za učinkovito posluživanje velikog jezičnog modela (LLM). Konkretno, vLLM je već Red Hat Enterprise Linux (RHEL) AI i Red Hat OpenShift AImehanizam za zaključivanje. Ovaj potez jasno koristi Red Hat-ovim postojećim AI programima.
2. DeepSparse: Inference runtime koji pruža izvedbu klase GPU-a na uobičajenim CPU-ima putem algoritama koji smanjuju potrebe za računanjem i memorijom za izvođenje neuronske mreže. Konkretno, osim LLM-a, DeepSparse je također koristan za računalni vid (CV) i obradu prirodnog jezika (NLP).
3. SparseZoo: Ako koristite DeepSparse, Neural Magic već nudi repozitorij unaprijed optimiziranih CV, NLP i LLM modela.
4. Tehnike kompresije modela: Neural Magic je razvio napredne metode za kvantizaciju i razrjeđivanje modela, koje mogu značajno smanjiti veličinu modela i zahtjeve za računanjem bez značajnog gubitka u točnosti.
5. Optimizacija na više platformi: Neural Magic tehnologija omogućuje optimizaciju AI modela za implementaciju u oblaku, podatkovnim centrima i rubnim okruženjima.

Te su tehnologije usklađene s vizijom Red Hata da radna opterećenja umjetne inteligencije učini pristupačnijim, učinkovitijim i primjenjivim u hibridnim okruženjima oblaka, potencijalno smanjujući potrebu za specijaliziranim i skupim hardverom umjetne inteligencije. Ukratko, tehnologija tvrtke Neural Magic omogućuje svojim korisnicima jeftinu izradu AI. Također je, u svom srcu vLLM, pristup AI otvorenog koda.

Također: Traži se: Ljudi će graditi robote za OpenAI – i nisu svi oduševljeni

Za Red Hat, kao što je izvršni direktor tvrtke Matt Hicks rekao u izjavi: “Oduševljeni smo što nadopunjujemo naš hibridni AI portfelj usmjeren na oblak s revolucionarnom AI inovacijom Neural Magica, unaprjeđujući našu želju da ne budemo samo ‘Red Hat’ otvorenog izvor, ali i ‘Red Hat’ AI.”

Na X, napisao je Hicks: “U @RedHatvjerujemo da je budućnost umjetne inteligencije otvorena. Zato sam nevjerojatno uzbuđen zbog naše akvizicije @NeuralMagic. Zajedno unapređujemo našu predanost našim klijentima i zajednici otvorenog koda kako bismo ostvarili budućnost umjetne inteligencije – a to počinje danas.”

Strateški gledano, Red Hat se nada da će njegova akvizicija Neural Magic ojačati poziciju Red Hata u njegovoj sposobnosti implementacije AI radnih opterećenja u različitim računalnim okruženjima, od lokalnih podatkovnih centara do javnih oblaka, te poboljšati učinkovitost AI radnih opterećenja koja se već izvode na RHEL AI, OpenShift AI i InstructLabprojekt Red Hat i IBM AI zajednice otvorenog koda za poboljšanje licenciranog otvorenog koda IBM Granite LLMs.

Također: 15 načina na koje mi je umjetna inteligencija uštedjela vrijeme na poslu 2024. – i kako je planiram koristiti 2025.

Dakle, hoće li ovaj pristup uspjeti? Dave McCarthy, IDCPotpredsjednik istraživanja Cloud and Edge Services misli tako: “Red Hatova akvizicija Neural Magica strateško je poboljšanje njegovih AI sposobnosti, olakšavajući implementaciju AI u hibridnim oblacima iskorištavanjem stručnosti Neural Magica u optimizaciji modela i ubrzanju zaključivanja. Ovaj potez usklađuje s posvećenošću Red Hata inovacijama otvorenog koda i pozicionira tvrtku za ponudu isplativija, skalabilna AI rješenja koja smanjuju ovisnost o specijaliziranom hardveru.”