Nvidia Project Digits: Radna površina s Linuxom za AI programere

Vjerovali ili ne, ova mala Nvidia kutija ispod vašeg ekrana postat će najsnažnije stolno računalo na svijetu.

Ono što je na naslovnicama CES-a 2025 su televizori s umjetnom inteligencijom, novi pametni kućni gadgeti i nova izdanja prijenosnih računala. Međutim, za moj novac, glavna vijest s CES-a je Nvidia Project Digits. Ovo revolucionarno stolno AI superračunalo dizajnirano je kako bi razvojnim programerima umjetne inteligencije (AI), istraživačima i studentima omogućilo neviđenu računalnu snagu. Usto, pokretat će ga Nvidia DGX OS, prilagođen Ubuntu Linux 22.04.

DGX OS je distribucija Linuxa optimizirana za specifične potrebe sustava. Sadrži prilagođene konfiguracije, upravljačke programe, alate za dijagnostiku i nadzor, čime pruža potpuno podržanu verziju Linuxa za rad s AI, strojnim učenjem i analitičkim aplikacijama na Nvidia DGX superračunalima.

Povrh toga, Nvidia će osigurati komplete za razvoj AI softvera, alate za orkestraciju, okvire i modele iz Nvidia NGC kataloga, Nvidia NeMo okvir za fino podešavanje modela te Nvidia Rapids knjižnice za ubrzanje podatkovne znanosti. Naravno, budući da je u srži ovog sustava Ubuntu Linux, možete pokretati bilo koji Ubuntu ili Linux softver. Ako poželite, možete čak i igrati Doom na njemu — što je vjerojatno prvo što ću učiniti ako se domognem jednog od ovih uređaja.

U kućištu koje izgledom podsjeća na Mac mini, Nvidijin Project Digits obećava petaflop AI performanse na vašoj radnoj površini. Petaflop je jednak jednom kvadrilijunu operacija s pomičnim zarezom u sekundi (flops). Do 2008. godine, kada je IBM lansirao svoje superračunalo Roadrunner, nitko nije postigao tu brzinu. Danas najnovija superračunala s liste Top 500 postižu samo malo više od dva petaflopa, a za to im je potrebno više od tisuću jezgri — i svi koriste Linux.

Project Digits bit će blizu vrha Top 500 superračunala, a pokreće ga novi Nvidia GB10 Grace Blackwell Superchip. Uz predinstalirani Nvidia AI softverski paket i 128 GB memorije, korisnici će moći lokalno razvijati prototipe, fino podešavati i trenirati AI modele do 200 milijardi parametara te ih neprimjetno implementirati u podatkovne centre ili oblak.

Grace Blackwell Superchip dobio je ime po Grace Hopper, slavnoj informatičkoj znanstvenici i kontraadmiralu američke mornarice, te po Davidu Haroldu Blackwellu, matematičaru koji je pridonio teoriji igara, teoriji vjerojatnosti i statistici, te bio prvi crni znanstvenik primljen u Nacionalnu akademiju znanosti.

Ovaj moćan čip sadrži ARM Grace CPU s 10 Cortex-X925 i 10 Cortex-A725 jezgri, što ukupno čini 20 jezgri. Procesor podržava Blackwell GPU s najnovijim Nvidia CUDA i RT jezgrama. Računalo dolazi s 128 GB RAM-a i do 4 TB flash memorije, što osigurava vrhunske performanse.

Nvidia obećava da će AI programeri moći raditi s modelima do 200 milijardi parametara na jednom uređaju, dok dva povezana Project Digits uređaja mogu obrađivati modele do 405 milijardi parametara.

Izvršni direktor Nvidije, Jensen Huang, naglasio je transformativni potencijal Project Digitsa: „Postavljanje AI superračunala na stol svakog podatkovnog znanstvenika, AI istraživača i studenta omogućuje im da aktivno sudjeluju u oblikovanju doba AI-ja.“

S početnom cijenom od 3000 dolara, Project Digits nastoji učiniti AI visokih performansi dostupnim široj publici, od malih poduzeća do obrazovnih ustanova. U toj cjenovnoj kategoriji može se očekivati da će Project Digits stolna računala pronaći svoje mjesto u mnogim domovima.

Ovaj sustav pokretan Linuxom, koji bi trebao biti lansiran u svibnju 2025., obećava preoblikovati svijet razvoja umjetne inteligencije nudeći performanse na razini podatkovnih centara u kompaktnom stolnom uređaju. Osobno, jedva čekam priliku da se dočepam jednog od njih.

Web izvor