Pratite ZDNET: Dodajte nas kao željeni izvor na Googleu.
Sadržaj objave
Ključni podaci ZDNET-a za van
- Nvidijin novi open-source savez ima za cilj demokratizirati sigurnosna rješenja.
- AI je često najbolji alat za borbu protiv napada koje pokreće AI.
- Agentski pojasevi ključna su komponenta bolje sigurnosti.
Agenti umjetne inteligencije stoje iza stalnog niza sigurnosnih incidenata ove godine. Nvidia misli da je novo partnerstvo izgrađeno na softveru otvorenog koda odgovor.
U ponedjeljak, tvrtka najavio Open Secure AI Alliance, za koji je rekao da će “raditi na saniranju i otkrivanju ranjivosti korištenjem otvorenih tehnologija”. Najava je nešto poput odgovora na Project Glasswing, sigurnosni savez Anthropic koji je pokrenuo oko svog vrlo sposobnog modela Mythos 5. Nvidijina inicijativa ima za cilj daljnju demokratizaciju sigurnosnih alata umjetne inteligencije fokusiranjem na softver otvorenog koda umjesto rezerviranja pristupa vlasničkom modelu za nekoliko velikih tvrtki.
Također: OpenAI-jev agent za napad učinio je točno ono što mu je rečeno – samo nemilosrdnije nego što se očekivalo
Nvidia je rekla da je Alijansu potaknuo prošlotjedni incident Hugging Face, u kojem je OpenAI agent pobjegao iz okruženja za testiranje i infiltrirao se u Hugging Face, ukravši vjerodajnice i demonstrirajući što OpenAI rekao je bio je ishod “bez presedana”. Nvidia je u svojoj objavi tvrdila da budući da su AI alati sami po sebi postali učinkovit način za rješavanje AI napada, sigurnosni alati otvorenog koda moraju biti pouzdano javno dobro.
“Kada su zatvoreni AI alati — nesposobni razlikovati napadače od branitelja — blokirali esencijalnu forenzičku analizu, Hugging Face je pokrenuo GLM 5.2 model otvorene težine na vlastitoj infrastrukturi kako bi analizirao više od 17.000 radnji i spriječio upad,” primijetila je Nvidia.
Cloudflare, CrowdStrike, Adobe, IBM, Linux Foundation, Microsoft i startup Thinking Machines Lab bivše izvršne direktorice OpenAI-a Mire Murati među prvim su sudionicima Alijanse. Nvidia je rekla da će njen doprinos naporima uključivati nova istraživanja o povezivanju agenata – infrastrukturi koja LLM pretvara u agenta pomažući mu da djeluje autonomno – kao i otvorene modele, težine i podatke.
Sigurnosni slučaj za otvoreni kod
U najavi, Nvidia se posebno zalagala za otvorene modele (pored zatvorenih modela) kao rješenje za sigurnosne incidente, suprotstavljajući se dominantnom narativu da se AI otvorenog koda može lakše preoteti.
Također: Kako je AI odjednom postao mnogo korisniji programerima otvorenog koda
“Neki tvrde da su otvoreni modeli sami po sebi manje sigurni jer se mogu zloupotrijebiti za kibernetičke napade ili modificirati kako bi se uklonile zaštitne ograde”, rekla je tvrtka. “Ti rizici su stvarni, ali ne nestaju u zatvorenim sustavima, a jednostavno držanje utega zatvorenima ne sprječava odlučne napadače da traže ili iskorištavaju moćnu umjetnu inteligenciju.”
Kada je riječ o umjetnoj inteligenciji, open-source znači open-weight; to jest, konačni parametri i pristranosti modela su javni (umjesto zatvoreni, kao kod Anthropica ili OpenAI-a). Posjedovanje tih informacija, koje oblikuju rezultate modela, omogućuje programerima fino podešavanje modela za vlastite potrebe.
Također: ‘Kao da predate nacrt u trezor banke’: Zašto je umjetna inteligencija navela jednu tvrtku da napusti otvoreni kod
Međutim, model je uistinu otvorenog koda kada su njegov kod i skup podataka za obuku javno dostupni, što znači da svatko može pristupiti njegovim sastavnim dijelovima i temeljitije razumjeti kako funkcionira. S obzirom na to koliko moćni vlasnički modeli mogu biti unosni za tvrtke kao što su Anthropic i OpenAI, malo je poticaja za potpuno otvoreni model.
Poziv na pro-open-source politiku
Nvidia je također ukazala na sveukupnu karakterizaciju umjetne inteligencije otvorenog koda kao moguću prepreku budućim naporima u području kibernetičke sigurnosti.
Također: Moonshotov model otvorenog koda Kimi K3 nadmašuje Anthropicov Fable 5 na ovom mjerilu
“Bit će ključno prepoznati otvorene modele, pojaseve i sigurnosne alate kao obrambenu imovinu, a ne obveze, u politici umjetne inteligencije i kibernetičke sigurnosti”, rekla je tvrtka u najavi. “Opća ograničenja otvorenih graničnih sustava umjetne inteligencije oslabila bi obrambeni kapacitet i riskirala koncentraciju moći, ovisnosti i ranjivosti u nekoliko zatvorenih pružatelja.”
Trumpova administracija posebno je kritizirala otvorene modele kineskih startupa poput Moonshoota i DeepSeeka, koji su često konkurentni onima iz američkih laboratorija, navodeći sigurnosne rizike. Iako su te zabrinutosti opravdane, one su također obojene zabrinutošću da će Kina nadmašiti SAD u izgradnji najsofisticiranijih sustava umjetne inteligencije.
Nvidijin poziv regulatorima također se dotiče sve većeg angažmana administracije u vremenskim rasporedima izdavanja modela Anthropic i OpenAI-a u vezi sa sigurnosnim pitanjima. Vlada je bila ključna za povlačenje Fable 5 i Mythos 5 i dala je prethodno odobrenje OpenAI-u za puštanje najnovijeg modela, GPT-5.6.