Otvorena definicija težine nudi još jedan pogled na raspravu o OSAID-u

Programeri i čelnici otvorenog koda i umjetne inteligencije (AI) slažu se da je AI otvorenog koda važan. Unatoč najvećim naporima Open Source Initiative (OSI) da stvori definiciju umjetne inteligencije otvorenog koda (OSAID), još uvijek postoji mnogo neslaganja oko toga što bi trebalo, a što ne bi trebalo biti uključeno u OSAID. Iznikli iz ovog neslaganja, novonastali Open Source Alliance (OSA) je objavio svoj pogled na OSAID: the Definicija otvorene težine (OWD).

OWD je novi okvir koji uravnotežuje integritet AI zatvorenog i otvorenog koda. Okvir je osmišljen, kažu njegovi tvorci, da odgovori na složenosti i izazove koje donosi brzi razvoj AI tehnologije. Cilj mu je pružiti jasan standard za ono što čini “otvoreni kod” u modelima umjetne inteligencije, posebno u velikim jezičnim modelima (LLM).

Također: DeepSeekov novi AI model otvorenog koda može nadmašiti o1 za djelić cijene

Utezi su temeljne komponente AI-ja. Na temelju neobrađenih podataka, težine su numeričke vrijednosti povezane s vezama između čvorova na različitim slojevima AI programa. Ove vrijednosti se određuju tijekom procesa obuke strojnog učenja. Konkretno, OWD uključuje:

1. Pristupačnost težine modela: Definicija naglašava da su težine modela dostupne programerima i istraživačima.
2. Informacije o skupu podataka: Iako ne zahtijeva puni pristup podacima o obuci, definicija naglašava potrebu za detaljnim informacijama o sadržaju skupa podataka i metodama prikupljanja.
3. Transparentnost arhitekture: Okvir potiče otkrivanje informacija o arhitekturi modela kako bi se olakšala poboljšanja i izmjene

Amanda Brock, OpenUKizvršna direktorica, rekla je da podržava OWD: “Savez je usmjeren na proširenje angažmana na više organizacija koje se trenutno natječu kako bi osigurale bolju globalnu suradnju. Ovaj prvi korak dijeljenja pristupa definiranju otvorenih težina u skladu je s raščlanjivanjem AI i definiranje razine otvorenosti raščlanjene, ali kritične komponente, bilo da se radi o podacima, težini ili modelu… To se svakako čini praktičnijim i izvodljivijim od male grupe stvarajući definiciju koja ne odgovara svrsi.”

Ovaj posljednji komentar odnosio se na OSI-jev OSAID, kojem se Brock usprotivio. Doista, OSA je uhvatila problem umjetne inteligencije otvorenog koda kako bi pokušala zamijeniti OSI. U siječnju je njegov osnivač Sam Johnston rekao u priopćenju za javnost: “Podaci su testirali granice Definicija otvorenog koda (OSD), koji je dokazan na otvorenosti, ali mu nedostaje cjelovitost izvan komponenti izvornog koda.” Dodavanjem OWD-a na OSD, Johnston želi stvoriti Open Source 2.0.

Također: OpenAI-jev o1 laže više od bilo kojeg većeg AI modela. Zašto je to važno

Brock je dodao da unatoč objavljivanju definicije OSAID-a u listopadu prošle godine, “OSI je ‘na početku putovanja’ s definicijom. Po mom mišljenju, to pokazuje da je pristup pokušaja definiranja ‘otvorene umjetne inteligencije’ pogrešan. Umjesto toga, trebali bismo slijediti ovaj raščlanjeni pristup izazovu i pogledati temeljnu ‘tehnologiju’, uključujući podatke o obuci, i što znači biti otvoren, ne definira zakon, a trebao bi ne. Radi se o tome što svakome omogućuje korištenje ‘izvora’ tehnologije, uključujući podatke za bilo koju svrhu.”

Brock je zaključio: “Stvarnost i točnost ovoga moraju se razumjeti u procjeni rizika i odgovornosti. Dakle, za danas je najava Saveza o definiciji otvorene težine dobrodošla.”

Kao odgovor na najavu OWD-a, Stefano Maffulli, izvršni direktor OSI-ja, rekao je: “Zajednice grade standarde i definicije. Zajednica Linux Foundationa već ima definiciju otvorenih težina u Okvir otvorenosti modela.”

Linux Foundation nije jedina stranka koja se bavi standardizacijom otvorene težine. Obratila im se i istaknuta odvjetnica za open-source Heather Meeker. Meeker je napisao: “U području umjetne inteligencije postoji temeljni nesporazum koji treba riješiti — pretpostavka da se načela licenciranja softvera otvorenog koda mogu izravno primijeniti na neuronske mrežne težine (NNWs). Pogrešna predodžba proizlazi iz spajanja dva različita artefakta — softverskog izvornog koda i NNW-ova.”

Također: proveo sam sate testirajući ChatGPT zadatke – i njegovo odbijanje da slijedi upute bilo je blago zastrašujuće

Nastavila je: “NNW-ovi su različiti. Oni predstavljaju ‘znanje’ koje je umjetna neuronska mreža naučila i često su pohranjeni kao velike matrice brojeva. Za razliku od izvornog koda, NNW-ovi nisu čitljivi za ljude niti se mogu otkloniti pogreške. […] Temeljne slobode otvorenog izvornog koda — pokretanje, proučavanje, redistribucija i modificiranje softvera — ne mogu se lako prevesti na NNW. Iako možete pokrenuti i distribuirati NNW, njihovo proučavanje i modificiranje nije trivijalno ili funkcionalno nemoguće.”

Možete dijeliti NWW pod licencom u stilu otvorenog koda, predložio je Meeker Open Weights Permissive License. Ali, kako je primijetila: “Ova se definicija umjesto toga fokusira na izvornu ideju otvorenosti i očuvanje izvornih ciljeva Freedom Zero slobodnog softvera i otvorenog koda.”

Mafflli je rekao: “OSI prati kako bi vidio što praktičari umjetne inteligencije zapravo rade. Kao i rad LF-a, definicije OSI-ja razvija zajednica i zajedno s njom. To je bio slučaj s izvornom definicijom otvorenog koda koja je razvijena nakon 20+ godina zajednica slobodnog softvera koje izrađuju i objavljuju softver. To je ono što smo učinili s umjetnom inteligencijom: zajednica je vodila proces definiranja umjetne inteligencije otvorenog koda.”

U intervjuu, Meeker je dodao: “Nadam se da se različiti pokušaji definiranja (OSI-jeva definicija AI-ja otvorenog koda, definicija otvorenih pondera koju sam prvi put objavio 2022. i ova nova definicija) mogu spojiti. No, nažalost, čini se da nijedna od ovih definicije će postati de facto standard poput definicije otvorenog koda — sve su one zasjenjene različitim regulatornim okvirima i privatnošću propisima i dobavljačima koji postavljaju praksu na visoko koncentriranom tržištu.”

Ono na što se ova rasprava svodi je da još uvijek raspravljamo o tome kako točno AI otvorenog koda izgleda. Istina, čelnici otvorenog koda mogu se složiti da jednostavno reći da su program ili podaci AI otvorenog koda ne znači da i jest, što je Meta učinila s Llamom. Ali još uvijek nismo ni blizu pronalaska jedinstva u definiciji umjetne inteligencije otvorenog koda.