Kako novi evolucijski algoritam Sakana AI gradi snažne AI modele bez skupog prekvalifikacije

Kako djeluje m2n2

M2N2 se bavi tim ograničenjima crtanjem inspiracije iz evolucijskih načela u prirodi. Algoritam ima tri ključne značajke koje mu omogućuju istraživanje šireg raspona mogućnosti i otkrivanje učinkovitijih kombinacija modela.

Prvo, M2N2 eliminira fiksne granice spajanja, poput blokova ili slojeva. Umjesto da parametri grupiraju unaprijed definirane slojeve, on koristi fleksibilne „podijeljene točke“ i „miješanje obroka“ za podjelu i kombiniranje modela. To znači da bi, na primjer, algoritam mogao spojiti 30% parametara u jednom sloju iz modela A sa 70% parametara iz istog sloja u modelu B. Proces započinje s “arhivom” sjemenih modela. U svakom koraku M2N2 odabire dva modela iz arhive, određuje omjer miješanja i podijeljenu točku i spaja ih. Ako se rezultirajući model dobro snalazi, dodaje se natrag u arhivu, zamjenjujući slabiju. To omogućava algoritmu da tijekom vremena istražuje sve složenije kombinacije. Kao što istraživači napominju, “ovo postupno uvođenje složenosti osigurava širi spektar mogućnosti uz održavanje računalne traktabilnosti.”

Drugo, M2N2 upravlja raznolikošću svoje modelne populacije kroz konkurenciju. Da bi razumjeli zašto je raznolikost presudna, istraživači nude jednostavnu analogiju: „Zamislite da se spajaju dva lista odgovora za ispit … ako oba lista imaju potpuno iste odgovore, kombiniranje ih ne poboljšava. Ali ako svaki list ima točne odgovore za različita pitanja, spajanje im daje mnogo jači rezultat.“ Model spajanje djeluje na isti način. Izazov je, međutim, definiranje kakve je raznolikosti vrijedna. Umjesto da se oslanjaju na ručno izrađene metrike, M2N2 simulira konkurenciju za ograničene resurse. Ovaj pristup nadahnut prirodom nagrađuje modele jedinstvenim vještinama, jer oni mogu „iskoristiti nesporne resurse“ i riješiti probleme koji drugi ne mogu. Ovi nišni stručnjaci, napominju autorima, najvrjedniji su za spajanje.

Treće, M2N2 koristi heuristički nazvan “atrakcija” za spajanje modela za spajanje. Umjesto da jednostavno kombiniraju vrhunske modele kao u drugim algoritmima spajanja, to ih spaja na temelju njihovih komplementarnih snaga. “Rezultat atrakcije” identificira parove u kojima jedan model dobro djeluje na podatkovnim točkama koje drugi smatra izazovnim. To poboljšava i učinkovitost pretraživanja i kvalitetu konačnog spojenog modela.

M2n2 u akciji

Istraživači su testirali M2N2 u tri različite domene, pokazujući njegovu svestranost i učinkovitost.

Prvi je bio eksperiment malih razmjera koji se razvijao klasifikatorima slike utemeljenih na neuronskoj mreži od nule na MNIST skup podataka. M2N2 je postigao najveću točnost ispitivanja značajnom maržom u usporedbi s drugim metodama. Rezultati su pokazali da je njegov mehanizam za očuvanje raznolikosti bio ključan, što mu je omogućilo da održava arhivu modela s komplementarnim snagama koje su olakšale učinkovito spajanje, a istovremeno odbacujući slabija rješenja.

Zatim su primijenili M2N2 na LLMS, kombinirajući model specijalističkog matematike (WizardMath-7b) sa stručnjakom za agenciju (AgenceVol-7B), a oba se temelje na arhitekturi Llama 2. Cilj je bio stvoriti jednog agenta koji se izvrsno snašao u matematičkim problemima (GSM8K skup podataka) i na web-zadacima (WebShop DataSet). Rezultirajući model postigao je snažne performanse na obje mjerile, pokazujući sposobnost M2N2 da stvara moćne, multikligirane modele.

Konačno, tim je spojio modele generiranja slike temeljenih na difuziji. Kombinirali su model obučen na japanske upute (JSDXL) s tri stabilna difuzijska modela prvenstveno obučena na engleske upute. Cilj je bio stvoriti model koji je kombinirao najbolje mogućnosti stvaranja slika svakog modela sjemena zadržavajući sposobnost razumijevanja japanskog. Spojeni model ne samo da je proizveo više fotorealističnih slika s boljim semantičkim razumijevanjem, već je razvio i hitnu dvojezičnu sposobnost. Mogla bi generirati visokokvalitetne slike iz engleskog i japanskog upita, iako je optimizirana isključivo koristeći japanske naslove.

Za poduzeća koja su već razvila specijalne modele, poslovni slučaj spajanja je uvjerljiv. Autori ukazuju na nove, hibridne mogućnosti koje bi bilo teško postići drugačije. Na primjer, spajanje LLM-a fino prilagođenog uvjerljivim prodajnim igrama s modelom vizije osposobljenim za tumačenje reakcija kupaca moglo bi stvoriti jedinstveni agent koji prilagođava svoj teren u stvarnom vremenu na temelju povratnih informacija uživo. Ovo otključava kombiniranu inteligenciju više modela s troškovima i kašnjenjem trčanja samo jednog.

Gledajući unaprijed, istraživači vide tehnike poput M2N2 kao dio šireg trenda prema “modelu fuzije”. Oni predviđaju budućnost u kojoj organizacije održavaju čitave ekosustave AI modela koji se neprestano razvijaju i spajaju kako bi se prilagodili novim izazovima.

“Zamislite to kao na evoluirajući ekosustav u kojem se mogućnosti kombiniraju po potrebi, a ne da izrađujete jedan divovski monolit ispočetka”, sugeriraju autori.

Istraživači su objavili kod M2N2 na Ždrijeb.

Najveća prepreka ovom dinamičnom, samo-poboljšanju AI ekosustava, vjeruju autori, nije tehnička, već organizacijska. “U svijetu s velikim” spojenim modelom “sastavljen od otvorenog koda, komercijalnih i prilagođenih komponenti, osiguravanje privatnosti, sigurnosti i usklađenosti bit će presudan problem.” Za tvrtke, izazov će shvatiti koji se modeli mogu sigurno i učinkovito apsorbirati u njihov evoluirajući AI snop.