Slopsquatting predstavlja prijetnju opskrbnog lanca u nastajanju koju su omogućile halucinacije umjetne inteligencije. Kako se programeri sve više oslanjaju na AI pomoćnike kodiranja, oni nesvjesno kibernetičkim kriminalcima daju pristup svom softveru od prvog dana.
Sadržaj objave
Razumijevanje što je slopsquatting
Slopsquatting je nova vrsta napada na lanac opskrbe koji koristi veliki jezični model (LLM) halucinacije za ubacivanje zlonamjernog koda u razvojne tijekove rada. Pojam kombinira "AI pomije" i "typosquatting," prijevarna praksa u kojoj napadači registriraju krivo napisane ili slične verzije popularnih domena kako bi napadali korisnike koji unesu netočne URL-ove.
Ovaj novi vektor napada iskorištava tendenciju LLM-a da generiraju fiktivna imena softverskih paketa, koje akteri prijetnji mogu registrirati i popuniti zlonamjernim kodom.
Tijekom kodiranja potpomognutog umjetnom inteligencijom, model može generirati lažne pakete otvorenog koda — skupne zbirke datoteka, programa i instalacijskih alata. Ovo samo po sebi nije nužno štetno. Međutim, ako napadač registrira taj lažni naziv paketa, može ubaciti zlonamjerni softver koji se ugrađuje izravno u programerovu bazu kodova.
Kako umjetna inteligencija stvara rizik u opskrbnom lancu
Tradicionalno, AI sigurnosni rizici proizlaze iz halucinacijašto može negativno utjecati na korisnike koji dezinformacije smatraju valjanima. Međutim, te iste halucinacije razvile su se u sigurnosne propuste koji se mogu iskoristiti.
Tiposquatting je prijevarna praksa u kojoj kibernetički kriminalac registrira pogrešno napisanu verziju popularnog paketa kako bi prevario programere. Postoji desetljećima, pa su registri izgradili zaštitu od nje.
Međutim, AI je promijenio model prijetnje. Preporuča fiktivne pakete koji zvuče uvjerljivo, a ne prave jednostavne pravopisne pogreške. Nakon što napadači saznaju koje halucinirane pakete modeli izmišljaju, mogu pod tim imenima registrirati pakete pune zlonamjernog softvera.
Budući da halucinirani paketi nisu samo ispisane verzije popularnih biblioteka, nema zaštite od ove prakse u velikom broju. Na primjer, registar štiti od objavljivanja napadača "crossenv," skvot popularnog "križni okoliš" paket. Međutim, ne bi se identificirao "mpn instalirajte cross-env datoteku" ili "cross-env-extended" kao prijetnje.
Halucinacije su trajne i teške
Čak i ako mnogi LLM-i preporučuju isti halucinirani paket, široko rasprostranjeni kompromis je još uvijek moguć. Zlonamjerni paketi mogu ostati neotkriveni u proizvodnji mjesecima ili čak godinama, dopuštajući akterima prijetnji pasivno ubacivanje zlonamjernog softvera u bezbrojna okruženja.
Jedno istraživanje tim je analizirao 31.267 ranjivosti pripada 14.675 paketa u 10 programskih jezika. Otkrili su da se prijavljene ranjivosti povećavaju godišnjom stopom od 98%, što je brži rast od godišnjeg povećanja od 25% u broju softverskih paketa otvorenog koda. Tim je također primijetio povećanje prosječnog životnog vijeka ranjivosti od 85%, što ukazuje na pad sigurnosti.
Opasnosti od AI halucinacija u stvarnom svijetu
Zlonamjerni akteri mogu kreirati pakete otvorenog pristupa pod istim imenom kao i knjižnice koje se obično haluciniraju. Umjesto standardnog koda, ispunjeni su zlonamjernim softverom. Modeli vjeruju da se odnose na postojeće pakete, pa često ponavljaju ista halucinirana imena. Budući da halucinacije nisu nasumične, napadači bi teoretski mogli registrirati pakete koji prevare desetke tisuća programera.
Čini se da su ti paketi legitimni. Sličnost nizova sa stvarnim bibliotekama čini ih prepoznatljivima. Pogreške od jednog znaka sugeriraju jednostavne pogreške, a ne zlu namjeru. Čak i potpuno izmišljena imena ostaju vjerodostojna kada ih AI predstavi u odgovarajućem kontekstu. Otkrivanje je izazovno jer programeri vjeruju svojim pomoćnicima kodiranja da će preporučiti valjane ovisnosti.
Zašto su LLM halucinacijski paketi?
LLM generiraju statistički najvjerojatniji odgovor umjesto davanja prioriteta točnosti. Zbog toga su halucinacije relativno česte. Jedna je studija otkrila stope halucinacija raspon od 50% do 82%ovisno o modelu i načinu traženja. Čak ni GPT-4o, model s najboljim učinkom, ne pada niže od 23%, čak i uz ublažavanje temeljeno na brzom odgovoru.
Suparnički halucinacijski napadi mogli bi pogoršati ovaj problem. Akteri prijetnji mogu iskoristiti manipulaciju na razini tokena ili trovanje povrata kako bi natjerali modele da haluciniraju na željeni način, povećavajući vjerojatnost da modeli preporuče svoje zlonamjerne pakete.
Koji su LLM-i skloni slopsquattingu?
Dok su svi LLM-i skloni slopsquattingu, neki su ranjiviji od drugih. Vjerojatnost stvaranja haluciniranih paketa tijekom generiranja koda ovisi o modelu. Četiri je puta manja vjerojatnost da će vlasnički modeli generirati halucinirane pakete od modela otvorenog koda.
Jedna istraživačka skupina to je dokazala provodeći 30 testova na 30 različitih sustava. Od 576.000 uzoraka koda i 2,23 milijuna paketa koje je proizveo, 19,7% bile su halucinacije. GPT-4.0 Turbo imao je stopu halucinacija od 3,59%, dok je DeepSeek 1B, model otvorenog koda s najboljom izvedbom, dosegao 13,63%.
Ovo istraživanje sugerira da su organizacije koje se oslanjaju na AI alate otvorenog koda za generiranje koda otprilike četiri puta više izložene slopsquatting napadima. No, to ne znači nužno da će vlasnički alati uvijek biti sigurniji. Jednom kada napadači shvate tu nejednakost, mogu manipulirati vlasničkim LLM-ovima kako bi iskoristili percipiranu sigurnost.
Vibe kodiranje doprinosi problemu
Programeri koji koriste AI alate to procjenjuju preko 40 posto koda oni obvezuju uključuje pomoć umjetne inteligencije. Očekuju da će se taj postotak znatno povećati u sljedećih nekoliko godina. Već 72% onih koji su probali AI koristi ga svakodnevno.
Porast vibe kodiranja i kodiranja potpomognutog umjetnom inteligencijom povećava površinu prijetnje. Kako sve više programera integrira alate umjetne inteligencije u svoje tijekove rada bez implementacije odgovarajućih procesa verifikacije, površina napada za slopsquatting nastavlja se širiti.
Za one koji koriste umjetnu inteligenciju kao pomoć pri kodiranju, neophodna je dvostruka provjera rezultata. Provjera postoje li preporučeni paketi stvarno u službenim repozitorijima prije njihovog uključivanja u projekte smanjuje rizik.
Implementacija automatiziranih provjera koje potvrđuju nazive paketa u odnosu na poznate registre može pomoći u hvatanju haluciniranih paketa prije nego što uđu u proizvodni kod. Sigurnosni timovi također bi trebali nadzirati neuobičajene instalacije paketa i održavati ažurne podatke o prijetnjama o poznatim kampanjama slopsquattinga.
Zac Amos je urednik značajki u ReHack.