Odstupanje podataka događa se kada se statistička svojstva ulaznih podataka modela strojnog učenja (ML) mijenjaju tijekom vremena, što na kraju čini njegova predviđanja manje točnima. Stručnjaci za kibernetičku sigurnost koji se oslanjaju na ML za zadatke poput otkrivanja zlonamjernog softvera i analize mrežnih prijetnji otkrivaju da neotkriveno pomicanje podataka može stvoriti ranjivosti. Model obučen na starim obrascima napada možda neće vidjeti današnje sofisticirane prijetnje. Prepoznavanje ranih znakova odstupanja podataka prvi je korak u održavanju pouzdanih i učinkovitih sigurnosnih sustava.
Sadržaj objave
Zašto pomicanje podataka ugrožava sigurnosne modele
ML modeli se obučavaju na snimci povijesnih podataka. Kada podaci uživo više ne nalikuju ovoj snimci, izvedba modela se smanjuje, stvarajući kritičan rizik kibernetičke sigurnosti. Model otkrivanja prijetnji može generirati više lažno negativnih rezultata propuštanjem stvarnih proboja ili stvoriti više lažno pozitivnih rezultata, što dovodi do zamora sigurnosnih timova od upozorenja.
Protivnici aktivno iskorištavaju ovu slabost. Godine 2024. napadači su koristili tehnike echo-spoofinga za zaobilaženje usluga zaštite e-pošte. Iskorištavajući pogrešne konfiguracije u sustavu, poslali su milijune lažnih e-poruka koje su zaobišle ML klasifikatore dobavljača. Ovaj incident pokazuje kako akteri prijetnji mogu manipulirati ulaznim podacima kako bi iskoristili slijepe točke. Kada se sigurnosni model ne uspije prilagoditi promjenjivim taktikama, on postaje prepreka.
5 indikatora odstupanja podataka
Sigurnosni stručnjaci mogu prepoznati prisutnost drifta (ili njegov potencijal) na nekoliko načina.
1. Nagli pad performansi modela
Točnost, preciznost i prisjećanje često su prve žrtve. Konzistentan pad ovih ključnih mjernih podataka upozorava na to da model više nije usklađen s trenutnim prijetnjama.
Uzmite u obzir Klarnin uspjeh: njezin pomoćnik s umjetnom inteligencijom obradio je 2,3 milijuna razgovora s korisničkom službom u prvom mjesecu i obavio posao koji je ekvivalentan 700 agenata. Ova učinkovitost dovela je do a 25% pad ponovljenih upita i smanjeno vrijeme rješavanja na manje od dvije minute.
Sada zamislite da se ti parametri iznenada preokrenu zbog pomaka. U sigurnosnom kontekstu, sličan pad performansi ne znači samo nezadovoljne klijente – to također znači uspješne upade i potencijalnu ekstrakciju podataka.
2. Pomaci u statističkim distribucijama
Sigurnosni timovi trebali bi pratiti temeljna statistička svojstva ulaznih značajki, kao što su srednja vrijednost, medijan i standardna devijacija. Značajna promjena u ovim metrikama iz podataka o obuci mogla bi značiti da su se temeljni podaci promijenili.
Praćenje takvih promjena omogućuje timovima da uhvate drift prije nego što izazove kršenje. Na primjer, model otkrivanja krađe identiteta može se uvježbati na e-porukama s prosječnom veličinom privitka od 2 MB. Ako prosječna veličina privitka iznenada skoči na 10 MB zbog nove metode dostave zlonamjernog softvera, model možda neće uspjeti pravilno klasificirati te e-poruke.
3. Promjene u ponašanju predviđanja
Čak i ako se ukupna točnost čini stabilnom, distribucije predviđanja mogu se promijeniti, fenomen koji se često naziva pomakom predviđanja.
Na primjer, ako je model za otkrivanje prijevare povijesno označavao 1% transakcija kao sumnjive, ali odjednom počne označavati 5% ili 0,1%, ili se nešto promijenilo ili se promijenila priroda ulaznih podataka. To može značiti novu vrstu napada koji zbunjuje model ili promjenu u legitimnom ponašanju korisnika koju model nije obučen identificirati.
4. Povećanje nesigurnosti modela
Za modele koji svojim predviđanjima daju ocjenu pouzdanosti ili vjerojatnost, opće smanjenje pouzdanosti može biti suptilan znak pomaka.
Nedavne studije naglašavaju vrijednost nesigurnosti kvantifikacije u otkrivanju kontradiktornih napada. Ako model postane manje siguran u sveukupna predviđanja, vjerojatno se suočava s podacima na kojima nije obučen. U okruženju kibernetičke sigurnosti, ova neizvjesnost je rani znak potencijalnog kvara modela, što sugerira da model radi na nepoznatom terenu i da njegove odluke možda više nisu pouzdane.
5. Promjene u odnosima značajki
Korelacija između različitih ulaznih značajki također se može promijeniti tijekom vremena. U modelu upada u mrežu, količina prometa i veličina paketa mogu biti jako povezani tijekom normalnih operacija. Ako ta korelacija nestane, to može signalizirati promjenu ponašanja mreže koju model možda ne razumije. Iznenadno razdvajanje značajki moglo bi značiti novu taktiku tuneliranja ili tajni pokušaj izvlačenja.
Pristupi otkrivanju i ublažavanju pomaka podataka
Uobičajene metode otkrivanja uključuju Kolmogorov-Smirnov (KS) i indeks stabilnosti populacije (PSI). Ovi uspoređuju distribucije podataka uživo i treninga za prepoznavanje odstupanja. KS test utvrđuje razlikuju li se dva skupa podataka značajno, dok PSI mjeri koliko se distribucija varijable promijenila tijekom vremena.
Odabrana metoda ublažavanja često ovisi o tome kako se pomak manifestira, budući da se promjene distribucije mogu dogoditi iznenada. Na primjer, ponašanje kupaca pri kupnji može se promijeniti preko noći s lansiranjem novog proizvoda ili promocijom. U drugim slučajevima, pomak se može pojaviti postupno tijekom duljeg razdoblja. Bez obzira na to, sigurnosni timovi moraju naučiti prilagoditi svoj ritam praćenja kako bi uhvatili i brze skokove i spora paljenja. Ublažavanje će uključivati ponovnu obuku modela na novijim podacima kako bi se povratila njegova učinkovitost.
Proaktivno upravljajte driftom za veću sigurnost
Kretanje podataka je neizbježna stvarnost, a timovi za kibernetičku sigurnost mogu održati jaku sigurnosnu poziciju tretirajući detekciju kao kontinuirani i automatizirani proces. Proaktivno praćenje i ponovna obuka modela temeljne su prakse kako bi se osiguralo da sustavi ML-a ostanu pouzdani saveznici protiv novih prijetnji.
Zac Amos je urednik značajki u ReHack.