Deepseek je zaključao pristup javne baze podataka koji je izložio povijest chata

29. siječnja, američko Wiz Research objavio je da je odgovorno otkrio duboku bazu podataka koja je prethodno otvorena za javnost, izlažući zapisnike chata i druge osjetljive podatke. Deepseek je zaključao bazu podataka, ali otkriće ističe moguće rizike s generativnim AI modelima, posebno međunarodnim projektima.

Deepseek je posljednji tjedan potresao tehnološku industriju, jer su AI modeli kineske tvrtke rivali američke generativne AI čelnike. Konkretno, Deepseekov R1 natječe se s Openai O1 na nekim mjerilima.

Kako je Wiz Research otkrio javnu bazu podataka DeepSeeka?

U postu na blogu koji je otkrio rad Wiz Research, istraživač u oblaku Gal Nagli detaljno je opisao kako je tim pronašao a Javno dostupna baza podataka Clickhouse koja pripada Deepseeku. Baza podataka otvorila je potencijalne staze za kontrolu baze podataka i napade privilegiranja eskalacije. Unutar baze podataka Wiz Research mogao bi pročitati povijest chata, sigurnosne podatke, tokove dnevnika, tajne API -ja i operativne detalje.

Tim je pronašao bazu podataka Clickhouse “u roku od nekoliko minuta”, jer su procijenili potencijalne ranjivosti Deepseeka.

“Bili smo šokirani, a također smo osjećali sjajan osjećaj hitnosti da djeluju brzo, s obzirom na veličinu otkrića”, rekao je Nagli u e -poruci TechRepublic.

Prvo su procijenili Deepseekove poddomene okrenute na Internetu, a dva otvorena luka pogodila su ih kao neobične; Ti portovi dovode do DeepSeekove baze podataka hosta na Clickhouseu, sustavu za upravljanje bazama podataka otvorenog koda. Pregledavanjem stolova u Clickhouseu, Wiz Research je pronašao povijest chata, tipke API -ja, operativne metapodatke i još mnogo toga.

Istraživački tim WIZ -a napomenuo je da tijekom istraživačkog procesa, po etičkim istraživačkim praksama, nisu “izvršavali nametljive upite”.

Što javno dostupna baza podataka znači za AI DeepSeek?

Wiz Research je obavijestio Deepseeka o kršenju i tvrtki AI zaključao je bazu podataka; Stoga ne bi trebalo utjecati DeepSeek AI proizvodi.

Međutim, mogućnost da je baza podataka mogla ostati otvorena za napadače naglašava složenost osiguranja generativnih AI proizvoda.

“Iako je velik dio pažnje oko sigurnosti AI usmjeren na futurističke prijetnje, stvarne opasnosti često dolaze iz osnovnih rizika – poput slučajnog vanjskog izlaganja baza podataka”, napisao je Nagli u postu na blogu.

IT profesionalci trebali bi biti svjesni opasnosti od prihvaćanja novih i neprovjerenih proizvoda, posebno generativnog AI, prebrzo – dati istraživačima vremena da pronađu greške i nedostatke u sustavima. Ako je moguće, uključite oprezne vremenske rokove u politike upotrebe AI -a za generativne tvrtke.

“Dok organizacije žure usvojiti AI alate i usluge iz sve većeg broja startupa i pružatelja usluga, ključno je zapamtiti da time čineći to kompanije osjetljivim podacima”, rekao je Nagli.

Ovisno o vašoj lokaciji, članovi IT tima možda će morati biti svjesni propisa ili sigurnosnih problema koji se mogu primjenjivati ​​na generativne AI modele koji potječu iz Kine.

“Na primjer, određene činjenice u kineskoj povijesti ili prošlosti ne predstavljaju modeli transparentno ili u potpunosti”, napomenuo je Unmesh Kulkarni, šef generala AI -ja u tvrtki za znanost o podacima Tredence, u e -mailu u TechRepublic. „Implikacije na privatnost podataka o pozivanju modela s domaćinom također su nejasne i većina globalnih tvrtki to ne bi bila spremna učiniti. Međutim, treba imati na umu da su DeepSeek modeli otvorenog koda i mogu se rasporediti lokalno u privatnom oblačnom ili mrežnom okruženju tvrtke. To bi se bavilo pitanjima privatnosti podataka ili problemima istjecanja. “

Nagli je također preporučio modele samo-smještenih kada ga je TechRepublic stigao e-poštom.

“Primjena strogih kontrola pristupa, šifriranje podataka i segmentacija mreže može dodatno ublažiti rizike”, napisao je. „Organizacije bi trebale osigurati da imaju vidljivost i upravljanje cijelim AI snopom kako bi mogli analizirati sve rizike, uključujući upotrebu zlonamjernih modela, izlaganje podataka o obuci, osjetljive podatke u obuci, ranjivosti u AI SDK -ovima, izloženost AI uslugama i drugih toksičnih Kombinacije rizika koje napadači mogu iskoristiti. “