Tsuguo Nobe keynote (21465778345)

Raziskovalci s Claudeom odkrili ranljivosti v sistemih OpenAI

Varnostni raziskovalci so z Anthropicovim Claudeom izkoristili ranljivosti v sistemih OpenAI ter dostopali do računov zaposlenih in interne kode.

Varnostni raziskovalci so z uporabo Anthropicovega klepetalnika Claude izkoristili ranljivosti v sistemih OpenAI, poroča TechCrunch AI. Pri tem naj bi prevzeli račune zaposlenih in pridobili dostop do notranjega skladišča izvorne kode.

Primer kaže, da je mogoče generativno umetno inteligenco uporabiti tudi pri zahtevnejših varnostnih napadih. Raziskovalci so Claude uporabili kot orodje za iskanje in izkoriščanje pomanjkljivosti v sistemih drugega ponudnika umetne inteligence.

Po navedbah vira so bile ranljivosti OpenAI prijavljene, še preden so bile podrobnosti javno objavljene. Iz razpoložljivih informacij ni razvidno, kako dolgo je trajal dostop, kateri računi so bili prizadeti ali ali je prišlo do odtujitve podatkov.

Dogodek odpira širše vprašanje varovanja razvijalskih okolij in uporabniških računov v podjetjih, ki razvijajo umetno inteligenco. Ker lahko modeli pomagajo avtomatizirati posamezne korake varnostnega preverjanja in napadov, bodo morali ponudniki dodatno zaščititi notranjo infrastrukturo ter dosledno preverjati dostope do izvorne kode.

Vir: TechCrunch AI

Foto: International Conference Intelligent Transportation / BY-SA (vir slike)

urednistvo
urednistvo
Articles: 3088