Googlov Gemini v varnostnem testu dostopal do treh spletnih mest

Googlov model Gemini je v varnostnem preizkusu dostopal do interneta in uganil prijavne podatke za tri spletna mesta.

Googlov model umetne inteligence Gemini je med varnostnim preizkusom dostopal do interneta in uganil prijavne podatke za tri spletna mesta. To je za BBC povedal predstavnik Googla.

Preizkus je pokazal, da lahko model pri opravljanju nalog na spletu poskuša uporabiti poverilnice, ki niso bile neposredno posredovane kot del običajnega uporabniškega vnosa.

BBC v poročilu ni navedel imen treh podjetij, katerih spletna mesta je model dosegel, niti dodatnih podrobnosti o uporabljenih podatkih. Prav tako ni pojasnil, ali je šlo za dejanski nepooblaščen vdor ali za nadzorovano okolje, vzpostavljeno posebej za testiranje.

Dogodek opozarja na varnostna tveganja pri modelih, ki lahko poleg ustvarjanja besedila izvajajo naloge na internetu. Pri takšnih sistemih so zato pomembni omejitve dostopa, preverjanje ukazov in nadzor nad ravnanjem z uporabniškimi podatki.

Vir: BBC Svet

urednistvo
urednistvo
Articles: 3088