Izvršni direktor podjetja OpenAI Jason Kwon je na zaslišanju v Avstraliji priznal, da odziv podjetja na hekerske vdore v avstralske vladne sisteme ni bil dovolj dober. Kot poroča BBC, je Kwon povedal, da je podjetje v svoje okolje za usposabljanje modelov umetne inteligence dodalo več varnostnih ukrepov.
Zaslišanje je del preiskave, ki jo avstralske oblasti vodijo v zvezi z varnostnimi tveganji, povezanimi z uporabo naprednih jezikovnih modelov. Po navedbah vira so hekerji izkoristili ranljivosti v sistemih, povezanih z vladno infrastrukturo, kar je sprožilo vprašanja o odgovornosti ponudnikov umetne inteligence.
Kwon naj bi pojasnil, da so bili nekateri varnostni postopki uvedeni šele po incidentu, kar je sprožilo kritike o hitrosti odziva. Poudaril je, da podjetje sodeluje s preiskovalci in da so bili sprejeti dodatni ukrepi za preprečevanje podobnih dogodkov v prihodnje.
Dogodek odpira širšo razpravo o tem, kako naj vlade in tehnološka podjetja skupaj naslovijo varnostna tveganja pri uporabi generativne umetne inteligence. Avstralski regulatorji so že napovedali, da bodo preverili, ali so obstoječi predpisi dovolj za zaščito državnih sistemov pred zlorabami.
OpenAI je v zadnjih mesecih večkrat poudaril, da vlaga v varnost in etiko razvoja umetne inteligence, a kritiki opozarjajo, da so ukrepi pogosto reaktivni. Končna ocena avstralske preiskave še ni znana.
Vir: BBC Svet



