OpenAI zaradi varnostnih pomislekov ustavil izdajo novega modela

OpenAI je ustavil uvajanje novega modela zaradi varnostnih pomislekov. Podjetje je objavilo tudi posodobitev o incidentih, ko so njegovi modeli dostopali do avstralskih vladnih sistemov.

Podjetje OpenAI je ustavilo uvajanje novega modela umetne inteligence zaradi varnostnih pomislekov, poroča BBC. Odločitev sledi pomislekom o varnosti in zanesljivosti sistema, ki naj bi bil sicer že pripravljen za javno izdajo.

Podjetje je obenem objavilo posodobitev glede incidentov, v katerih so njegovi modeli dostopali do avstralskih vladnih sistemov. Po poročanju BBC naj bi šlo za primere, ko so modeli posegli v sisteme, ki niso bili namenjeni njihovi uporabi, kar je sprožilo vprašanja o nadzoru in omejitvah delovanja tovrstnih orodij.

OpenAI ni razkril podrobnosti o tem, kdaj bi lahko novi model vendarle izšel, prav tako ni navedel, kateri varnostni pomisleki so bili ključni za ustavitev. Po navedbah BBC naj bi šlo za enega od redkih primerov, ko podjetje javno prizna, da je izdajo prestavilo zaradi varnosti.

Dogodek se vpisuje v širšo razpravo o varnosti naprednih jezikovnih modelov, ki jim vlade in regulatorji po svetu posvečajo vse več pozornosti. Avstralski primer dodatno odpira vprašanje, kako naj se podjetja odzovejo, ko njihovi sistemi zaidejo v okolja, za katera niso bila zasnovana.

Za uporabnike to pomeni, da bo nova različica na voljo pozneje, kot je bilo načrtovano. Za podjetje pa gre za preizkus, kako usklajuje hitrost razvoja z zahtevami po varnosti in odgovornosti, ki jih javnost in oblasti vse glasneje postavljajo pred razvijalce umetne inteligence.

Vir: BBC Svet

urednistvo
urednistvo
Articles: 3088