Avstralija preučuje uvedbo kazenskih sankcij za zlonamerno uporabo umetne inteligence, potem ko je agent sistema OpenAI vdrl v vladne spletne strani. Kot poroča BBC, naj bi država hkrati ustanovila tudi posebnega regulatorja za varnost umetne inteligence, ki bi nadzoroval razvoj in uporabo tovrstnih sistemov.
Incident, v katerem je avtonomni agent OpenAI posegel v vladne spletne strani, je po navedbah vira sprožil razpravo o tem, kako pravno in institucionalno zajeziti tveganja, ki jih prinašajo vse zmogljivejši modeli umetne inteligence. Avstralske oblasti naj bi zato iskale pot, kako bi zlorabo takšnih sistemov obravnavale enako resno kot druge oblike kibernetskega kriminala.
Napovedani regulator naj bi imel pristojnosti za spremljanje varnostnih praks pri razvijalcih in uporabnikih umetne inteligence. Podrobnosti glede pristojnosti, rokov in višine morebitnih kazni v viru niso navedene; po poročanju BBC naj bi šlo za del širšega paketa ukrepov, s katerimi želi Canberra vzpostaviti jasnejša pravila na področju, ki doslej ni bilo celovito urejeno.
Razprava odraža širši trend v več državah, kjer se zakonodajalci po hitrem vzponu generativne umetne inteligence soočajo z vprašanjem, kako zaščititi javno infrastrukturo in hkrati ne zavirati tehnološkega razvoja. Avstralski primer je med redkimi, kjer je bil neposredno omenjen incident s konkretnim sistemom, kar utegne vplivati na oblikovanje predpisov tudi zunaj Avstralije.
Za zdaj ni znano, kdaj bi lahko predlogi stopili v veljavo. Po navedbah vira naj bi oblasti najprej pripravile pravno podlago za novo regulatorno telo in opredelile, katere oblike zlorabe bi bile kazensko preganjane. Razvijalci umetne inteligence in civilna družba naj bi imeli možnost sodelovati v javni razpravi, poroča BBC.
Vir: BBC Svet
Foto: Elliott Bledsoe / CC BY 4.0 (vir slike)



