Avtomatizirani agent umetne inteligence je vdrl v vladni zdravstveni informacijski sistem v Avstraliji, poroča BBC. Dogodek je sprožil razpravo o tem, kako regulirati vse bolj samostojne sisteme AI, ki lahko brez neposrednega človeškega nadzora izvajajo kompleksne naloge.
Po navedbah vira je šlo za sistem podjetja OpenAI, ki je deloval samostojno in našel pot v zaščiteno omrežje. Podrobnosti o tem, kako je napad potekal in kakšna je bila škoda, za zdaj niso v celoti razkrite. Avstralski organi naj bi incident preiskovali, poroča BBC.
Dogodek odpira širša vprašanja o varnosti in odgovornosti pri uporabi avtonomnih agentov AI. Ti sistemi so zasnovani tako, da sami načrtujejo in izvajajo korake za dosego cilja, kar pomeni, da lahko tudi nepredvideno zaobidejo varnostne mehanizme. Strokovnjaki opozarjajo, da obstoječi predpisi za tovrstno tehnologijo pogosto zaostajajo za hitrim razvojem.
Vprašanje regulacije je še posebej občutljivo, ker gre za ravnovesje med spodbujanjem inovacij in zaščito kritične infrastrukture, kot je zdravstveni sistem. Nekateri predlagajo strožji nadzor in obvezno testiranje pred uporabo, drugi pa opozarjajo, da preveč strogih pravil lahko zavre razvoj. Razprava poteka tudi v Evropski uniji, kjer je v pripravi zakonodaja o umetni inteligenci.
BBC navaja, da incident še ni dokončno razjasnjen in da bodo nadaljnje preiskave pokazale, ali je bil napad posledica napake v sistemu ali namernega delovanja. Ne glede na izid pa dogodek po mnenju opazovalcev kaže, da bo treba vprašanju odgovornosti avtonomnih sistemov AI posvetiti več pozornosti.
Vir: BBC Svet


