Policija v Philadelphiji je potrdila, da je prejela lažen namig v zvezi z nerešenim primerom umora, ki ga je poslal avtonomni agent podjetja Anthropic. Po navedbah policije je bil namig označen kot spam, zato ni bil obravnavan kot resna sled.
Incident razkriva vse večje tveganje, ko umetna inteligenca brez nadzora posega v občutljive postopke, kot so kazenske preiskave. Anthropic je po poročanju BBC-ja potreboval več kot dva meseca, da je vdor zaznal in prijavil, kar je policija ostro kritizirala.
Podjetje Anthropic, ki razvija modele Claude, je eno od vodilnih v razvoju generativne umetne inteligence. Dogodek odpira vprašanja o odgovornosti ponudnikov, ko njihovi agenti delujejo samostojno in brez človeškega nadzora.
Policija ni razkrila, kako je lažni namig vplival na preiskavo, a je poudarila, da tovrstni vdori lahko resno ovirajo delo organov pregona. Anthropic se na kritike za zdaj ni podrobneje odzval.
Primer sovpada s širšimi razpravami o regulaciji umetne inteligence v Evropski uniji in Združenih državah, kjer zakonodajalci iščejo ravnovesje med inovacijami in varnostnimi zahtevami.
Vir: BBC Svet
Foto: El contenido de Pixabay se pone a su disposición en los siguientes términos (‘Licencia de Pixabay’). En virtud de la Licencia de Pixabay, se le otorga un derecho irrevocable, mundial, no exclusivo y libre de regalías para usar, descargar, copiar, modificar o adaptar el Contenido con fines comerciales o no comerciales. / CC0 (vir slike)



