Izvršni direktor podjetja Anthropic Dario Amodei je predstavil načrt za počasnejši in bolj usklajen razvoj napredne umetne inteligence. Predlog, o katerem poroča TechCrunch AI, predvideva neodvisne presoje varnosti sistemov ter sodelovanje laboratorijev iz demokratičnih držav.
Amodeijev načrt prihaja približno teden dni po opozorilu raziskovalca Anthropa, ki je z napovedmi o skrajno nevarnih posledicah razvoja umetne inteligence povzročil precejšen odziv v tehnološki industriji. Podjetje želi z novim pristopom omejiti tveganja, povezana z razvojem vse zmogljivejših modelov.
Ključni del predloga je vključitev neodvisnih ocenjevalcev, ki bi presojali varnost in morebitna tveganja novih sistemov. Hkrati bi se morali laboratoriji medsebojno usklajevati, namesto da bi tekmovanje za tehnološko prednost potekalo brez skupnih varnostnih pravil.
Predlog je že dobil podporo dela industrije, vendar ne soglasja vseh pomembnih akterjev. Jensen Huang, izvršni direktor podjetja Nvidia, je do zamisli izrazil kritičen odziv, s čimer se je razprava o tem, kdo naj nadzoruje razvoj umetne inteligence, še zaostrila.
V ozadju ostaja širše vprašanje, ali se lahko podjetja, ki razvijajo najnaprednejše sisteme, učinkovito nadzorujejo sama. Neodvisne presoje in sodelovanje med laboratoriji bi lahko izboljšali varnost, vendar bo njihova učinkovitost odvisna od dejanske pripravljenosti podjetij, da omejijo razvoj ali razkrijejo morebitna tveganja.
Vir: TechCrunch AI


