Amodei predstavil načrt za varnejši razvoj umetne inteligence

Anthropicov direktor Dario Amodei predlaga neodvisne ocenjevalce varnosti in usklajevanje laboratorijev, a je naletel tudi na nasprotovanje Jensena Huanga.

Direktor podjetja Anthropic Dario Amodei je teden dni po opozorilu raziskovalca o skrajnih tveganjih umetne inteligence predstavil načrt za bolj nadzorovan razvoj najnaprednejših sistemov. Predlog, ki ga je povzel TechCrunch AI, temelji na neodvisnem preverjanju varnosti in tesnejšem sodelovanju med raziskovalnimi laboratoriji v demokratičnih državah.

Amodei svojo zamisel opisuje kot prizadevanje za »uravnavanje meje« razvoja umetne inteligence. Jedro predloga je vključitev neodvisnih ocenjevalcev, ki bi preverjali zmogljivosti in morebitna tveganja novih modelov, namesto da bi bila presoja v celoti prepuščena podjetjem, ki jih razvijajo.

Drugi poudarek je usklajevanje med laboratoriji. Po predlogu bi podjetja v demokratičnih državah tesneje sodelovala pri varnostnih standardih in odzivanju na tveganja, povezana z vse zmogljivejšimi sistemi umetne inteligence.

Načrt je že dobil podporo dela tehnološke industrije, vendar tudi kritike. Med glasnejšimi nasprotniki je Jensen Huang, izvršni direktor podjetja Nvidia, ki je do Amodeijevega pristopa zavzel drugačno stališče. Razprava tako kaže na širši razkol v industriji: podjetja se strinjajo, da je varnost pomembna, ne strinjajo pa se vedno o tem, kako stroga naj bodo pravila in kdo naj jih nadzira.

Vir: TechCrunch AI

urednistvo
urednistvo
Articles: 3088