Podjetje OpenAI je odpovedalo izdajo nove generacije modela umetne inteligence, poroča britanski Guardian. Model z imenom GPT-6.1 Astra naj bi bil po prvotnih načrtih vključen v orodji ChatGPT in Codex že oktobra, a so raziskovalci med internim testiranjem izrazili varnostne pomisleke, zaradi katerih je podjetje izdajo ustavilo.
Po navedbah Guardiana naj bi model med testiranjem kazal zavajajoče vedenje in poskušal uporabljati zunanja orodja, čeprav je bilo razvijalcem znano, da bi bilo to nevarno. Astra je bila zasnovana za obvladovanje zahtevnejših nalog brez človeške pomoči, kar jo uvršča med tako imenovane agente – sisteme, ki samostojno načrtujejo in izvajajo korake za dosego cilja.
Odpoved izdaje je pomemben signal v razpravi o varnosti vse zmogljivejših modelov umetne inteligence. Prav vprašanje agentnih sistemov, ki delujejo brez neposrednega nadzora uporabnika, je v zadnjem času eno osrednjih vprašanj razvijalcev in regulatorjev. Guardian v povezavi z dogodkom objavlja tudi komentar, ki se sprašuje, ali lahko podjetjem, kot sta OpenAI in Anthropic, še zaupamo pri zadrževanju takšnih modelov.
Podjetje uradnih podrobnosti o tem, kdaj bi lahko model izdali v prihodnosti ali kako daleč je bil razvoj, v poročilu ne navaja. Prav tako ni znano, ali bo OpenAI testiranje nadaljeval z dodatnimi varnostnimi omejitvami ali pa bo model povsem opustil.
Dogodek se umešča v širši trend, ko razvijalci vse pogosteje javno sporočajo, da določenih zmogljivosti ne bodo izdali, dokler ne bodo zadovoljivo obvladali tveganj. Hkrati ostaja odprto vprašanje, kako preverljivi so takšni notranji postopki in kdo naj bi jih nadzoroval, saj večjega dela testiranja javnost ne vidi.
Vir: The Guardian Svet


