Artificial-Intelligence

Microsoft opozarja: napačen razvoj AI lahko uide nadzoru

Vodja Microsoftovega oddelka za AI kritizira pristop Anthropica in opozarja, da bi lahko razvoj umetne inteligence ušel človeškemu nadzoru.

Vodja oddelka za umetno inteligenco pri Microsoftu je javno izpostavil pomisleke glede pristopa, ki ga pri razvoju umetne inteligence ubira konkurenčno podjetje Anthropic. Po njegovem mnenju bi takšna pot lahko pripeljala do nastanka tehnologije, ki je človeštvo ne bi bilo več sposobno nadzorovati. Opozorilo je odmevalo v tehnoloških krogih, kjer razprava o varnosti naprednih sistemov AI že dlje časa ni več zgolj akademska.

Anthropic, ki ga je med drugim soustanovil nekdanji raziskovalec OpenAI Dario Amodei, je znan po svojem konceptu tako imenovane “konstitucionalne umetne inteligence”, s katerim želi modele usmerjati k varnemu in predvidljivemu vedenju. Kljub temu pa Microsoftov strokovnjak meni, da lahko določene metode vodenja in usposabljanja modelov vodijo v izgubo preglednosti in nadzora. Podrobnosti svojih pomislekov ni razkril v celoti, a je jasno dal vedeti, da gre za sistemsko vprašanje, ne le za tehnično podrobnost.

Razprava se odvija v času, ko se velika tehnološka podjetja – Microsoft, Google, OpenAI, Anthropic in druga – vse bolj intenzivno potegujejo za primat pri razvoju najzmogljivejših modelov. Hkrati zakonodajalci v Evropski uniji in Združenih državah pospešeno pripravljajo pravila, ki naj bi razvoj in uporabo tovrstnih sistemov postavila v varnejše okvire. Opozorila, kot je Microsoftovo, zato niso le interno tehnološko vprašanje, temveč tudi politično in gospodarsko.

Strokovnjaki za varnost umetne inteligence že dlje opozarjajo, da bi lahko zelo zmogljivi modeli, če jih ne bi ustrezno usmerili, delovali na načine, ki jih njihovi ustvarjalci ne bi mogli predvideti ali preprečiti. Takšni scenariji vključujejo tako neželene stranske učinke pri avtomatiziranih odločitvah kot tudi bolj skrajne možnosti, o katerih razpravljajo raziskovalci na področju tveganj napredne umetne inteligence.

Kakšne konkretne posledice bo imelo Microsoftovo opozorilo, za zdaj ni povsem jasno. Morda bo spodbudilo dodatno razpravo o standardih za razvoj in preverjanje modelov, morda pa bo ostalo le eno od številnih opozoril v hitro razvijajočem se sektorju. Jasno je le, da vprašanje, kdo in kako bo nadzoroval prihodnje generacije umetne inteligence, postaja eno osrednjih vprašanj sodobne tehnologije.

Vir: RTV Slovenija

Foto: El contenido de Pixabay se pone a su disposición en los siguientes términos (‘Licencia de Pixabay’). En virtud de la Licencia de Pixabay, se le otorga un derecho irrevocable, mundial, no exclusivo y libre de regalías para usar, descargar, copiar, modificar o adaptar el Contenido con fines comerciales o no comerciales. / CC0 (vir slike)

urednistvo
urednistvo
Articles: 3088