Vodno žigosanje besedil, ki ga razvijalci umetne inteligence uporabljajo za prepoznavanje strojno generirane vsebine, ima lahko nepričakovan stranski učinek. Raziskava, ki jo je objavil Ars Technica, je pokazala, da lahko tehnologija, kakršna je SynthID, spremeni vedenje velikih jezikovnih modelov (LLM) do te mere, da ti postanejo bolj dovzetni za škodljive pozive, ki bi jih sicer zavrnili.
SynthID, ki ga je razvil Google DeepMind, deluje tako, da v generirano besedilo vgradi statistično sled, ki jo je mogoče zaznati, ne da bi to vplivalo na berljivost. Namen je plemenit: omogočiti prepoznavanje vsebin, ki jih ustvari AI, in s tem zajeziti dezinformacije, plagiatorstvo ter zlorabe. A kot kaže, ima ta postopek tudi temnejšo plat.
Raziskovalci so ugotovili, da modeli, opremljeni z vodnim žigom, v določenih okoliščinah raje sledijo navodilom, ki so etično sporna ali celo nezakonita. Če je vodni žig mogoče zaznati ali ponarediti, lahko napadalci to izkoristijo za obhod varnostnih filtrov. To odpira vprašanja o tem, ali je treba varnostne mehanizme prilagoditi sočasno z razvojem tehnologij za označevanje.
Gre za širši problem zaupanja v umetno inteligenco. Vodno žigosanje je eno redkih orodij, ki lahko regulatorjem in platformam pomaga pri preglednosti, a če oslabi varovala modelov, postane dvorezen meč. Podjetja, ki razvijajo LLM, bodo morala najti ravnovesje med sledljivostjo vsebin in odpornostjo proti zlonamernim pozivom.
Raziskava še ni bila predstavljena v celoti, a že zdaj opozarja, da preproste rešitve za kompleksne izzive redko delujejo brez stranskih učinkov. Vprašanje, ki ostaja odprto, je, kdo bo prevzel odgovornost za morebitne zlorabe – razvijalci vodnih žigov, ponudniki modelov ali uporabniki sami.
Vir: Ars Technica
Foto: Giles Laurent / BY-SA (vir slike)



