AI vodni žigi lahko povečajo ranljivost modelov

Raziskava portala Ars Technica razkriva, da lahko vodno žigosanje besedila, kot je SynthID, spremeni odziv velikih jezikovnih modelov in jih naredi dovzetnejše za škodljive pozive.

Raziskava portala Ars Technica razkriva, da lahko vodno žigosanje besedila, kot je SynthID, spremeni odziv velikih jezikovnih modelov in jih naredi dovzetnejše za škodljive pozive.

Podjetja vse več nalog prepuščajo AI agentom, a jih ne morejo več sproti pregledovati. Nadzor naj bi prevzeli drugi AI sistemi.

Vodja Microsoftovega oddelka za AI kritizira pristop Anthropica in opozarja, da bi lahko razvoj umetne inteligence ušel človeškemu nadzoru.